Okupio se tim mislioca koji je istražio sve opasnosti koje čovječanstvu donosi razvoj umjetne inteligencije

Oko 3.000 ljudi, uglavnom znanstvenika i poslovnjaka, među kojima su Elon Musk, suosnivač Applea Steve Wozniak te povjesničar i publicist Yuval Noah Harari, je potpisalo peticiju u kojoj pozivaju sve laboratorije za umjetnu inteligenciju (UI) da odmah zaustave, na barem šest mjeseci, razvoj i "obuku" UI sustava moćnijih od GPT-4 zbog eventualnih opasnosti koje njezin prebrzi razvoj donosi čovječanstvu, donosi Slobodna Dalmacija.

"Napredna umjetna inteligencija mogla bi predstavljati duboku promjenu u povijesti života na Zemlji i trebala bi se planirati i upravljati s odgovarajućom pažnjom i resursima. Nažalost, ova razina planiranja i upravljanja se ne događa, iako smo posljednjih mjeseci vidjeli predanost UI laboratorija nekontroliranoj utrci za razvojem i uvođenjem sve moćnijih digitalnih umova koje nitko - čak ni njihovi kreatori - ne mogu razumjeti, predvidjeti ili pouzdano kontrolirati", piše u uvodniku.

Potpisnici ističu da se ne zalažu za stanku u razvoju umjetne inteligencije općenito, već samo "povlačenje iz opasne utrke ka sve većim i nepredvidljivim modelima crnih kutija s novim mogućnostima". Ta bi pauza trebala biti javna i provjerljiva te uključivati sve ključne aktere. Ukoliko se takva odluka ne može brzo donijeti, vlade bi trebale uskočiti i uvesti moratorij.

A takvo nešto se, zapravo, već dogodilo u Italiji. Tamošnji regulator za zaštitu osobnih podataka privremeno je blokirao pristup ChatGPT-u i pokrenuto istragu zbog, kako kažu, ilegalnog prikupljanja osobnih podataka i neprovjeravanja dobi maloljetnika. Naime, primijećeno da chatovi s OpenAI-jevim sustavom nisu potpuno zaštićeni, tj. razgovori s botom su se znali prikazati drugim korisnicima unutar njihove povijesti dopisivanja. Istodobno, primjećeno je i curenje podataka o pretplatnicima, kao i da OpenAI ne obavještava korisnike o tome koje i kakve privatne podatke prikuplja niti ima pravnu osnovu za takve radnje, koje se onda koriste za treniranje algoritama.

No, koje su to zapravo opasnosti koje bi sa sobom mogao donijeti daljnji razvoj UI tehnologije? O ovome smo prodiskutirali s nekim od vodećih stručnjaka iz područja tehnologije i društveno-humanističkih znanosti. 

- Opasnosti od UI-ja prvenstveno se svode na problem kontrole. Ako stroj upravlja svim društvenim procesima, postavlja se pitanje tko kontrolira taj stroj? Peticija pledira upravo na uspostavljanje kontrole i regulacije prije nego što se umjetna inteligencija prepusti slobodnom tržištu. To bi drugim riječima značilo da je opasnost u nama samima. Možemo to usporediti sa zamišljenim scenarijem u kojem svatko može kupiti svoju malu atomsku bombu koju može koristiti kako tko hoće, a proizvođači se natječu čiji je model bolji. Neugodan scenarij u svakom slučaju - sugerira antropolog Tomislav Pletenac.

Slične strahove dijeli i sociolog te novi lovac Superpotjere Sven Marcelić.

- Prije svega, potrebno je biti realan oko jedne bitne stvari. Kad se spomene opasnost od umjetne inteligencije ljudi prvo pomisle na ustanak robota ili situaciju kao u filmu Superman 3, u kojemu kompjuter autonomno postane zao i destruktivan. Zapravo, ako ostanemo u filmskim analogijama, trebamo se prije okrenuti kompjuteru HAL 9000 iz 2001: Odiseja u svemiru, dakle visoko autonomnom mehanizmu čija je temeljna svrha postavljena od strane čovjeka. Dakle, realna opasnost UI-ja je u tome tko njime upravlja i u koje svrhe.

Slijedom navedenog, ako tehnologija nije opasna sama po sebi, već u odnosu na one koji je koriste; je li onda nužna rekonstrukcija modela i načina UI-ja ili samog čovječanstva? Je li čitava ova priča potvrđuje da smo na mnogo nižoj kulturnoj razini razvoja nego tehnološkoj? Konačno jesu li ljudi 21. stoljeća uopće "napredna civilizacija"?

- Moje mišljenje je da nisu. U svakom razdoblju povijesti je bilo nešto funkcionalnije i "bolje" nego u prethodnom periodu. Danas nam je tehnologija omogućila da brže napredujemo, ali nam nije omogućila da biramo kako da napredujemo. Nisam siguran da smo baš izabrali pravi smjer - skeptičan je doktor filozofije Bruno Ćurko.

IT stručnjak Marko Rakar kaže da je činjenica da se tehnologija razvija uvijek daleko brže od moralnih, etičkih ili kulturoloških normi društva u kojima je nastala, kao i da "nove tehnologije po definiciji u sustav unose razinu kaosa, ruše stare i grade ili etabliraju nove hijerarhije". Na pitanje je li ikada prije u povijesti stavljen moratorij na razvoj neke tehnologije, Rakar nas je uputio da su slične peticije već postojale. 

- Ima sličnih primjera vezanih za atomsku energiju, genetski modificiranu hranu i slične tehnologije. Znanost nije moguće zaustaviti niti osobito usporiti i primarna svrha ovakvih peticija je molba da svi ostali zastanu, kako bi potpisnici ulovili korak s ostatkom svijeta.

Spomenuti apel predlaže da se šestomjesečna stanka iskoristi za zajednički razvoj i implementaciju skupa zajedničkih sigurnosnih protokola za napredni dizajn i razvoj UI-ja koji su strogo revidirani i nadzirani od strane neovisnih vanjskih stručnjaka. Ipak, uzevši u obzir trenutne geopolitičke tenzije i praktički nepostojanje diplomacije između Kine i SAD-a, hoće li itko biti spreman samostalno pauzirati razvoj UI-ja, naročito s obzirom na kompetitivnu prirodu sistema u kojem živimo? Jesmo li došli do točke u kojoj nas tržišno natjecanje gura prema apokalipsi?  

Marcelić smatra da je malo vjerojatno da će peticija biti uspješna.

- Umjetna inteligencija je razvijena dobrim dijelom da bi pomogla upravo tržištu, prepoznavanjem obrazaca i autonomnim učenjem. Osim toga, ona se koristi i u vojne svrhe te špijunažu; ono što je po samoj definiciji netransparentno i povjerljivo. U tom smislu, teško je očekivati da bi se netko svjesno odrekao razvoja u visokokonkurentnim i sektorima od posebnog interesa u kojima je opasno zaostajati za protivnicima ili konkurencijom.

I Rakar se slaže da je prijedlog o moratoriju neostvariv, jer niti postoji konsenzus da UI predstavlja neku vrstu opće ili neposredne opasnosti, niti su potpisnici peticije išta više od biznismena koji ne žele da njihovi konkurenti razviju UI modele koji su napredniji od njihovih.

No, spomenuti nadzor "od strane neovisnih vanjskih stručnjaka" je, na planetu Zemlji 2023. godine, poprilično diskutabilno izvediv i efektivan, što možemo vidjeti i na primjeru, recimo, problema klimatskih promjena (što je vjerojatno najusporedivije, u svojoj opasnosti i obimu, s UI-jem).

- Možda bi bolja analogija bila ona s nuklearnim programom. Znamo da on predstavlja globalnu opasnost u onom smislu da je nuklearna energija istovremeno i vrlo efikasan izvor energije, ali i gorivo najdestruktivnijih oružja koje čovječanstvo uopće ima. S time na umu dalje treba razmišljati o tome da ni u takvom jednom sadržaju nemamo globalnu kontrolu. Jako dobro znamo da nuklearnu oružje razvijaju i zemlje poput Sjeverne Koreje, a isto tako i da su neke poput Izraela bile aktivno angažirane oko toga da ga drugi (Irak ili Sirija) ne razviju, do te mjere da su poduzete vrlo zahtjevni zrakoplovni udari na reaktore - dočarava Marcelić.

U peticiji je postavljeno nekoliko pitanja koje muči potpisnike. Jedno od njih je: "Trebamo li dopustiti strojevima da preplave naše informacijske kanale propagandom i neistinom?“ Ono što smo se mi zapitali je: Zašto bi strojevi uopće proizvodili propagandu i neistine? Koji bi bili (a)moralni poticaji stroja da čini tako nešto? Smatramo li da je bolje ljudima prepustiti propagandu i neistine?

- Cijela peticija je zapravo problematična, ali upravo to otvara barem jednu dobru implikaciju - problem vjere. Moramo li mi kao korisnici UI u potpunosti vjerovati njenim zaključcima? Ja u svakom slučaju vrlo kritički pristupam onome što mi ponudi Chat GPT. Nije u stanju ponuditi ništa što već i sam ne znam, pomaže mi da me oslobodi priglupih tehničkih poslova, napisati dopis, formalno komunicirati, pisati zamorne administrativne tekstove prepune ključnih riječi koje se u takvim tekstovima moraju pojavljivati.

Istraživanjem mogućnosti Chat GPT-a došao samo do zaključka kako je gomila našeg svakodnevnog života visoko formalizirana administrativnim jezikom. UI odlično prepoznaje formate i žanrove, pa će tako napisati odličan novinarski tekst, ali to više govori o novinarstvu danas nego li o stroju. Slično vrijedi i za scenarije za blockbuster filmove, vrlo brzo će pronaći pozadinsku formulu za uspješnicu, napisati scenarij, a u nekoj poodmakloj fazi vjerojatno i ponuditi film koji ćete moći pogledati. Uglavnom naša se globalna kultura temelji na obrascima koje nam UI otkriva i time ukazuje do koje smo mjere nekritični konzumenti svega i svačega - kritičan je Pletenac.

Marcelić utvrđuje da će UI raditi ono za što je programirana; ako to bude dezinformiranje, selektivno čitanje i filtriranje informacija i njihovo plasiranje u svrhu političke manipulacije, ona će to raditi nezainteresirano i vrlo efikasno. Rakar pak ukazuje da je ironično da upravo Musk potpisuje peticiju u kojoj se proziva korištenje tehnologije za promociju i širenje dezinformacija, zbog čega "slobodno možemo reći da je peticija ne samo nerealna i neizvediva, nego i nevjerodostojna i neozbiljna".

Inače, Musk vjeruje da je jedini način na koji će ljudi moći držati korak s brzim napretkom tehnologije i "natjecati se s UI-jem", tako da se "spojimo s njom". On tvrdi da ljudi, umjesto da pokušavaju pobijediti strojeve, bi ime se trebali pridružiti. Stoga, cilj njegove tvrtke Neuralink je, omogućavanjem ljudima da moždano-računalnim implantatima postignu stanje "simbioze" s UI-jem, stvoriti svijet u kojem ljudi i umjetna inteligencija "rade zajedno" u harmoniji, međusobno povećavajući sposobnosti i postižući više nego što ljudi mogu sami.

Na ovaj "zajednički rad" se nadovezuje i sljedeće - vjerojatno najkontroverznije - pitanje peticije: "Trebamo li automatizirati sve poslove, uključujući i one koji ispunjavaju?“ Zašto je ovo pitanje kontroverzno? Pa, zar nije smisao tehnologije oslobađanje ljudi od teških, monotonih i opasnih poslova? U knjizi Bullshit jobs, antropolog David Graeber piše: "Gomila ljudi obavljaju poslove za koje tajno misle da su potpuno suvišni za funkcioniranje zajednice. Psihofizička šteta koja dolazi s tim je nemjerljiva. To je ožiljak naše kolektivne duše, a nitko ne priča o tome."

Zašto se ljudski rod odlučio pretvarati da je to što tehnologija sve efikasnije i efikasnije zamjenjuje ljudski rad i omogućava preusmjerenje kalorija na dobrovoljne radnje - loša stvar? Tko (ili što) to može zabraniti čovjeku da - unatoč automatizaciji - radi ono što ga ispunjava? Zar ne bi nekakav checkpoint cilj čovječanstva trebao biti ukidanje paradigme "rad za novac" i ostvarivanje civilizacije u kojoj ljudi rade ono što ih ispunjava zato jer ih to ispunjava, a ne kako bi preživjeli?

Jasno, čitava "problematika" potpune automatizacije postoji samo zbog toga što postoji privatno vlasništvo nad sredstvima proizvodnje koja, unatoč ekspanziji (strojne) efikasnosti, održava umjetnu oskudnost u distribuciji dobara među populacijom. Ova zastarjela praksa sa sobom nosi i nepremostivi paradoks. Naime, kako poduzeća minimiziraju troškove, tako zamjenjuju ljude robotima. Zbog ovoga, raste nezaposlenost i pada kupovna moć. Na kraju, tvrtke s potencijalom hiperprofitabilnosti jedva bilježe zaradu jer - nema tko kupiti njihovu robu. Nažalost, čovječanstvo se još nije spremno suočiti s ovom nadolazećom realnošću. 

- Automatizacija poslova je moja najveća nada. Ne mogu zamisliti da je ljudskom biću glupavo ponavljanje istih stvari iz dana u dan nešto što ga čini čovjekom. Uostalom, ne slažem se Karlom Marxom koji tvrdi da je rad, koji ima jednodimenzionalnu transformativnu ulogu i iz sirovine stvara uporabnu vrijednost, inherentna priroda čovjeka. Mi ne transformiramo svoj okoliš kako bismo iz njega iscrpili sirovinu za vlastito olakšanje života, već to radimo na različite načine, najčešće simbolički. Gdje životinja vidi travu ili grm,mi dodajemo značenja koja su nezamisliva i potpuno arbitrarna, dogovorna. Funkcionalnost je za životinje, umjetnost je za ljude. Danas smo životinje kad radimo, a privid ljudskosti nam daje potrošnja. To je ono o čemu je pisao Graeber.

Danas živimo u ideji da je rad žrtva za neku korist. Kao što rudarimo litij da bi ga pretvorili u anodu baterija, tako gledamo i na naše radno vrijeme ili posao. To je osiguranje da ćemo u jednom trenu tu žrtvu moći pretvoriti u nešto ljudsko Tu je Marx bio u pravu: apstrakcija radne snage prevođenje je osobe na razinu skoro životinje koja u trenutku svoje uporabe od strane poslodavaca nema pravo na emociju, sjećanje, igru i individualitet. Navikli smo biti radne životinje i cijela se društvena infrastruktura konstruirala kako bismo tu brutalnu činjenicu izdržali. Ispunjava nas samo kreacija, stvaranje, a ne rad koji je mjera uloženog i dobivenog. Neka rade strojevi, a mi ćemo stvarati - poručuje Graeberov kolega Pletenac.

Iduće pitanje: "Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti, zastarjeti i zamijeniti?“ Može li stroj razviti ovakve kompetitivne motive i, ako um ima motiv, znači li to da ima i svijest? Ukoliko um moćniji od ljudskog procjeni, kao u nekim filmovima, da je ljudski rod tumor života na Zemlji i da ga treba uništiti; jesmo li mi u poziciji da mu moralistički i filozofski kontriramo u toj ideji?

- Ljudi razvijaju UI već desetljećima upravo se nadajući da će računala u jednom trenutku prijeći točku singularnosti nakon koje se mogu sami razvijati brže nego što im to mi možemo omogućiti. Jedna od mogućnosti je da taj trenutak singularnosti kreira svijet poput onoga što smo gledali u Terminator franšizi, a druga više liči na budućnost poput one o kojoj smo gledali u Star Treku. Objektivno, nitko ne zna kada ćemo dostići točku singularnosti, da li je do nje uopće moguće doći, a ako u tome i uspijemo, kako će izgledati svijet nakon toga. Ali ono što je sigurno, ako stroj u nekome trenutku spozna svoju svrhu, da li je i dalje riječ o stroju ili o novom obliku života? - pita se Rakar.

Pletenac procjenjuje da se vjerojatno samo potpisnici peticije, koji su uspješni i bogati, boje da će ih zamijeniti neljudski umovi. 

- Radikalna demokratizacija Chat GPT-a dovela je i do razumijevanja procesa bogaćenja. Jedan je korisnik dao zadatak chatbotu da mu od 100 dolara napravi maksimalni profit. Danas mu tvrtka koju je osnovao vrijedi 20.000 dolara s tendencijom rasta. Poduzetništvo, dakle, nije talent, skrivena sposobnost ili urođena predispozicija, već obrazac kojeg Chat GPT vrlo lako prepoznaje. Zato je lako potvrditi da živimo u svijetu obrazaca, samo ih ne vidimo. Musk nije Tesla, niti će ikada biti. On je simptom društva u kojem se pretvaranje znanja u novac smatra mudrošću i pameću.

Ono što danas pokreće znanost nisu inventivni pojedinci, pa ni timovi već novac. Projekti prolaze ili propadaju na administraciji. Chat GPT pokazat će vam pravi put kako da dobijete financiranje istraživanja, a onda i da napišete uvjerljivo izvješće, bez obzira na rezultate. Hegemonija forme premrežila je i stvaranje znanja i svakodnevicu. Nije to neljudski um, taj je um i više ljudski nego što nam se čini, ako će koga nadmudriti to će biti upravo potpisnici peticije. Na kraju krajeva je li UI izmišljena od neljudskog? Nije i stoga je i on ljudski. To što mi nismo sigurni u odgovor što znači biti ljudska jedinka i što odjednom u sebi pronalazimo nekontrolirani strah od samih sebe nije kriva UI, već ideologija u kojoj živimo.

Posljednje što se pitaju u peticiji je: „Trebamo li riskirati gubitak kontrole nad našom civilizacijom?“ Ono što mi pitamo sugovornike je: Ukoliko priča s UI-jem dovede do "gubitka kontrole civilizacije", je li za to kriv UI ili civilizacija?

- Krivac je čovjek. Kakva je situacija u Ukrajini, Etiopiji, Sudanu, Somaliji… Naša civilizacija nije još uvijek pronašla načine da zaustavi ratno prolijevanje nevine krvi, da spriječi vladavinu krvožednih diktatora… Dakako, imao tu i genijalnih stvari koje nam je civilizacija donijela, ali u njima ne može uživati više od pola stanovništva naše kugle. Čak 78 milijuna djece nema pristup školi, a njih oko 10 milijuna žive u robovskom odnosu. Tehnologija je trebala biti iskorištena da se ti brojevi rapidno smanje, ali nije. Je li tome kriva tehnologija ili čovjek? Odgovor je samo jedan - uvjeren je Ćurko.

Jednakog mišljenja je i Marcelić koji kaže da je "tehnologija slijepa, a njezine intencije ljudske". Pletenac je još nešto pesimističniji. Naime, on tvrdi da smo tu kontrolu već odavno izgubili.

-  Baš se Harari, u dijalogu sa tadašnjom predsjednicom MMF-a Christine Lagarde u sjedištu te organizacije, u jednom trenutku osvrće na financijski sustavi i pita tko ga uopće razumije. Na to Lagarde odgovara da to uključuje i ljude u prostoriji u kojoj se događa razgovor. Dakle, u samoj vrhuški svjetskog financijskog sustava tek nekolicina zna kako on funkcionira. Ostali se samo podvrgavaju učincima. Klima i financijski sustav ekstremno su kompleksni u kaotičnom režimu pa je nemoguće predvidjeti njihovo ponašanje. Ipak, i jedan i drugi kontroliraju našu svakodnevicu.

Ovaj financijski je pri tome problematičniji. Sami smo ga izmislili, a još odavno se oteo kontroli. Sada živimo u nadi da nam neće proizvesti katastrofe. To je fikcija u koju smo navikli vjerovati. Umjesto da promijenimo priču u koju smo povjerovali, radije se prepuštamo slatkoj prevari. Činjenica je da nikad a nećemo moći kontrolirati društvo sa ili bez umjetne inteligencije. Na problematično mjesto na koje ukazuje društvena (ne)ravnoteža postavljamo fiktivni scenarij kako bi ga prikrili ili potisnuli. Stoga nam se čini da je bolje da propadne svijet nego li scenarij - govori antropolog.

Konačno, ukoliko se zaista uspostavi tražena pauza, to pretpostavlja da će civilizacija – kao jedno tijelo – trebati smisliti nekakav cilj svoje opće perspektive i razvoja te po njemu ravnati razvoj UI-ja. Što dovodi u pitanje: Ima li civilizacija trenutno nekakav zadani cilj i bi li ga trebala imati? Ako je pak odgovor "da", je li eventualni "novi cilj" znači kraj trenutnog društvenog sistema i poretka?

- Nema niti teoretske šanse da dođe do moratorija na razvoj umjetne inteligencije. Da bi se tako nešto dogodilo prvo bi svi morali razmišljati na isti način i percipirano se nalaziti na istoj strani. Danas imamo cijele nacije koje se bore za prevlast. Nije to samo pitanje Amerike i Kine, nego i drugih aktera poput Japana, Europe, Rusije. I unutar tih nacija postoje različite grupe znanstvenika i entuzijasta s međusobno oprečnim ili nekompatibilnim ciljevima - primjećuje Rakar.

Marcelić pak vidi UI samo kao još jednu tehnologiju koja ima svoju primjenu te dobre i loše strane. U tom smislu, "civilizacija nema neki konačni cilj, a upravo je razvoj tehnologije jedna od osnova na kojoj ona počiva". Zbog toga, sociolog ne gleda na umjetnu inteligenciju kataklizmički, nego kao samo jedan tehnološki korak kakvi su bili vatra, kotač, parni stroj ili mobitel.

- Civilizacije nikada nisu imale cilj, osim očuvanja sustava kakav jest, dakle statusa quo. I naša civilizacija, isto tako, pokušava održati stanje navodne ravnoteže. Ravnoteža je, međutim, pokazatelj da društva imaju inherentnu nestabilnost i to je zapravo dobra stvar. Jedino neravnoteža osigurava sposobnost adaptacije. Danas nam je malo teže jer je sustav sam konstruiran da odgovara na izazove. Pa ipak, neke su stvari poprilično dogmatične, poput vjere u "nevidljivu ruku tržišta" ili parlamentarnu demokraciju. Te se dvije stvari pokušavaju očuvati pod svaku cijenu i tako postaju ciljem same sebi. Osim toga, nemamo neki viši cilj.

To je kriza političke teologije koja je strukturalna za postmoderno stanje. Svi trenutni scenariji budućnosti su apokaliptični. Štoviše, kroz kulturnu industriju se sugerira da bi svako kritiziranje ovakvog poretka sigurno odvelo u neku vrst primordijalnog divljaštva. Mi koji smo odrastali na kraju modernizma još smo uhvatili dio utopijske projekcije u kojoj se vjerovalo u budućnost. Danas budućnosti nema, možemo zamisliti ili ovaj svijet ili smak svijeta - ističe Pletenac.

Svakako, do bliskosti smaka svijeta nas nije dovela umjetna inteligencija; ona je samo razotkrila neposrednost samoubilačkih tendencija "moderne" civilizacije.