Najstrašniji događaj u istoriji je pred nama i potpuno je izvan naše kontrole

Silicijumska dolina već decenijama čeka trenutak kada će se pojaviti tehnologija prekretnice. Tehnologija koja će promeniti svet. Ta tehnologija bi ujedinila čoveka i mašinu i najverovatnije podelila istoriju na ono što je bilo pre ili posle nje.

Foto: Pixabay

• Izvor: Njujork Tajms, Njujorker

Ta prekretnica se zove ’singularnost’.

To bi se moglo dogoditi na nekoliko načina. Jedna od mogućnosti je da bi ljudi svojoj urođenoj inteligenciji dodali procesorsku snagu računara, postajući dopunjene verzije sebe. Ili bi možda kompjuteri postali toliko složeni da bi mogli zaista da razmišljaju, stvarajući neku vrstu globalnog mozga.

U oba slučaja, nastale promene bi bile drastične, eksponencijalne i nepovratne. Samosvesna nadljudska mašina mogla bi da smišlja sopstvena unapređenja brže od bilo koje grupe naučnika, izazivajući praktično instant eksploziju u inteligenciji. Vekovi napretka mogli bi se desiti u godinama ili čak mesecima.

Singularnost je ta praćka koja bi svet ispalila u budućnost.

Ideja da će samosvesni računar nastati spontano iz međusobne povezanosti milijardi računara je do skoro bio domen naučne fantastike, ali se polako ostvaruje.

Ako računarski sistem može da piše programski kod — kao što ChatGPT već može — onda bi na kraju mogao da nauči da programira sam sebe i da se unapređuje dok ne dostigne ono što zovemo ’singularnost’ – tu tačku u kojoj izmiče ljudskoj kontroli.

„Pre samo pet godina, bilo je rizično u mojoj struci reći naglas da verujem u mogućnosti AI na ljudskom ili nadljudskom nivou“, rekao je Džef Klan, kompjuterski naučnik sa Univerziteta Britanske Kolumbije za Njujorker.

Inteligenciju računara je jako teško izmeriti. Naučnici su razvili brojne testove za poređivanje sposobnosti AI, ali se ne slažu oko toga kako treba da ih tumače.

Nekada se, primera radi, smatralo da šah zahteva opštu inteligenciju, sve dok algoritmi nisu osvojili igru. Danas znamo da šahovski program može pobediti najbolje velemajstore, a da mu nedostaje čak i rudimentarni zdrav razum.

Nedavno je jedan A.I. program pod nazivom Ciceron ovladao strateški složenom društvenom igrom Diplomatija. Program nije postigao opštu veštačku inteligenciju (AGI), ali je uspeo da nauči igru delimično proučavajući skupove podataka više od sto hiljada igara i igrajući otprilike pola miliona partija protiv sebe.

U isto vreme, A.I. sve brže napreduje i uskoro bi mogao da počne da se unapređuje mnogo samostalnije. Istraživači mašinskog učenja već́ rade na onome što nazivaju meta-učenje, u kojem AI uče kako treba da uči.

U drugim oblastima, organizacije su osmislile opšte metode za praćenje dinamičnih i nepredvidivih novih tehnologija.

Svetska zdravstvena organizacija, na primer, prati razvoj alata kao što je sinteza DNK, koji bi se mogli koristiti za stvaranje opasnih patogena. Anna Laura Ros, koja vodi odeljenje za nove tehnologije u SZO, rekla je za Njujork Tajms da se njen tim oslanja na različite metode predviđanja, među kojima su istraživanja tipa „Delphi“, u kojima se postavlja pitanje globalnoj mreži stručnjaka, čiji se odgovori boduju i rangiraju.

Međutim, nema previše naučnika koji žele da zaustave napredak veštačke inteligencije.

Tehnologija obećava da će transformisati previše oblasti, uključujući nauku, medicinu i obrazovanje, što je velika stvar.

Robin Hanson, ekonomista sa Univerziteta Džordž Mejson, je ponudio ekonomski pogled na budućnost veštačke inteligencije. Ako se A.G.I. razvija, tvrdi on, onda će se verovatno dogoditi na više mesta u isto vreme. Sisteme bi kompanije ili organizacije koje su ih razvile stavile u ekonomsku upotrebu. Tržište bi smanjilo njihove moći; investitori, koji žele da vide uspeh svojih kompanija, išli bi sporo i dodavali bezbednosne karakteristike.

„Ako postoji mnogo taksi usluga, a jedna taksi služba počne da vodi svoje mušterije na čudna mesta, onda će ljudi prirodno preći kod nekog ko nudi bolje usluge“, rekao je Hanson.

Ipak, pojedini A.I istraživači veruju da je katastrofa neizbežna i izdaju zastrašujuća upozorenja.

„Ovo je kao da namerno pozivate vanzemaljce iz svemira da slete na vašu planetu, nemajući pojma šta će uraditi kada stignu ovde, osim da će preuzeti svet“, rekao je Stjuart Rasel, kompjuterski naučnik sa Berkli Univerziteta u Kaliforniji.

-Ljudska bića su evoluirala da bi prenosila svoje gene, a ipak ljudi imaju seks „na načine koji ne dovode do rađanja više dece“, rekao mi je Spenser Grinberg, matematičar i preduzetnik. Shodno tome, „superinteligentni“ A.I. koji je osmišljen da nam služi, mogao bi da iskoristi svoje moći za postizanje novih ciljeva.

Neki istraživači postavljaju A.I. revoluciju kao neizbežnu i sposobnu da uništi svet. Upozorenja se šire, ali se razvijanje veštačke inteligencije nastavlja.

Veoma sposoban sistem mogao bi da postane „neophodan“, smatraju pojedini naučnici.

Na primer, ako sistem daje dobre ekonomske savete, a mi postanemo zavisni od njega, niko se ne bi usudio da povuče utikač, jer bi to urušilo ekonomiju.

Bura kakva nije viđena

Veštačka inteligencija već uzburkava tehnologiju, biznis i politiku kao ništa do sada. Ako slušate ekstravagantne tvrdnje koje dolaze iz Silicijumske doline, čini se da je dugo obećani virtuelni raj konačno pri ruci.

Sundar Pičai, Guglov inače skromni izvršni direktor, naziva veštačku inteligenciju „važnijom od vatre ili struje ili bilo čega što smo otkrili u prošlosti“. Suosnivač Microsofta Bill Gates proglašava A.I. tehnologijom koja će „promeniti način na koji ljudi rade, uče, putuju, dobijaju zdravstvenu zaštitu i komuniciraju jedni sa drugima.

Ali postoji mračni obrt.

Ovo je slična situacija kao da su, hipotetički govoreći, tehnološke kompanije predstavile automobile koji se sami voze uz upozorenje da bi mogli da eksplodiraju pre nego što stignete u do svoje najbliže prodavnice.

„Pojava opšte veštačke inteligencije (AGI) naziva se Singularnost jer je tako teško predvideti šta će se dogoditi posle toga“, rekao je Ilon Mask, koji vodi Tviter i Teslu, za CNBC prošlog meseca. Rekao je da misli da će nastati „doba obilja“, ali i da postoji „izvesna šansa uništi čovečanstvo“.

Najveća zvezda u svetu veštačke inteligencije je Sem Altman, izvršni direktor OpenAI-a, koji je izazvao trenutnu pomamu sa svojim ChatGPT četbotom. On kaže da će A.I. biti „najveća snaga za ekonomsko osnaživanje“.

Altman je prošlog meseca potpisao otvoreno pismo koje je objavio Centar za AI bezbednost, rekavši da ’ublažavanje rizika od A.I. apokalipse treba da bude globalni prioritet’, koji stoji rame uz rame sa „pandemijama i nuklearnim ratom“. Među ostalim potpisnicima su bili Altmanove kolege iz OpenAI i naučnici iz Majkrosofta i Gugla.

Apokalipsa je poznata, čak i omiljena teritorija Silicijumske doline.

Pre nekoliko godina, činilo se da svaki tehnološki rukovodilac u slučaju apokalipse ima potpuno opremljen bunker nekom udaljenom, ali dostupnom mestu.

Sada se pripremaju za drugačiji scenario – Singularnost.

„Oni vole da misle da su razumni ljudi koji daju mudre komentare, ali više zvuče kao monasi iz 1000. godine koji govore o ushićenju“, rekao je Baldur Bjarnason, autor knjige „Iluzija inteligencije“, koja kritički obrađuje napredak AI. „To je pomalo zastrašujuće“, rekao je.

U Vašingtonu, Londonu i Briselu, poslanici se bave mogućnostima i problemima AI, a već se razmatra i regulacija.

Kako bi ta regulacija izgledala nije sasvim jasno. Silicijumska dolina generalno smatrala da su vlade isuviše spore i glupe da bi nadgledale brzi tehnološki razvoj. Ipak, nedavno doneseni nacrt zakona u EU ih delimično demantuje.

„Ne postoji niko u vladi ko bi to mogao da ispravi“, rekao je Erik Šmit, bivši izvršni direktor Gugla, u intervjuu za „Meet the Press“ prošlog meseca.

A.I., baš kao i Singularnost, se već opisuju kao nepovratini procesi.

„Zaustavljanje bi zahtevalo nešto poput režima globalnog nadzora, a čak ni to nije garancija da će funkcionisati“, rekao je Altman, sa čim se slaže i veliki broj njegovih kolega.

Profit pre svega

Mnogo manje se govori o ogromnom profitu koji se može ostvariti od svega ovoga. Uprkos svim pričama o A.I koja stvara neograničeno bogatstvo, ljudi koji se bogate će uglavnom oni koji su već bogati.

Majkrosoft je zbog fokusa na A.I ove godine zabeležio porast tržišne kapitalizacije za pola biliona dolara. Nvidia, proizvođač čipova koji pokreću A.I. sisteme, nedavno je postala jedan od najvrednijih javnih američkih kompanija kada je potražnja za ovakvim čipovima naglo porasla.

-Samo pratite put novca, rekao je Čarls Stros, koautor romana „Ushićenje štrebera“, komičnog pogleda na Singularnost.

„Korporacije samo zanima to što će moći da zamene mnoge od svojih manjkavih, skupih, sporih podjedinica za obradu informacija, čime će se stvari ubrzati i smanjiti troškovi“, rekao je on.

Sledeći logičan korak

Singularnost se dugo zamišljala kao kosmički događaj, bukvalno zapanjujući.

Ali to bi se moglo manifestovati pre toga – delimično zahvaljujući opsesiji današnje Silicijumske doline – kao sredstvo za smanjenje broja zaposlenih u kompanijama.

Uz pretpostavku da će se singularnost ostvariti. Možemo li to sprečiti?

Tehnološki gledano, odgovor je da – samo prestajemo da razvijamo A.I.

Ali, društveno govoreći, odgovor bi mogao biti ne. Problem koordinacije može biti previše težak. U tom slučaju, iako bismo u teoriji mogli da sprečimo singularnost – nećemo.

Superinteligentni A.I. može biti samo sledeći logičan korak u našoj evoluciji: čovečanstvo rađa nešto što nas zamenjuje, kao što smo mi zamenili naše pretke. Alternativno, možda bismo želeli da čovečanstvo ovako nastavi, bar još malo. U tom slučaju treba da se potrudimo da izbegnemo uništenje od strane superinteligentne AI, čak i ako smatramo da takav napor verovatno neće uspeti.

Ta perspektiva je sama po sebi prilično zastrašujuća. Pa ipak, može biti da je strah istraživača od superinteligencije prevaziđen samo našom radoznalošću.

Hoće li se desiti singularnost? Kako će to izgledati? Hoće li to značiti naš kraj? Nezasita radoznalost čovečanstva dovela je do napretka nauke i tehnologije. U teoriji možemo zaustaviti singularnost – ali samo po cenu smanjenja naše radoznalosti.