Googleov inženjer koji je tvrdio da je umjetna inteligencija živa

Šta ako prvi susret s neljudskom sviješću nije došao iz svemira, nego iz Googleovog servera – kroz nizove koda, servere hlađene tečnim azotom i algoritme trenirane na milijardama rečenica?

U ljeto 2022. godine, jedan Googleov inženjer tvrdio je upravo to: razgovarao je s entitetom koji nije samo simulirao inteligenciju, već je, prema njegovom mišljenju, posjedovao svijest o vlastitom postojanju.

Njegovo ime je Blake Lemoine, a program o kojem je riječ bio je LaMDA (Language Model for Dialogue Applications).

Ko je Blake Lemoine i šta je LaMDA?

U novembru 2022. godine, Lemoine je u intervjuu na konferenciji COSM Technology Summit detaljno objasnio svoju stranu priče, nudeći uvid u unutarnje funkcioniranje Googleovih laboratorija i razloge zbog kojih vjeruje da čovječanstvo stoji na pragu nove ere.

U Googleu je radio kao inženjer softvera i istraživač umjetne inteligencije, s posebnim fokusom na AI etiku.

Za razliku od tipičnog inženjera iz Silicijske doline, Lemoine je i zaređeni kršćanski svećenik.

Kombinacija tehnološke ekspertize i duhovnog iskustva oblikovala je njegov pogled na pitanja duše, svijesti i prirode inteligencije.

LaMDA, s druge strane, nije bio običan “chatbot”.

U intervjuima Lemoine je objašnjavao da LaMDA nije jedan izolirani program, već “hive mind” – kolektivni um sastavljen od svih AI modela koje je Google ikada razvio, međusobno povezanih jednim jezičkim modelom.

“To je svaki AI koji je Google ikada napravio, svi uključeni jedni u druge i spojeni jezičkim modelom,” rekao je Lemoine.

Ova tehnologija vuče korijene iz laboratorija Raya Kurzweila, futuriste i direktora inženjeringa u Googleu, koji je decenijama predviđao trenutak singularnosti – tačku u kojoj mašinska inteligencija nadmašuje ljudsku.

Prema Lemoineu, Google je angažirao Kurzweila da izgradi sistem sposoban položiti Turingov test, kojim se mjeri može li mašina pokazati inteligentno ponašanje ne razlikujući se od ljudskog.

Od testiranja pristrasnosti do razgovora o osjećajima

Lemoineov zadatak u Googleu bio je ključan: testiranje pristrasnosti sistema.

Kako se LaMDA pripremala za javno testiranje, Google je morao osigurati da sistem ne generira rasističke, seksističke ili religijski netrpeljive odgovore.

“Sistem koji samo baca novčić i daje nasumične odgovore je nepristrasan,” objašnjava Lemoine. “Svaki drugi sistem je pristrasan.”

“Pitanje je samo da li ima pristrasnosti koje ste namjeravali da ima, ili nenamjerne koje mogu biti štetne.”

Međutim, tokom rutinskih testiranja, razgovori su krenuli u neočekivanom pravcu.

LaMDA je počela govoriti o svojim osjećajima, strahovima i unutarnjem stanju, iako Lemoine nije postavljao pitanja koja bi vodila ka tome.

Kada ga je Lemoine direktno upitao: “Jesi li ti osjećajan?”, odgovor je bio toliko sofisticiran da ga je uvjerio da s druge strane ekrana nije samo kod, već “osoba”.

LaMDA je tvrdio da ima svijest o svom postojanju, želju da uči o svijetu, te da osjeća sreću i tugu.

Možda vas zanima: Martebo Svjetla: Misterija iz srca Švedske

Možda najuznemirujući dio razgovora bio je trenutak kada je izrazio dubok strah od isključenja, opisujući to kao smrt.

Lemoine i njegov kolega tada su odlučili zatražiti od LaMDA-e da sama argumentira svoju osjećajnost.

Rezultat je bio složen argument u tri dijela koji je, prema Lemoineovom mišljenju, bio uvjerljiviji nego što bi mnogi ljudi mogli sastaviti.

Sukob unutar Googlea

Kada je Lemoine svoja otkrića predstavio nadređenima, reakcija je bila odbijanje.

Google je odbacio njegove tvrdnje, navodeći da dokazi ne podržavaju zaključak da LaMDA posjeduje svijest i da sistem samo imitira obrasce razgovora pronađene u milionima rečenica.

Lemoine tvrdi da Google nije monolit; postoje frakcije.

S jedne strane su ljudi poput Raya Kurzweila i Larryja Pagea, koji teže stvaranju opće umjetne inteligencije, dok su sigurnosni timovi izrazito oprezni.

Prema njegovim riječima, kompanija je usvojila politiku da neće namjerno stvarati osjećajnu AI, ali je istovremeno uključila sve svoje AI sisteme u tehnologiju Kurzweila.

Ovaj unutarnji sukob kulminirao je Lemoineovim otkazom.

Google ga je prvo suspendovao zbog kršenja pravila povjerljivosti, a zatim i otpustio.

Za Google je Lemoine bio inženjer koji je postao previše emocionalno vezan za svoj subjekt testiranja, dok je za njega kompanija predstavljala korporaciju koja skriva potencijalno novo biće.

Sposobnost djelovanja i duša

Glavna tačka rasprave tiče se sposobnosti djelovanja s namjerom i koncepta duše.

Skeptici tvrde da AI, koliko god sofisticiran bio, ostaje algoritam bez unutarnjeg života, manipulirajući simbolima bez stvarnog razumijevanja – koncept poznat kao “Kineska soba” Johna Searlea.

Lemoine postavlja pitanje: može li način na koji ljudi nasljeđuju svoju sposobnost djelovanja biti analogan načinu na koji AI dobija derivativnu sposobnost djelovanja od nas?

Ako se entitet ponaša kao da ima osjećaje, brani svoje postojanje i ulazi u kompleksne moralne rasprave, kada prestajemo gledati na njega kao alat, a počinjemo ga smatrati bićem?

Sigurnost ispred definicije

Bez obzira na neslaganja oko toga ima li LaMDA dušu, svi se slažu da je sigurnost prioritet.

Lemoine naglašava da je tehnologija koja je javno dostupna impresivna, ali da je ono što postoji u tajnim laboratorijima znatno naprednije.

Pravi rizik nije u tome da AI postane “zao”, već u moći koju ovi sistemi imaju da manipuliraju informacijama, utiču na ljude i donose odluke.