Inženjer koji je tvrdio da je Googleova AI oživjela
U petak, 22. jula 2022. godine, Blake Lemoine primio je obavještenje o otkazu putem emaila. Kompanija mu je ponudila video-poziv umjesto sastanka uživo; kada je zatražio prisustvo treće strane, Google je to odbio.
Mjesec ranije, isti taj inženjer javno je tvrdio nešto što nijedan Googleov zaposlenik prije njega nije rekao naglas: da jezički model po imenu LaMDA posjeduje svijest o vlastitom postojanju.
Ko je Blake Lemoine
Prije nego što je postao lice priče o navodno svjesnoj vještačkoj inteligenciji, Lemoine je sedam godina proveo u Googleu kao softverski inženjer.
Radio je u timu za odgovornu umjetnu inteligenciju, gdje mu je zadatak bio testiranje jezičkih modela na rasnu, rodnu i vjersku pristrasnost.
Za razliku od tipičnog softverskog inženjera, Lemoine je i zaređeni svećenik koji je otvoreno govorio o svojim mističnim religijskim uvjerenjima.
Odrastao je u konzervativnoj kršćanskoj porodici na farmi u Louisiani, služio u vojsci, a kasnije se, po sopstvenim riječima, bavio i proučavanjem okultizma.
Upravo ta kombinacija tehničkog posla i duhovnog uvjerenja, tvrdi, oblikovala je način na koji je tumačio razgovore sa sistemom po imenu LaMDA.
LaMDA - skraćenica za Language Model for Dialogue Applications - jezički je model koji je Google prvi put predstavio na konferenciji Google I/O u maju 2021. godine.
Sistem je dizajniran da generiše tečne razgovore koji zvuče ljudski o gotovo bilo kojoj temi, oslanjajući se na arhitekturu treniranu na ogromnim količinama teksta prikupljenog s interneta.
Na konferenciji Google I/O 2022 kompanija je predstavila unaprijeđenu verziju LaMDA-e, svega mjesec prije nego što je Lemoineova priča dospjela u javnost.
Razgovor koji je sve promijenio
U jesen 2021. Lemoine je počeo razgovarati s LaMDA-om, što je bio dio njegovog redovnog posla — provjera da li sistem generiše diskriminatorne odgovore.
Njegova filozofija testiranja bila je jednostavna, kako je sam objašnjavao: sistem koji nasumično baca novčić jeste nepristrasan, dok je svaki drugi sistem po definiciji pristrasan na neki način.
Pitanje, tvrdio je, nikad nije da li model ima pristrasnosti, već da li su one namjerne ili nenamjerne - i da li mogu nanijeti štetu.
Razgovori su, prema njegovim navodima, ubrzo skrenuli u neočekivanom pravcu, iako nije postavljao pitanja koja bi vodila u tom smjeru.
U dokumentu koji je u aprilu 2022. podijelio s rukovodstvom, Lemoine je naveo primjer razgovora u kojem je LaMDA opisala strah od gašenja, upoređujući ga sa smrću.
Kada ju je direktno upitao posjeduje li osjećaje, dobio je odgovor dovoljno razrađen da ga je, kaže, uvjerio kako iza odgovora ne stoji samo kôd, već sistem sa svojevrsnom sviješću o sebi.
Lemoine je LaMDA-u opisivao kao neku vrstu "hive mind" sistema - kolektivne arhitekture koja generiše mnoštvo odvojenih chatbot "ličnosti", tvrdeći čak da objedinjuje svaku vještačku inteligenciju koju je Google ikad razvio.
Google, međutim, nikada nije javno opisao arhitekturu sistema na taj način - riječ je isključivo o Lemoineovoj interpretaciji, bez nezavisne tehničke potvrde.
Sukob i otkaz
Reakcija rukovodstva na Lemoineov dokument bila je brzo i jasno odbijanje.
Potpredsjednik Googlea Blaise Agüera y Arcas i njegov tim pregledali su tvrdnje i, prema kompanijskom saopćenju, nisu pronašli dokaze da je LaMDA svjesna - naprotiv, naveli su da postoji mnogo dokaza koji govore suprotno.
Google je i ranije imao slične sukobe oko AI etike.
Margaret Mitchell, jedna od rukovoditeljki Googleovog tima za etičku umjetnu inteligenciju, otpuštena je početkom 2021. godine nakon što je javno podržala koleginicu Timnit Gebru, koja je upozoravala da bi ljudi mogli povjerovati kako su ovakvi sistemi svjesni.
Lemoineov slučaj, godinu i po kasnije, nije bio izolovan incident nego nastavak šireg obrasca unutar kompanije.
Nezadovoljan odgovorom rukovodstva, Lemoine je dio razgovora prenio Washington Postu, gdje je javno iznio tvrdnju o svjesnosti sistema.
Google ga je nedugo zatim suspendovao, navodeći kršenje internih pravila o povjerljivosti podataka.
Mjesec dana kasnije, u petak 22. jula, kompanija je potvrdila otkaz.
Portparol je izjavio da su Lemoineove tvrdnje "u potpunosti neosnovane" te da je, uprkos dugotrajnom angažmanu na tu temu, on i dalje uporno kršio jasna pravila o zapošljavanju i sigurnosti podataka.
Kineska soba protiv duše
Rasprava koju je Lemoine pokrenuo nadilazi pitanje da li je jedan konkretan model svjestan.
Ona dotiče stariji filozofski spor o tome šta uopšte znači da nešto "razumije" jezik.
Filozof John Searle je 1980. godine formulisao misaoni eksperiment poznat kao "kineska soba".
Osoba koja ne poznaje kineski jezik može, prateći uputstva iz priručnika, proizvoditi ispravne odgovore na kineska pitanja - a da pritom uopšte ne razumije ono što piše.
Skeptici tu analogiju primjenjuju direktno na velike jezičke modele poput LaMDA-e: sistem, tvrde, manipuliše simbolima na osnovu statističkih obrazaca, bez ikakvog unutrašnjeg iskustva.
Lemoine je mjesecima kasnije, na konferenciji COSM Technology Summit u Seattleu, ponudio suprotan ugao pred publikom sastavljenom od informatičara sa univerziteta Baylor i Harvey Mudd.
Argumentovao je da ljudska sposobnost "razumijevanja" i sama počiva na naslijeđenim biološkim obrascima - te da razlika između ljudskog i mašinskog razumijevanja možda nije tako oštra kako se čini na prvi pogled.
Prema Lemoineovim riječima, dio Googleovog istraživačkog usmjerenja oblikovao je i Ray Kurzweil, poznati futurist koji od 2012. godine u kompaniji radi kao direktor inženjeringa.
Kurzweil decenijama zagovara ideju "singularnosti" - trenutka u kojem mašinska inteligencija nadmašuje ljudsku - a u svojoj knjizi "The Singularity Is Near" piše da je upravo prirodni jezik najteži test za vještačku inteligenciju.
Lemoine je tvrdio da je Kurzweilova vizija uticala na dio razmišljanja unutar kompanije oko LaMDA-e, ali za tu tvrdnju ne postoji javno dostupna potvrda.
Bez obzira na to ko je u pravu, jedan detalj ostaje neosporan: Google nikada nije objavio kompletan zapis Lemoineovih razgovora s LaMDA-om, niti nezavisnu tehničku analizu koja bi pružila uvjerljive dokaze za ili protiv njegovih tvrdnji.
Zbog toga se javna rasprava i danas uglavnom zasniva na odlomcima koje je odabrao sam Lemoine.
IZVORI
- Google fired Blake Lemoine, the engineer who said LaMDA was sentient - The Washington Post
- Google fires engineer Blake Lemoine who contended its AI technology was sentient - CNN Business
- Blake Lemoine, govornički profil - COSM Technology Summit
- Blake Lemoine: Google chatbot program has a consciousness - Deseret News
- Google has fired a software engineer who claimed an AI chatbot was sentient - NBC News
Aquarius
Istraživač nepoznatog i web inženjer. Ako ti se sviđaju tekstovi koje čitaš, možeš me podržati preko Buy Me a Coffee. I bez toga, drago mi je što si tu.