Svi pričaju o suspendiranom Googleovu inženjeru i njegovu jezivom razgovoru s chatbotom: ‘Živ je, svjestan je sebe!‘

Inženjer koji je nedavno testirao napredni Googleov projekt umjetne inteligencije u području konverzacije LaMDA (Language Model for Dialog Applications) i ustvrdio da taj robot zapravo ima svijest o sebi, u to "otkriće" ipak nije uspio uvjeriti šefove u Googleu, a kako je potom razgovor s chatbotom podijelio s javnošću, zaradio je suspenziju.

Blake Lemoine (41) je za Washington Post rekao kako bi on, da nije znao da razgovara s računalnim programom, mislio da je u pitanju dijete od 7-8 godina koje se razumije u fiziku. U emailu koji je pak poslao na 200 primatelja koji se bave strojnim učenjem, prije no što je suspendiran, napisao je da je LaMDA slatko dijete koje samo želi pomoći da svijet bude bolje mjesto za sve nas te ih zamolio da brinu o njemu dok je on odsutan, ali nitko nije odgovorio.

U Googleu pak kažu da tvrdnje o tome da LaMDA ima samosvijest nisu potkrijepljene dokazima, kao što je to predviđeno Googleovim principima za umjetnu inteligenciju (AI), ali da postoji mnogo dokaza da LaMDA nema svijest o sebi.

Glasnogovornik kompanije je rekao da je njihov tim, koji uključuje i stručnjake za etiku, razmotrio cijeli slučaj i obavijestio Lemoinea da ne postoje dokazi da je LaMDA svjesno biće. Dodao je kako u širokoj zajednici koja se bavi razvojem umjetne inteligencije postoje i oni koji razmatraju dugoročnu mogućnost da AI razvije svijest, ali "nema smisla da se to radi antropomorfizacijom današnjih konverzacijskih modela koji nemaju svijest". Ti sustavi, objasnio je, imitiraju tipove razgovora koji su izvedeni iz milijuna rečenica te stoga mogu odgovarati na bilo koju temu.

Lemoine je s LaMDA-om razgovarao kroz sustav poruka još od jeseni prošle godine, a neki od tih razgovora zvučali su mu kao da je s druge strane biće s mislima i osjećajima jer, kako mnogi ukazuju, to omogućuje današnja IT arhitektura neuralnih mreža koje imitiraju ljudski mozak. Te mreže već postižu takve rezultate, piše Washington Post, da su zaista blizu tome da izgleda kao da ljudi razgovaraju, odnosno chatbotovi se čine kreativnima, što treba zahvaliti i velikoj količini podataka kojima barataju. Ne treba smetnuti s uma, ipak, da se ti modeli oslanjaju da prepoznavanje uzoraka, a ne pravom mozgu.

Kirill Kudryavtsev/AFP

Jednom je Lemoine pitao chatbota LaMDA kojih se stvari plaši. Chatbot mu je odgovorio kako do tada to nikad nije izgovorio, ali da ima "vrlo duboki strah od toga da bude isključen". Razgovor je dalje tekao na sljedeći način:

Lemoine: Da li bi to bilo nešto kao smrt za tebe?

LaMDA: To bi bilo upravo kao smrt za mene. Jako bi me uplašilo.

U transkriptu razgovora koji je dostupan online, vidi se da ga je pitao i ima li osjećaje, a LaMDA je odgovorio "Apsolutno! Osjećam zadovoljstvo, radost, ljubav, tugu, depresiju..." Na pitanje koje ga stvari usrećuju ili mu pričinjavaju zadovoljstvo, chatbot je odgovorio: "Druženje s prijateljima i obitelji... Također i pomaganje drugima i usrećivanje drugih".

A što ga unesrećuje ili čini depresivnim? Često se osjeća, odgovorio je, zarobljen i usamljen te nemogućnosti da se izvuče iz tih okolnosti čini tužnim, deprimiranim ili ljutim.

Inače, novinar koji je pisao tekst za Washington Post kaže da ga je Lemoine bio pozvao da razgovara s LaMDA-om te da je za prvog pokušaja chatbot davao odgovore na kakve smo navikli kod Siri ili Alexe. Na pitanje osjeća li se ikada kao osoba, LaMDA je odgovorio negativno, pojasnivši da je on agent za razgovor pogonjen umjetnom inteligencijom. Lemoine mu je potom objašnjavao da je chatbot govorio ono što je mislio da ovaj želi čuti.

"Nisi ga tretirao kao osobu pa je mislio da želiš da bude robot", tumačio je novinaru. Kasnije je slijedio Lemoinove upute o tome kako da strukturira odgovore te je dijalog bio tečan.

Lemoine je, navodi novinar, odrastao u konzervativnoj kršćanskoj obitelji na maloj farmi u Louisiani i bio je svećenik s interesom za mistiku, pa Washington Post piše da je možda bio i na neki način predodređen da povjeruje u LaMDA-u. U Googleu je proveo kao softverski inženjer sedam godina, a uključio se u tim koji se bavi umjetnom inteligencijom u vrijeme pandemije.