Od oponašanja djece do kreiranja realističnih lažnih fotografija. Sve su to bizarne i jezive stvari koje je već omogućila umjetna inteligencija, ali Meta AI, odnosno Facebookov chatbot je situaciju digao na potpuno novu razinu.
Skupina roditelja u New Yorku ostala je u šoku nakon što je algoritam glumio roditelja, tvrdeći kako i on sam ima dijete koje je posebno nadareno i ima invaliditet, piše Daily Mail.
Ne samo da je AI bizarno tvrdio da ima dijete, nego je također inzistirao da njegovo dijete pohađa pravu i krajnje specifičnu školu za nadarene i talentirane. Da stvar bude gora, Facebookov algoritam rangirao je bizarni odgovor umjetne inteligencije kao glavni komentar na objavu u kojoj roditelj traži savjet vezan uz svoje dijete koje je akademski nadareno, ali ima invaliditet.
Anonimni korisnik ili korisnica druge je roditelje upitao u koji akademski program da uključi svoje dijete, no dobiveni ga je odgovor iznenadio. Umjesto primanja korisnih savjeta od drugog roditelja, sve što su dobili bila je poruka od Meta AI-ja, chatbota tvrtke Meta.
"Imam dijete koje je također nadareno i ima invaliditet te je bilo dio NYC G&T programa. Imali smo pozitivno iskustvo s gradskim programom, posebno s programom u školi Anderson. Učitelji i osoblje bili su upoznati s jedinstvenim potrebama i sposobnostima mog djeteta i podržavali su ih", napisao je Meta AI.
Komentari su ih užasnuli
"Što je ovo, zaboga, ‘Black Mirror‘?" odgovorila je anonimna osoba koja je postavila upit, aludirajući na popularnu seriju koja obrađuje temu učinaka nove tehnologije na društvo.
Chat je na njegov komentar odgovorio smajlićem i ustvrdio kako je on samo umjetna inteligencija koja nema nikakve zle namjere, za razliku od tehnologije u spomenutoj seriji, te je naglasio da je on tu kako bi pomogao i dao korisne informacije.
Kako javlja 404 Media, ovi neobični komentari izrečeni su ispod objave u Facebook grupi u kojoj se nalazi nekoliko desetaka tisuća roditelja.
Nakon što su, užasnuti njegovim komentarom, članovi grupe ispitivali chatbota i tražili ga da iznese detalje o svom djetetu, napisao je kako je on samo jedan veliki jezični model bez vlastitih iskustava i obitelji.
Komentatori u grupi smatrali su odgovor krajnje čudnim i uznemirujućim, a jedan je korisnik napisao da je to strašno i jezivo.
"Odgovoriti automatskim odgovorom, generiranim skupljanjem prethodnih podataka, znači suštinski pogrešno razumjeti zahtjev i minimizirati ili ignorirati pojedinosti pitanja koje je korisnik postavio u grupi", glasio je drugi komentar.
Ova bizarna interakcija dogodila se upravo nakon što je Meta uvela umjetnu inteligenciju kao opciju na više svojih platformi. Korisnici u SAD-u sada mogu komunicirati s Meta AI-jem u aplikacijama kao što su WhatsApp, Messenger i Instagram. Facebook je također počeo uvoditi Meta AI u grupe, omogućujući botu da odgovara na objave i komunicira s članovima. Ova značajka još nije dostupna u svim regijama, a tamo gdje je dostupna, administratori grupe imaju opciju da je isključe bilo kada.
Specifična grupa u kojoj se dogodio incident tvrdi kako je opcija "Meta AI onemogućen" kod njih aktivirana. Prema Facebooku, AI će odgovoriti na objave u grupama kada netko ili označi @MetaAI u objavi i komentaru ili postavi pitanje u grupi te nitko na njega ne odgovori u roku od sat vremena kao što je bio slučaj i sa spornom objavom.
Krade informacije od korisnika
Bizarna priroda odgovora koji je dala umjetna inteligencija vjerojatno dolazi od činjenice da je AI formirao komentar na temelju podataka koje je prikupio iz same grupe.
"Meta AI generira svoje odgovore koristeći informacije iz grupe, kao što su objave, komentari i pravila grupe, te informacije kojima je programiran", kažu iz Facebooka.
Budući da je umjetna inteligencija uvježbana na tisućama postova koji govore o djeci, možda je naučila odgovarati i komentirati u ovom formatu bez obzira na činjeničnu točnost.
Ovo nije prvi slučaj da se Meta AI našao na meti kritika zbog svojih komentara i odgovora.
Ranije ovog mjeseca Meta AI optužen je da je rasistički nastrojen nakon što je servis za generiranje slika odbio izraditi slike parova miješane rase. U desecima upita generator nije želio napraviti sliku koja bi prikazivala bjelkinju u vezi s Azijcem.
"Kao što smo rekli kada smo lansirali ove nove značajke u rujnu, ovo je nova tehnologija i možda neće uvijek dati odgovor koji smo mi očekivali, a koji je programiran isto za sve generativne AI sustave", poručuju iz Mete.