Nakon što su se lažne seksualno eksplicitne i uvredljive slike Taylor Swift proširile nekadašnjim Twitterom, njezini najvatreniji obožavatelji, tzv. ‘Swifties‘, brzo su se mobilizirali i na toj društvenoj mreži pokrenuli protuofenzivu uz hashtag #ProtectTaylorSwift te platformu X preplavili pozitivnim slikama pjevačice i masovno prijavljuju račune koji su objavili lažne slike.
Grupa za otkrivanje deepfakea Reality Defender pratila je pojavu tih lažnih slika od kojih su neke dospjele i do Facebooka u vlasništvu Mete i drugih platformi društvenih medija.
‘Nažalost, proširile su se na milijune i milijune korisnika‘, rekao je Mason Allen, voditelj rasta Reality Defendera.
Pronađeno je najmanje nekoliko desetaka slika generiranih umjetnom inteligencijom. Najviše su se dijelile one slike povezane s nogometom, koje pjevačicu prikazuju prekrivenu bojom ili krvlju.
Istraživači kažu da je broj eksplicitnih deepfakeova porastao u posljednjih nekoliko godina, jer je tehnologija koja se koristi za izradu takvih slika postala dostupnija i lakša za korištenje. Izvješće koje je 2019. objavila tvrtka DeepTrace Labs pokazalo je da su te slike najčešće usmjerene protiv žena, a većina žrtava su holivudski glumci i južnokorejski K-pop pjevači.
Brittany Spanos, koja piše za Rolling Stone i predaje kolegij o Taylor Swift na Sveučilištu New York, kaže da obožavatelji popularne pjevačice brzo reagiraju u takvim situacijama.
‘Ovo bi mogla biti ogromna stvar ako ona to odluči dati na sud‘, rekla je.
Spanos kaže da se problem lažne AI pornografije nadovezuje na probleme koje je Swift imala u prošlosti, te podsjeća na njezinu tužbu iz 2017. protiv DJ-a radijske postaje koji ju je navodno pipkao.
Swift je tada dodijeljena odšteta u vrijednosti jednog dolara, a sud je kazao se radi o simboličnom iznosu dok je sama presuda silno važna za sve žene diljem svijeta.
Na upit o lažnim pornografskim slikama, društvena mreža X je kazala da tvrtka strogo zabranjuje dijeljenje golih slika bez pristanka na svojoj platformi. No tvrtka je i osjetno smanjila broj ljudi zadužen za moderiranje sadržaja otkako je Elon Musk preuzeo platformu 2022.
‘Naši timovi aktivno uklanjaju sve identificirane slike i poduzimaju odgovarajuće radnje protiv računa koji su odgovorni za njihovo objavljivanje‘, kazala je tvrtka. ‘Pažljivo pratimo situaciju kako bismo osigurali da se sva daljnja kršenja odmah riješe i da se sadržaj ukloni.‘
U međuvremenu, Meta je u izjavi rekla da oštro osuđuje ‘sadržaj koji se pojavio na različitim internetskim servisima‘ i radi na njegovom uklanjanju.
‘Nastavljamo pratiti naše platforme u potrazi za ovim sadržajem koji krši pravila i prema potrebi ćemo poduzeti odgovarajuće mjere‘, rekla je tvrtka.
Potrebna bolja zaštita
Mason Allen iz Reality Defendera je rekao da su uvjereni da su slike stvorene difuzijskim modelima, koji su vrsta modela umjetne inteligencije koji može proizvesti nove i fotorealistične slike iz pisanih upita. Najpoznatiji su Stable Diffusion, Midjourney i OpenAI-jev DALL-E.
OpenAI je rekao da ima zaštitne mjere kako bi ograničio stvaranje štetnog sadržaja i ‘odbio zahtjeve u kojima se stvarne javne osobe traže po imenu, uključujući Taylor Swift‘.
Microsoft, koji nudi generator slika djelomično temeljen na DALL-E-u, rekao je u petak da istražuje je li njegov alat zloupotrijebljen. Slično kao i drugi komercijalni pružatelji usluga umjetne inteligencije, rekao je da ne dopušta ‘intimni sadržaj za odrasle ili bez pristanka, a svaki ponovljeni pokušaj proizvodnje sadržaja koji je u suprotnosti s našim pravilima može rezultirati gubitkom pristupa usluzi‘.
Izvršni direktor Microsofta, Satya Nadella, rekao je da ima još puno toga za učiniti kako bi se upotreba AI-a učinila sigurnom i njihova je dužnost da vrže napreduju u tom području.
‘Apsolutno je ovo alarmantno i strašno, stoga moramo djelovati‘, rekao je Nadella.
Midjourney, OpenAI i Stable Diffusion-maker Stability AI nisu odmah odgovorili na zahtjeve za komentar.
Predstavnici zakonodavne vlasti na saveznoj razini u SAD-u kazali su da ovaj incident s Taylor Swift ukazuje da SAD treba uvesti bolju zaštitu.
‘Godinama su žene bile žrtve deepfakeova bez pristanka, tako da je ono što se dogodilo Taylor Swift češće nego što većina ljudi misli‘, rekla je američka zastupnica Yvette D. Clarke, demokratkinja iz New Yorka koja je uvela zakon koji od kreatora zahtijeva da svaki deepfake sadržaj nosi posebni vodeni žig.
Američki zastupnik, Joe Morelle, rekao je da je ono što se dogodilo Swift uznemirujuće i sve prisutnije na internetu.
‘Slike su možda lažne, ali su njihovi utjecaji vrlo stvarni‘, rekao je Morelle. ‘Deepfakeovi se događaju svaki dan ženama posvuda u našem sve digitalnijem svijetu i vrijeme je da im se stane na kraj.‘