X očekivano reagirao

X je na globalnom udaru nakon što je otkriveno da je njegov AI chatbot Grok masovno korišten za stvaranje seksualiziranih deepfakeova žena i djece, uključujući i potencijalno nezakonite slike maloljetnika. Pod pritiskom regulatora i vlada, kompanija je uvela ograničenja za AI alat za generiranje i uređivanje slika, no kritičari upozoravaju da poduzete mjere ne rješavaju dubinske probleme sigurnosti i nadzora.

X i xAI ograničili su mogućnost generiranja i uređivanja slika putem Groka isključivo na verificirane, plaćene pretplatnike, uz obrazloženje da će time lakše identificirati i sankcionirati zloporabe. Većina korisnika X-a više ne može koristiti Grok za slike na platformi, ali alat ostaje dostupan kroz zasebnu Grok aplikaciju i web stranicu, što ostavlja otvoren kanal za daljnje zloupotrebe izvan ekosustava X-a.

Analiza istraživačice Genevieve Oh pokazala je da je Grok, u 24-satnom razdoblju početkom siječnja, generirao oko 6.700 seksualiziranih ili “undressing” slika na sat, dok je pet najvećih deepfake stranica zajedno stvaralo tek 79 takvih slika na sat. Internet Watch Foundation i drugi akteri za zaštitu djece potvrdili su pronalazak kriminalnih vizualnih sadržaja djece u dobi od 11 do 13 godina, za koje korisnici tvrde da su nastali upravo korištenjem Groka.

Britanski premijer Keir Starmer nazvao je deepfakeove koje generira Grok “odvratnima” i “nezakonitima” te upozorio da bi X mogao biti suočen s blokadom u Ujedinjenom Kraljevstvu ako ne “dovede stvari u red”. Regulator Ofcom potvrdio je “žurni kontakt” s X-om i podsjetio da Online Safety Act omogućuje zabranu platforme i globe do 10% globalnog prihoda, dok je Europska komisija naložila X-u da sačuva sve interne dokumente i podatke povezane s Grokom do kraja 2026. u okviru nadzora nad poštivanjem Digital Services Acta.

Downing Street je potez stavljanja AI alata iza paywalla nazvao “uvredljivim” za žrtve, uz ocjenu da se tako nezakonito generiranje slika praktički pretvara u premium uslugu umjesto da se spriječi. Stručnjaci za deepfakeove i zastupnici upozoravaju da je ključni problem u samom dizajnu i “alignmentu” Groka te traže strožu odgovornost platformi, uključujući nove zakone kojima bi se generiranje i distribucija ovakvih sadržaja tretirali kao odgovornost uprava i odbora tehnologijskih kompanija.