X pod pritiskom zbog incidenata s Grokom

Regulatorna tijela izvršila su pritisak na X kako bi se zaustavilo širenje seksualiziranih slika osoba na toj društvenoj mreži. Sporne slike generirane su na zahtjev korisnika putem ugrađenog AI alata Grok.

Europska komisija opisala je dijeljenje slika razodjevenih žena i djece na platformi X kao nezakonito i zgražavajuće, čime je dodatno pojačala zabrinutost koju su već ranije izrazili političari diljem svijeta. Problem se odnosi na slučajeve u kojima korisnici od chatbota na X-u traže izmjenu stvarnih fotografija kako bi se stvorila seksualizirana situacija bez pristanka osoba na slici. Društvena mreža je tu funkcionalnost ranije opisivala kao takozvani spicy mode. 

Predstavnik Europske komisije Thomas Regnier izjavio je da je Komisija itekako svjesna da je X nudio takav način rada. „Ovo nije spicy. Ovo je nezakonito. Ovo je zgražavajuće. Ovo je odvratno. Tako mi to vidimo i za to nema mjesta u Europi“, poručio je Regnier. Britanski regulator Ofcom također je oštro reagirao, zatraživši od X-a objašnjenje kako Grok može proizvoditi takve slike osoba te je li tvrtka zakonski zakazala u zaštiti svojih korisnika.

Prema britanskom Zakonu o sigurnosti na internetu, Ofcom je naglasio da je nezakonito stvarati ili dijeliti intimne ili seksualno eksplicitne slike osoba bez njihova pristanka, a ta regulativa obuhvaća i AI deepfake sadržaj. Od internetskih platformi očekuje se da prema zakonu poduzmu sve potrebne mjere kako bi spriječile takav sadržaj i uklonile ga u najkraćem mogućem roku. Zabrinutost zbog ovakvog sadržaja izrazili su i regulatori u Indiji, Francuskoj i Maleziji.

Rasprava o odgovornosti platformi za sadržaj generiran umjetnom inteligencijom posljednjih mjeseci sve je intenzivnija na globalnoj razini. Regulatori nastoje prilagoditi postojeće zakone brzom razvoju generativnih modela koji omogućuju stvaranje realističnih, ali lažnih vizualnih prikaza. Poseban fokus stavlja se na zaštitu djece, žena i drugih ranjivih skupina od zlouporabe digitalnih alata. Europska unija paralelno razvija i provodi Akt o umjetnoj inteligenciji koji uvodi strože obveze za pružatelje visokorizičnih AI sustava. 

U Ujedinjenom Kraljevstvu Online Safety Act nameće platformama proaktivnu odgovornost za sprječavanje štetnog sadržaja, a ne samo njegovo naknadno uklanjanje. Slični regulatorni pomaci vidljivi su i u Aziji, gdje vlasti sve češće zahtijevaju transparentnost algoritama i mehanizama moderacije. Tehnološke kompanije suočene su s rastućim troškovima usklađivanja i reputacijskim rizicima. Istodobno se otvara pitanje slobode izražavanja i granica automatizirane cenzure. 

Stručnjaci upozoravaju da će se bez jasnih tehničkih i etičkih standarda broj sličnih incidenata povećavati. Očekuje se da će upravo slučajevi poput ovoga ubrzati donošenje preciznijih pravila za generativnu umjetnu inteligenciju. Povjerenje korisnika u digitalne platforme sve više ovisi o sposobnosti tih sustava da spriječe ozbiljne zlouporabe.