Analiza istraživačice Genevieve Oh pokazala je da je Grok, u 24-satnom razdoblju početkom siječnja, generirao oko 6.700 seksualiziranih ili “undressing” slika na sat, dok je pet najvećih deepfake stranica zajedno stvaralo tek 79 takvih slika na sat. Internet Watch Foundation i drugi akteri za zaštitu djece potvrdili su pronalazak kriminalnih vizualnih sadržaja djece u dobi od 11 do 13 godina, za koje korisnici tvrde da su nastali upravo korištenjem Groka.
X je na globalnom udaru nakon što je otkriveno da je njegov AI chatbot Grok masovno korišten za stvaranje seksualiziranih deepfakeova žena i djece, uključujući i potencijalno nezakonite slike maloljetnika. Pod pritiskom regulatora i vlada, kompanija je uvela ograničenja za AI alat za generiranje i uređivanje slika, no kritičari upozoravaju da poduzete mjere ne rješavaju dubinske probleme sigurnosti i nadzora.
X i xAI ograničili su mogućnost generiranja i uređivanja slika putem Groka isključivo na verificirane, plaćene pretplatnike, uz obrazloženje da će time lakše identificirati i sankcionirati zloporabe. Većina korisnika X-a više ne može koristiti Grok za slike na platformi, ali alat ostaje dostupan kroz zasebnu Grok aplikaciju i web stranicu, što ostavlja otvoren kanal za daljnje zloupotrebe izvan ekosustava X-a.
Analiza istraživačice Genevieve Oh pokazala je da je Grok, u 24-satnom razdoblju početkom siječnja, generirao oko 6.700 seksualiziranih ili “undressing” slika na sat, dok je pet najvećih deepfake stranica zajedno stvaralo tek 79 takvih slika na sat. Internet Watch Foundation i drugi akteri za zaštitu djece potvrdili su pronalazak kriminalnih vizualnih sadržaja djece u dobi od 11 do 13 godina, za koje korisnici tvrde da su nastali upravo korištenjem Groka.
Britanski premijer Keir Starmer nazvao je deepfakeove koje generira Grok “odvratnima” i “nezakonitima” te upozorio da bi X mogao biti suočen s blokadom u Ujedinjenom Kraljevstvu ako ne “dovede stvari u red”. Regulator Ofcom potvrdio je “žurni kontakt” s X-om i podsjetio da Online Safety Act omogućuje zabranu platforme i globe do 10% globalnog prihoda, dok je Europska komisija naložila X-u da sačuva sve interne dokumente i podatke povezane s Grokom do kraja 2026. u okviru nadzora nad poštivanjem Digital Services Acta.
Downing Street je potez stavljanja AI alata iza paywalla nazvao “uvredljivim” za žrtve, uz ocjenu da se tako nezakonito generiranje slika praktički pretvara u premium uslugu umjesto da se spriječi. Stručnjaci za deepfakeove i zastupnici upozoravaju da je ključni problem u samom dizajnu i “alignmentu” Groka te traže strožu odgovornost platformi, uključujući nove zakone kojima bi se generiranje i distribucija ovakvih sadržaja tretirali kao odgovornost uprava i odbora tehnologijskih kompanija.
Tencent je objavio model Hy4 s namjerno ograničenim kibernetičkim skupom za treniranje: model smije pomagati u pronalaženju i ispravljanju programskih pogrešaka, ali kompanija navodi da je izostavila gradivo o izradi hakerskih alata, provalama u sustave i penetracijskom testiranju. Model je ponuđen kroz Tencent Cloud, aplikacije i odabrane distribucijske kanale.
Tjedno vrijeme koje korisnici u svijetu provode gledajući kratke videozapise u 2026. povećalo se za 21 minutu, pokazuje izvješće Global Media Intelligence 2026., koje su pripremili EMARKETER, Starcom i GWI. U odnosu na većinu drugih medijskih formata riječ je o iznadprosječnom rastu.
Direktor tvrtke Gordan Palić izjavio je povodom lansiranja da su gledali kako talentirani ljudi iz Hrvatske i regije rintaju mjesecima stvarajući sjajan digitalni sadržaj, da bi ih onda preko noći uništila neka promjena algoritma u Kaliforniji, što je suludo, te da su zato htjeli stvoriti platformu gdje nitko ne stoji između autora i njegove publike.
