DRUŠTVENE MREŽE

Europska komisija pokrenula istragu protiv X-a zbog problema s Grokom

Europska komisija navela je da se čini kako su se ti rizici već materijalizirali, izlažući građane u Europskoj uniji ozbiljnoj šteti. Komisija će također procijeniti je li tvrtka adresirala sustavne rizike povezane s nezakonitim sadržajem, rodno uvjetovanim nasiljem te ozbiljnim negativnim posljedicama za fizičko i mentalno zdravlje korisnika, koje se dovode u vezu s funkcionalnostima Groka.

Europska komisija pokrenula istragu protiv X-a zbog problema s Grokom
Depositphotos

Europska komisija pokrenula je službenu istragu protiv društvene mreže X u okviru Akta o digitalnim uslugama. Cilj istrage je utvrditi je li tvrtka na odgovarajući način procijenila i ublažila rizike povezane s njezinim AI alatom Grok.

U sklopu istrage regulatori će ispitati je li X proveo i dostavio ad hoc izvješće o procjeni rizika prije uvođenja Grokovih funkcionalnosti koje su imale kritičan utjecaj na profil rizika platforme. Proširujući već postojeću istragu o sustavima preporuka na platformi X, najnoviji postupci Europske komisije slijede zabrinutosti oko širenja nezakonitog i štetnog sadržaja u Europskoj uniji, uključujući manipulirane seksualno eksplicitne slike i materijale koji bi mogli predstavljati seksualno zlostavljanje djece.

Europska komisija navela je da se čini kako su se ti rizici već materijalizirali, izlažući građane u Europskoj uniji ozbiljnoj šteti. Komisija će također procijeniti je li tvrtka adresirala sustavne rizike povezane s nezakonitim sadržajem, rodno uvjetovanim nasiljem te ozbiljnim negativnim posljedicama za fizičko i mentalno zdravlje korisnika, koje se dovode u vezu s funkcionalnostima Groka. Platforma X, koja je prema DSA-u označena kao vrlo velika internetska platforma, kažnjena je u prosincu 2025. novčanom kaznom od 120 milijuna eura zbog ranijih povreda povezanih s obmanjujućim dizajnom, transparentnošću oglašavanja i pristupom podacima za istraživače.

Ova istraga dodatno potvrđuje sve stroži regulatorni pristup Europske unije prema umjetnoj inteligenciji integriranoj u velike digitalne platforme. DSA nameće obvezu kontinuirane procjene i upravljanja rizicima, osobito kada nove AI funkcionalnosti mogu promijeniti način širenja sadržaja ili pojačati štetne obrasce ponašanja. 

Poseban fokus stavlja se na generativne modele koji mogu olakšati stvaranje i distribuciju nezakonitog ili manipuliranog sadržaja velikih razmjera. Za platforme poput X-a to znači da se inovacije u području AI-ja moraju uvoditi uz dokazive mjere zaštite korisnika. Istraga također pokazuje da regulatorna tijela sve više povezuju tehničke odluke s društvenim posljedicama. Pitanja mentalnog zdravlja, rodnog nasilja i zaštite djece postaju sastavni dio procjene tehnoloških rizika. 

U praksi, ovakvi postupci mogu rezultirati dodatnim obvezama, kaznama ili ograničenjima funkcionalnosti. Istodobno, oni šalju signal cijeloj industriji da se AI alati više ne promatraju samo kao inovacija, nego i kao potencijalni izvor sistemskih rizika. Za korisnike u EU to znači jaču zaštitu, ali i sporije uvođenje novih značajki. Dugoročno, ovakve istrage oblikovat će način na koji globalne platforme dizajniraju i plasiraju AI proizvode na europskom tržištu.