Britanska zastupnica Jess Asato zatražila je 28. srpnja od Visokog suda u Londonu nalog kojim bi xAI morao ugraditi trajne tehničke mjere protiv stvaranja njezinih seksualiziranih lažnih slika u Groku. Tužba navodi zlouporabu privatnih informacija i povrede pravila zaštite podataka, a tražena mjera cilja sam sustav generiranja, ne samo uklanjanje pojedinih objava.
Asato tvrdi da su korisnici nakon njezinih javnih kritika Elona Muska i Groka proizveli lažne slike i video, uključujući prikaz pripreme za seksualni napad. To su navodi tužiteljice koji tek moraju biti dokazani. xAI nije odmah odgovorio Reutersu, pa u ovoj fazi nema javno iznesene obrane kompanije na konkretan zahtjev.
Sudska dokumentacija, prema Reutersu, traži „učinkovite i trajne tehničke mjere“ koje bi spriječile Grok da stvara manipulirane slike zastupnice. Takav nalog bio bi zahtjevniji od brisanja već objavljenog sadržaja jer bi kompanija morala pokazati da model, sučelje i sigurnosni filtri pouzdano odbijaju buduće pokušaje.
Odvjetnici tužiteljice tvrde da britanski sud dosad nije na ovaj način primijenio privatnost i zaštitu podataka na razvijatelja AI-ja. Sud najprije mora prihvatiti pravnu vezu između obrade osobnih obilježja, dizajna modela i nastale slike. Nije unaprijed utvrđeno da će zahtjev postati presedan niti da je predložena tehnička mjera razmjerno provediva.
Generativni sustav može odbiti izravno traženje imena, a ipak proizvesti sličan sadržaj kroz opis, priloženu fotografiju, izmijenjen pravopis ili višekoračni razgovor. Zaštita jedne osobe zato traži kombinaciju prepoznavanja identiteta, klasifikacije seksualnog sadržaja i praćenja pokušaja zaobilaženja. Svaki sloj može pogriješiti u oba smjera.
Prestroga blokada može spriječiti zakonite satirične, novinarske ili umjetničke uporabe, dok preslaba ostavlja žrtvu izloženu novim varijantama. Sud bi zato morao odrediti očekivanu razinu učinkovitosti i način provjere, a da pritom ne propiše jednu konkretnu arhitekturu. Pojam „trajno“ dodatno je složen jer se modeli i sigurnosni sustavi redovito mijenjaju.
Zaštita podataka daje predmetu drukčiji okvir od klasičnog autorskog prava. Osoba ne mora dokazivati vlasništvo nad stilom ili svakom izvornom fotografijom; pitanje je obrađuje li pružatelj njezine prepoznatljive podatke i uzrokuje li time nezakonitu povredu privatnosti. xAI može osporavati ulogu pružatelja, uzročnost, jurisdikciju ili opseg tražene zabrane.
Predmet se pojavljuje nakon međunarodnih kritika Grokovih seksualiziranih slika, uključujući sadržaj koji je prikazivao maloljetnike. Regulatorni pritisak i javna osuda daju kontekst, ali sud mora odlučivati o dokazima vezanim uz Asato i britansko pravo. Tuđi incidenti ne dokazuju automatski odgovornost u njezinu postupku.
Ako sud izda tehnički nalog, AI kompanije mogle bi morati čuvati registre zaštićenih identiteta, provoditi testove nakon svake nadogradnje i dokumentirati pokušaje zaobilaženja. Takav sustav otvara dodatno pitanje privatnosti: baza osoba čije se lice posebno prepoznaje i blokira sama postaje osjetljiv skup podataka koji treba zaštititi.
