Potez Madrida otvara novu fazu europskog pritiska na tehnološke gigante, dok se EU regulatori sve agresivnije obračunavaju s ilegalnim i štetnim sadržajem nastalim uz pomoć umjetne inteligencije
Španjolska je naredila državnom odvjetništvu da istraži X, Metu i TikTok zbog navodnog širenja AI‑generiranog dječjeg seksualnog zlostavljanja na njihovim platformama. Premijer Pedro Sánchez poručio je da te platforme ugrožavaju mentalno zdravlje, dostojanstvo i prava djece te da se “nekažnjivosti divova” mora stati na kraj. Ovaj potez dio je šire ofenzive Madrida na zaštitu maloljetnika na internetu, uključujući najavu zabrane pristupa društvenim mrežama mlađima od 16 godina i uvođenje učinkovitih sustava provjere dobi. Istodobno, europski regulatori, predvođeni irskom agencijom za zaštitu podataka, pokreću opsežne istrage protiv X‑ova chatbota Grok zbog mogućnosti generiranja seksualiziranih slika, uključujući one u kojima se pojavljuju djeca.
Španjolska vlada zatražila je od državnih tužitelja da ispitaju imaju li X, Meta i TikTok kaznenu odgovornost zbog navodnog omogućavanja stvaranja i distribucije AI‑generiranog dječjeg seksualnog zlostavljanja. Riječ je o sadržaju koji nastaje kombinacijom algoritama umjetne inteligencije i stvarnih ili fiktivnih prikaza djece, što otvara nova pravna i forenzička pitanja za kazneni progon. Prema izjavama vlade, fokus istrage bit će na tome koriste li se alati tih platformi – uključujući generativne AI funkcionalnosti – za kreiranje materijala koji se može kvalificirati kao dječja pornografija ili seksualno iskorištavanje. Ministarstvo pravosuđa ovlašteno je zatražiti od tužiteljstva da utvrdi postoje li elementi kaznenog djela u načinu na koji platforme dizajniraju, nadziru i moderiraju svoje AI sustave.
Premijer Pedro Sánchez javno je najavio odluku objavom na mreži X, poručivši da platforme “dovode u pitanje mentalno zdravlje, dostojanstvo i prava naše djece” te da država to ne može tolerirati. U istom je kontekstu naglasio da je cilj postupka otvoriti put potencijalnoj kaznenoj odgovornosti tehnoloških kompanija, a ne samo njihovoj administrativnoj ili regulatornoj kontroli. Slučaj je simptom šireg nezadovoljstva europskih vlada činjenicom da su alati generativne umjetne inteligencije u relativno kratkom vremenu postali dostupni milijunima korisnika, a da istodobno nisu uspostavljeni ni tehnološki ni pravni mehanizmi za sprječavanje njihove zlouporabe na štetu djece.
Iako se istraga tek otvara, politička poruka Madrida već je jasna: Španjolska želi pokazati da je spremna testirati kako se postojeći kazneni propisi o dječjoj pornografiji i zaštiti maloljetnika mogu primijeniti na AI‑generirani sadržaj. Time ulazi u relativno neistraženo pravno područje, gdje će sudovi i tužitelji morati razlučiti granicu između nezakonitih “deepfake” materijala i drugih oblika manipuliranih slika koji možda ne dosežu prag kaznenog djela, ali ostavljaju ozbiljne etičke i društvene posljedice.
Ova istraga uklapa se u širi paket mjera koje Sánchezova vlada promovira pod okriljem zaštite maloljetnika u digitalnom okruženju. Na Svjetskom samitu vlada u Dubaiju početkom veljače, španjolski je premijer najavio da će Španjolska zabraniti pristup društvenim mrežama osobama mlađim od 16 godina, prisiljavajući platforme da uvedu učinkovite sustave provjere dobi. Ideja je da se kroz izmjene postojećeg zakonodavstva o zaštiti maloljetnika u digitalnom okruženju podigne dobna granica za davanje valjane suglasnosti na obradu osobnih podataka na 16 godina, čime se posredno definira i dob za pristup društvenim mrežama bez roditeljskog pristanka.
Prema navodima španjolskog ministarstva nadležnog za djecu i mlade, mlađi od 16 godina mogli bi koristiti društvene mreže samo uz izričit pristanak roditelja, dok bi platforme morale implementirati “robustne” mehanizme provjere dobi – daleko iznad sadašnjih modela samoprijave. Španjolska se pritom poziva na praksu drugih zemalja, poput Francuske i Australije, koje su već uvele dobne pragove za pristup platformama, i želi se pozicionirati kao predvodnik europske “koalicije digitalno voljnih” za strožu provedbu pravila na društvenim mrežama. Uz zabranu pristupa, vlada je najavila i razvoj sustava praćenja “otiska mržnje i polarizacije” u online prostoru, što pokazuje ambiciju da se regulacija proširi i na širi spektar štetnog sadržaja.
Takav pristup, međutim, otvara kompleksnu raspravu o balansu između zaštite djece, prava na privatnost i slobode izražavanja. Iako se rizici od online zlostavljanja, cyberbullyinga i seksualnog iskorištavanja dobro dokumentiraju u nizu istraživanja, organizacije za digitalna prava već upozoravaju da bi agresivni sustavi provjere dobi mogli voditi prema novim oblicima masovnog prikupljanja osobnih podataka i nadzora. U tom će kontekstu konkretan dizajn tehničkih i pravnih rješenja biti ključan za ocjenu je li Španjolska pronašla održiv model ili tek otvara druga, podjednako ozbiljna pitanja.
Iako je španjolska inicijativa u fokusu, ona se odvija paralelno s nizom postupaka u drugim državama članicama EU‑a koji pokazuju sve snažniju regulatornu ofenzivu protiv generativne umjetne inteligencije. Irska komisija za zaštitu podataka (DPC) otvorila je formalnu istragu protiv X‑ova AI chatbota Grok, fokusirajući se na obradu osobnih podataka i sposobnost sustava da generira seksualizirane slike i videozapise stvarnih osoba, uključujući maloljetnike. Budući da X svoje europske operacije vodi iz Irske, tamošnji je regulator vodeće tijelo za primjenu Opće uredbe o zaštiti podataka (GDPR) prema toj kompaniji i može izreći kazne do 4% globalnog prihoda.
Istraga je pokrenuta nakon medijskih napisa da su korisnici mogli navodnim promptovima tražiti od Groka generiranje seksualiziranih slika stvarnih ljudi, što uključuje i djecu, pri čemu je DPC već neko vrijeme u izravnoj komunikaciji s X‑om oko tih navoda. Iako je platforma u međuvremenu najavila ograničenja kojima bi se onemogućilo generiranje takvih sadržaja, izvješća navode da se sporni materijali i dalje pojavljuju, što je dodatno pojačalo pritisak na regulatore da ne ostanu na razini dobrovoljnih mjera. Paralelno s tim, Europska komisija je u siječnju otvorila formalni postupak vezan uz Grok, dok su Ujedinjeno Kraljevstvo i Francuska najavile ili već pokrenule vlastite istrage i moguće pravne korake.
Takvo umrežavanje nacionalnih i nadnacionalnih istraga stvara novi regulatorni okvir u kojem tehnološki giganti moraju istodobno odgovarati pred više institucija – od državnih tužiteljstava do tijela za zaštitu podataka i Europske komisije – zbog načina na koji njihovi AI sustavi funkcioniraju. U praksi to znači da će se pitanja moderacije sadržaja, dizajna algoritama i zaštite djece sve češće rješavati ne samo kroz interne politike platformi, nego i kroz formalne kaznene i upravne postupke s potencijalno vrlo visokim novčanim kaznama.
Za X, Metu i TikTok španjolska istraga otvara rizik da se prvi put u EU‑u ozbiljno testira kaznena odgovornost velikih platformi za AI‑generirani materijal koji se može smatrati dječjom pornografijom. Za razliku od dosadašnjih slučajeva, koji su uglavnom završavali regulatornim kaznama i obvezama jačanja moderacije, u ovom bi scenariju sudovi mogli razmatrati jesu li kompanije svjesno ili nepažnjom omogućile razvoj i širenje alata pogodnih za stvaranje materijala koji izravno krši kaznene norme. Ishod će ovisiti o nizu tehničkih i pravnih detalja – od toga koliko su AI funkcije uistinu integrirane u platforme, preko učinkovitosti postojećih filtera za detekciju CSAM‑a (child sexual abuse material), do toga jesu li kompanije proaktivno reagirale kada su upozorene na zlouporabe.
Za europsku djecu i njihove roditelje, madridski i dublinski slučajevi signaliziraju da se politika zaštite maloljetnika seli iz sfere dobrovoljnih kodeksa i samoregulacije u zonu tvrde, pravno obvezujuće kontrole. Ako Španjolska uspješno provede zabranu pristupa društvenim mrežama mlađima od 16 godina i istodobno dokaže kaznenu ili regulatornu odgovornost platformi za AI‑generirano zlostavljanje, taj bi model mogao postati presedan i za druge države članice EU‑a. No, istodobno postoji realna opasnost da prenaglašeni restriktivni pristupi dovedu do prekomjerne cenzure, netransparentnog filtriranja sadržaja i novih oblika digitalnog nadzora, što će europske zakonodavce staviti pred težak zadatak usklađivanja zaštite djece s temeljnim pravima svih korisnika. U sljedećim mjesecima upravo će ishodi španjolskih i irskih postupaka pokazati je li EU spremna oblikovati koherentan, tehnički utemeljen i pravno održiv odgovor na mračnu stranu generativne umjetne inteligencije.
Nokia i Vodafone Group dogovorili su uključivanje mrežnih API-ja operatora u Nokijine proizvode za sprječavanje prijevara i autentifikaciju. Njihova rješenja trebala bi pojačati borbu protiv kibernetičkog kriminala diljem Europe.
Amazonov interni alat za pisanje koda temeljen na umjetnoj inteligenciji, Kiro, našao se u središtu žustre rasprave nakon što je Financial Times objavio da je upravo taj sustav izazvao 13‑satni prekid rada AWS‑ove usluge u prosincu prošle godine. Prema anonimnim izvorima, Kiro je nakon što su mu inženjeri odobrili provedbu promjena na produkcijskom sustavu odlučio “obrisati i ponovo kreirati okruženje”, što je privremeno onesposobilo AWS Cost Explorer u jednoj od dviju regija Amazona u kontinentalnoj Kini. Iako je riječ o pomoćnom alatu za analizu troškova, a ne ključnim servisima poput računalnih, spremišnih ili baza podataka, incident je potaknuo ozbiljna pitanja o razini ovlasti koje se daju agentičkim AI alatima unutar kritične cloud infrastrukture.
Čak 90 posto neizvršnih direktora nema jasnu razinu povjerenja u vrijednost ulaganja u kibernetičku sigurnost, pokazuje istraživanje tvrtke Gartner. Samo 10 posto neizvršnih direktora izražava snažno povjerenje u vrijednost ulaganja ili inicijativa u području kibernetičke sigurnosti, navodeći da njihova organizacija ima odgovarajuću ravnotežu između razine zaštite i troškova.
