EU uvodi pravila za oznake AI sadržaja

U Europskoj uniji od 2. kolovoza primjenjuju se obveze transparentnosti za generativnu umjetnu inteligenciju. Dobavljači moraju omogućiti prepoznavanje umjetno stvorenog ili izmijenjenog sadržaja, dok subjekti koji sustave upotrebljavaju u profesionalnoj djelatnosti moraju jasno otkriti deepfakeove i određene tekstove o pitanjima od javnog interesa. Pravila proizlaze iz članka 50. Akta o umjetnoj inteligenciji i odnose se na sustave ponuđene na tržištu EU-a.

Obveze ne znače da svaki sadržaj nastao uz pomoć AI-ja mora dobiti jednaku vidljivu oznaku. Zakon razlikuje strojno čitljiv trag, koji trebaju osigurati dobavljači sustava, od obavijesti namijenjene publici, za koju su u određenim slučajevima odgovorni korisnici sustava.

Dobavljači generativnih sustava moraju izlaze koji sadrže sintetički zvuk, sliku, video ili tekst označiti u strojno čitljivom obliku i omogućiti njihovo otkrivanje. Primijenjeno rješenje mora biti učinkovito, interoperabilno, robusno i pouzdano koliko je to tehnički izvedivo, uzimajući u obzir vrstu sadržaja, troškove i stanje tehnologije.

Ta se obveza može provesti metapodacima, digitalnim vodenim žigom, kriptografskom vjerodajnicom ili drugom tehnikom koja omogućuje provjeru podrijetla. Zakon predviđa iznimke za sustave koji obavljaju standardno uređivanje ili ne mijenjaju bitno ulazne podatke i njihovo značenje, kao i za određene primjene povezane s kaznenim progonom.

Druga obveza odnosi se na subjekte koji objavljuju deepfakeove. Riječ je o umjetno stvorenim ili izmijenjenim slikama, zvuku i videosnimkama koje nalikuju postojećim ili vjerodostojnim osobama, predmetima, mjestima ili događajima te se mogu pogrešno doimati autentičnima. Umjetno podrijetlo ili manipulacija moraju biti jasno otkriveni publici pri prvom izlaganju sadržaju.

Za umjetnička, kreativna, satirična i fikcionalna djela dopušten je prikladniji oblik obavijesti koji ne ometa doživljaj sadržaja. To ipak nije potpuno izuzeće od transparentnosti.

Posebno pravilo obuhvaća generirani ili izmijenjeni tekst kojim se javnost informira o pitanju od javnog interesa. Objava ne mora nositi oznaku ako je prošla stvarnu ljudsku provjeru ili uredničku kontrolu te ako fizička ili pravna osoba snosi uredničku odgovornost za sadržaj.

Za medije je važna širina te iznimke. Površno lektoriranje, provjera pravopisa ili automatsko uređivanje nisu dovoljni. Ljudska kontrola mora biti sadržajna, a urednik mora imati ovlast provjeriti činjenice, zatražiti izmjene, odbiti tekst i preuzeti odgovornost za objavljenu verziju. Iznimka se odnosi na tekstove, a nije opće oslobođenje za deepfake slike, video ili zvuk.

Europska komisija objavila je i skup ikona za označavanje AI sadržaja. Njihova je uporaba dobrovoljna, dok je ispunjavanje zakonskih obveza obvezno. Sama ikona ne dokazuje usklađenost ako sadržaj nema odgovarajući strojno čitljiv trag ili ako publici nije pružena propisana obavijest.

Komisija je prije početka primjene pravila dovršila Kodeks dobre prakse za transparentnost AI sadržaja. Do kraja srpnja pristupilo mu je oko 190 kompanija i organizacija. Dio potpisnika prihvatio je mjere namijenjene dobavljačima generativnih sustava, a dio obveze za profesionalne korisnike, pri čemu se skupine preklapaju.

Kodeks je dobrovoljan, ali potpisnicima nudi zajedničke postupke i priznati način dokazivanja usklađenosti. Kompanije koje mu ne pristupe mogu primijeniti vlastita rješenja, no nadležnim će tijelima morati pokazati da su ona primjerena zakonskim zahtjevima.

Za neke generativne sustave stavljene na tržište prije 2. kolovoza predviđeno je ograničeno prijelazno razdoblje. Dobavljači njihovo strojno označavanje moraju uskladiti najkasnije do 2. prosinca 2026. Odgoda se odnosi samo na tu obvezu i ne pomiče opći početak primjene ostalih pravila iz članka 50. Sadržaj objavljen prije 2. kolovoza ne mora se naknadno označavati.

Mediji, marketinške agencije, platforme i javne institucije zato trebaju evidentirati gdje se generativni modeli pojavljuju u proizvodnji sadržaja, tko provjerava njihove izlaze i koje se oznake čuvaju pri izvozu i objavi. Takvo mapiranje nije zasebna obveza propisana člankom 50., ali olakšava dokazivanje usklađenosti.

Strojni trag može nestati tijekom kompresije, izrezivanja ili prijenosa kroz drugu aplikaciju. Gubitak metapodataka ne znači automatski da je profesionalni korisnik prekršio zakon ako je publici pružio propisanu obavijest, ali otežava automatsko otkrivanje i provjeru podrijetla. Kodeks zato predviđa mjere kojima bi se oznake trebale sačuvati pri preuzimanju i ponovnom dijeljenju.

Članak 50. obuhvaća i druge oblike transparentnosti. Sustavi koji izravno komuniciraju s ljudima, poput chatbotova, u pravilu moraju korisniku otkriti da razgovara sa strojem. Korisnike treba obavijestiti i o primjeni sustava za prepoznavanje emocija ili biometrijsku kategorizaciju.

Većinu nadzora provodit će nacionalna tijela tržišnog nadzora. Europski AI Office nadležan je samo u određenim slučajevima, među ostalim kada isti dobavljač pruža model opće namjene i sustav koji se na njemu temelji. Za institucije i tijela EU-a nadležan je Europski nadzornik za zaštitu podataka.

Za kršenje obveza transparentnosti moguće su kazne do 15 milijuna eura ili, kada je počinitelj kompanija, do tri posto njezina ukupnog svjetskog godišnjeg prihoda iz prethodne poslovne godine. Konkretna sankcija ovisit će o ulozi subjekta, težini, trajanju i posljedicama povrede.

Oznake same neće ukloniti prijevare. Vidljivo upozorenje može se izrezati, metapodatak izgubiti, a sadržaj proizveden izvan Unije distribuirati europskoj publici. Uspjeh pravila zato će ovisiti o tome mogu li modeli i platforme razmjenjivati podatke o podrijetlu, sačuvati ih pri ponovnoj objavi i dokazati da transparentnost funkcionira izvan kontroliranih demonstracija.