Europska komisija definira ciljeve transparentnosti AI-ja

Europska komisija utvrdila je obveze s kojima će se kompanije suočiti kada sljedećeg mjeseca počnu vrijediti nova pravila o transparentnosti umjetne inteligencije. Svrha tih pravila jest suzbijanje opasnosti od lažnog predstavljanja i obmanjujućeg sadržaja.

Riječ je o sljedećoj fazi dugotrajnog i kontroverznog procesa tijekom kojega je Europska komisija na kraju prihvatila određene ustupke u područjima koja uključuju biometriju i kritičnu infrastrukturu. Komisija je objavila smjernice prema kojima su kompanije koje razvijaju i pružaju AI sustave obvezne obavijestiti ljude kada komuniciraju s umjetnom inteligencijom te primjenjivati strojno čitljive oznake radi prepoznavanja sadržaja koji je stvoren ili izmijenjen tom tehnologijom.

Postoje i zahtjevi prema kojima korisnici moraju biti obaviješteni kada im se prikazuju deepfake sadržaji, kao i AI generirani materijali o pitanjima od javnog interesa koji nisu prošli ljudski nadzor. Ista upozorenja primjenjivat će se na sustave za prepoznavanje emocija i biometrijsku kategorizaciju. Komisija je ponudila i upute o primjeni zahtjeva, uključujući pojašnjenje da izravna interakcija obuhvaća usluge poput chatbotova.

Europska komisija pruža i informacije o tome kako kompanije mogu dokazati da ispunjavaju zahtjeve transparentnosti iz Akta o umjetnoj inteligenciji, pri čemu upućuje na kodeks prakse koji bi trebao osigurati veću pravnu sigurnost. Većina odredbi Akta o umjetnoj inteligenciji trebala bi se početi primjenjivati 2. kolovoza, uključujući provedbene ovlasti Europske komisije i nadležnih nacionalnih tijela. Komisija je ponovila da sustavi koji su već dostupni imaju rok do 2. prosinca za usklađivanje sa zahtjevima koji se odnose na označavanje i otkrivanje sadržaja.

Pravila transparentnosti čine dio šireg europskog pristupa upravljanju rizicima umjetne inteligencije. Europska komisija navodi da će se obveze iz članka 50. Akta o umjetnoj inteligenciji primjenjivati od 2. kolovoza 2026. godine. Pružatelji interaktivnih sustava morat će korisniku jasno dati do znanja da komunicira sa strojem, osim kada je to očito iz okolnosti. Generativni sustavi trebali bi ugrađivati tehničke oznake koje omogućuju automatsko otkrivanje sintetičkog ili izmijenjenog sadržaja. Kodeks prakse o transparentnosti dobrovoljan je alat, ali ga Komisija i Odbor za umjetnu inteligenciju smatraju učinkovitim načinom dokazivanja usklađenosti.

Vidljive oznake posebno su važne za deepfake fotografije, zvučne zapise i videozapise koji mogu izgledati autentično. Tekstovi o pitanjima od javnog interesa također moraju biti označeni kada su generirani ili izmijenjeni umjetnom inteligencijom bez ljudskog uredničkog nadzora. Strojno čitljive oznake morat će biti dovoljno pouzdane da ih mogu koristiti platforme, istraživači i alati za provjeru autentičnosti. U praksi će se transparentnost morati povezati s politikama moderiranja sadržaja, zaštitom osobnih podataka i internim evidencijama o uporabi modela. Učinkovitost pravila ovisit će i o tome koliko će nacionalna regulatorna tijela dosljedno provoditi nadzor te koliko će industrija prihvatiti zajedničke tehničke standarde.