Uspostava nacionalnog sustava za provedbu europskog Akta o umjetnoj inteligenciji u Hrvatskoj zasad ostaje pitanje koje se ne može svesti na puki izbor jednog regulatora. Iz odgovora HAKOM-a jasno proizlazi da je preduvjet za bilo kakav operativni model zakonsko razgraničenje nadležnosti, ovlasti, postupaka, sankcija, kontaktnih točaka i načina suradnje s Europskom komisijom te drugim državama članicama. A upravo tog okvira — još nema.
HAKOM pritom vrlo precizno povlači granicu vlastite odgovornosti. Agencija nije nositelj izrade nacionalnog provedbenog zakona i, kako ističu, ne može govoriti u ime Vlade ili nadležnog ministarstva o razlozima i dinamici zakonodavnog postupka. Odluku o nadležnim tijelima, njihovim ovlastima, financiranju i međusobnoj koordinaciji, ponavljaju, može donijeti isključivo zakonodavac. Ono što agencija nudi jest spremnost: prate razvoj europskoga regulatornog okvira i, u okviru svojih nadležnosti i kapaciteta, spremni su dati doprinos izgradnji učinkovitoga nacionalnog sustava — ako im to zakonodavac povjeri.
Uredba se primjenjuje sama od sebe — ali institucije netko mora postaviti
Najvažnija činjenica koju HAKOM stavlja u prvi plan tehnička je, ali dalekosežna: Akt o umjetnoj inteligenciji, kao uredba Europske unije, primjenjuje se izravno. Ne čeka hrvatski zakon da bi proizveo obveze. No ono što izravna primjena ne rješava jest institucionalna arhitektura provedbe — a nju mora postaviti nacionalni zakon.
To u praksi znači da Hrvatska tek mora odrediti koja će tijela imati koje uloge, kako će se provoditi nadzor, tko će biti kontaktna točka, kako će se voditi postupci, koje će se sankcije primjenjivati i kako će domaća tijela surađivati međusobno te s europskim institucijama. Bez tog okvira provedba prijeti ostati formalna, a za industriju — nedovoljno predvidiva. Upravo je predvidivost ono što domaće tvrtke najviše traže, a što im trenutačno najviše izmiče.
Odluka nije pala — i to nije područje za jedan profil
Na izravno pitanje je li HAKOM najizgledniji izbor za nacionalnog AI regulatora, odgovor je nedvosmislen i otrežnjujući za sve koji raspravu smatraju gotovom: agencija ne može potvrditi da je donesena ikakva odluka prema kojoj bi bila nacionalno nadležno tijelo za provedbu Akta. Takvu odluku, ponavljaju, donosi isključivo zakonodavac. Time se otklanja svaka mogućnost da se trenutačne rasprave tumače kao već zaključena politička ili institucionalna odluka.
Umjesto pozicioniranja, HAKOM radije ocrtava narav samog područja — i tu leži ključ. Umjetna inteligencija, poručuju, izrazito je interdisciplinarno regulatorno područje, jednako zahtjevno kao provedba drugih složenih EU okvira u elektroničkim komunikacijama, digitalnim uslugama, podacima i kibernetičkoj sigurnosti. Tu se prepleću tehnička analiza, podatkovna znanost, kibernetička sigurnost, upravljanje rizicima, standardizacija, zaštita osobnih podataka i temeljna prava. Zaključak koji iz toga slijedi jasan je: nijedan nacionalni model, bez obzira na to koje tijelo dobije glavnu ili koordinacijsku ulogu, ne može počivati na jednom uskom stručnom profilu, nego mora biti multidisciplinaran i osloniti se na suradnju više institucija.
Koliko ljudi treba? Prerano je za brojke
Ako bi HAKOM doista dobio ulogu u provedbi Akta, to bi za njega — kao i za bilo koje drugo tijelo javne vlasti — značilo značajno proširenje ovlasti i mandata. Agencija to otvoreno priznaje. No odbija prejudicirati brojke. Ocjenjuju da u ovom trenutku ne bi bilo odgovorno iznositi procjene o potrebnom broju zaposlenika i njihovim profilima prije nego što bude poznat konačni nacionalni provedbeni model.
Razlog tom oprezu je logičan: kadrovske i organizacijske potrebe izravno ovise o vrsti dodijeljenih ovlasti. Nije isto hoće li neko tijelo dobiti koordinacijsku ulogu, funkciju tržišnog nadzora, ulogu kontaktne točke ili neku drugu regulatornu zadaću predviđenu Aktom. Tek kad se zna što se traži, može se reći koliko ljudi i kojih profila za to treba. Sve prije toga, poručuju, bilo bi nagađanje.
Ključno za industriju: nadzorno tijelo neće certificirati
Možda i najvažniji dio cijele priče za domaće poduzetnike odnosi se na razliku između nadzora i ocjene sukladnosti visokorizičnih AI sustava — razliku koja odlučuje hoće li novi okvir postati usko grlo ili ne. HAKOM podsjeća da Uredba jasno razdvaja nadzornu funkciju od funkcije ocjene sukladnosti, u koju ulazi i certificiranje.
Tijela za ocjenu sukladnosti, objašnjavaju, pravne su osobe koje taj posao obavljaju kao svoju djelatnost. Država mora osigurati sustav koji omogućuje njihovo prijavljivanje Europskoj komisiji i drugim državama članicama, a industrija će potom moći provesti certificiranje kod bilo kojeg od tih prijavljenih tijela. Iz toga slijedi zaključak koji bi mnoge u domaćoj ICT zajednici trebao umiriti: pod pretpostavkom da HAKOM dobije ulogu nadzornoga tijela, on neće certificirati visokorizične AI sustave.
Za domaće AI startupe, ICT kompanije i poduzetnike to je važna razlika. Budući nacionalni regulator, ako bude zadužen za nadzor, ne mora istodobno biti i tijelo koje provodi certifikaciju. Sustav se tako dijeli na nadzornu funkciju s jedne i tržišnu, stručnu funkciju ocjene sukladnosti s druge strane. No iz HAKOM-ovih odgovora jednako jasno proizlazi i obveza države: ona mora stvoriti preduvjete da takav sustav uistinu profunkcionira, uključujući postupak prijavljivanja tijela za ocjenu sukladnosti i njihovo uključivanje u europski okvir. Bez toga, podjela funkcija ostaje samo na papiru.
Akt o umjetnoj inteligenciji ne ukida GDPR
Posebno osjetljivo područje ostaje odnos AI Acta i zaštite osobnih podataka — pitanje koje se postavlja jer umjetna inteligencija u velikom broju slučajeva počiva upravo na obradi podataka, profiliranju i automatiziranom odlučivanju. HAKOM je tu decidiran: Akt o umjetnoj inteligenciji ne zamjenjuje Opću uredbu o zaštiti podataka. Ako AI sustav uključuje obradu osobnih podataka, i dalje se primjenjuju pravila GDPR-a.
Poruka je nedvosmislena — tehnička regulacija umjetne inteligencije ne smije potisnuti pitanja privatnosti, zakonitosti obrade, transparentnosti, temeljnih prava i zaštite pojedinca. Zato budući nacionalni model, naglašavaju, mora izbjeći preklapanje i kontradiktorne postupke te osigurati koordinaciju između tijela kada isti AI sustav istodobno otvara tehnička pitanja i pitanja zaštite podataka ili temeljnih prava. Nacionalni provedbeni okvir mora urediti odnos između svih tijela uključenih u provedbu Akta u Hrvatskoj, uključujući i ona koja brinu o zaštiti osobnih podataka. Inače prijeti opasnost da se tvrtke i institucije nađu u paralelnim, neusklađenim ili međusobno proturječnim postupcima.
Funkcionalnost prije modela: zašto puko imenovanje regulatora nije dovoljno
Na kraju, HAKOM ostavlja poruku koja zvuči kao upozorenje i kao mjerilo istodobno: presudan nije model, nego njegova funkcionalnost. Tko god dobije novu ulogu u provedbi Akta o umjetnoj inteligenciji, ta uloga mora biti praćena stabilnim financiranjem, jasnim regulatornim okvirom, odgovarajućim ljudskim kapacitetima i potrebnom infrastrukturom.
Jednako važnim agencija drži stručnu, političku i poslovnu neovisnost u obavljanju regulatornih zadaća te jasne i transparentne postupke koji omogućuju učinkovitu provedbu propisa. Izvori financiranja i organizacijska rješenja, ističu, uređuju se zakonom i ovisit će o konačnom nacionalnom modelu provedbe. Stoga u ovoj fazi nije moguće prejudicirati kako će sustav biti ustrojen — to ovisi o odlukama zakonodavca i ovlastima dodijeljenima pojedinim tijelima.
Ostaje, dakle, jedna jasna poruka koja nadilazi pitanje imena buduće institucije: regulacija umjetne inteligencije ne može se svesti na formalno imenovanje regulatora. Da bi sustav uistinu zaživio, treba mu jasne nadležnosti, dovoljno stručnih kapaciteta, stabilno financiranje, međuinstitucionalnu koordinaciju i operativne postupke koji će i industriji i građanima dati ono što sada nedostaje — predvidiv regulatorni okvir. Sve dok toga nema, izravno primjenjiva europska pravila i nepostojeća domaća institucionalna struktura ostat će u neugodnom raskoraku.
