Do 2028. kršenja propisa o umjetnoj inteligenciji dovest će do 30-postotnog povećanja pravnih sporova za tehnološke tvrtke, prema Gartneru. Anketa među 360 IT lidera uključenih u uvođenje alata generativne umjetne inteligencije pokazala je da je za više od 70 posto usklađenost s propisima među tri najveća izazova pri masovnoj implementaciji produktivnih GenAI asistenata. Samo 23 posto ispitanika vrlo je uvjereno u sposobnost svoje organizacije da upravlja sigurnosnim i upravljačkim komponentama pri uvođenju GenAI alata u poslovne aplikacije.
„Globalni propisi o umjetnoj inteligenciji znatno se razlikuju jer svaka država drugačije balansira vodstvo u AI-u, inovacije i agilnost s prioritetima ublažavanja rizika“, istaknula je Lydia Clougherty Jones, viša direktorica analitičarka u Gartneru. „To dovodi do neusklađenih i često nekoherentnih obveza usklađenosti, otežava povezivanje AI ulaganja s mjerljivom i ponovljivom vrijednošću za poduzeće te potencijalno izlaže organizacije dodatnim odgovornostima.“
Istodobno, utjecaj geopolitičke klime stalno raste, dok je sposobnost odgovora skromnija. Pedeset sedam posto neameričkih IT lidera iz iste ankete navelo je da geopolitička situacija barem umjereno utječe na strategiju i implementaciju GenAI-ja, a 19 posto da je utjecaj značajan. Ipak, gotovo 60 posto tih ispitanika izjavilo je da ne mogu ili ne žele usvajati neameričke alternative GenAI alatima.
U Gartnerovoj anketi tijekom webinara 3. rujna 2025., 40 posto od 489 ispitanika ocijenilo je stav svoje organizacije prema AI suverenitetu – definiranom kao sposobnost država da kontroliraju razvoj, implementaciju i upravljanje AI tehnologijama unutar svojih jurisdikcija – „pozitivnim“ (s nadom i prilikama), a 36 posto „neutralnim“ (pristup „pričekaj i vidi“). U istoj anketi, 66 posto ispitanika navelo je da su proaktivni i/ili angažirani u odgovoru na strategije suverenog AI-ja, a 52 posto da njihova organizacija uvodi strateške ili operativne promjene izravno potaknute suverenim AI-jem.
Kako GenAI alati, poput produktivnih GenAI asistenata, postaju sve rašireniji u nesigurnim i promjenjivim geopolitičkim i pravnim okruženjima, osobito uz koncept AI suvereniteta, IT lideri moraju odmah ojačati moderiranje izlaznih podataka sljedećim koracima:
Inženjerski omogućiti samokorekciju treniranjem modela da se u stvarnom vremenu ispravljaju i ne odgovaraju na određena pitanja, već komuniciraju poruku poput „izvan opsega“.
Uspostaviti rigorozne postupke provjere uporabe koji procjenjuju rizik prelijevanja „chatbot izlaza u neželjeno ljudsko djelovanje“ iz pravne, etičke, sigurnosne i korisničke perspektive; provoditi kontrolna testiranja oko AI-generiranog govora i mjeriti izvedbu u odnosu na utvrđenu organizacijsku toleranciju na rizik.
Povećati testiranje/sandboxing modela izgradnjom interdisciplinarnog tima koji uključuje inženjere odluka, podatkovne znanstvenike i pravne savjetnike radi dizajna protokola predtestiranja te testiranja i validacije izlaza modela u odnosu na neželjene razgovorne ishode. Dokumentirati napore tima na ublažavanju neželjenih pojmova u treniranim podacima i neželjenih tema u izlazu modela.
Ugraditi tehnike moderiranja sadržaja poput „prijavi zlouporabu“ gumbi i „AI upozoravajućih oznaka“.
Regulatorna slika brzo se mijenja i zahtijeva sustavan pristup upravljanju rizicima umjetne inteligencije. U Europskoj uniji Akt o AI-u već je na snazi s faznim stupanjem obveza od 2025. do 2027. te predviđenim kaznama do 35 milijuna eura ili 7 posto globalnog prometa, dok se obveze preklapaju s GDPR-om, DSA-om i NIS2 direktivom kroz zahtjeve transparentnosti, sigurnosti i upravljanja incidentima. U SAD-u NIST-ov AI RMF pruža okvir za upravljanje rizikom, a savezne smjernice za nabavu i uporabu AI-ja potiču procjene učinka i provjerljivost modela, dok Ujedinjeno Kraljevstvo provodi sektorski, „pro-innovation“ pristup uz rad AI Safety Institutea.
Organizacije ubrzano uvode sustave upravljanja AI-jem prema normi ISO/IEC 42001 kako bi dokazale kontrole kroz certifikaciju, uz potporne norme poput ISO/IEC 23894 za upravljanje rizikom i prakse dokumentiranja „model cards“ i „system cards“. Sve je više zahtjeva za lokalizaciju podataka i suverenim oblakom, osobito u javnom sektoru i visoko reguliranim industrijama, što utječe na odabir dobavljača i arhitekturu hibridnog multi-clouda.
Za oglašivače i medijske platforme koje uvode GenAI to znači jačanje nadzora nad generiranim sadržajem, uključujući detekciju halucinacija, provjere autorskih prava i mehanizme ispravka, ali i evaluacije utjecaja na korisnike i brend sigurnost. U praksi se pokazuje da su interdisciplinarni „fusion“ timovi i „red teaming“ na stvarnim slučajevima ključni za smanjenje pravnog rizika, a da se najveće koristi ostvaruju kada AI rješenja imaju jasne granice uporabe, evidenciju podrijetla podataka i kontinuirano praćenje performansi.
Budući da regulatorne razlike među jurisdikcijama ostaju, globalne kompanije uvode „najstroži zajednički nazivnik“ pristup usklađenosti kako bi pojednostavnile operacije i smanjile izloženost. Istodobno, dobavljači AI alata ubrzano ugrađuju funkcije filtriranja, sigurnosne politike po ulozi i revizijske tragove kako bi olakšali dokazivanje usklađenosti auditorima i partnerima.
Kako raste primjena suverenog AI-ja, očekuje se daljnji porast zahtjeva za transparentnošću modela, provjerljivošću dobavnih lanaca podataka i interoperabilnošću između zatvorenih i otvorenih modela, što će izravno utjecati na pravne strategije i troškove usklađenosti.
