AI kao ultimativni štit i najopasnije oružje

Najnovije izvješće Svjetskog ekonomskog foruma ne opisuje samo rast kibernetičkih prijetnji, nego upozorava na nešto dublje i dugoročnije: produbljivanje kibernetičkog jaza između organizacija koje imaju novac, ljude i procese za obranu te onih koje to nemaju. WEF u Global Cybersecurity Outlooku 2026 govori o “cyber inequity”, odnosno neravnomjernoj raspodjeli sposobnosti obrane, i pritom jasno pokazuje da AI postaje središnja točka tog jaza. Čak 87 posto ispitanika AI-ranjivosti vidi kao najbrže rastući kibernetički rizik, dok je udio organizacija koje uopće imaju proces za procjenu sigurnosti AI alata porastao s 37 posto u 2025. na 64 posto u 2026. godini. To je važna promjena, ali i dalje znači da velik dio tržišta još nema dovoljno zrelu kontrolu nad alatima koje uvodi u poslovanje.

Zato je važno malo prizemljiti priču o “AI ratu” između napadača i branitelja. Potvrđeni trend nije to da je klasična sigurnost odjednom postala zastarjela, nego da umjetna inteligencija ubrzava i obranu i napad. ENISA navodi da je početkom 2025. više od 80 posto promatrane aktivnosti društvenog inženjeringa već bilo potpomognuto AI-em, uz uporabu “jailbreakanih” modela, sintetskih medija i tehnika trovanja modela. U istom izvješću spominju se i zlonamjerni paketi te lažni AI alati koji služe kao kanal za kompromitaciju. To znači da najveća promjena nije nužno filmski scenarij potpuno autonomnog “generativnog malwarea”, nego industrijalizacija napada: više automatiziranog phishinga, više lažnih identiteta, više bržeg izviđanja i više pokušaja manipulacije podacima i modelima.

Još je važnije da se bojište seli s povjerljivosti na integritet. CISA i partnerske agencije u smjernicama za sigurnost AI podataka izrijekom upozoravaju da zlonamjerno izmijenjeni podaci mogu dovesti do netočnih ishoda, loših odluka i kompromitirane sigurnosti. Drugim riječima, problem više nije samo hoće li napadač ukrasti podatke ili zaključati datoteke, nego može li “otrovati” podatkovni tok kojim se hrane modeli, analitika i automatizirani poslovni procesi. Posljedice takvog napada često nisu trenutačno vidljive: sustav radi, dashboard izgleda normalno, a poslovne odluke postaju sve lošije jer je narušen temelj na kojem model zaključuje. Zato sigurnost identiteta i pristupa ostaje važna, ali više nije dovoljna sama za sebe. U prvi plan ulaze provjera podrijetla podataka, sanacija skupova za treniranje, zaštita opskrbnog lanca modela i kontinuirani nadzor ponašanja modela.

Na obrambenoj strani zato raste interes za autonomniji SOC, ali i tu treba biti precizan. NIST ne govori o tome da će AI zamijeniti analitičare, nego da može ubrzati obranu kroz naprednu detekciju anomalija, agent-based obranu, digitalne vjerodajnice za kontinuiranu validaciju te automatizirani incident response, primjerice automatsko zaključavanje, primjenu playbooka i konzistentniji odgovor na incidente. To je dobra vijest za timove koji pucaju po šavovima zbog količine alarma. No paralelno s time ETSI-jev novi europski standard za sigurnost AI sustava traži i ono što često nedostaje u euforiji oko agentnih sustava: najmanje potrebne ovlasti, procjenu rizika pri povezivanju s drugim sustavima, redovito modeliranje prijetnji, zaštitu podataka za treniranje i mogućnost vraćanja u poznato ispravno stanje. Ukratko, budućnost nije u “AI vatrozidu” kao jednoj čarobnoj kutiji, nego u sloju kontrola koji uključuje nadzor, ljudski pregled, provjerljivo podrijetlo i jasno definirani identitet agenata i njihovih ovlasti.

Za Hrvatsku i regiju to je posebno važno jer se velik dio gospodarstva oslanja na manje organizacije s ograničenim sigurnosnim resursima. WEF pokazuje da su male organizacije dvostruko sklonije prijaviti nedostatnu razinu otpornosti nego velike, a manjak sigurnosnih znanja ostaje jedan od ključnih razloga tog jaza. Zato je stvarni prioritet manje “kupnja AI-ja”, a više izgradnja cyber resilience modela: bolja vidljivost nad podacima, jača higijena identiteta, automatizirana trijaža alarma, provjera integriteta modela i jasni planovi oporavka. Budućnost sigurnosti više nije u savršenom zidu koji nitko ne može probiti, nego u sposobnosti sustava da brzo otkrije odstupanje, ograniči štetu i nastavi raditi čak i kada je dio okruženja već kompromitiran.