SIGURNOSNI PARADOKS 2026

AI kao ultimativni štit i najopasnije oružje

Ključna tema koja dominira je pojava ransomwarea koji više ne zaključava datoteke, već suptilno kvari (truje) baze podataka kojima se hrane AI modeli (Data Poisoning). Ova vrsta napada je posebno pogubna jer njezine posljedice nisu odmah vidljive.

AI kao ultimativni štit i najopasnije oružje
Depositphotos

Najnovije izvješće Svjetskog ekonomskog foruma ne opisuje samo rast kibernetičkih prijetnji, nego upozorava na nešto dublje i dugoročnije: produbljivanje kibernetičkog jaza između organizacija koje imaju novac, ljude i procese za obranu te onih koje to nemaju. WEF u Global Cybersecurity Outlooku 2026 govori o “cyber inequity”, odnosno neravnomjernoj raspodjeli sposobnosti obrane, i pritom jasno pokazuje da AI postaje središnja točka tog jaza. Čak 87 posto ispitanika AI-ranjivosti vidi kao najbrže rastući kibernetički rizik, dok je udio organizacija koje uopće imaju proces za procjenu sigurnosti AI alata porastao s 37 posto u 2025. na 64 posto u 2026. godini. To je važna promjena, ali i dalje znači da velik dio tržišta još nema dovoljno zrelu kontrolu nad alatima koje uvodi u poslovanje.

Zato je važno malo prizemljiti priču o “AI ratu” između napadača i branitelja. Potvrđeni trend nije to da je klasična sigurnost odjednom postala zastarjela, nego da umjetna inteligencija ubrzava i obranu i napad. ENISA navodi da je početkom 2025. više od 80 posto promatrane aktivnosti društvenog inženjeringa već bilo potpomognuto AI-em, uz uporabu “jailbreakanih” modela, sintetskih medija i tehnika trovanja modela. U istom izvješću spominju se i zlonamjerni paketi te lažni AI alati koji služe kao kanal za kompromitaciju. To znači da najveća promjena nije nužno filmski scenarij potpuno autonomnog “generativnog malwarea”, nego industrijalizacija napada: više automatiziranog phishinga, više lažnih identiteta, više bržeg izviđanja i više pokušaja manipulacije podacima i modelima.

Još je važnije da se bojište seli s povjerljivosti na integritet. CISA i partnerske agencije u smjernicama za sigurnost AI podataka izrijekom upozoravaju da zlonamjerno izmijenjeni podaci mogu dovesti do netočnih ishoda, loših odluka i kompromitirane sigurnosti. Drugim riječima, problem više nije samo hoće li napadač ukrasti podatke ili zaključati datoteke, nego može li “otrovati” podatkovni tok kojim se hrane modeli, analitika i automatizirani poslovni procesi. Posljedice takvog napada često nisu trenutačno vidljive: sustav radi, dashboard izgleda normalno, a poslovne odluke postaju sve lošije jer je narušen temelj na kojem model zaključuje. Zato sigurnost identiteta i pristupa ostaje važna, ali više nije dovoljna sama za sebe. U prvi plan ulaze provjera podrijetla podataka, sanacija skupova za treniranje, zaštita opskrbnog lanca modela i kontinuirani nadzor ponašanja modela.

Na obrambenoj strani zato raste interes za autonomniji SOC, ali i tu treba biti precizan. NIST ne govori o tome da će AI zamijeniti analitičare, nego da može ubrzati obranu kroz naprednu detekciju anomalija, agent-based obranu, digitalne vjerodajnice za kontinuiranu validaciju te automatizirani incident response, primjerice automatsko zaključavanje, primjenu playbooka i konzistentniji odgovor na incidente. To je dobra vijest za timove koji pucaju po šavovima zbog količine alarma. No paralelno s time ETSI-jev novi europski standard za sigurnost AI sustava traži i ono što često nedostaje u euforiji oko agentnih sustava: najmanje potrebne ovlasti, procjenu rizika pri povezivanju s drugim sustavima, redovito modeliranje prijetnji, zaštitu podataka za treniranje i mogućnost vraćanja u poznato ispravno stanje. Ukratko, budućnost nije u “AI vatrozidu” kao jednoj čarobnoj kutiji, nego u sloju kontrola koji uključuje nadzor, ljudski pregled, provjerljivo podrijetlo i jasno definirani identitet agenata i njihovih ovlasti.

Za Hrvatsku i regiju to je posebno važno jer se velik dio gospodarstva oslanja na manje organizacije s ograničenim sigurnosnim resursima. WEF pokazuje da su male organizacije dvostruko sklonije prijaviti nedostatnu razinu otpornosti nego velike, a manjak sigurnosnih znanja ostaje jedan od ključnih razloga tog jaza. Zato je stvarni prioritet manje “kupnja AI-ja”, a više izgradnja cyber resilience modela: bolja vidljivost nad podacima, jača higijena identiteta, automatizirana trijaža alarma, provjera integriteta modela i jasni planovi oporavka. Budućnost sigurnosti više nije u savršenom zidu koji nitko ne može probiti, nego u sposobnosti sustava da brzo otkrije odstupanje, ograniči štetu i nastavi raditi čak i kada je dio okruženja već kompromitiran.