Svaki četvrti zlonamjerni proboj omogućen je umjetnom inteligencijom

Umjetna inteligencija korištena je u svakom četvrtom zlonamjernom sigurnosnom proboju, pokazuje IBM-ovo Izvješće o trošku povrede podataka za 2026. godinu. To predstavlja rast od 56 posto u odnosu na godinu ranije, a prosječan trošak takvih proboja iznosio je šest milijuna dolara, približno milijun dolara više od globalnog prosjeka od 4,99 milijuna dolara.

Ti napadi, koji su se uglavnom temeljili na lažnom predstavljanju uz pomoć deepfake sadržaja i zlonamjernom softveru potpomognutom umjetnom inteligencijom, mijenjaju ekonomiku sigurnosnih incidenata. Pokretanje napada postaje brže i jeftinije, dok otkrivanje i saniranje proboja postaje sve skuplje. Kompanije koje su navele da u sigurnosnim operacijama koriste umjetnu inteligenciju i automatizaciju smanjile su prosječan trošak proboja za gotovo dva milijuna dolara, ali četvrtina organizacija još nije uvela takve alate.

Rastuća neravnoteža, u kojoj se napadi mogu pokrenuti za nekoliko tisuća dolara, a proboji kompanije koštaju milijune, temeljito mijenja ekonomiku kibernetičkog rizika. Organizacije zbog toga sve češće reagiraju na buduće prijetnje umjesto da čekaju incident. U zasebnom naknadnom istraživanju Instituta Ponemon čak je 85 posto organizacija najavilo povećanje ulaganja u sigurnost nakon što su upoznate s naprednim kibernetičkim sposobnostima graničnih AI modela, u usporedbi sa 64 posto organizacija koje su u početnom istraživanju navele da će ulaganja povećati nakon doživljenog proboja.

Ipak, praznina ostaje upravo na području na kojem se napadači najbrže razvijaju. Više od polovice organizacija koristi agente za otkrivanje i obuzdavanje prijetnji, ali samo ih 18 posto primjenjuje u upravljanju ranjivostima. Poznati sigurnosni propusti tako ostaju otvoreni iako umjetna inteligencija skraćuje vrijeme potrebno za njihovo iskorištavanje. Tri četvrtine organizacija navode da ih prijetnje povezane s graničnim AI modelima potiču na preispitivanje načina primjene agenata u sigurnosnim operacijama.

„Mijenja se ekonomika kibernetičkih napada. Umjetna inteligencija napade čini bržima i jeftinijima, dok proboji postaju sve skuplji. Kada organizacije imaju prevelik razmak između otkrivanja i sanacije problema, ta se neravnoteža izravno odražava na troškove proboja“, rekla je Suja Viswesan, potpredsjednica IBM Security Softwarea. Dodala je da je sada najvažnije ukloniti to kašnjenje, uključiti sanaciju u razvojne procese, zaštititi identitete tijekom rada sustava i otklanjati rizike brzinom kojom se već kreću napadači.

Većina prijavljenih napada potpomognutih umjetnom inteligencijom bila je usmjerena na sektore kritične infrastrukture, koji su činili 62 posto slučajeva. Najveća koncentracija zabilježena je u financijskim uslugama i energetici, čime se povećava mogućnost šireg sustavnog poremećaja. Prosječan trošak proboja u financijskim uslugama iznosio je 6,3 milijuna dolara, a u energetskom sektoru 5,2 milijuna dolara. Koncentracija napada u tim sektorima povećava opasnost od lančanih posljedica za gospodarstva, opskrbne lance i ključne usluge.

Više od petine organizacija prijavilo je proboj usmjeren na AI modele ili aplikacije. Najčešći uzroci bili su slabosti u povezanim sustavima: kompromitirani API-ji, aplikacije ili dodaci činili su 27 posto slučajeva, jednako kao i pogrešne konfiguracije oblaka koje su utjecale na AI radna opterećenja. Temeljne slabosti u šifriranju i upravljanju kriptografijom i dalje izlažu organizacije riziku, iako rastu ulaganja u tehnologije otporne na kvantna računala. Samo je 37 posto pogođenih organizacija navelo da šifrira osjetljive podatke i u mirovanju i tijekom prijenosa, dok tek 34 posto ima pregled nad svojom kriptografskom imovinom.

Udio prijavljenih ransomware incidenata porastao je s 34 na 39 posto, pri čemu napadači sve češće koriste umjetnu inteligenciju za automatizaciju i povećanje opsega napada. Iako operativni prekidi i dalje imaju važnu ulogu, napadači se sve više oslanjaju na pritiske s većim posljedicama. Najčešće iskorištavaju reputaciju brenda, u 41 posto slučajeva, zatim podatke zaposlenika, u 35 posto slučajeva, te intelektualno vlasništvo, u 31 posto slučajeva.

Najvažnija poruka IBM-ova izvješća jest da sigurnosni timovi više ne mogu odvajati zaštitu AI sustava od opće kibernetičke otpornosti organizacije. AI modeli ovise o API-jima, dodacima, podatkovnim cjevovodima, oblaku i identitetima, pa napadači često ne pokušavaju probiti sam model nego slabije zaštićenu okolnu infrastrukturu. Zbog toga inventar AI aplikacija, modela, podatkovnih izvora i strojnih identiteta mora postati dio redovitog upravljanja imovinom. Posebno je važno uvesti stroga pravila za ovlasti agenata jer autonomni sustavi mogu u vrlo kratkom vremenu izvršiti velik broj radnji. Sigurnosni agenti trebaju imati najmanje potrebne privilegije, jasne granice djelovanja, detaljne zapise aktivnosti i mogućnost trenutačnog zaustavljanja.

Upravljanje ranjivostima mora se povezati s razvojnim procesima kako bi se kritični propusti sanirali prije nego što dospiju u produkciju. Organizacije također trebaju provoditi redovite simulacije incidenata koje uključuju deepfake prijevare, krađu identiteta i zlouporabu generativnih modela. NIST i druge sigurnosne institucije naglašavaju važnost kontinuirane provjere identiteta, segmentacije sustava i zaštite podataka tijekom cijelog životnog ciklusa. Kriptografski inventar postaje posebno važan zbog postupnog prelaska na algoritme otporne na buduće kvantne napade. Za kritičnu infrastrukturu nužni su odvojeni sigurnosni slojevi koji sprječavaju da jedan kompromitirani sustav izazove prekid šire mreže usluga. Ulaganje u AI obranu donosi najveću vrijednost kada skraćuje vrijeme od otkrivanja do sanacije, a ne samo kada proizvodi više upozorenja. Organizacije koje istodobno moderniziraju identitete, automatiziraju odgovor i uvode mjerljive planove oporavka bit će bolje pripremljene za novu ekonomiku kibernetičkih napada.