AI agenti kao opasni "insideri" i prijevare u 15 minuta

Umjetna inteligencija sve se više koristi i u kibernetičkim napadima i u obrani informacijskih sustava, a među rastućim prijetnjama stručnjaci izdvajaju autonomne AI agente, zlonamjerne programe, deepfake tehnologiju i zlouporabu digitalnih identiteta.

O tim se temama raspravljalo na konferenciji Cyber Talks 2026: Building Digital Trust, održanoj u zagrebačkom Clubhouse Golfu u organizaciji KING ICT-a. Na konferenciji su sudjelovali stručnjaci KING ICT-a te predstavnici kompanija Palo Alto Networks, Trellix, Exabeam, Group-IB i Tanium.

"Umjetna inteligencija danas ne mijenja samo napadačke tehnike, već i same temelje obrambenih strategija. Zato smo se ove godine fokusirali na signale koje je najlakše previdjeti – sitne tragove koji na prvi pogled djeluju bezazleno, a mogu prerasti u ozbiljan incident. Suština moderne obrane je u prevenciji i ranoj detekciji: povezati te nepovezane informacije i reagirati prije nego što prijetnja postane kritičan problem", izjavio je Nino Talian, direktor divizije za kibernetičku sigurnost u KING ICT-u.

Jedna od tema bili su autonomni AI agenti koji se sve češće koriste u poslovnim procesima. Rose Stastny i Jacek Ferchmin iz Exabeama naveli su da 48 posto sigurnosnih lidera prekomjeran, kompromitiran ili nenamjeran pristup AI agenata smatra najvećom prijetnjom svojoj organizaciji. Problem može nastati kada AI agent s legitimnim ovlastima pogriješi, ali i kada ga napadači kompromitiraju i iskoriste za djelovanje unutar mreže.

O korištenju umjetne inteligencije u financijskim prijevarama govorio je Ivan Ivković iz Group-IB-a. Prema podacima predstavljenima na konferenciji, 40 posto pokušaja prijevara u financijskim institucijama Europske unije uključuje AI, dok 28 posto ukradenog novca napusti račun posrednika u roku od samo 15 minuta. Napadači pritom kombiniraju telefonske prijevare sa zlonamjernim programima, a deepfake tehnologija koristi se i za zaobilaženje provjera identiteta prilikom podnošenja zahtjeva za kredite.

Zlouporaba identiteta također postaje jedan od ključnih sigurnosnih problema. Tomislav Loparić iz Palo Alto Networksa pozvao se na podatke iz izvješća Unit 42 Global Incident Response, prema kojima je identitet imao ključnu ulogu u gotovo 90 posto napada pokretanih umjetnom inteligencijom. Uz korisničke i administratorske račune, kompanije danas moraju upravljati i sve većim brojem strojnih i AI identiteta.

Dodatni problem predstavlja nekontrolirano korištenje AI alata unutar kompanija. Mihai Olteanu iz Trellixa naveo je da samo 37 posto organizacija ima definirane postupke za provjeru sigurnosti AI alata prije njihove primjene. Unošenje poslovnih podataka, poput informacija o plaćama ili izvornog koda, u javno dostupne AI modele može dovesti do curenja povjerljivih informacija. Kao mjere zaštite istaknuti su kontrola pristupa podacima, enkripcija i edukacija zaposlenika.

Frederik Lusse iz Taniuma govorio je o potrebi nadzora uređaja povezanih s poslovnim mrežama. Istaknuo je da širenje uporabe umjetne inteligencije i sve složenija IT infrastruktura zahtijevaju mogućnost brzog otkrivanja i uklanjanja sigurnosnih prijetnji na uređajima koje koriste zaposlenici.

Sudionici konferencije raspravljali su i o razmjeni informacija između sigurnosnih stručnjaka te načinima ranog otkrivanja napada. Naglasak je bio na povezivanju podataka iz različitih izvora kako bi se potencijalne prijetnje mogle prepoznati prije nego što prerastu u ozbiljnije sigurnosne incidente.