Ovisnost o digitalnim sustavima postaje najveći sigurnosni izazov, a generativna umjetna inteligencija ubrzava prijetnje, ali i jača obranu

Kibernetička sigurnost ulazi u novu fazu u kojoj umjetna inteligencija više nije samo alat obrane, nego i snažan akcelerator prijetnji. Upravo na to upozorava Mikko Hyppönen, jedan od najpoznatijih svjetskih stručnjaka za kibernetičku sigurnost, koji već više od tri desetljeća prati razvoj digitalnog kriminala, tehnoloških prijetnji i sistemskih rizika.

Njegova je ocjena da generativna umjetna inteligencija ne uvodi nužno potpuno nove oblike napada, ali bitno mijenja brzinu, uvjerljivost i doseg postojećih metoda. To se osobito vidi u phishingu i društvenom inženjeringu, gdje napadači uz pomoć AI-ja mogu stvarati uvjerljive, lokalizirane i personalizirane poruke u velikom opsegu. Time se dodatno smanjuje vrijednost klasičnih modela osvještavanja korisnika, dok raste važnost autentifikacije otporne na phishing, zaštite identiteta i stalnog praćenja anomalija.

Istodobno, Hyppönen smatra da umjetna inteligencija donosi i snažne koristi obrani, osobito u obradi golemih količina telemetrije, detekciji anomalija i bržoj trijaži sigurnosnih incidenata. Posebno je zanimljivo da njegov današnji rad u Sensofusionu dodatno širi sigurnosnu perspektivu prema fizičkoj zaštiti i sustavima za borbu protiv dronova.

U tom kontekstu upozorava da bespilotne letjelice, osobito autonomne i one koje djeluju koordinirano, postaju sve ozbiljniji izazov za zaštitu kritičnih lokacija i infrastrukture. Zato budućnost sigurnosti vidi u povezivanju kibernetičke i fizičke zaštite, uz oslanjanje na višesenzorsku fuziju podataka, brzu klasifikaciju prijetnji i integrirani odgovor. Njegova je ključna poruka jasna: u vremenu rastuće ovisnosti o digitalnim ekosustavima otpornost više nije samo tehničko pitanje, nego operativna sposobnost organizacije da funkcionira i kada sustavi počnu zakazivati.

Kako se razvoj kibernetičkih prijetnji mijenja u eri generativne umjetne inteligencije i što to znači za globalnu sigurnost?

Generativna umjetna inteligencija ne stvara potpuno nove kategorije kibernetičkog kriminala, ali mijenja brzinu postojećih. Napadači sada mogu brzo proizvoditi uvjerljiv sadržaj, višejezične mamce i prilagođene izgovore te ih kontinuirano unaprjeđivati na temelju onoga što prolazi bolje. To smanjuje trošak kompetencija i povećava broj vjerodostojnih napadača.

Druga promjena odnosi se na kvalitetu. Društveni inženjering izravno profitira jer su jezik i prezentacija oduvijek bili najslabija točka ljudske obrane. Kada prosječna phishing poruka zvuči kao nešto što bi napisao stvarni kolega, klasične edukacije o sigurnosnoj osviještenosti gube dio svoje učinkovitosti.

Za globalnu sigurnost to znači dvije stvari. Prvo, svakodnevne kriminalne operacije postaju industrijaliziranije i međunarodne. Drugo, operacije utjecaja i špijunaže povezane s državnim akterima mogu se provoditi bržim tempom i s manje ljudskih resursa.

Kako integracija umjetne inteligencije u sigurnosne sustave mijenja obrambene strategije protiv sofisticiranih napadača i aktera pod pokroviteljstvom država?

U obrani, umjetna inteligencija najveću vrijednost donosi ondje gdje ljudi imaju ograničenja: telemetriji velikog volumena, detekciji anomalija i brzoj trijaži. Ako se pravilno primjenjuje, skraćuje vrijeme otkrivanja i vrijeme reagiranja, posebno u velikim okruženjima gdje signali guše analitičare.

Optimist sam kada je riječ o umjetnoj inteligenciji. Smatram da AI trenutačno donosi više koristi nego štete u području kibernetičke sigurnosti.

Kako generativni modeli omogućuju bržu automatizaciju napada, poput phishinga i društvenog inženjeringa, te koje obrambene mjere postaju ključne?

Generativni modeli ubrzavaju fazu „prije napada”: istraživanje, odabir mete, pisanje, prevođenje i personalizaciju. Napadači mogu generirati stotine varijanti napada, prilagoditi ih lokalnom jeziku i kulturi te brzo oponašati interni ton komunikacije. Čak i kada je temeljna tehnika jednostavna, stopa uspješnosti može porasti jer poruka djeluje autentično.

Ključne obrambene mjere sve se više usmjeravaju na kontrole koje smanjuju vrijednost uvjeravanja:

-Autentifikacija lozinkom i druge metode autentifikacije otporne na phishing

-Zaštita e-pošte i identiteta te stroge kontrole pravila poštanskog sandučića i prosljeđivanja

-Izvan-kanalna provjera za visokorizične radnje, poput promjena podataka za plaćanje ili resetiranja vjerodajnica

-Kontinuirano praćenje anomalnog ponašanja

Kakvu će ulogu imati sustavi za borbu protiv dronova i bespilotnih letjelica u budućoj sigurnosnoj infrastrukturi, posebno u kontekstu autonomnih prijetnji potaknutih umjetnom inteligencijom?

Zaštita od dronova prelazi iz nišne sposobnosti u standardni sloj fizičke sigurnosti kritičnih lokacija. Dronovi su jeftini, lako dostupni i prilagodljivi, a autonomija i koordinirano djelovanje u rojevima čine ih složenim sigurnosnim izazovom.

S porastom autonomije, detekcija i klasifikacija postaju ključni izazovi. Prijetnju je potrebno prepoznati rano, smanjiti broj lažno pozitivnih uzbuna i brzo donijeti odluku. To ide u prilog fuziji više senzora,gdje se radarski, RF, optički, audio, toplinski i drugi senzori međusobno nadopunjuju. To nas dovodi do fuzije senzora (po kojoj smo nazvali našu tvrtku).

S obzirom na Vaš prelazak na Sensofusion i Vaš rad na sustavima protiv bespilotnih letjelica, vjerujete li da ćemo do 2026. konačno prestati promatrati kibernetičku i fizičku sigurnost kao odvojene domene i koji su najveći rizici za kritičnu infrastrukturu kada se ti svjetovi spoje?

Mnoge organizacije razumiju koncept objedinjavanja kibernetičke i fizičke sigurnosti, ali i dalje djeluju u silosima, najčešće zbog financijskih i organizacijskih ograničenja.

Iz moje perspektive rada u Sensofusionu, ključno je da se sigurnost projektira kroz sve domene. Nije dovoljno zaštititi mreže ako se fizički sloj senzora može lažirati, ometati ili zaslijepiti. Također, nije dovoljno osigurati fizički perimetar ako su mreže iza njega ranjive.

Kako organizacije mogu izgraditi otpornost na sistemske tehnološke rizike koji proizlaze iz kombinacije kibernetičkih ranjivosti, umjetne inteligencije i sve veće ovisnosti o digitalnim ekosustavima?

Otpornost započinje prihvaćanjem činjenice da ovisnost sama po sebi predstavlja sigurnosni rizik. Organizacije bi trebale mapirati svoje ključne digitalne ovisnosti, uključujući cloud usluge, pružatelje identitetskih rješenja, pružatelje modela umjetne inteligencije, nadogradnje kanala i ključne dobavljače, te planirati scenarije djelomičnog zakazivanja sustava. Pitanje nije "Hoće li zakazati?", već "Kako ćemo djelovati kada zakaže?"

Ulažite u ljude i procese koji mogu funkcionirati u uvjetima dvosmislenosti. Sistemski rizik nije samo tehnički. On je operativni. Organizacije koje primjenjuju koordinirani odgovor na incidente brže se oporavljaju.