Ovisnost o digitalnim sustavima postala je najveći sigurnosni izazov

Kibernetička sigurnost ulazi u novu fazu u kojoj umjetna inteligencija više nije samo alat obrane, nego i snažan akcelerator prijetnji. Na to upravo upozorava Mikko Hyppönen, jedan od najpoznatijih svjetskih stručnjaka za kibernetičku sigurnost, koji više od tri desetljeća prati razvoj digitalnog kriminala, tehnoloških prijetnji i sistemskih rizika. On procjenjuje da generativna umjetna inteligencija ne uvodi nužno potpuno nove oblike napada, ali značajno mijenja brzinu, uvjerljivost i doseg postojećih metoda.

To je posebno vidljivo u phishingu i socijalnom inženjeringu, gdje napadači mogu koristiti umjetnu inteligenciju za stvaranje uvjerljivih, lokaliziranih i personaliziranih poruka u velikom opsegu. Time se dodatno smanjuje vrijednost tradicionalnih modela podizanja svijesti korisnika, dok raste važnost autentikacije otporne na phishing, zaštite identiteta i kontinuiranog nadzora anomalija.

Istodobno, Hyppönen smatra da umjetna inteligencija donosi i snažne koristi za obranu, osobito u obradi golemih količina telemetrije, otkrivanju anomalija i bržoj trijaži sigurnosnih incidenata. Posebno je zanimljivo to što njegov sadašnji rad u Sensofusionu dodatno širi sigurnosnu perspektivu prema fizičkoj zaštiti i protudronskim sustavima. U tom kontekstu upozorava da bespilotne letjelice, osobito autonomne i one koje djeluju koordinirano, postaju sve ozbiljniji izazov za zaštitu kritičnih lokacija i infrastrukture.

Zato budućnost sigurnosti vidi u povezivanju kibernetičke i fizičke zaštite, oslonjene na višesenzorsku fuziju podataka, brzu klasifikaciju prijetnji i integrirani odgovor. Njegova ključna poruka je jasna: u vremenu sve veće ovisnosti o digitalnim ekosustavima, otpornost više nije samo tehničko pitanje, nego operativna sposobnost organizacije da nastavi funkcionirati čak i kada sustavi počnu otkazivati.

Kako se razvoj kibernetičkih prijetnji mijenja u eri generativne umjetne inteligencije i što to znači za globalnu sigurnost?

Generativna umjetna inteligencija ne stvara temeljno nove kategorije kibernetičkog kriminala, ali mijenja brzinu postojećih. Napadači sada mogu brzo proizvoditi uvjerljiv sadržaj, višejezične mamce i prilagođene izlike te se mogu brže prilagođavati na temelju onoga što prolazi. To smanjuje cijenu kompetencije i povećava broj vjerodostojnih napadača.

Druga promjena odnosi se na kvalitetu. Socijalni inženjering od toga ima izravnu korist jer su jezik i prezentacija oduvijek bili slaba točka ljudske obrane. Kada prosječan phishing e-mail izgleda kao nešto što bi napisao stvarni kolega, tradicionalna edukacija o podizanju svijesti gubi dio svojeg zaštitnog učinka.

Za globalnu sigurnost to znači dvije stvari. Prvo, svakodnevne kriminalne operacije postaju industrijaliziranije i sve više prekogranične. Drugo, operacije utjecaja i kampanje špijunaže povezane s državama mogu se odvijati bržim tempom i uz manje ljudskih operatera.

Kako integracija umjetne inteligencije u sigurnosne sustave mijenja obrambene strategije protiv sofisticiranih napadača i aktera koje podupiru države?

U obrani umjetna inteligencija postaje najvrjednija ondje gdje ljudi imaju najviše poteškoća: u telemetriji velikog opsega, otkrivanju anomalija i brzoj trijaži. Ako se dobro koristi, skraćuje vrijeme potrebno za otkrivanje i vrijeme potrebno za odgovor, osobito u velikim okruženjima u kojima signali zatrpavaju analitičare. Optimist sam kad je riječ o umjetnoj inteligenciji. Mislim da umjetna inteligencija trenutačno donosi više dobra nego štete za kibernetičku sigurnost.

Kako generativni modeli omogućuju bržu automatizaciju napada, poput phishinga i socijalnog inženjeringa, i koje obrambene mjere postaju ključne?

Generativni modeli ubrzavaju fazu prije samog napada: istraživanje, ciljanje, pisanje, prevođenje i personalizaciju. Napadači mogu generirati stotine varijanti napada, prilagoditi se lokalnom jeziku i kulturi te brzo oponašati interni ton komunikacije. Čak i kada je temeljna tehnika jednostavna, stopa uspješnosti može rasti jer poruka djeluje autentično.

Ključne obrambene mjere pomiču se prema kontrolama koje smanjuju vrijednost uvjeravanja. To uključuje autentikaciju putem passkeya i druge metode autentikacije otporne na phishing, dodatno učvršćivanje e-pošte i identiteta te stroge kontrole pravila poštanskih sandučića i prosljeđivanja, verifikaciju izvan primarnog kanala za visokorizične radnje kao što su promjene podataka za plaćanje ili resetiranje vjerodajnica, kao i kontinuirani nadzor anomalnog ponašanja.

Kakvu će ulogu protudronski i counter-UAS sustavi imati u budućoj sigurnosnoj infrastrukturi, osobito u kontekstu autonomnih prijetnji vođenih umjetnom inteligencijom?

Zaštita od dronova prelazi iz nišne sposobnosti u standardni sloj fizičke sigurnosti za kritične lokacije. Dronovi su jeftini, dostupni i prilagodljivi, a autonomija i djelovanje u rojevima pretvaraju ih u složen problem. Kako autonomija raste, otkrivanje i klasifikacija postaju središnji izazov. Prijetnju treba prepoznati rano, smanjiti broj lažno pozitivnih signala i brzo donijeti odluku. To pogoduje višesenzorskoj fuziji, u kojoj se radar, RF, optički, audio, termalni i drugi senzori međusobno nadopunjuju. To nas dovodi do fuzije senzora, po kojoj smo i nazvali svoju tvrtku.

S obzirom na vaš prijelaz u Sensofusion i rad na counter-UAS sustavima, vjerujete li da ćemo do 2026. napokon prestati promatrati kibernetičku i fizičku sigurnost kao odvojene domene i koji su najveći rizici za kritičnu infrastrukturu kada se ti svjetovi spoje?

Mnoge organizacije razumiju koncept spajanja kibernetičke i fizičke sigurnosti u jednu cjelinu, ali i dalje rade u silosima, među ostalim zbog proračuna i sličnih razloga.

Iz moje perspektive rada u Sensofusionu, pouka je da sigurnost mora biti projektirana kroz više domena. Nije dovoljno osigurati mreže ako se fizički sloj senzora može lažirati, ometati ili zaslijepiti. Isto tako, nije dovoljno osigurati fizički perimetar ako su mreže iza njega ranjive.

Kako organizacije mogu izgraditi otpornost na sistemske tehnološke rizike koji proizlaze iz kombinacije kibernetičkih ranjivosti, umjetne inteligencije i sve veće ovisnosti o digitalnim ekosustavima?

Otpornost počinje prihvaćanjem činjenice da je ovisnost sigurnosni rizik. Organizacije trebaju mapirati kritične digitalne ovisnosti, uključujući usluge u oblaku, pružatelje identiteta, pružatelje modela, kanale nadogradnje i ključne dobavljače, a zatim planirati djelomični otkaz. Pitanje nije hoće li nešto otkazati, nego kako ćemo raditi kada se to dogodi.

Treba ulagati u ljude i procese koji mogu djelovati u uvjetima neizvjesnosti. Sistemski rizik nije samo tehnički. On je operativan. Organizacije koje uvježbavaju koordinirani odgovor brže se oporavljaju.

ENISA u izvješću Threat Landscape 2025 upozorava da su veliki jezični modeli postali važan alat za unaprjeđenje phishinga i automatizaciju socijalnog inženjeringa te navodi da su do početka 2025. kampanje podržane umjetnom inteligencijom činile više od 80 posto opaženih aktivnosti socijalnog inženjeringa u svijetu. 

NIST je u srpnju 2025. u smjernici SP 800-63B-4 propisao da verifikatori na razini AAL2 moraju ponuditi barem jednu opciju autentikacije otpornu na phishing, dok AAL3 zahtijeva kriptografski autentikator s neizvoznim privatnim ključem i ugrađenom otpornošću na phishing. CISA je tijekom 2025. dodatno naglašavala važnost phishing-resistant višefaktorske autentikacije kroz obvezne sigurnosne konfiguracije za cloud servise i FISMA metrike koje posebno prate provedbu takvih metoda. To potvrđuje da se obrana više ne može temeljiti samo na edukaciji korisnika, nego i na arhitekturi identiteta. 

Europol je u procjeni SOCTA 2025 naveo da kriminalne mreže koriste umjetnu inteligenciju za automatizaciju napada, socijalni inženjering i zaobilaženje sigurnosnih mjera, čime kibernetički napadi postaju skalabilniji i učinkovitiji. U isto vrijeme NIST u svojim smjernicama za digitalni identitet naglašava procjenu utjecaja na poslovne operacije, druge organizacije i privatnost, što pokazuje pomak od usko tehničkog pogleda prema operativnoj otpornosti. 

Na fizičkoj strani prijetnji, DHS je početkom 2026. objavio osnivanje novog ureda za bržu nabavu i raspoređivanje dronova i protudronskih tehnologija, što pokazuje koliko je prijetnja bespilotnih sustava postala strateška. CISA je krajem 2025. objavila nove vodiče za zaštitu kritične infrastrukture od UAS prijetnji, uključujući smjernice za odabir tehnologija za detekciju bespilotnih sustava. Takve smjernice posebno su važne jer suvremeni sustavi zaštite sve više ovise o kombinaciji radara, RF detekcije, optike, termalnih senzora i analitike. 

Za organizacije to znači da moraju mapirati ovisnosti o oblaku, identitetskim pružateljima, kanalima nadogradnji i ključnim dobavljačima te unaprijed uvježbati rad u uvjetima djelomičnog otkaza. Otpornost se zato sve manje mjeri samim sprječavanjem proboja, a sve više sposobnošću da poslovanje, sigurnost ljudi i kontinuitet usluga opstanu i kada digitalni i fizički slojevi sustava istodobno trpe poremećaj.