NOVO ISTRAŽIVANJE

Više od polovice rukovoditelja za sigurnost najmanje je spremno na napade na AI sustave

Ako žele unaprijediti obranu od kibernetičkih prijetnji, organizacije moraju sigurnost integrirati u procese donošenja odluka na razini najvišeg menadžmenta.

Više od polovice rukovoditelja za sigurnost najmanje je spremno na napade na AI sustave

Organizacije dodatno povećavaju ulaganja u kibernetičku sigurnost uslijed ubrzanog razvoja umjetne inteligencije, pri čemu više od četiri petine, odnosno 84 posto rukovoditelja zaduženih za sigurnost i financije očekuje rast proračuna, u odnosu na 78 posto prošle godine, pokazuje PwC-ovo istraživanje Global Digital Trust Insights 2027.

U istraživanju je sudjelovalo gotovo 4000 poslovnih i tehnoloških rukovoditelja iz 71 zemlje i teritorija, a gotovo dvije trećine, odnosno 58 posto rukovoditelja zaduženih za sigurnost svrstava umjetnu inteligenciju među svoje najvažnije prioritete za ulaganja tijekom nadolazeće godine.

Istodobno, manje od dvije petine, odnosno 39 posto rukovoditelja zaduženih za sigurnost, upravljanje rizicima i operativno poslovanje ima u potpunosti formaliziran i integriran plan kontinuiteta poslovanja koji posebno obuhvaća kibernetičke rizike. Na pitanje o prijetnjama za koje su organizacije najmanje spremne, polovica, odnosno 50 posto rukovoditelja zaduženih za sigurnost među najveće prijetnje ubraja napade usmjerene na AI sustave, ispred prijetnji povezanih s računalstvom u oblaku koje navodi 40 posto, povreda sigurnosti kod trećih strana koje navodi 34 posto i ransomware napada koje navodi 33 posto.

Ako žele unaprijediti obranu od kibernetičkih prijetnji, organizacije moraju sigurnost integrirati u procese donošenja odluka na razini najvišeg menadžmenta. Unatoč rastućim ranjivostima povezanima s naprednim AI modelima, kompanije su u prosjeku implementirale samo tri od sedam ključnih mjera za upravljanje rizicima povezanima s podacima, dok samo pet posto ispitanika navodi da je u potpunosti implementiralo sve obuhvaćene mjere, što je manje za sedam posto u odnosu na prošlu godinu.

Iako trećina, odnosno 33 posto glavnih izvršnih direktora te rukovoditelja zaduženih za sigurnost i upravljanje rizicima navodi da njihove organizacije imaju uspostavljene posebne funkcije i odgovornosti vezane uz umjetnu inteligenciju, poput glavnog direktora za umjetnu inteligenciju ili AI odbora, manje od polovice ispitanika u potpunosti se slaže da je kibernetički rizik stalna tema dnevnog reda na razini nadzornog ili upravnog odbora, odnosno 47 posto, te izvršnog menadžmenta, odnosno 45 posto.

Kako se kibernetički napadi odvijaju brže nego što ljudi mogu reagirati, umjetna inteligencija postaje ključan alat za povećanje učinkovitosti sigurnosnih timova, iako je razina povjerenja i dalje niska, osobito kod korištenja autonomnih AI agenata. To potvrđuje činjenica da kompromitiranje putem autonomnih botneta koje navodi 53 posto, manipulativni napadi na AI modele koje navodi 52 posto te trovanje podataka koje navodi 52 posto spadaju među AI-potpomognute napade na koje se rukovoditelji osjećaju najmanje spremnima odgovoriti.

Iako rukovoditelji među najvažnija područja primjene umjetne inteligencije u obrani svrstavaju otkrivanje prijetnji i upozoravanje na njih sa 50 posto te otkrivanje i odgovor na phishing napade s 42 posto, tek otprilike petina ispitanika, odnosno 22 posto, odobrila bi potpuno autonomno djelovanje AI agenata u svrhu kibernetičke obrane. Brz napredak donosi dodatne izazove jer više od polovice ispitanika, odnosno 55 posto, pouzdanost i tehnološku zrelost AI rješenja svrstava među tri najveće prepreke povećanju autonomije, njih 46 posto ističe pitanje odgovornosti i razumijevanja načina na koji AI donosi odluke, dok gotovo polovica glavnih direktora za informacijsku sigurnost, odnosno 44 posto, navodi nedostatak znanja i vještina zaposlenika za nadzor i upravljanje.

Dok se organizacije suočavaju s novom generacijom rizika, više od polovice, odnosno 54 posto rukovoditelja zaduženih za sigurnost i upravljanje rizicima uvodi multi-cloud strategije ili strategije hibridnog oblaka, dok drugi jačaju regionalnu redundantnost podataka i tehnologije sa 47 posto te smještaju infrastrukturu unutar određenih jurisdikcija sa 37 posto kako bi smanjili rizik ovisnosti o jednom pružatelju usluga ili lokaciji. Kako geopolitičke okolnosti sve značajnije oblikuju kibernetički rizik, polovica ispitanika, odnosno 50 posto, prilagođava upravljanje rizicima povezanima s dobavljačima, trećim stranama i opskrbnim lancima.

Uz rastuću važnost ulaganja, dio organizacija angažira pružatelje upravljanih usluga kako bi nadoknadili nedostatak stručnjaka, pri čemu je umjetna inteligencija s 53 posto područje na koje se najviše usmjeravaju. Žele li zaštititi poslovanje od sve složenijih prijetnji, organizacije trebaju ojačati upravljanje kibernetičkom sigurnošću i odgovornost, zaštititi ključne poslovne operacije i povećati otpornost, osigurati podatke i sustave umjetne inteligencije, upravljati rizicima unutar ekosustava i kod trećih strana, koristiti pouzdanu tehnologiju i podatke te uspostaviti model koji omogućuje učinkovito korištenje agenata za obranu od napada koje pokreću autonomni agenti.