AI će do 2028. pokretati polovinu napora u odgovoru na kibernetičke incidente

Prema Gartneru, do 2028. godine 50 posto svih napora poduzeća u odgovoru na kibernetičke incidente bit će usmjereno na incidente koji uključuju posebno izrađene AI aplikacije. Ta analitička i tehnološka tvrtka preporučuje da se sigurnosni lideri uključe rano u projekte izrade vlastitih AI aplikacija kako bi se osiguralo dovoljno vremena, planirali resursi i uskladila očekivanja za odgovarajuće sigurnosne kontrole.

“AI se brzo razvija, no mnogi alati, osobito posebno izrađene AI aplikacije, uvode se prije nego što su potpuno testirani. Ti su sustavi složeni, dinamični i teško ih je dugoročno osiguravati. Većina sigurnosnih timova i dalje nema jasne procese za rješavanje incidenata povezanih s AI-jem, što znači da se problemi mogu rješavati dulje i zahtijevati znatno više napora”, rekao je Christopher Mixter, potpredsjednik i analitičar u Gartneru.

Gartner preporučuje voditeljima kibernetičke sigurnosti da ove prognoze uključe u svoje sigurnosne strategije tijekom sljedeće dvije godine.

Do 2028. više od 50 posto poduzeća koristit će platforme za sigurnost umjetne inteligencije kako bi zaštitilo korištenje AI usluga trećih strana i posebno izrađene AI aplikacije. Takve platforme organizacijama daju objedinjeni način upravljanja novim rizicima povezanim s brzim prihvaćanjem AI-ja, uključujući prompt injection, zlouporabu podataka i druge prijetnje. Centraliziranjem vidljivosti i kontrole te platforme pomažu CISO-ima u provođenju pravila korištenja, nadzoru AI aktivnosti i primjeni dosljednih sigurnosnih ograda kroz aplikacije trećih strana i vlastite AI aplikacije. Sigurnosni lideri moraju procijeniti mogu li te platforme zaštititi oba oblika aplikacija.

Do 2030. godine 33 posto IT posla bit će potrošeno na sanaciju duga podataka kako bi se osigurao AI. Podaci većine organizacija nisu spremni za AI, a slabo zaštićeni i nestrukturirani podaci velika su prepreka prihvaćanju umjetne inteligencije. Kao odgovor, voditelji kibernetičke sigurnosti proširuju sprječavanje gubitka podataka kako bi nadzirali i ograničili tokove podataka koje pokreću GenAI i agentski AI pristupi podacima i zahtjevi za pristup. Gartner preporučuje suradnju s voditeljima za podatke, analitiku i AI kako bi se definirao strukturirani program otkrivanja, procjene i sanacije kontrole pristupa podacima.

Do 2027. ručni postupci usklađivanja s pravilima o AI-ju izložit će 75 posto reguliranih organizacija kaznama koje premašuju 5 posto njihova globalnog prihoda. Unatoč različitim globalnim regulatornim pristupima, propisi o AI-ju približavaju se univerzalnom zahtjevu za sustavnim upravljanjem rizikom. Čak i ako CISO-i mogu pratiti propise i standarde u području sigurnosti, privatnosti i kibernetičkog rizika, novi propisi o sigurnosti AI-ja otvaraju dodatna pitanja. Za veći uspjeh Gartner preporučuje uspostavu kibernetičkog upravljanja, rizika i usklađenosti te tehnološko omogućavanje usklađivanja.

Do 2027. godine 30 posto organizacija zahtijevat će sveobuhvatnu suverenost svojih sigurnosnih kontrola u oblaku kako bi odgovorile na nastavak geopolitičkih previranja. Geopolitička nestabilnost i lokalni propisi stvaraju teško održive rizike za podatke, zbog čega mnoge organizacije moraju uključiti suverenost u svoj pristup kibernetičkoj otpornosti. To će zahtijevati promjene u odabiru dobavljača za ponude povezane s oblakom i u prioritetima kako zahtjevi za georepatrijacijom budu jačali. Voditelji kibernetičke sigurnosti moraju aktivno sudjelovati u definiranju organizacijskih zahtjeva za suverenost, uključujući one koji proizlaze iz lokalnih propisa.

Do 2028. godine 70 posto CISO-a koristit će mogućnosti vidljivosti i inteligencije identiteta kako bi smanjili napadnu površinu u upravljanju identitetima i pristupom te smanjili rizik kompromitacije vjerodajnica. Identitet je postao primarna napadna površina jer organizacije teško upravljaju brzim rastom i složenošću ljudskih i strojnih identiteta. To ostavlja praznine u vidljivosti zbog izoliranih IAM alata i povećava rizik pogrešnih konfiguracija. Gartner preporučuje rješavanje tih slijepih točaka integriranjem objedinjenih, AI-pogonjenih platformi za vidljivost i inteligenciju identiteta kako bi se poboljšali detekcija i sanacija.

Ove Gartnerove prognoze pokazuju da se sigurnosni problem više ne nalazi samo na strani napadača koji koriste AI, nego i u samim AI sustavima koje organizacije ubrzano grade. Interni chatbotovi, agenti za automatizaciju procesa, alati za analizu dokumenata, kodni asistenti i modeli spojeni na poslovne baze podataka postaju nova aplikacijska površina koju klasični sigurnosni procesi često ne pokrivaju. Za CISO-e to znači da sigurnosna arhitektura mora obuhvatiti modele, podatkovne tokove, promptove, agente, API-je, prava pristupa i zapisivanje odluka sustava, a ne samo mrežu, krajnje uređaje i korisničke račune. Organizacije koje AI sigurnost ostave za kraj riskiraju da će naknadno popravljati sustave koji su već integrirani u poslovne procese, što je skuplje, sporije i regulatorno znatno osjetljivije.