Umjetna inteligencija do 2028. ugasit će nacionalnu kritičnu infrastrukturu u jednoj zemlji G20

Gartner predviđa da će do 2028. pogrešno konfigurirana umjetna inteligencija u kibernetičko-fizičkim sustavima ugasiti nacionalnu kritičnu infrastrukturu u jednoj zemlji G20. Siguran način nadjačavanja rada AI sustava koji podupiru nacionalnu kritičnu infrastrukturu ključan je kako bi konačna kontrola ostala u rukama ljudi.

"Sljedeći veliki infrastrukturni kvar možda neće uzrokovati hakeri ni prirodne katastrofe, nego dobronamjerni inženjer, pogrešna skripta za nadogradnju ili krivo postavljena decimala", rekao je Wam Voster, potpredsjednik analitičara u Gartneru. "Siguran 'kill-switch' ili način nadjačavanja rada kojem mogu pristupiti samo ovlašteni operateri nužan je za zaštitu nacionalne infrastrukture od nenamjernih gašenja uzrokovanih pogrešnom konfiguracijom AI-ja."

Pogrešno konfigurirana umjetna inteligencija može autonomno ugasiti vitalne usluge, pogrešno protumačiti podatke sa senzora ili potaknuti nesigurne radnje. To može rezultirati fizičkom štetom ili velikim prekidom usluga te predstavlja izravnu prijetnju javnoj sigurnosti i gospodarskoj stabilnosti jer kompromitira kontrolu nad ključnim sustavima poput elektroenergetskih mreža ili proizvodnih postrojenja.

"Moderni AI modeli toliko su složeni da često nalikuju 'crnim kutijama'", rekao je Voster. "Čak ni njihovi razvojni timovi ne mogu uvijek predvidjeti kako će male promjene u konfiguraciji utjecati na emergentno ponašanje modela. Što su ti sustavi neprozirniji, to je veći i rizik koji proizlazi iz pogrešne konfiguracije. Zbog toga je još važnije da ljudi mogu intervenirati kada je to potrebno."

Kako bi se rizici ublažili, Gartner preporučuje da glavni direktori za informacijsku sigurnost uvedu sigurne načine nadjačavanja rada sustava i izrade digitalne blizance. Razvoj cjelovitog digitalnog blizanca sustava koji podupiru kritičnu infrastrukturu ključan je za realistično testiranje nadogradnji i promjena konfiguracije prije puštanja u rad. Kompanije bi također trebale propisati nadzor u stvarnom vremenu s mehanizmima povrata za promjene na AI-ju u kibernetičko-fizičkim sustavima te osigurati uspostavu nacionalnih timova za odgovor na AI incidente.

Gartnerovo upozorenje uklapa se u širi zaokret regulatora i sigurnosnih agencija prema puno strožem upravljanju umjetnom inteligencijom u operativnim okruženjima. Američki NIST u travnju je pokrenuo razvoj posebnog profila svog AI okvira za upravljanje rizicima upravo za kritičnu infrastrukturu, s naglaskom na pouzdanost, otpornost i upravljanje rizicima kroz cijeli životni ciklus sustava.

Krajem 2025. CISA i međunarodni partneri objavili su zajedničke smjernice za sigurnu integraciju AI-ja u operativnu tehnologiju, a među ključnim preporukama istaknuti su ljudski nadzor, kontinuirana validacija modela i jasno definirani pragovi za povratak na ne-AI način rada. Takve preporuke pokazuju da se pitanje više ne svodi samo na kibernetičku zaštitu, nego i na funkcionalnu sigurnost u okruženjima u kojima softver upravlja fizičkim procesima.

Poseban je problem to što se AI sve češće uvodi u sustave koji su građeni za dug radni vijek i nisu projektirani za česte, složene promjene modela. U praksi to znači da će operatori energetike, industrije, prometa i komunalne infrastrukture morati graditi nove procedure testiranja, odobravanja i kriznog preuzimanja kontrole. Digitalni blizanci pritom postaju važni jer omogućuju simuliranje kvarova bez rizika za stvarni sustav.

Još je važnije da incident response više neće biti dovoljan samo za klasične kibernetičke napade, nego i za pogreške modela, loše podatke i pogrešne konfiguracije. Upravo zato se AI u kritičnoj infrastrukturi sve više tretira kao sigurnosno, operativno i regulatorno pitanje u isto vrijeme. Tko taj prijelaz shvati prekasno, mogao bi se suočiti s kvarovima koji nastaju bez ijednog napadača, ali sa stvarnim posljedicama za cijelu državu.