UPRAVLJANJE AI-JEM

CIO i CTO direktori suočavaju se s rastućim jazom kontrole nad umjetnom inteligencijom

IBM-ovo istraživanje pokazuje da se AI u poduzećima širi brže nego što IT može pratiti i upravljati. Dvije trećine CIO i CTO direktora odgovorno je za sustave koje ne kontroliraju u potpunosti. Kako raste broj AI agenata, upravljanje, sigurnost i financijska kontrola postaju presudni za skaliranje.

CIO i CTO direktori suočavaju se s rastućim jazom kontrole nad umjetnom inteligencijom
Depositphotos / Ilustracija

Novo istraživanje IBM Institute for Business Value pokazuje da, kako umjetna inteligencija prelazi iz eksperimentiranja u široku primjenu na razini poduzeća, dvije trećine ispitanih CIO i CTO direktora prijavljuje da ih se smatra odgovornima za AI sustave koje ne kontroliraju u potpunosti, dok upravljanje teško drži korak sa skaliranjem. Globalno istraživanje provedeno među 2.000 tehnoloških direktora na C-razini pokazalo je da je manjak vidljivosti široko rasprostranjen. Većina ispitanih direktora, njih 70 posto, kaže da timovi u poslovanju uvode tehnologiju brže nego što IT to može pratiti.

Istodobno, tehnološki lideri suočavaju se s rastućim pritiskom da brže skaliraju AI, iako mnogima nedostaju strukture koje bi to poduprle. Do 2027. ispitanici očekuju rast broja implementiranih AI agenata od 38 posto. Iako 80 posto ispitanika navodi da imaju mandate za AI transformaciju koje pokreću izvršni direktori, samo 11 posto smatra da su potpuno spremni za razmjere uvođenja AI agenata koji se očekuju u idućoj godini. Upravljanje također zaostaje, pri čemu 77 posto ispitanih organizacija navodi da usvajanje AI-ja već nadmašuje postojeće mogućnosti upravljanja.

„Za CIO i CTO direktore izazov je sada skaliranje AI sustava koji rade kontinuirano i autonomno, često unutar modela upravljanja i arhitektura osmišljenih za znatno sporije i predvidljivije okruženje”, rekao je Matt Lyteson, CIO IBM-a. „Više nije riječ samo o bržem uvođenju umjetne inteligencije. Riječ je o redizajniranju načina na koji organizacije kontroliraju, upravljaju i ulažu u nju te o ugrađivanju kontrole i vidljivosti od samog početka, kako bi mogle skalirati s povjerenjem.”

Analiza pokazuje da u organizacijama koje se oslanjaju na ručno upravljanje rizik od incidenata raste kako se širi usvajanje AI-ja, dok one koje kontrolu ugrađuju izravno u svoje AI sustave bilježe 25 posto manje incidenata. Većina, odnosno 59 posto ispitanih tehnoloških direktora, navodi sigurnosne i usklađivačke brige kao glavne prepreke skaliranju AI agenata. Ispitane organizacije prošle su godine u prosjeku imale 54 incidenta povezana s AI agentima, odnosno nenamjerne ili štetne događaje koji su zahtijevali ljudsku intervenciju. Prema odgovorima ispitanika, 17 posto prijavljenih incidenata bilo je visoke ozbiljnosti i zahtijevalo više od četiri sata za obuzdavanje. Njih 37 posto rezultiralo je izlaganjem podataka ili sigurnosnim povredama, 33 posto izazvalo je kaskadne kvarove sustava, a 17 posto pokrenulo je probleme usklađenosti.

Očekuje se da će potrošnja na AI porasti s nešto manje od 15 posto IT proračuna u 2025. na gotovo 25 posto do 2027., što predstavlja rast od 71 posto u dvije godine i povećava uloge za CIO i CTO direktore. Ipak, 84 posto tehnoloških direktora nije u potpunosti operacionaliziralo financijsko upravljanje umjetnom inteligencijom, a 85 posto i dalje nema potpunu vidljivost u stvarnovremenu AI potrošnju. Analiza pokazuje da organizacije koje ugrađuju kontrolu u svoje AI sustave implementiraju 16 puta više AI agenata od onih koje se oslanjaju na ručno upravljanje, ostvaruju 18 posto veće operativne marže i troše četiri puta manji dio AI proračuna.

Organizacije sa snažnom financijskom disciplinom uvode 2,4 puta više AI agenata bez većeg udjela AI/IT proračuna i tri puta je vjerojatnije da će reći kako su potpuno spremne za AI skaliranje. Ispitane organizacije koje su rano dizajnirale prilagodljivost, održavajući radna opterećenja prenosivima i modele zamjenjivima umjesto zaključanima u čvrste ovisnosti, prijavile su 10 posto veći povrat na AI ulaganja u 2025.

IBM-ovo istraživanje jasno pokazuje da se uloga CIO-a i CTO-a mijenja iz upravljanja infrastrukturom prema upravljanju autonomnim digitalnim ponašanjem organizacije. AI agenti nisu obični softverski alati jer mogu inicirati radnje, povezivati se s podacima, koristiti vanjske sustave i donositi preporuke ili odluke koje imaju poslovne posljedice. Zbog toga tradicionalni modeli kontrole pristupa, koji su građeni za ljudske korisnike i statične aplikacije, često nisu dovoljni. Organizacije će morati razviti identitete za agente, ograničenja ovlasti, zapisivanje radnji, nadzor u stvarnom vremenu i mehanizme za brzo zaustavljanje pogrešnog ponašanja. Poseban problem postaje financijsko upravljanje jer AI potrošnja može brzo rasti kroz API pozive, računalne resurse, modele, podatkovne tokove i integracije.

Ako poslovni timovi uvode alate mimo IT-a, nastaje kombinacija sigurnosnog, pravnog i troškovnog rizika. Uspješno skaliranje AI-ja zato zahtijeva da upravljanje bude ugrađeno u arhitekturu, a ne dodano naknadno kroz politike na papiru. Visok broj prijavljenih incidenata pokazuje da se rizik već materijalizira, i to prije nego što su agenti postali potpuno uobičajeni. Tvrtke koje rano riješe vidljivost i kontrolu imat će prednost jer će moći brže uvoditi agente uz manji rizik. U suprotnom, AI transformacija može završiti kao nova varijanta nekontrolirane sjene IT-ja, samo s mnogo većim posljedicama.