Kritične slijepe točke generativne umjetne inteligencije koje CIO-ovi moraju hitno adresirati

Gartner je identificirao ključne slijepe točke koje proizlaze iz zanemarenih rizika i neželjenih posljedica uvođenja generativne umjetne inteligencije. Glavni informacijski direktori moraju proaktivno pristupiti tim skrivenim izazovima kako bi osigurali stvarnu poslovnu vrijednost GenAI rješenja i izbjegli neuspjeh AI projekata.

„Tehnologije i tehnike generativne umjetne inteligencije razvijaju se brzinom bez presedana, a taj tempo prati i snažan hype, što CIO-ovima otežava snalaženje u ovom dinamičnom okruženju“, izjavio je Arun Chandrasekaran, Distinguished VP analitičar u Gartneru.

Dok se organizacije često usredotočuju na neposredne izazove GenAI-ja, poput poslovne vrijednosti, sigurnosti i spremnosti podataka, pritom mogu zanemariti kritične slijepe točke jer je riječ o učincima drugog i trećeg reda koji nisu odmah vidljivi. Rizici poput shadow AI-ja, tehničkog duga, erozije vještina, zahtjeva za podatkovnim suverenitetom, problema interoperabilnosti i ovisnosti o dobavljačima predstavljaju skrivene struje koje mogu narušiti dugoročan uspjeh.

Gartner predviđa da će do 2030. upravo te slijepe točke postati jasna linija razdvajanja između poduzeća koja umjetnu inteligenciju skaliraju sigurno i strateški te onih koja će ostati zarobljena, zaostati ili se suočiti s internim poremećajima. Kako bi ostali konkurentni i otporni, CIO-ovi moraju istodobno adresirati vidljive izazove i skrivene rizike povezane s usvajanjem GenAI-ja te dati prioritet sljedećim područjima.

Prema dodatnim analizama Gartnera i drugim industrijskim procjenama, globalna ulaganja u umjetnu inteligenciju nastavljaju snažno rasti, pri čemu generativna umjetna inteligencija postaje ključni dio digitalnih transformacija u financijama, proizvodnji, zdravstvu i javnoj upravi. Istodobno, regulatorni okviri poput europskog AI Acta uvode strože zahtjeve za transparentnost, upravljanje rizicima i odgovornost, što dodatno komplicira implementaciju rješenja na razini velikih organizacija.

Povećana upotreba cloud infrastrukture i modela umjetne inteligencije kao usluge dodatno otvara pitanja zaštite podataka i usklađenosti s lokalnim zakonodavstvom. Analitičari upozoravaju da će organizacije koje ne uspostave jasne okvire upravljanja AI-jem riskirati fragmentaciju sustava i nekontrolirani rast troškova. Paralelno se razvijaju i specijalizirani alati za upravljanje modelima, praćenje performansi i nadzor nad etičkim aspektima primjene umjetne inteligencije.

Velike tehnološke kompanije intenzivno ulažu u razvoj vlastitih GenAI platformi, čime se dodatno pojačava rizik ovisnosti o zatvorenim ekosustavima. U takvom okruženju CIO-ovi preuzimaju stratešku ulogu u balansiranju inovacija i upravljanja rizicima.

Dugoročna konkurentnost ovisit će o sposobnosti organizacija da GenAI integriraju u postojeće procese bez stvaranja dodatne kompleksnosti. Poseban naglasak stavlja se na razvoj internih kompetencija i multidisciplinarnih timova koji mogu nadzirati životni ciklus AI rješenja. Samo sustavnim pristupom upravljanju tehnologijom i rizicima moguće je ostvariti održivu vrijednost generativne umjetne inteligencije.

Eksplozija shadow AI-ja

Istraživanje Gartnera provedeno među 302 čelnika za kibernetičku sigurnost u razdoblju od ožujka do svibnja 2025. pokazalo je da 69 posto organizacija sumnja ili ima dokaze da zaposlenici koriste zabranjene javne GenAI alate. Brzo širenje neodobrenih AI rješenja može dovesti do vidljivih i nevidljivih posljedica, uključujući gubitak intelektualnog vlasništva, izlaganje podataka i povećane sigurnosne rizike. Gartner predviđa da će do 2030. više od 40 posto poduzeća doživjeti sigurnosne ili regulatorne incidente povezane s neovlaštenim shadow AI-jem. Kako bi ublažili te rizike, CIO-ovi bi trebali definirati jasne organizacijske politike korištenja AI alata, provoditi redovite revizije aktivnosti povezanih sa shadow AI-jem te u procese evaluacije SaaS rješenja uključiti procjenu GenAI rizika.

„Tehnički dug“ umjetne inteligencije

Gartner predviđa da će se do 2030. polovica poduzeća suočiti s odgodama nadogradnji AI sustava i/ili rastućim troškovima održavanja zbog neadekvatno upravljanog tehničkog duga generativne umjetne inteligencije. Iako su organizacije oduševljene brzinom isporuke koju GenAI omogućuje, visoki troškovi održavanja, ispravljanja ili zamjene AI-generiranih artefakata poput koda, sadržaja i dizajna mogu značajno smanjiti očekivani povrat ulaganja. Uspostavom jasnih standarda za pregled i dokumentiranje AI-generiranih resursa te praćenjem pokazatelja tehničkog duga kroz IT nadzorne ploče, poduzeća mogu proaktivno spriječiti skupe poremećaje.

Rastući zahtjevi za podatkovnim i AI suverenitetom

Gartner procjenjuje da će do 2028. godine 65 posto vlada diljem svijeta uvesti određene zahtjeve tehnološkog suvereniteta kako bi povećale neovisnost i zaštitu od ekstrateritorijalnih regulatornih utjecaja. Ograničenja u prekograničnom prijenosu podataka ili dijeljenju modela mogu usporiti implementaciju umjetne inteligencije na razini cijele organizacije, povećati ukupni trošak vlasništva i dovesti do suboptimalnih rezultata. CIO-ovi stoga moraju već u početnoj fazi strategije ugraditi načela podatkovnog suvereniteta, uključiti pravne i regulatorne timove te davati prednost dobavljačima koji ispunjavaju zahtjeve vezane uz suverenitet podataka i umjetne inteligencije.

Erozija vještina

Pretjerano oslanjanje na umjetnu inteligenciju može dovesti do postupne erozije ključnih ljudskih kompetencija, prosudbe i implicitnog znanja koje nije lako kodificirati ni zamijeniti. Taj se proces odvija postupno i često prolazi nezapaženo, pa organizacije rizik prepoznaju tek kada se pokaže da bez AI-ja ne mogu učinkovito funkcionirati ili kada sustav zakaže u rubnim slučajevima koji zahtijevaju ljudsku intuiciju. Kako bi spriječile gubitak organizacijskog znanja i sposobnosti, kompanije trebaju jasno identificirati područja u kojima su ljudska prosudba i stručnost nezamjenjive te dizajnirati AI rješenja kao nadopunu, a ne zamjenu za te vještine.

Ovisnost o ekosustavu i interoperabilnost

Poduzeća koja žele brzo i u velikom opsegu iskoristiti potencijal GenAI-ja često se odlučuju za jednog dobavljača radi jednostavnosti i brzine implementacije. Takva duboka ovisnost može ograničiti tehničku agilnost i pregovaračku poziciju u pogledu cijena, uvjeta i razine usluge. Mnogi CIO-ovi podcjenjuju koliko se njihovi podaci, modeli i radni procesi vežu uz specifične API-je, podatkovna jezera i platforme pojedinog dobavljača. Davanjem prednosti otvorenim standardima, otvorenim API-jima i modularnim arhitekturama u dizajnu AI stoga se smanjuje rizik vendor lock-ina, dok interoperabilnost mora postati standard u pilot-projektima i evaluacijama GenAI rješenja.