Organizacije koje redovito provode audite i procjene performansi te usklađenosti AI sustava više su od tri puta sklonije ostvariti visoku poslovnu vrijednost GenAI-ja u usporedbi s organizacijama koje to ne čine, pokazuje istraživanje Gartnera. Anketa je provedena od svibnja do lipnja 2025. među 360 ispitanika iz organizacija s najmanje 250 zaposlenih na puno radno vrijeme u svim industrijama u Sjevernoj Americi, Europi i Azijsko-pacifičkoj regiji.
„Upravljanje umjetnom inteligencijom doista je primjer gdje se dobro poslovanje postiže čineći dobre stvari, ali to ovisi o konkretnim praksama upravljanja. Neke od njih samo smanjuju rizike i osiguravaju pravnu usklađenost, dok druge istovremeno povećavaju vrijednost koju isporučuju GenAI inicijative“, rekao je Kjell Carlsson, potpredsjednik i analitičar u Gartneru. Organizacije koje provode procjene, nude prilagođene smjernice, razvijaju politike korištenja AI-ja, uvode upravljačke funkcije i sigurno šire GenAI primjenu višestruko je vjerojatnije da će izvijestiti o višim razinama poslovne vrijednosti.
Gartner preporučuje da se organizacije usmjere na pet tipova praksi upravljanja kako bi povećale poslovnu vrijednost GenAI-ja.
Prvo, potrebno je redovito provoditi procjene AI sustava; lideri bi trebali uspostaviti procese nadzora i korištenje platformi za upravljanje AI-jem radi jednostavnijeg vrednovanja, nadzora i otklanjanja problema.
Drugo, moraju osigurati prilagođene smjernice i edukaciju za korisnike; organizacije koje nude smjernice prema ulozi ili personi dvostruko su sklonije ostvariti visoku razinu vrijednosti, dok one koje provode edukaciju o AI etici imaju 1,7 puta veću vjerojatnost.
Treće, potrebno je uvesti specifične politike korištenja AI-ja koje potiču odgovorno korištenje i smanjuju ključne rizike. Četvrto, lideri bi trebali ulagati u funkcionalnosti upravljanja i alate trećih strana; organizacije koje ulažu u vanjske proizvode za upravljanje AI-jem imaju 1,9 puta veću vjerojatnost ostvarivanja više vrijednosti. Konačno, valja sigurno proširivati GenAI implementacije; iako je početno ograničavanje AI-ja na niskorizične i pouzdane korisnike nužno, organizacije koje uspiju proširiti primjenu izvan tih okvira imaju 3,3 puta veću vjerojatnost ostvarivanja visoke vrijednosti GenAI-ja.
Ubrzano širenje GenAI tehnologija stavlja pred organizacije nove izazove upravljanja, uključujući usklađenost s propisima, etičku primjenu, sigurnosne rizike i pouzdanost modela. Sve više kompanija uvodi formalne AI governance okvire koji obuhvaćaju procjene modela, transparentnost podataka, nadzor rizika i dokumentiranje odluka kako bi se osiguralo da modeli djeluju predvidljivo i u skladu s pravilima.
Istodobno, međunarodni regulatori, uključujući Europsku komisiju kroz Akt o umjetnoj inteligenciji, postavljaju strože zahtjeve za visoko rizične sustave, što dodatno povećava potrebu za auditima i praćenjem performansi. Poslovne organizacije sve više kombiniraju internu kontrolu s alatima za automatizirano praćenje ponašanja modela, detekciju pristranosti i praćenje odstupanja tijekom rada.
Naprednije kompanije stvaraju multidisciplinarne AI odbore koji uključuju IT, pravne službe, sigurnost, ljudske resurse i operativne timove kako bi osigurale da primjena GenAI-ja bude dugoročno održiva i poslovno isplativa. Kako se GenAI širi na sve poslovne funkcije – od korisničke podrške i prodaje do razvoja proizvoda i operacija – organizacije shvaćaju da se najveća vrijednost postiže tek kada postoji jasan okvir upravljanja koji omogućuje kontroliranu, sigurnu i skalabilnu primjenu umjetne inteligencije.
