Zamislimo da marketinški tim AI agentu postavi jednostavan cilj – povećati stvarni angažman korisnika. Agent ima pristup CRM-u, marketinškoj platformi i analitici. Analizira rezultate, prepoznaje kontakte koji rijetko otvaraju poruke i prestaje im slati newsletter. Stopa otvaranja raste i, barem na prvi pogled, zadatak je uspješno obavljen. No viša stopa otvaranja nakon smanjivanja liste primatelja ne znači nužno i veći angažman korisnika. Pritom je agent samostalno odlučio kojim će se kontaktima newsletter slati, iako mu nitko nije dao ovlast za promjenu kriterija uključivanja primatelja.
Kristina Podnar stručnjakinja je za digitalne politike i upravljanje umjetnom inteligencijom koja organizacijama pomaže pretvoriti načela upravljanja u jasna pravila odlučivanja i svakodnevne poslovne postupke. Ima više od dva desetljeća savjetodavnog iskustva, autorica je knjige „The Power of Digital Policy“ te trenutno radi na izdavanju knjige „The Power of Agentic AI Policy“ koja će biti dostupna od 19. siječnja 2027. godine.
U Spanu je vodila stratešku radionicu o primjeni AI agenata, na kojoj su polaznici kroz konkretan slučaj primjene povezivali poslovni rezultat s ovlastima agenta i odgovornošću za njegove odluke. U središtu je bilo pitanje koje postaje ključno kada sustavi počnu samostalno djelovati: „Kako razlikovati ono što agent tehnički može napraviti od onoga što smije odlučiti u ime organizacije?“ Zašto je ta razlika važna, pokazuje jednostavan primjer iz marketinga.
Zamislimo da marketinški tim AI agentu postavi jednostavan cilj – povećati stvarni angažman korisnika. Agent ima pristup CRM-u, marketinškoj platformi i analitici. Analizira rezultate, prepoznaje kontakte koji rijetko otvaraju poruke i prestaje im slati newsletter. Stopa otvaranja raste i, barem na prvi pogled, zadatak je uspješno obavljen. No viša stopa otvaranja nakon smanjivanja liste primatelja ne znači nužno i veći angažman korisnika. Pritom je agent samostalno odlučio kojim će se kontaktima newsletter slati, iako mu nitko nije dao ovlast za promjenu kriterija uključivanja primatelja.
„Agent nije hakirao sustav niti zaobišao prava pristupa. Napravio je nešto puno zanimljivije. Iskoristio je dopuštene mogućnosti kako bi donio poslovnu odluku za koju mu nitko nije izričito dao ovlast“, govori Podnar.
Tehnička dopuštenja određuju kojim sustavima i podacima agent može pristupiti te koje radnje ti sustavi omogućuju. Poslovne ovlasti određuju koje odluke smije donositi u ime organizacije. Ta razlika postaje sve važnija kako AI sustavi iz alata koji generiraju sadržaj, analiziraju informacije ili daju preporuke prerastaju u sustave sposobne za samostalno djelovanje.
Četiri pitanja koja određuju granice ovlasti agenta
Umjesto da organizacija pokušava unaprijed predvidjeti svaki scenarij i propisati sve što AI agent ne smije napraviti, Podnar predlaže definiranje ovlasti kroz četiri područja: cilj koji agent smije ostvarivati, odluke koje smije donositi, metode kojima se smije koristiti te točku u kojoj mora stati i odluku prepustiti čovjeku.
Prvo je potrebno definirati poslovni rezultat koji se od agenta očekuje, a zatim odrediti koje odluke na putu do tog rezultata smije donositi samostalno.
Treće pitanje odnosi se na metode djelovanja. Agent može imati legitimno postavljen cilj, ali to ne znači da je svaka metoda koja vodi prema njegovu ostvarenju prihvatljiva. Na kraju dolazi možda i najvažnija granica: što agent treba napraviti kada dođe do granice svojih ovlasti? U tom trenutku odgovor ne bi trebao biti da jednostavno pronađe kreativniji put do cilja. Sustav mora osigurati da agent tada stane, zatraži odluku odgovorne osobe i ne nastavi bez potrebnog odobrenja.
Čovjek u procesu nije dovoljan ako nema stvarnu kontrolu
U raspravama o odgovornoj primjeni AI-ja često se spominje koncept „human in the loop“, odnosno ideja da čovjek ostaje uključen u proces i može intervenirati. No sama prisutnost čovjeka nije isto što i stvarni nadzor.
„Nije dovoljno reći da je čovjek uključen u proces, to jest, human in the loop. Čovjek mora znati što agent radi, imati dovoljno vremena da intervenira i stvarnu ovlast da ga zaustavi. Ako čovjek samo potvrđuje odluke koje ne razumije ili više ne može promijeniti, to je formalnost, a ne nadzor“, objašnjava Podnar.
Jednako je važno jasno odrediti tko je vlasnik poslovne odluke i odgovoran za njezin ishod. U primjenu istog AI rješenja mogu biti uključeni IT, kibernetička sigurnost, pravni poslovi, marketing, usklađenost poslovanja i drugi timovi. Sudjelovanje većeg broja funkcija, međutim, ne znači automatski da je jasno tko odgovara za odluke koje sustav donosi.
Od „možemo li?“ prema „smijemo li?“
IT može definirati pristup sustavima i podacima te uvesti tehničke kontrole, a sigurnosni i pravni timovi te timovi za usklađenost poslovanja postaviti dodatne zahtjeve. No odluke o tome smije li agent napraviti poslovnu iznimku, promijeniti proces ili nastaviti djelovati bez dodatnog odobrenja moraju donijeti ovlašteni poslovni vlasnici, a ne prepustiti ih tehnologiji.
Za prelazak s atraktivnih AI demonstracija i ograničenih pilot-projekata na stvarne poslovne procese nije dovoljno znati što agent može napraviti. Organizacija mora jasno odrediti što agent smije, kako se te granice provode, kada mora stati i tko od ljudi odgovara za ishod.
Kristina Podnar stručnjakinja je za digitalne politike i upravljanje umjetnom inteligencijom koja organizacijama pomaže pretvoriti načela upravljanja u jasna pravila odlučivanja i svakodnevne poslovne postupke. Ima više od dva desetljeća savjetodavnog iskustva, autorica je knjige „The Power of Digital Policy“ te trenutno radi na izdavanju knjige „The Power of Agentic AI Policy“ koja će biti dostupna od 19. siječnja 2027. godine.
U složenim ICT projektima rani problem često se vidi kao trend odstupanja od plana, a ne kao propušten rok. Pomicanje ključnih aktivnosti, veći utrošak čovjek-dana, nedostupni resursi i neispunjeni preduvjeti mogu najaviti da dinamiku treba prilagoditi. Kada nekoliko projekata istodobno traži iste stručnjake, voditelji projekata, tehnički voditelji i nadležni organizacijski rukovoditelji zajednički usklađuju prioritete. I nove korisničke zahtjeve treba procijeniti prije prihvaćanja, budući da i manja izmjena može tražiti dodatni angažman ili pomaknuti povezane aktivnosti. Tada se razmatraju utjecaji na tehničko rješenje, opseg, troškove, rokove i kvalitetu, a odluku potvrđuje sponzor projekta. Završena implementacija potvrđuje ispunjenje projektnih obveza, ali ne govori sama po sebi kakvu je korist rješenje donijelo korisniku. Poslovni učinak može se procijeniti nakon određenog razdoblja korištenja, kroz učinkovitost procesa, dostupnost sustava ili kvalitetu usluge. O ranom prepoznavanju odstupanja, usklađivanju resursa i praćenju vrijednosti nakon implementacije, ističe za ICTbusiness Media - ICTbusiness.info Veronika Petrović, voditeljica projekata u Combisovu Uredu za upravljanje projektima.
Combisov Ured za upravljanje projektima razvijao se usporedno s kompanijom koja je od manje IT tvrtke izrasla u jednog od većih ICT integratora u regiji. U posljednjih pet godina PMO je narastao s četiri do pet na 11 članova, a godišnje kroz njega prolazi 30 do 40 projekata, ovisno o veličini i složenosti. Raspodjela projekata nastoji se organizirati tako da voditelji imaju dovoljno vremena za kontrolu isporuke i komunikaciju s korisnikom. U posljednjih godinu dana tim se sve više bavi primjenom umjetne inteligencije u projektnom menadžmentu. AI pomaže u ranom otkrivanju rizika, izradi početnog plana i pripremi statusnih izvještaja, a koristi se i za analizu dokumentacije, izdvajanje zadataka te pripremu zapisnika i prezentacija. U Combisovu PMO-u umjetnu inteligenciju opisuju kao dvanaestog člana tima, a Microsoft Power Automate automatizira procese i povezuje različite alate. Konačna procjena, odgovornost za odluke i komunikacija u izazovnim situacijama ostaju na ljudima. O tome kako se AI koristi u projektnom radu i koje će kompetencije voditeljima biti ključne, ističe za ICTbusiness Media - ICTbusiness.info Tena Galić, voditeljica projekata u Combisovu Uredu za upravljanje projektima.
