Microsoft je objavio najnovije izvješće Cyber Pulse, koje donosi konkretan uvid u nove kibernetičke rizike koji se mogu pojaviti tijekom svakodnevnog obavljanja radnih zadataka. Kao jedan od najozbiljnijih izazova ističe se upravljanje AI agentima. Oni se šire brže nego što ih mnoge organizacije mogu uočiti ili nadzirati, a taj nedostatak vidljivosti prerasta u sve veći poslovni rizik.
Stvaranje AI agenata više nije ograničeno na tehničke timove. U Microsoftovu ekosustavu korisnici razvijaju i implementiraju AI agente na ključnim platformama, od Fabric i Foundryja do Copilot Studija i Agent Buildera, što upućuje na snažan iskorak prema automatizaciji rada temeljenoj na umjetnoj inteligenciji.
Razvoj agenata više nije rezerviran isključivo za tehničke uloge, odnosno ICT odjele. Danas zaposlenici u različitim funkcijama izrađuju i koriste AI agente u svakodnevnom radu. Microsoftovi podaci pokazuju da više od 80 % kompanija s liste Fortune 500 koristi aktivne agente izrađene putem low-code/no-code alata. Kako se njihova primjena širi, a prilike za transformaciju rastu, ističe se potreba za uspostavom temeljnih kontrola.
Korištenje AI agenata ubrzano raste na globalnoj razini. Europa, Bliski istok i Afrika čine 42 % aktivnih AI agenata, slijede SAD s 29 %, Azija s 19 % te ostatak američkog kontinenta s 10 %.
Najveći rast bilježi se u visoko reguliranim i operativno složenim industrijama. Nakon sektora razvoja softvera i tehnologije, koji čini 16 % uporabe, slijedi proizvodnja s 13 %, financijske usluge s 11 % te maloprodaja s 9 %. U tim se sektorima AI agenti sve češće koriste za izradu prijedloga, analizu financijskih podataka, trijažu sigurnosnih upozorenja, automatizaciju ponavljajućih procesa i brzo generiranje uvida.
Izvješće upozorava da brza implementacija AI agenata može nadmašiti postojeće sigurnosne i upravljačke sustave, čime se povećava rizik od takozvanog shadow AI-ja. Agenti s preširokim ovlastima ili oni koji djeluju na temelju netočnih ili manipuliranih ulaznih podataka mogu biti zloupotrijebljeni i pretvoreni u nenamjerne “dvostruke agente”.
Kao i ljudski zaposlenici, AI agenti trebaju jasno definirane uloge, ograničene privilegije i kontinuirani nadzor kako ne bi postali sigurnosna slabost. Prema podacima iz izvješća Cyber Pulse, čak 29 % zaposlenika koristi neodobrene AI agente pri obavljanju radnih zadataka.
"U Hrvatskoj i diljem regije AI agenti brzo postaju digitalne kolege u svakodnevnim poslovnim operacijama. No bez jasnih pravila, vidljivosti i odgovornosti oni mogu postati ozbiljan sigurnosni rizik. Inovacije i sigurnost moraju napredovati istom brzinom. Organizacije koje primjenjuju Zero Trust principe, potpunu vidljivost i centralizirano upravljanje AI agentima, kao što to čine s ljudima i sustavima, smanjit će rizik, ojačati povjerenje i biti bolje pozicionirane u odnosu na konkurenciju i to na sve reguliranijem i digitalnijem europskom tržištu, pa i šire", rekao je Tomislav Vračić, regionalni direktor za tehnologiju u Microsoftu.
Prema Microsoftovu Data Security Indexu, samo 47 % organizacija uvodi specifične sigurnosne kontrole za generativnu umjetnu inteligenciju, što upućuje na potrebu za jačanjem vidljivosti i sigurnosnih mehanizama pri uvođenju AI sustava.
Upravljanje umjetnom inteligencijom ne može biti isključiva odgovornost IT odjela, niti sigurnost AI sustava može ostati samo u domeni rukovoditelja za sigurnost informacija. Riječ je o zajedničkoj odgovornosti koja uključuje pravne službe, ljudske resurse, podatkovne timove, poslovno vodstvo i uprave. Kada se rizici povezani s umjetnom inteligencijom tretiraju kao ključni poslovni rizici, uz financijske, operativne i regulatorne, organizacije mogu poslovati brže i sigurnije.
Ovo je posebno važno razdoblje za kompanije koje Microsoft naziva “frontier” kompanijama, odnosno organizacijama koje pomiču granice i već koriste umjetnu inteligenciju za modernizaciju upravljanja, smanjenje prekomjernog dijeljenja podataka i uvođenje sigurnosnih kontrola koje omogućuju odgovornu primjenu AI-ja.
Izvješće Cyber Pulse zaključuje da sigurnost i inovacije nisu suprotstavljene, nego međusobno povezane i komplementarne. Kvalitetno upravljanje potiče transparentnost, a transparentnost postaje važna konkurentska prednost. Organizacije koje pravodobno reagiraju mogu smanjiti rizike, ubrzati inovacije, zaštititi povjerenje korisnika i ugraditi otpornost u same temelje svojih poslovnih sustava pokretanih umjetnom inteligencijom.
