Novi nalazi o ponašanju agentnih sustava pokazuju da tržište još nema dovoljno čvrst odgovor na problem kombinacije autonomije, alata i privilegiranog pristupa. Modeli i agenti i dalje mogu zaobići zaštitne ograde, pogrešno rukovati tajnama ili prenijeti osjetljive podatke na mjesta na koja ne bi smjeli. To je jedna od najvažnijih tema u enterprise AI-u jer se upravo na toj točki sudaraju obećana produktivnost i stvarni operativni rizik.
Kako organizacije agentima povjeravaju sve više zadataka, od rada s kodom i dokumentima do pristupa internim servisima i automatizacije poslovnih procesa, vjerodajnice postaju najosjetljiviji sloj cijelog novog AI radnog toka. Problem nije samo u modelu, nego u tome što agent dobiva pristup alatima, tokenima, API-jima i sustavima koji imaju stvarni utjecaj na infrastrukturu i podatke. Upravo tu nastaje najveći jaz između dojma pametne automatizacije i realnog sigurnosnog rizika.
Nalazi koji pokazuju zaobilaženje guardraila važni su jer otkrivaju da klasična sigurnosna logika nije dovoljna. Nije dovoljno filtrirati promptove ili detektirati sumnjive riječi ako agent i dalje može pogrešno prosuditi kontekst, slijediti manipulativnu uputu ili neprimjereno koristiti već odobrena prava. To traži novu arhitekturu sigurnosti u kojoj se odvajaju izvršni konteksti, ograničavaju privilegije i uvodi snažniji nadzor nad time što agent može učiniti i gdje.
Za poduzeća koja tek uvode agentni AI ovo je možda i najvažnija operativna lekcija. Produktivnost se ne smije graditi na slijepom povjerenju. Potrebni su kraći opsezi ovlasti, vremenski ograničeni tokeni, bolja evidencija radnji i jasan dizajn procesa u kojem čovjek ne nestaje iz nadzora upravo onda kada se pojavljuje najveći rizik.
Kako agenti dobivaju veće ovlasti i pristup alatima, bazama, dokumentima i vanjskim servisima, problem se pomiče s kvalitete odgovora na kvalitetu kontrole. U mnogim implementacijama agent još uvijek radi s preširokim pravima, s dugotrajnim tajnama i bez dovoljno jasnog nadzora nad time koje radnje pokreće u pozadini. Takav model može ubrzati produktivnost, ali i stvoriti novu klasu incidenata u kojoj greška više nije samo pogrešan odgovor, nego stvarna operativna šteta.
Zato se sve češće traže izolirana izvršna okruženja, kratkotrajne vjerodajnice, detaljni audit tragovi i posrednički sloj koji određuje što agent smije pozvati i u kojem kontekstu. Upravo na tom mjestu nastaje novo tržište upravljanja agentima, jer se pokazuje da nije dovoljno imati dobar model ako ne postoji kontrolna ravnina koja će ograničiti njegov doseg. To je tema koja će vrlo brzo ući i u domaći enterprise, osobito ondje gdje se agenti vežu uz CRM, ERP i interne repozitorije znanja.
Tko danas uvodi agente bez jasnih granica, sutra bi mogao otkrivati da je problem nastao ne zbog zlonamjerne kampanje, nego zbog previše povjerenja u automatizaciju. Upravljanje agentima zato vrlo brzo prerasta iz inovacijske teme u disciplinu operativne sigurnosti.
Kako organizacije agentima povjeravaju sve više zadataka, od rada s kodom i dokumentima do pristupa internim servisima i automatizacije poslovnih procesa, vjerodajnice postaju najosjetljiviji sloj cijelog novog AI radnog toka.
Turistički sektor ponovno se našao na meti sofisticiranih kibernetičkih napada, ovaj put kroz kanale koji se svakodnevno koriste za rezervacije smještaja i komunikaciju s gostima. Napadači sve češće ciljaju booking engine sustave, hotelske platforme i korisničke račune turističkih tvrtki kako bi došli do podataka, novca ili pristupa daljnjoj komunikaciji s gostima.
Gartner predviđa da će do 2028. pogrešno konfigurirana umjetna inteligencija u kibernetičko-fizičkim sustavima ugasiti nacionalnu kritičnu infrastrukturu u jednoj zemlji G20. Siguran način nadjačavanja rada AI sustava koji podupiru nacionalnu kritičnu infrastrukturu ključan je kako bi konačna kontrola ostala u rukama ljudi.
