Privatni AI mora donositi mjerljive rezultate

Umjetna inteligencija sve snažnije ulazi u poslovne procese, ali pitanje kontrole nad podacima postaje jednako važno kao i mogućnosti samih modela. Tvrtke moraju odlučiti koje je primjene opravdano razvijati u vlastitom ili izdvojenom okruženju, a za koje su dovoljne standardne usluge u javnom oblaku. „Odluku ne određuje veličina tvrtke, nego vrsta podataka s kojima AI radi“, kako za ICTbusiness Media - ICTbusiness.info ističe Tibor Pakozdi, osnivač i izvršni direktor tvrtke AI.hr. Posebno je važno zaštititi regulirane i ugovorno povjerljive podatke te znanje na kojem se temelji konkurentska prednost poduzeća.

Pakozdi pritom naglašava da privatni AI ne mora značiti izgradnju nove infrastrukture ni odvajanje od postojećih aplikacija. Naprotiv, sustavi umjetne inteligencije trebali bi koristiti postojeće baze podataka, poslovne aplikacije i korisnička prava pristupa. Jednako važan izazov za uprave jest procjena ekonomske opravdanosti ulaganja prije nego što projekt započne. Umjesto široko postavljenih inicijativa, prednost imaju jasno određeni i ponavljajući procesi čije je rezultate moguće pratiti. Pouzdanost pritom zahtijeva testiranje na stvarnim zadacima, praćenje kvalitete odgovora i obveznu ljudsku provjeru odluka s ozbiljnim posljedicama.

Razvoj manjih AI modela mogao bi smanjiti troškovne prepreke, dok će AI agenti omogućiti izvođenje konkretnih koraka u poslovnim sustavima. U razgovoru za ICTbusiness Pakozdi objašnjava kako poduzeća mogu povezati zaštitu podataka, poslovnu isplativost i odgovornu primjenu umjetne inteligencije.

Privatna umjetna inteligencija sve se češće predstavlja kao način zadržavanja kontrole nad podacima i modelima. Za koje je organizacije ona stvarna poslovna potreba, a kada su usluge u javnom oblaku racionalniji izbor? Koji zahtjevi vezani uz osjetljive podatke, regulatornu usklađenost i vlasništvo nad znanjem presuđuju pri odabiru? Koji su kompromisi privatnog pristupa u cijeni, performansama, održavanju i brzini razvoja?

Pod privatnim AI-jem podrazumijevamo sljedeće: podaci ostaju u okruženju koje tvrtka nadzire, aplikacija poštuje prava pristupa koja već postoje, a model se koristi pod uvjetima koje je tvrtka sama ugovorila. To okruženje može biti vlastiti podatkovni centar, ali jednako tako i izdvojeni prostor kod cloud pružatelja unutar Europske unije. Upravo tako radimo u AI.hr-u: gradimo AI aplikacije unutar infrastrukture klijenta, povezane sa sustavima i modelima koje klijent već koristi.

Odluku ne određuje veličina tvrtke, nego vrsta podataka s kojima AI radi. Privatni pristup prirodan je izbor u tri slučaja. Kada su podaci regulirani: osobni, zdravstveni i financijski podaci. Kada su ugovorno zaštićeni: dokumentacija kupaca ili obrambeni programi. I kada predstavljaju konkurentsku prednost: tehnološki postupci, kalkulacije i ponude. Isto vrijedi kada AI pristupa internim sustavima, primjerice ERP-u ili sustavu održavanja. Za opću produktivnost, marketinške sadržaje i rad s javno dostupnim informacijama sasvim su dostatni standardni poslovni paketi vodećih AI modela, poput ChatGPT-a ili Copilota, i tu ih nema potrebe zamjenjivati.

Najbolji rezultat daje kombinacija. Aplikacija i podaci ostaju kod klijenta, a model je onaj s kojim klijent već ima ugovor ili ga sam pokreće, ovisno o tome koliko su podaci osjetljivi. Tako tvrtka zadržava i nadzor i brzinu razvoja, bez novih troškova infrastrukture. Jednako je važno vlasništvo: u našim projektima kod, dokumentacija i sve što je izgrađeno pripadaju klijentu. Tvrtka time stječe trajnu vrijednost i ne ovisi o dobavljaču.

Kako biste savjetovali upravu koja želi pokrenuti prvi ozbiljan AI projekt, ali nema pouzdan način za procjenu njegove ekonomske opravdanosti? Koja mjerila treba definirati prije početka projekta da bi se mogao dokazati povrat ulaganja? Koji se troškovi najčešće previde: priprema podataka, infrastruktura, integracija, nadzor ili održavanje?

Upravi bih savjetovao da za prvi projekt odabere proces čiji se učinak može izmjeriti. Isplativost se najbolje dokazuje na jednom konkretnom procesu koji se često ponavlja, za koji postoje podaci i za koji netko u poslovnom dijelu tvrtke odgovara i želi ga unaprijediti. U proizvodnji je to često obrada upita kupaca i izrada ponuda, u građevini usporedba ponuda podizvođača s ugovorom. To su procesi u kojima se rezultat vidi već u prvim tjednima.

Mjerila se određuju prije početka projekta. Prvo se snimi postojeće stanje: koliko traje obrada jednog predmeta, koliko se predmeta obradi mjesečno i koliki je udio pogrešaka. Zatim se definira ciljano stanje nakon uvođenja te način mjerenja: tko mjeri, na kojem uzorku i u kojem razdoblju. Kada su ti podaci poznati, povrat ulaganja može se dokazati brojkama. Upravo zato naši projekti počinju kratkom procjenom sa stručnjacima klijenta koji taj proces najbolje poznaju. Na kraju procjene uprava dobiva popis mogućih primjena poredanih po prioritetu i unaprijed dogovoreno mjerilo uspjeha, pa odluku donosi na temelju konkretnih podataka.

Što se troškova tiče, infrastruktura i model najčešće su manji dio računa. Najviše vrijednosti krije se u pripremi podataka, povezivanju s postojećim sustavima, usklađivanju prava pristupa i održavanju nakon isporuke, jer se procesi i dokumenti mijenjaju. Mi te stavke uključujemo u procjenu od prvog dana i radimo s unaprijed dogovorenim opsegom i cijenom. Uprava time dobiva jasan okvir: poznat trošak, poznat rok i poznat rezultat.

Kako se može izgraditi privatno AI okruženje koje štiti poslovne podatke, a ne postaje još jedan izolirani sustav? Kako riješiti integraciju s postojećim bazama podataka, aplikacijama i ovlastima pristupa? Tko treba biti odgovoran za kvalitetu podataka, modela i odgovora koje sustav daje?

Rješenje je graditi unutar postojećih sustava, a ne pokraj njih. Aplikacija čita podatke ondje gdje već jesu, u postojećim bazama, sustavima za dokumente i poslovnim aplikacijama, a korisnik se prijavljuje istim računom kojim se prijavljuje u sve ostalo. Nema kopiranja podataka na novo mjesto i nema novih pravila koja bi netko morao održavati. Tako je privatni AI od prvog dana dio tvrtke, a ne još jedan zaseban sustav.

Najvažnije je kako se uređuje pristup. Umjesto zasebnih pravila za svaku aplikaciju, pristup se uređuje jedinstvenim pravilima na razini tvrtke: tko smije vidjeti koju vrstu podataka, prema ulozi, odjelu i stupnju povjerljivosti. Ta pravila vrijede jednako za sve aplikacije, pa zaposlenik putem AI-ja vidi točno ono što bi vidio i bez njega, a svaka sljedeća aplikacija uvodi se brže od prethodne. Privatnost i brzina razvoja tako idu zajedno.

Odgovornost mora biti jasno podijeljena, jer upravo to donosi rezultat. Za kvalitetu podataka odgovara odjel koji s njima radi, jer onaj tko vodi proces zna koji je dokument važeći. Za tehničku ispravnost aplikacije i modela odgovara tim koji je razvija i održava. Za odgovore koji ulaze u poslovne odluke odgovara voditelj tog procesa, uz jasno pravilo kada odgovor provjerava čovjek. Kad su te uloge dogovorene na početku, projekt ulazi u redovit rad i u njemu ostaje.

Pouzdanost AI sustava često se procjenjuje prema dojmu korisnika, a ne prema mjerljivim kriterijima. Kako u praksi testirati i nadzirati modele prije i nakon uvođenja u produkciju? Kako pratite pogreške, halucinacije, promjene kvalitete i pokušaje neovlaštenog pristupa? Za koje vrste odluka mora ostati obvezna ljudska provjera?

Pouzdanost je mjerljiva. Prije uvođenja u produkciju aplikaciju testiramo na skupu stvarnih pitanja i zadataka s poznatim točnim odgovorima, koje sastave stručnjaci klijenta. Unaprijed se dogovori prag točnosti koji aplikacija mora dosegnuti prije puštanja u rad. Isti test ponavlja se pri svakoj promjeni modela, dokumenata ili same aplikacije, pa klijent u svakom trenutku zna kakvu kvalitetu ima.

Nakon uvođenja sve je provjerljivo. Svaki odgovor navodi izvor, dokument i stranicu, pa provjera traje nekoliko sekundi. Bilježe se sva pitanja, odgovori i korišteni izvori, redovito se pregledava uzorak odgovora, a korisnici povratnu informaciju daju izravno u aplikaciji. Kvaliteta se tako prati na temelju podataka tijekom vremena, a ne na temelju dojma. Isto vrijedi za sigurnost: svaki pristup podacima ostaje zabilježen, pokušaj pristupa izvan korisnikovih ovlasti pokreće upozorenje, a aplikacija je zaštićena od pokušaja da se uputama skrivenima u dokumentima ili upitima navede na drukčije ponašanje.

Ljudska provjera ostaje za odluke s financijskim, ugovornim, pravnim ili sigurnosnim posljedicama, za odluke koje se tiču ljudi, poput zapošljavanja i ocjenjivanja, te za komunikaciju prema kupcima i regulatorima. U tim slučajevima AI priprema prijedlog s izvorima, a čovjek odlučuje brže i s boljim uvidom nego prije.

Kako očekujete da će se tržište privatnog AI-ja mijenjati u sljedećih pet godina, posebno s razvojem manjih modela i AI agenata? Hoće li pristupačnija infrastruktura otvoriti prostor malim i srednjim poduzećima ili će prednost zadržati veliki sustavi? Koje bi tehnološke i organizacijske preduvjete hrvatska poduzeća trebala izgraditi već sada?

Očekujem dvije velike promjene i obje idu u korist tvrtki. Prva su manji modeli. Za većinu jasno određenih poslovnih zadataka, poput razvrstavanja dokumenata, izdvajanja podataka ili odgovaranja na pitanja iz interne dokumentacije, manji modeli već su dovoljno dobri i rade na skromnoj opremi, unutar same tvrtke. Privatni AI time postaje dostupan svakoj tvrtki, bez velikog proračuna. Druga su AI agenti, sustavi koji ne samo da odgovaraju, nego i sami obavljaju korake u poslovnim aplikacijama. Tu se korist višestruko povećava, a tvrtke koje već imaju uređene ovlasti, evidenciju i jasna pravila odobravanja prve će ih moći iskoristiti.

Pristupačnija infrastruktura otvara prostor upravo malim i srednjim poduzećima. Prednost se sve manje temelji na računalnoj snazi, a sve više na uređenim podacima, jasno opisanim procesima i brzini odlučivanja. Manje tvrtke tu su u prednosti jer se kod njih brže odlučuje. Za hrvatsko gospodarstvo, u kojem prevladavaju upravo takve tvrtke, to je stvarna prilika.

Priprema se sastoji od nekoliko konkretnih koraka, na tehničkoj i organizacijskoj razini. Na tehničkoj strani to su digitalizirani i uređeni podaci za koje se zna tko je odgovoran, jedno mjesto na kojem se upravlja korisničkim računima i pravima pristupa te osnovna evidencija o tome tko je čemu pristupao. Na organizacijskoj strani to su jasno određena odgovornost za svaki važan proces, navika da se mjeri prije i nakon promjene, interna pravila o korištenju AI-ja i zaposlenici koji znaju procijeniti je li odgovor modela točan. Tvrtke koje te temelje postave sada bit će spremne za svaku sljedeću generaciju tehnologije. U AI.hr-u im pomažemo da taj prvi korak naprave već danas.