Transparentnost algoritama i objašnjivost modela postaju ključni uvjeti za primjenu u bankarskom sektoru
AI Governance postaje nužan zato što se umjetna inteligencija sve više koristi u procesima koji imaju pravne, financijske i reputacijske posljedice. U bankarskom sektoru to je posebno osjetljivo jer modeli mogu utjecati na procjenu rizika, korisničku podršku, detekciju prijevara, kreditne procese i internu automatizaciju. Bez jasnog okvira upravljanja teško je dokazati da su odluke pravedne, provjerljive i usklađene s pravilima.
Transparentnost algoritama ne znači da svaka tehnička pojedinost mora biti razumljiva svakom korisniku, nego da organizacija može objasniti svrhu modela, podatke na kojima se oslanja, ograničenja i način nadzora. Objašnjivost postaje ključna kada se rezultat koristi u procesu koji pogađa klijenta ili može dovesti do poslovne odluke. Model koji daje dobar rezultat, ali ga nitko ne može nadzirati, predstavlja operativni rizik.
Za banke je važno uspostaviti vlasništvo nad modelima. Mora se znati tko odobrava upotrebu, tko prati performanse, tko procjenjuje pristranost i tko reagira ako se ponašanje modela promijeni. Posebno je važna razlika između eksperimentalnih alata i sustava koji ulaze u produkcijske procese. Ta granica često odlučuje je li AI koristan pomoćnik ili nekontrolirani izvor rizika.
Dobavljači će zato morati nuditi više dokumentacije, kontrola i mogućnosti audita. Bankarski korisnici neće prihvatiti crnu kutiju ako se od njih istodobno očekuje regulatorna odgovornost. Rješenja koja omogućuju praćenje verzija modela, zapisivanje odluka, kontrolu ulaznih podataka i ljudsku intervenciju imat će prednost pred alatima koji se oslanjaju samo na brzinu i jednostavnost korištenja.
U regionalnom bankarskom okruženju AI Governance mogao bi postati jedan od glavnih uvjeta šire primjene umjetne inteligencije. Projekti koji počnu s pravilima, odgovornostima i kontrolama lakše će se proširiti na više procesa. Oni koji krenu samo od tehnologije riskiraju da nakon početnog entuzijazma zapnu na pitanjima usklađenosti, povjerenja i dokazivosti.
Singapurske agencije IMDA i EDB 21. kolovoza privremeno su dodijelile 200 MW novog kapaciteta za podatkovne centre četirima operatorima. Digital Realty, Equinix, Keppel Data Centres i ST Telemedia Global Data Centres dobivaju po 50 MW na otoku Jurong nakon drugog državnog poziva. Dodjela odgovara na potražnju za cloudom i AI infrastrukturom, ali ostaje uvjetovana tehničkim, energetskim i okolišnim obvezama prije konačnog odobrenja.
Umjetna inteligencija u pravnoj industriji više nije eksperimentalni dodatak, nego alat koji je već ušao u svakodnevni odvjetnički posao. Može sastavljati nacrte dopisa i ugovora, pomagati u oblikovanju strategije te preuzimati niz manjih i repetitivnih zadataka koji su donedavno zahtijevali znatno više vremena. „Osim IT-a, teško je pronaći industriju u kojoj se u posljednje tri ili četiri godine dogodio ovako tektonski pomak“, ističe za ICTbusiness Media - ICTbusiness.info Marko Porobija, managing partner, Porobija & Špoljarić. Promjena je posebno važna za pravo jer generativni modeli, za razliku od klasičnog softvera, mogu raditi s vjerojatnostima, nijansama i kontekstom koji su pravnicima prirodniji od jednostavne logike da ili ne.
Weekend je proširio svoj interdisciplinarni koncept Education Weekendom, posvećenim znanju, kompetencijama i budućnosti obrazovanja. Božo Skoko upozorava da umjetna inteligencija može biti snažan alat za istraživanje i učenje, ali ne smije zamijeniti čitanje, kritičko mišljenje i zdravo rasuđivanje. Odnos tehnologije, obrazovanja i budućih zanimanja bit će jedno od ključnih pitanja za škole, sveučilišta i poslodavce.
