Dok svi trče, nitko ne pita kamo

Postoji trenutak u svakom tehnološkom ciklusu kada brzina usvajanja nadmaši brzinu razumijevanja. Trenutno se nalazimo upravo tu.

Sjetimo se kako je to izgledalo prije petnaestak godina, kada je jedan tehnološki velikan izveo zaokret iz licenčnog u cloud model. Iz perspektive kupca, poruka je bila jednoznačna i neodoljiva: prijeđite u cloud, kupite seatove, osigurajte si budućnost. Pritisak je bio stvaran, prodajni timovi uvjerljivi, a ciljevi te tekuće godine postavljeni tako da se nagrađivala i prodaja licenci i prodaja cloud instanci. Kupci su, vjerujući da kupuju ono što im se prodaje, sklapali ugovore i bilježili desetke ili stotine seatova. A onda, samo jedan dan nakon isteka fiskalne godine, pravila igre su se promijenila. Promjenom pogleda na poslovni model broj prodanih licenci i seatova odjednom više nije bio relevantan, počela se validirati isključivo potrošnja, consumption. Kupci koji su platili za kapacitet odjednom su otkrili da je vrijednost koju su mislili da su kupili izmaknuta pod njihovim nogama, a metrika prema kojoj se mjeri njihov odnos s dobavljačem promijenjena bez njihovog pristanka i gotovo preko noći. Naučili su skupu lekciju: model koji vam se danas prodaje kao vaša prednost sutra može postati nešto nad čime nemate kontrolu.

Danas se nalazimo pred vrlo sličnim obrascem, samo što je predmet transakcije neusporedivo osjetljiviji. Ne kapacitet, nego vaši podaci. Tvrtke, kao da su ušle u program gameifikacije, postavljaju ciljeve usvajanja umjetne inteligencije kao da je riječ o KPI-ju prodaje, koliko posto zaposlenika koristi AI alate, koliko je sati "ušteđeno", koliko procesa je automatizirano. Natjecanje je stvarno, mjerljivo i, u pravilu, posve neuravnoteženo prema riziku koji ga prati.

Problem nije u entuzijazmu. Problem je u tome što se governance tretira kao kočnica, a ne kao infrastruktura. A za razliku od većine kočnica, ova se aktivira tek nakon sudara.

Compliance dug koji se tiho akumulira

Svaki put kada organizacija uvede AI alat bez jasno definiranog okvira odgovornosti, ona ne donosi neutralnu odluku, ona uzima zajam s izuzetno nepovoljnom kamatom. Tehnološki dug poznat nam je odavno; ono što danas nastaje jest compliance dug, i kamate na njega plaćaju se u valuti koja se ne vidi u kvartalnom izvještaju: regulatorna izloženost, gubitak povjerenja, i pravna odgovornost koja se materijalizira u najgorem mogućem trenutku.

Ključno pitanje koje organizacija mora postaviti nije "koristimo li AI dovoljno", nego "znamo li gdje naši podaci završavaju kada ih koristimo". A odgovor je, u zastrašujuće velikom broju slučajeva, ne.

Podaci kao tiha valuta treninga

Ovdje dolazimo do srži problema koji tržište sustavno previđa. Mnoga postojeća AI rješenja, osobito ona dostupna u zadanim, besplatnim ili nedovoljno konfiguriranim verzijama, koriste korisničke unose za treniranje vlastitih modela. To se ne događa potajno u tehničkom smislu. Uvjeti korištenja to često jasno navode. Događa se potajno u organizacijskom smislu, jer nitko unutar tvrtke nije svjesno pristao na to.

Zaposlenik koji u alat zalijepi nacrt ugovora, financijsku projekciju ili strukturu cijena ne razmišlja o tome je li time predao taj sadržaj u trening korpus trećoj strani. Vaš pravni tim nije pregledao Data Processing Agreement. Vaš DPO za to možda i ne zna. A vi ste, kao organizacija, upravo izvezli intelektualno vlasništvo bez ijedne potpisane stranice.

Pitanje pristanka ovdje je dvostruko. Postoji pristanak vaše organizacije prema dobavljaču AI rješenja koji često nedostaje ili je dan nepromišljeno. I posljedično tome postoji pristanak osoba čiji se podaci nalaze u tim unosima: klijenata, partnera, zaposlenika. U kontekstu GDPR-a, a sve više i EU AI Act-a, drugi nedostatak nije propust nego prekršaj.

Treba li nam ta trka

Governance ovdje ne znači stvaranje još jedne radne skupine koji se sastaje jednom kvartalno. Znači postavljanje nekoliko pitanja na koja danas, vrlo vjerojatno, nemate jasan odgovor:

Gdje fizički i pravno borave podaci koje naši alati obrađuju, i koriste li se za treniranje modela? Tko je u organizaciji vlasnik odluke o odobravanju pojedinog AI rješenja? Koji ugovorni mehanizmi nas štite, i jesmo li ih uopće pregovarali ili smo prihvatili zadane uvjete? Kako bismo dokazali usklađenost regulatoru koji nas sutra pita, jer EU AI Act više nije neka eventualna buduća priča, nego pravila s rokovima koji nas već sustižu.

Razlika između organizacija koje će preživjeti sljedeću fazu ovog ciklusa i onih koje neće, neće biti u tome tko je brže usvojio AI. Bit će u tome tko ga je usvojio na način koji se može obraniti i poslovanje učiniti suverenim.

Zatvorene oči nisu strategija

Tržište trenutno nagrađuje brzinu i kažnjava oprez, ali samo prividno i samo privremeno. Regulatorni okvir sazrijeva, presedani se stvaraju, a prvi ozbiljni slučajevi curenja podataka kroz AI alate događaju se kad zatvaramo oči. Kada se to dogodi, pitanje "jesmo li imali governance" neće postavljati vaš CTO, nego vaš odvjetnik i vaš regulator.

Najgora pozicija u kojoj se organizacija može naći nije ona u kojoj je usvajanje AI-ja sporije od konkurencije. Najgora je ona u kojoj ste pobijedili u utrci usvajanja, a izgubili kontrolu nad onim što ste pritom predali. Zatvaranje očiju pred problemom ne čini ga manjim, samo osigurava da ćete ga prvi put jasno vidjeti onda kada bude prekasno da se išta promijeni.