Generativni AI napuhuje troškove clouda

Nekontrolirani i netransparentni rast troškova računalstva u oblaku postao je jedan od gorućih problema u uredima vodećih tehnoloških direktora (CIO) diljem svijeta, a najnoviji podaci analitičke kuće IDC potvrđuju da su proračuni za cloud usluge pod nezapamćenim makroekonomskim pritiskom. Glavni krivac za ovu alarmantnu situaciju je masovna, brza i često potpuno stihijska implementacija softverskih rješenja temeljenih na generativnoj umjetnoj inteligenciji. Ovi napredni modeli zahtijevaju neviđene, astronomske količine procesorske snage (GPU akceleracija) i masivne memorijske resurse kako u fazi treniranja, tako i u fazi svakodnevne produkcijske inferencije. Mnoge organizacije su u velikoj želji da što brže uhvate korak s globalnim AI trendovima i preduhitre konkurenciju, prebacile golema radna opterećenja u javni oblak, pritom potpuno zanemarivši optimizaciju softverske arhitekture i dugoročne financijske implikacije ugovora s providerima.

Rezultat ove ishitrenosti su mjesečni računi koji višestruko, a ponekad i deseterostruko premašuju inicijalno planirane godišnje budžete, što je prisililo uprave tvrtki na hitno i dramatično uvođenje FinOps (Cloud Financial Operations) metodologije kao standardne i obvezne poslovne prakse na razini cijele kompanije. FinOps ne predstavlja samo puko uvođenje novog softverskog alata za praćenje troškova, već duboku kulturnu i operativnu promjenu koja na jednom mjestu okuplja stručnjake iz područja financija, kontrolinga, nabave, razvoja softvera i sistemskog inženjerstva kako bi se uspostavila izravna financijska odgovornost za svaku potrošenu računalnu sekundu ili gigabajt prostora u oblaku. Umjesto nekadašnjeg, iznimno opuštenog modela u kojem su razvojni inženjeri imali potpuno odriješene ruke za podizanje novih virtualnih strojeva, testnih okruženja i baza podataka bez ikakve interne kontrole, moderni sustavi zahtijevaju kontinuirani automatizirani monitoring, tagiranje resursa i trenutno gašenje svih neaktivnih kapaciteta.

Analitičari IDC-a ističu da prosječno enterprise poduzeće danas gubi između trideset i nevjerojatnih trideset i pet posto svog ukupnog cloud budžeta na predimenzioniranu infrastrukturu (takozvani over-provisioning) i zaboravljene, napuštene resurse koji bespotrebno rade u praznom hodu tijekom vikenda ili blagdana. To otvara ogroman prostor za brze uštede kroz primjenu specijaliziranih alata pogonjenih strojnim učenjem koji mogu predvidjeti potrebe za resursima i automatski skalirati infrastrukturu prema stvarnoj potražnji. Jedan od najzanimljivijih i najneočekivanijih trendova koji se kristalizira u najnovijim analizama jest djelomična repatrijacija podataka i računalnih operacija, odnosno organizirani povratak određenih predvidljivih i stabilnih radnih opterećenja iz javnog oblaka natrag na lokalnu on-premise infrastrukturu ili u specijalizirane privatne podatkovne centre. Iako je javni cloud apsolutno nezamjenjiv kada je riječ o brzini razvoja novih aplikacija, globalnoj skalabilnosti i fleksibilnosti, za bazične jezgrene sustave koji rade pod konstantnim, nepromjenjivim opterećenjem 24 sata dnevno, vlastiti namjenski hardver često se pokazuje kao dugoročno znatno ekonomičnije i stabilnije rješenje.

Zbog toga hibridni i kompleksni multi-cloud modeli postaju dominantna arhitektonska paradigma moderne obrade podataka. Tvrtke nastoje vrlo pažljivo kombinirati inovacijsku snagu i napredne servise globalnih američkih hyperscalera s troškovnom predvidljivošću, kontrolom i sigurnošću lokalne infrastrukture. Na europskom tlu, gdje su pitanja digitalnog i tehnološkog suvereniteta te zaštite privatnosti građana pod strogom i neumoljivom lupom GDPR-a, upravljanje cloud troškovima dodatno je zakomplicirano pravnom potrebom za lokalnim skladištenjem i obradom osobnih podataka unutar granica EU.