RAČUNALSTVO U OBLAKU

Potrošnja na AI infrastrukturu gotovo se udvostručuje

Gartner očekuje snažan rast izdataka za infrastrukturu u oblaku optimiziranu za umjetnu inteligenciju. Sve veći dio potrošnje prelazi s treniranja modela na njihovo svakodnevno izvršavanje. Takav pomak mijenja prioritete pružatelja usluga u javnom oblaku i poduzeća koja AI uvode u poslovne procese.

Potrošnja na AI infrastrukturu gotovo se udvostručuje
Depositphotos / Ilustracija

Svjetska potrošnja na infrastrukturu kao uslugu (IaaS) prilagođenu umjetnoj inteligenciji u 2026. trebala bi porasti 96 posto i dosegnuti 42 milijarde dolara, procjenjuje Gartner. Rast bi se mogao nastaviti i 2027., kada se predviđa tržište vrijedno 66 milijardi dolara.

„Rast potiče trajna potražnja za infrastrukturom potrebnom za treniranje velikih jezičnih modela, kao i ubrzano uvođenje umjetne inteligencije u poslovne aplikacije i radne procese”, objašnjava Hardeep Singh, viši glavni istraživački analitičar Gartnera. Poseban poticaj daje agentna umjetna inteligencija, kod koje sustavi samostalno izvršavaju složenije zadatke u više koraka i zbog toga zahtijevaju znatne računalne kapacitete.

Kako poduzeća prelaze s razvoja modela na njihovu produkcijsku primjenu, sve češće koriste dodatno prilagođene modele za pojedine djelatnosti i poslovne zadatke. Za razliku od povremenog treniranja, takvi sustavi zahtijevaju kontinuirano izvođenje zaključivanja i generiranja odgovora, često u stvarnom vremenu. Singh ističe da taj prijelaz ubrzava potrošnju resursa u oblaku i stvara trajnu potražnju za AI infrastrukturom.

Prema Gartnerovu predviđanju, potrošnja na inferenciju, odnosno izvršavanje već istreniranih modela, u 2026. dosegnut će 23,3 milijarde dolara i premašiti 19 milijardi dolara namijenjenih treniranju. Na inferenciju bi tako trebalo otpadati 55 posto ukupnih izdataka za AI-optimizirani IaaS, a 2027. taj bi udjel trebao narasti na 59 posto. Pružatelji usluga u javnom oblaku zato sve snažnije prilagođavaju investicije svakodnevnom izvođenju AI zadataka, a ne samo izgradnji sustava za treniranje najvećih modela.

Treniranje i inferencija imaju različite zahtjeve prema računalnoj infrastrukturi. Treniranje velikih modela obično uključuje dugotrajnu intenzivnu uporabu akceleratora i brzu komunikaciju između poslužitelja. Inferencija se odvija pri svakom upitu korisnika ili automatiziranom koraku aplikacije. Za nju su važni vrijeme odziva, propusnost sustava i cijena obrade pojedinog zahtjeva. Agentni sustavi mogu višestruko povećati broj poziva modelu jer složen zadatak rastavljaju na niz manjih operacija. Zbog toga trošak primjene ne ovisi samo o veličini modela nego i o načinu izvedbe poslovnog procesa.

Manji specijalizirani modeli u određenim zadacima mogu smanjiti cijenu i potrošnju energije. Pružatelji usluga u javnom oblaku pritom ulažu u vlastite AI čipove i softver za raspodjelu radnih opterećenja. Poduzeća moraju voditi računa i o zaštiti podataka, ugovornim uvjetima te mogućnosti premještanja radnih opterećenja između pružatelja. Troškovi infrastrukture stoga postaju sastavni dio računice povrata ulaganja u umjetnu inteligenciju.