Otvoreni modeli do 2030. mogli bi obavljati 90 posto koraka AI agenata

Do 2030. godine modeli otvorenih težina mogli bi izvršavati 90 posto koraka u operativnim agentskim tijekovima rada poduzeća, procjenjuje Gartner. Prognoza se odnosi na pojedinačne radnje koje AI agenti obavljaju unutar poslovnih procesa, a ne na 90 posto svih zadataka umjetne inteligencije ili ukupne upotrebe AI-ja.

Velik dio agentskog rada čine ponavljajući zadaci: razvrstavanje podataka, pozivanje alata, prosljeđivanje informacija, provjera i usklađivanje zapisa. Gartnerovi analitičari smatraju da takve korake mogu obavljati modeli otvorenih težina, dok bi se skuplji frontier modeli koristili za zadatke koji traže složenije zaključivanje.

Razlika u cijeni može biti znatna, ali ovisi o tome s kojim se modelom usporedba radi. Prema Gartnerovoj procjeni, otvoreni model može stajati četvrtinu cijene najjeftinijeg zatvorenog modela uz jednak rezultat, odnosno 75 posto manje. U najboljem scenariju trošak može biti i dvadeset puta niži nego kada se frontier model koristi za svaki korak. Analitičari, međutim, upozoravaju da sadašnji otvoreni modeli mogu stvarati opširnije odgovore i češće ponavljati pokušaje. Zbog toga ušteda po zadatku u odnosu na frontier model u praksi može biti bliža pet ili šest puta.

Gartner navodi i da usmjeravanje zahtjeva kroz posredničke sustave, odnosno gatewaye, može smanjiti troškove zaključivanja za dvije trećine. Taj pristup omogućuje da se svaki korak dodijeli modelu koji odgovara njegovoj složenosti i cijeni, umjesto da se za cijeli proces koristi jedan napredni model.

Ušteda pritom nije jedini razlog za prelazak na modele otvorenih težina. Njihovo pokretanje unutar vlastite infrastrukture poduzeću može dati veću kontrolu nad podacima i poslovnim procesima. Gartner očekuje da će se posebno koristiti modeli prilagođeni određenim djelatnostima i ponavljajućim zadacima koji se izvršavaju velik broj puta.

Takav razvoj mogao bi promijeniti i mjesto na kojem nastaje vrijednost AI proizvoda. Umjesto oslanjanja na jedan model, važniji postaju sustavi koji upravljaju agentima, odabiru model za svaki korak i primjenjuju zaštitna pravila. Gartner pritom ne predviđa nestanak frontier modela: oni će i dalje biti važni za istraživanje, razvoj i složenije zadatke, dok bi otvoreni modeli preuzimali veći dio svakodnevnog operativnog rada.