Kineski AI modeli ruše cijene i ugrožavaju poslovne planove američkih AI kompanija

Razlika u cijeni između kineskih i vodećih američkih modela umjetne inteligencije postaje sve važnija za poslovne korisnike. Juniper Research procjenjuje da je uporaba pojedinih kineskih modela do 90 posto jeftinija, dok se na platformi OpenRouter smanjuje udio aktivnosti povezan s američkim laboratorijima. To ipak nije mjera udjela na cijelome svjetskom tržištu.

Takav pomak stvara pritisak na zapadne kompanije koje su se obvezale uložiti stotine milijardi dolara u podatkovne centre, često uz složene oblike zaduživanja. Dio tih poslovnih planova počiva na pretpostavci da će kupci i dalje plaćati znatno višu cijenu za najnaprednije modele. Ako cijene izvođenja modela nastave padati, ostvarivanje prihoda potrebnih za otplatu ulaganja moglo bi postati zahtjevnije.

Juniper napominje da vodeći zapadni modeli još imaju prednost u složenim zadacima gdje su točnost i pouzdanost presudne, uključujući strogo regulirane djelatnosti i aplikacije s malo ljudskog nadzora. Tržište se zato dijeli na cjenovno osjetljiv segment i segment u kojemu je kvaliteta najvažnija. Međutim, sposobnosti kineskih modela brzo napreduju, a dostupnost modela s otvorenim težinama omogućuje i izvođenje na vlastitoj infrastrukturi. Kako se jaz u kvaliteti smanjuje, sve više poslova može prijeći na povoljnija rješenja.

Cijenu rada modela potrebno je uspoređivati pri jednakom opterećenju i usporedivoj kvaliteti odgovora. Model koji je jeftiniji po tokenu ne mora nužno imati niži ukupni trošak poslovnog procesa. Značajnu ulogu imaju duljina konteksta, učestalost ponavljanja zadataka i potreba za ljudskom provjerom. Otvorene težine modela ne znače automatski da su svi podaci za njegovo treniranje javno dostupni. Lokalna instalacija može poboljšati kontrolu nad podacima, ali zahtijeva vlastito održavanje i sigurnosno upravljanje. U reguliranim djelatnostima važna je dokumentacija o podrijetlu modela i njegovim ograničenjima.

Platforme za posredovanje pristupa modelima daju koristan pogled na ponašanje aktivnih programera, ali nisu mjera čitavog globalnog AI tržišta. Promjene udjela na jednoj platformi zato ne treba poistovjećivati s ukupnim tržišnim udjelima. Pružatelji usluga istodobno nastoje smanjiti trošak zaključivanja optimizacijom modela i računalne infrastrukture. Natjecanje u cijeni i kvaliteti vjerojatno će poticati sve češći odabir različitih modela za različite vrste zadataka.