IBM ugovara veliki AI klaster

IBM i Together AI potpisali su 11. kolovoza višegodišnji ugovor vrijedan 240 milijuna dolara za izgradnju velikog klastera za AI inferenciju na IBM Cloudu. Sustav će koristiti Nvidijine HGX B300 poslužitelje s procesorima Blackwell i Spectrum-X Ethernet, a prve kapacitete partneri očekuju u prvom tromjesečju 2027.

Together AI će klaster koristiti za pokretanje otvorenih modela u stvarnim aplikacijama, odnosno za fazu u kojoj već istrenirani model prima korisnički upit i proizvodi odgovor. Kompanija navodi da njezina platforma mjesečno obrađuje oko 400 bilijuna tokena. To je njezina tvrdnja, a ne neovisno izmjerena tržišna brojka, ali objašnjava zašto traži namjenski kapacitet umjesto povremenog najma procesora.

Ugovor IBM-u daje vidljiv prihod kroz više godina i referentnog kupca u segmentu u kojem se natječe s velikim javnim cloudovima i specijaliziranim neocloudima. Neocloud je pružatelj usluge usmjeren na grafičke procesore i AI, često s jednostavnijim zakupom velikih klastera. IBM u taj odnos unosi podatkovne centre, poslovne ugovore i hibridni cloud, a Together AI softver za posluživanje modela i pristup korisnicima.

Tehnološka je jezgra HGX B300, poslužiteljska platforma s osam Nvidijinih akceleratora povezanih za zajednički rad. Spectrum-X Ethernet služi za brzo premještanje podataka između poslužitelja, što je presudno kada jedan zahtjev prelazi granice pojedinog čvora. Nvidia tvrdi da kombinacija može znatno povećati izlaz AI tvornice, no stvarni rezultat ovisit će o modelu, duljini konteksta, iskorištenosti klastera i optimizaciji softvera.

Inferencija postaje zasebno tržište jer se trošak ne završava treniranjem modela. Svaki odgovor troši memoriju, energiju i mrežni kapacitet, a usluga mora održati vrijeme odziva i u vršnom prometu. Otvoreni modeli poput DeepSeeka, MiniMaxa i Kimija omogućuju kupcu veću kontrolu nad podacima i prilagodbom, ali operator mora osigurati stabilnu infrastrukturu, zakrpe i praćenje potrošnje po korisniku.

Za Together AI ekonomika ugovora ovisit će o cijeni po tokenu i popunjenosti. Namjenski klaster može sniziti jedinični trošak kada radi gotovo neprekidno; pri slabijoj potražnji skupa oprema ostaje neiskorištena. Višegodišnji ugovor smanjuje rizik nedostatka GPU-a, ali povećava obvezu ako nova generacija procesora ili učinkovitiji model brzo smanji potrebu za postojećim kapacitetom.

IBM preuzima izvršni rizik isporuke do prvog tromjesečja 2027. Za klaster nisu dovoljni poslužitelji: potrebni su električna snaga, hlađenje, mrežna povezanost, prostor i softversko upravljanje. Partneri nisu objavili lokaciju, broj HGX sustava, instaliranu snagu ni raspored plaćanja. Bez tih podataka vrijednost ugovora ne može se pretvoriti u pouzdanu procjenu broja procesora ili prihoda po tromjesečju.

Posao je važan i za Nvidiju jer širi Blackwell izvan najvećih hiperskalera. IBM i Nvidia već surađuju na infrastrukturi i softveru, a Together AI donosi opterećenja otvorenih modela. Time se zatvara lanac od procesora i mreže, preko clouda, do usluge koju poslovni korisnik plaća prema uporabi. Istodobno se povećava ovisnost svih triju strana o jednoj hardverskoj arhitekturi.

Together AI je u srpnju procijenjen na 8,3 milijarde dolara nakon nove runde ulaganja. Velika valuacija i ugovor ne znače da je posao profitabilan; ključni pokazatelji bit će bruto marža inferencije, rast potrošnje i udio unaprijed rezerviranog kapaciteta. IBM će pak morati dokazati da može isporučiti gustoću i pouzdanost usporedivu sa specijaliziranim pružateljima bez gubitka prednosti svojeg poslovnog clouda.