Kineske tvrtke naručile tri milijuna Nvidijinih kartica

ByteDance, Alibaba i Tencent naručili su više od tri milijuna Nvidijinih grafičkih kartica RTX PRO 5500 ukupne vrijednosti veće od 35 milijardi dolara, tražeći dostupan računalni kapacitet za izvođenje AI modela u Kini. Nvidia bi zbog proizvodnih ograničenja mogla isporučiti samo pet do deset posto tražene količine, pa narudžbe niisto su što i ostvareni prihod.

RTX PRO 5500 projektiran je za profesionalne radne stanice, a ne za velike podatkovne klastere. Ipak, ostaje među najsnažnijim Nvidijinim proizvodima koji trenutačno prolaze američka izvozna ograničenja za Kinu. Kupci ga zato pokušavaju povezati u veće sustave i koristiti za posluživanje modela, iako je arhitektura manje učinkovita od namjenskih B300 ili H200 akceleratora.

Takva zamjena povećava broj kartica, potrošnju energije, prostor i složenost mreže potrebne za isti posao. Inferencija se može podijeliti na više uređaja, ali svako prebacivanje podataka između njih dodaje kašnjenje. Trošak dostupnog čipa zato treba mjeriti po dovršenom upitu ili tokenu, a ne prema nabavnoj cijeni jedne kartice.

Izvozne kontrole imaju dvostruki učinak. Smanjuju pristup najnaprednijim akceleratorima, ali stvaraju snažnu potražnju za proizvodima tik ispod regulatornog praga. Dobavljač može prilagoditi specifikaciju pravilima, dok kupci ulažu više inženjerskog rada u klasteriranje. Time se razvoj usporava i poskupljuje, ali se ne zaustavlja.

Nvidia mora rasporediti ograničeni proizvodni kapacitet između radnih stanica, podatkovnih centara i novih generacija proizvoda. TSMC proizvodi ključne čipove, a napredno pakiranje i memorija dodatno ograničavaju isporuku. Povećanje jedne linije nije jednostavno jer dobavljački lanac mora istodobno osigurati ploče, module, napajanje i hlađenje.

Za kineske kompanije velika narudžba može biti i način rezerviranja mjesta u redu. Ako se pravila dodatno postrože, ranije dogovorene količine postaju strateški resurs; ako se ublaže, kupci mogu pokušati preusmjeriti nabavu na učinkovitiji proizvod. Ugovorni uvjeti, predujmovi i pravo otkazivanja zato su jednako važni kao nominalna vrijednost.

Potražnja za inferencijom raste jer milijuni korisnika svakodnevno pokreću modele u tražilicama, trgovini, oglašavanju i društvenim mrežama. Za razliku od jednokratnog treniranja, svaki korisnički upit troši kapacitet. Kompanija može smanjiti potrebu kompresijom modela, predmemoriranjem i specijaliziranim domaćim čipovima, ali za najzahtjevnije sustave i dalje traži Nvidijin softverski ekosustav.

Američke vlasti morat će procijeniti postiže li sadašnji prag sigurnosni cilj ili samo mijenja sastav kineskih klastera. Stroža zabrana može pogoditi prihod američkih proizvođača i ubrzati razvoj domaćih alternativa. Blaže pravilo može omogućiti akumulaciju milijuna slabijih uređaja čiji zbirni kapacitet postaje usporediv s manjim brojem naprednih čipova.