Oracle u svoju ponudu uvodi više AI akceleratora

Oracle je objavio da s Nvidijom širi cloud infrastrukturu prema višegigavatnoj skali najnovijih poslužitelja Vera Rubin, dok ponudi dodaje Googleove TPU akceleratore i sustave Cerebras. Kompanije nisu objavile vrijednost planiranog proširenja ni cjelovit raspored isporuke.

Vera Rubin je Nvidijina sljedeća platforma za treniranje i inferenciju, sastavljena od procesora, GPU-ova, mreže i softvera. Direktor Jensen Huang ranije je rekao da jedan gigavat takvih sustava može Nvidiji donijeti do 40 milijardi dolara prihoda. To nije vrijednost Oracleova ugovora, nego ilustracija koliko hardvera može stati iza riječi „gigavat”.

Oracle ne želi cijeli sustav kupiti kao zatvoreni Nvidijin paket. Čak će i u Nvidijinim klasterima dio mrežnih čipova zamijeniti vlastitim Acceleronom. Mreža odlučuje koliko brzo tisuće akceleratora razmjenjuju podatke; slab dizajn ostavlja skupe GPU-ove u čekanju. Vlastiti čip Oracleu daje veću kontrolu nad troškom, rasporedom i optimizacijom za vlastiti cloud.

Googleovi TPU-ovi nude drugu mogućnost, a Oracle ih planira ponuditi od 2027. godine. Projektirani su posebno za strojno učenje i dolaze sa softverskim alatima koje Google razvija godinama. Oracleov kupac time može birati arhitekturu prema modelu i cijeni, ali prijenos nije automatski. Aplikacija, biblioteke i postupci nadzora moraju se testirati na svakoj platformi kako rezultat i latencija ne bi odstupali.

Cerebras gradi procesore veličine gotovo cijele pločice silicija, s velikom količinom računskih jezgri i memorije blizu njih. Takav pristup može smanjiti dio složene komunikacije između mnogo manjih GPU-ova. Oracle uvrštavanjem alternativnog sustava kupcima nudi specijalizirani izbor, ali preuzima obvezu integracije, podrške i jedinstvenog obračuna različitih arhitektura.

Za cloud tržište diversifikacija ima dvije posljedice. Nvidia dobiva golemi novi kanal, ali više nije jedini izvor procesora u Oracleovu katalogu. Google i Cerebras dobivaju distribuciju do velikih poslovnih korisnika koji već koriste Oracleove baze podataka. Kupci mogu pregovarati o cijeni i dostupnosti, a da pritom aplikaciju i podatke zadrže kod jednog cloud operatera.

Plan proširenja na više gigavata zahtijeva osiguranu opskrbu električnom energijom prije ugradnje opreme. Jedan gigavat ne znači nužno da je sav kapacitet na jednoj lokaciji, no zbir i dalje traži priključke, transformatore, rezervno napajanje i hlađenje. Oracle nije objavio gdje će se sustavi postaviti niti kada će biti dostupni, pa se najava još ne može pretvoriti u stvarni broj računalnih sati.

Poslovni korisnik mora usporediti ukupni trošak. Jeftiniji akcelerator može zahtijevati više inženjerskog rada ili postići slabiju iskorištenost; skuplji sustav može završiti zadatak brže. Mjerilo je cijena po istreniranom modelu ili milijunu obrađenih zahtjeva, uz energiju, mrežu, pohranu i rezervirani kapacitet. Oracle zasad nije objavio usporedive cjenike.

Ugovori o rezervaciji pokazat će i tko snosi rizik praznog kapaciteta. Višegigavatna infrastruktura ima smisla samo uz dugoročne kupce, jer se trošak energije, prostora i financiranja nastavlja i kada akceleratori nisu potpuno iskorišteni.

Različiti akceleratori otvaraju i pitanje ugovora o razini usluge. Kupac želi jednako jasno jamstvo dostupnosti, podrške i nadoknade bez obzira na čip. Oracle mora održavati slike sustava, upravljačke programe i sigurnosne zakrpe kroz više dobavljača. Veći izbor donosi pregovaračku snagu, ali i složeniji katalog koji može usporiti rješavanje incidenta ako odgovornost nije unaprijed podijeljena.