Microsoft predstavio treću generaciju čipa Maia

Microsoft je predstavio treću generaciju vlastitog procesora za umjetnu inteligenciju, Maia 300, kao dio strategije smanjenja ovisnosti o Nvidijinim akceleratorima. Novi čip razvijen je ponajprije za inferenciju, odnosno izvođenje već istreniranih AI modela u Microsoftovim proizvodima i uslugama.

Procesor bi tijekom 2027. trebao postati sastavni dio Microsoftove podatkovne infrastrukture ukupne snage više gigavata. Kompanija razmatra mogućnost ugradnje više od milijun takvih čipova tijekom sljedeće kalendarske godine, što pokazuje razmjere planiranog ulaganja.

Izvršni potpredsjednik Scott Guthrie naveo je da bi Maia 300 trebala omogućiti 40 posto više generiranih tokena po megavatu u usporedbi s vodećim sustavima temeljenima na grafičkim procesorima. Usporedba pritom nije izrijekom imenovala Nvidiju. Microsoft naglašava da se ne radi samo o čipu nego o cjelovitom sustavu u kojem se zajedno projektiraju softver, silicij, fizička arhitektura poslužiteljskih ormara, mrežna povezanost i okruženje podatkovnog centra.

Prema Guthriejevim navodima, konfiguracija jednog ormara s 96 čipova može ostvariti sedam puta veću propusnost u obradi tokena od prethodnog modela Maia 200. Novi procesor prilagođen je AI zadacima s dugim kontekstom, velikim zahtjevima prema memoriji i intenzivnim generiranjem izlaznog sadržaja. Takva radna opterećenja sve su važnija u poslovnim AI aplikacijama, sustavima za zaključivanje i agentnim rješenjima.

Razvoj vlastitih AI akceleratora postao je važan dio strategije najvećih pružatelja usluga u javnom oblaku. Vlastiti čip omogućuje bolje usklađivanje hardvera s konkretnim softverskim opterećenjem i dizajnom podatkovnog centra. Takav pristup ne uklanja automatski potrebu za grafičkim procesorima drugih proizvođača. Različiti modeli i aplikacije mogu zahtijevati različite vrste memorije, propusnosti i programskih alata. Posebno je važna cijena pojedinog generiranog tokena jer se na velikom broju zahtjeva i male razlike pretvaraju u znatne troškove. Potrošnja energije i mogućnost hlađenja postaju ključni ograničavajući čimbenici širenja infrastrukture. Usporedbe performansi treba tumačiti u kontekstu stvarnih radnih opterećenja, a ne samo proizvođačkih pokazatelja. Softverska podrška za razvojne okvire određuje koliko se jednostavno modeli mogu preseliti na novu arhitekturu. Microsoft zato razvija vlastiti silicij zajedno s mrežnom i poslužiteljskom arhitekturom. Dugoročan učinak takve strategije ovisit će o iskorištenosti kapaciteta, trošku proizvodnje i pouzdanosti rada u velikim podatkovnim centrima.