Schneider i AMD predstavili tehničku arhitekturu za podatkovne centre i AI tvornice nove generacije

Schneider i AMD predstavili su tehničke specifikacije i referentni dizajn za infrastrukturu namijenjenu umjetnoj inteligenciji i podatkovnim centrima nove generacije pod nazivom AMD Helios rack-scale rješenje i Schneider Electric EcoStruxure Reference Design 121.

Sustav je primarno osmišljen za potrebe hiperskalara, razvijatelja naprednih AI modela, pružatelja usluga u oblaku, suverenih nacionalnih AI projekata te timova za inženjering platformi podatkovnih centara. Arhitektura je prilagođena za rad s takozvanom agentnom umjetnom inteligencijom koja zahtijeva kompleksno zaključivanje, obradu velikih količina podataka, rad s više agenata te visoku propusnost i pouzdanost u neprekidnom radu.  U središtu novog sustava nalazi se AMD Helios AI referentna arhitektura koja unutar jednog jedinog "ormara" (eng. rack) okuplja 72 AMD Instinct MI455X GPU-a i 18 AMD EPYC poslužiteljskih procesora iz serije Venice, gdje po jedan procesor dolazi u svakoj od ukupno 18 četverostrukih računalnih ladica formata Open Rack v3.

Sustav nudi vršne teorijske performanse do 2,9 exaFLOPS-a za četverobitnu preciznost OCP MXFP4 te do 1,4 exaFLOPS-a za OCP MXFP6 i MXFP8 preciznosti, čime ostvaruje do 15 posto više vršne teorijske snage u usporedbi sa suparničkim sustavom Nvidia Vera Rubin NVL72. Pojedinačni grafikonski procesor AMD Instinct MI455X temelji se na petoj generaciji AMD CDNA arhitekture te pruža 40 petaflopsa FP4 performansi, 432 gigabajta HBM4 memorije te memorijsku propusnost od 23,3 terabajta u sekundi.

Cijeli ormar raspolaže s ukupno 31 terabajtom HBM4 memorije, što predstavlja 50 posto veći memorijski kapacitet te do šest posto veću vršnu memorijsku propusnost od konkurentskog rješenja Nvidia Vera Rubin. Ukupna zbirna memorijska propusnost po ormaru doseže do 1,67 petabajta u sekundi.

Za povezivanje unutar samog ormara koristi se tehnologija UALink over Ethernet koja povezuje komponente u nisko-latentnu domenu preko šest AMD Helios preklopničkih ladica, čime se ostvaruje do 260 terabajta u sekundi unutrašnje skalabilne propusnosti. Skaliranje izvan pojedinačnog ormara prema većim klasterima i AI tvornicama izvodi se putem standardiziranog Mrežnog sučelja Ultra Ethernet Consortium s AMD Pensando Vulcano 800 AI mrežnim karticama i AMD Pensando Salina 400 DPU jedinicama.

Ova mrežna struktura omogućuje do 300 gigabajta u sekundi vanjske propusnosti po GPU-u, odnosno do 43 terabajta u sekundi dvosmjerne propusnosti po pojedinačnom ormaru. Cijeli softverski sloj oslanja se na otvorenu platformu AMD ROCm koja podržava vodeće AI okvire kao što su PyTorch, TensorFlow, JAX, ONNX Runtime, Triton, vLLM, SGLang i Megatron-LM. Za potrebe napajanja i hlađenja ovih izuzetno zahtjevnih AI opterećenja, Schneider Electric je izradio referentni dizajn EcoStruxure Reference Design 121 koji obuhvaća i potpuno nove objekte i prilagodbu postojećih podatkovnih centara. U opciji izgradnje novog objekta na zelenoj livadi predviđen je podatkovni centar ukupnog kapaciteta 10.440 kilovata IT opterećenja na površini od 43.251 kvadratne stope, koji sadrži 62 reka, od čega 40 tekućinom hlađenih AI rekova gustoće snage do 246 kilovata po ormaru te 22 prateća zrakom hlađena reka snage do 45 kilovata.

U opciji rekonstrukcije postojećeg objekta predviđena je prilagodba prostora od 56.304 kvadratne stope s ukupno 193 reka i kapacitetom od 6150 kilovata, gdje se zamjenom dijela stare opreme ugraduje deset AI rekova uz zadržavanje 176 postojećih ormara prosječne gustoće 20 kilovata po ormaru.

Oba scenarija projektirana su za dostizanje Tier III razine dostupnosti.  Električni sustav za nove objekte oslanja se na četiri pogonska sklopa snage 3,75 megavata koji osiguravaju neprekidno napajanje kroz konfiguraciju četiri od tri s distribuiranom redundancijom, a podržani su dizelskim generatorima i trofaznim Galaxy VXL UPS sustavima pojedinačne snage 1250 kilovata s pet minuta autonomije. Rashladni i mehanički sustav napaja se preko zasebnih pogonskih sklopova snage 2 do 2,5 megavata s 2N redundancijom i Galaxy VL UPS-ovima od 500 kilovata.

Sustav koristi odvojene rashladne krugove, pri čemu visokotemperaturni krug vode temperature 36 Celzijevih stupnjeva napaja Motivair MCDU-70 tekućina-tekućina jedinice za distribuciju rashladnog sredstva, dok se toplina u okolinu izbacuje putem Guntner adiabatic suhih hladnjaka koji koriste smjesu vode i propilen glikola. Zračno hlađenje osigurava se krugom vode temperature 20 Celzijevih stupnjeva preko Uniflair XCAF rashladnika i Uniflair FWCV ventilatorskih zidova u N+1 konfiguraciji, ili alternativno pomoću Motivair M14 izmjenjivača topline na stražnjim vratima ormara. Za slučaj nestanka električne energije predviđeni su spremnici toplinske energije veličine od 5000 do 20.000 galona koji osiguravaju pet minuta neprekidnog hlađenja u razdoblju dok se rashladni uređaji ponovno ne pokrenu.

Uz tehničku opremu nude se i prateće usluge koje uključuju EcoCare pretplatničke planove održavanja temeljene na umjetnoj inteligenciji i praćenju stanja opreme u stvarnom vremenu, EcoConsult usluge savjetovanja i izrade digitalnog blizanca električne mreže te EcoFit programe modernizacije i zamjene dotrajale opreme.