AI INFRASTRUKTURA

AMD, FuriosaAI i MangoBoost grade AI klaster u Seulu koji će povezati četiri vrste procesora

Američki proizvođač čipova i dvije južnokorejske tehnološke kompanije razvijaju infrastrukturu koja će objediniti CPU, GPU, NPU i DPU procesore kako bi povećali učinkovitost izvršavanja AI modela i smanjili troškove podatkovnih centara. Prvi referentni sustav planiran je za proljeće 2027., a partnerstvo se nadovezuje na AMD-ovu širu strategiju razvoja otvorenog AI ekosustava u Južnoj Koreji.

AMD, FuriosaAI i MangoBoost grade AI klaster u Seulu koji će povezati četiri vrste procesora
Depositphotos / Ilustracija

Američki proizvođač poluvodiča AMD i dvije južnokorejske tehnološke kompanije, FuriosaAI i MangoBoost, dogovorili su razvoj nove generacije računalne infrastrukture za umjetnu inteligenciju koja će u jedinstvenom sustavu povezati četiri različite vrste procesora. Memorandum o suradnji predstavljen je 4. studenoga tijekom konferencije AMD Advancing AI Seoul 2026, a prvi referentni AI klaster planiraju uspostaviti u proljeće 2027. u Seulu. Projekt je dio šire AMD-ove strategije širenja ekosustava izvan tradicionalnih GPU sustava, uz uključivanje specijaliziranih akceleratora za umjetnu inteligenciju i mrežnih tehnologija koje razvijaju lokalne kompanije.

Budući sustav kombinirat će AMD-ove središnje procesore i grafičke akceleratore Instinct, specijalizirane NPU procesore korejske kompanije FuriosaAI te DPU procesore i softver za upravljanje infrastrukturom koje razvija MangoBoost. Riječ je o heterogenoj računalnoj arhitekturi u kojoj se različite vrste zadataka raspoređuju na hardver koji ih može izvršavati uz najmanju potrošnju resursa i najpovoljniji odnos performansi i troškova. Za razliku od sustava koji se gotovo u potpunosti oslanjaju na GPU akceleratore, novi pristup omogućuje kombiniranje više procesorskih arhitektura unutar zajedničke infrastrukture.

Takav razvoj posebno je važan za podatkovne centre u kojima raste udio inferencije, odnosno izvođenja već istreniranih modela umjetne inteligencije. Dok treniranje zahtijeva golemu računalnu snagu za obradu podataka i prilagodbu parametara modela, inferencija se odvija svaki put kada korisnik postavi pitanje AI sustavu, generira sadržaj ili pokrene neku automatiziranu funkciju. Kako broj takvih zahtjeva raste, sve važniji postaju brzina odgovora, iskorištenost procesora, propusnost memorije i energetska učinkovitost.

Upravo na tim područjima partneri žele postići najveće pomake. AMD-ovi CPU procesori namijenjeni su općim računalnim zadatcima i upravljanju sustavom, GPU akceleratori obrađuju računalno zahtjevne paralelne operacije, dok FuriosaAI-jevi NPU procesori preuzimaju zadatke za koje je posebno optimizirana njihova arhitektura. MangoBoostov DPU služi za rasterećenje glavnih procesora od mrežnih komunikacija, pristupa podatcima i pojedinih infrastrukturnih funkcija. Cilj je izbjeći situacije u kojima skupi AI akceleratori čekaju podatke ili troše dio svojih kapaciteta na zadatke koje drugi procesori mogu obaviti učinkovitije.

FuriosaAI u projekt donosi drugu generaciju svojeg akceleratora RNGD, poznatog i pod nazivom Renegade, koji je razvijen za izvršavanje velikih jezičnih i multimodalnih modela. Čip se proizvodi u TSMC-ovu 5-nanometarskom procesu i temelji na vlastitoj arhitekturi Tensor Contraction Processor, koja omogućuje izravnu obradu složenih tenzorskih operacija korištenih u neuronskim mrežama. Za razliku od klasičnih GPU-ova, koji su projektirani za širok spektar paralelnih računalnih zadataka, RNGD je optimiziran za učinkovito izvršavanje AI modela uz relativno nisku potrošnju energije.

Prema službenim specifikacijama, RNGD raspolaže s 48 GB HBM3 memorije i memorijskom propusnošću od 1,5 TB/s, dok njegova deklarirana toplinska projektna snaga iznosi 180 W. U računalnim operacijama formata FP8 proizvođač navodi performanse od 512 TFLOPS, a u INT4 formatu do 1.024 TOPS. Akcelerator koristi PCIe 5.0 sučelje i podržava virtualizaciju, što omogućuje podjelu jednog fizičkog procesora na više neovisnih virtualnih instanci za različite korisnike i radna opterećenja.

FuriosaAI je razvila i poslužiteljski sustav NXT RNGD Server koji objedinjuje osam takvih akceleratora, ukupno 384 GB HBM3 memorije i do četiri petaFLOPS-a računalnih performansi u FP8 formatu. Poslužitelj zauzima četiri jedinice visine u standardnom poslužiteljskom ormaru, a njegova ukupna projektirana potrošnja iznosi približno tri kilovata. Kompanija naglašava da sustav može raditi uz zračno hlađenje, bez potrebe za ugradnjom složenih sustava tekućinskog hlađenja kakvi postaju sve češći kod najsnažnijih GPU poslužitelja.

Razvoj FuriosaAI-ja dodatno je ubrzan velikom investicijskom rundom zaključenom krajem listopada 2026. Kompanija je prikupila 620 milijuna dolara u seriji D, uz procjenu vrijednosti od 2,9 milijardi dolara. Među investitorima su Cisco Investments, Infinitum, Jericho Capital i nekoliko korejskih financijskih institucija, dok je južnokorejski Nacionalni fond za rast preuzeo investicijsku obvezu vrijednu približno 280 milijuna dolara. Sredstva su namijenjena povećanju proizvodnje postojećih akceleratora i razvoju treće generacije procesora za napredne AI sustave.

FuriosaAI je serijsku proizvodnju RNGD-a pokrenula u siječnju ove godine, a do kraja 2026. planira proizvesti 20.000 akceleratorskih kartica. Za 2027. osigurala je dodatne proizvodne i memorijske kapacitete koji bi trebali omogućiti više nego dvostruko povećanje proizvodnje. Kompanija istodobno razvija procesor sljedeće generacije u suradnji s Broadcomom i drugim partnerima, pri čemu je predviđena uporaba 2-nanometarskog proizvodnog procesa, višestrukih čipova unutar jednog pakiranja i memorije HBM4 ili HBM4E.

Tehnologija RNGD već se koristi u komercijalnim projektima. Samsung SDS pokrenuo je uslugu NPU-as-a-Service koja poslovnim korisnicima omogućuje pristup FuriosaAI-jevim akceleratorima putem vlastite cloud platforme, dok kompanije iz LG grupe koriste RNGD u lokalnim i hibridnim AI sustavima. FuriosaAI surađuje i s korejskim razvojnim kompanijama Upstage i Nota AI te širi prisutnost na međunarodnom tržištu. To je važno jer projekt u Seulu neće počivati isključivo na eksperimentalnoj tehnologiji, nego na procesorima koji su već u serijskoj proizvodnji i postupnoj komercijalnoj primjeni.

Drugi korejski partner, MangoBoost, specijaliziran je za razvoj mrežnih procesora i softverskih sustava namijenjenih učinkovitijem radu velikih podatkovnih centara. Njegova tehnologija BoostX temelji se na DPU procesorima koji preuzimaju obradu mrežnog prometa, operacije povezane s pohranom podataka i određene sigurnosne funkcije. Time se smanjuje opterećenje središnjih procesora, a računalni akceleratori dobivaju učinkovitiji pristup podatcima potrebnima za izvršavanje AI modela.

FuriosaAI i MangoBoost već su u travnju najavili zajednički razvoj arhitekture koja povezuje NPU i DPU procesore pomoću mrežne infrastrukture kapaciteta 400 Gbit/s i tehnologije RDMA. Ona omogućuje izravniji pristup memoriji udaljenih sustava preko mreže, uz manje uključivanje glavnog procesora i manja kašnjenja. Takva arhitektura posebno je važna kada se veliki jezični modeli izvršavaju na više međusobno povezanih poslužitelja jer omogućuje učinkovitiji prijenos podataka između akceleratora.

MangoBoost već surađuje s AMD-om i koristi njegove Instinct GPU-ove u komercijalnoj usluzi Mango Inference, predstavljenoj početkom listopada. Riječ je o platformi za inferenciju koja poslovnim korisnicima i programerima omogućuje izvršavanje otvorenih AI modela putem standardiziranih programskih sučelja, bez potrebe za vlastitom poslužiteljskom infrastrukturom. Sustav koristi AMD Instinct MI355X i MI350P akceleratore te ROCm softversku platformu, a korisnici mogu pristupati različitim modelima uz naplatu prema stvarnoj potrošnji.

Kompanija je pritom ostvarila zapažene rezultate u industrijskim testovima MLPerf Inference. Tijekom rujna 2026. prijavila je distribuiranu konfiguraciju s 32 GPU-a na četiri lokacije u Sjedinjenim Državama i Južnoj Koreji, u kojoj je postignuta učinkovitost skaliranja od 97 posto pri izvršavanju modela GPT-OSS-120B. Riječ je o rezultatima specifičnog testnog okruženja s AMD-ovim GPU akceleratorima, a ne o performansama budućeg heterogenog klastera. Ipak, oni pokazuju iskustvo MangoBoosta u upravljanju infrastrukturom koja objedinjuje različite generacije procesora i više fizički udaljenih lokacija.

Uz zajednički referentni projekt MangoBoost razvija i vlastitu infrastrukturu Mango AI Factory, čiji je početak rada planiran za prvu polovicu 2027. Sustav će se oslanjati na AMD Instinct akceleratore, BoostX DPU tehnologiju, softver LLMBoost za optimizaciju inferencije te vlastite poslužiteljske i sustave za pohranu podataka. Kompanija namjerava povezati ovu infrastrukturu s uslugom Mango Inference kako bi korisnicima mogla ponuditi cjelovito okruženje, od računalnih resursa do izvršavanja AI modela.

Suradnja triju kompanija dio je znatno šireg AMD-ova povezivanja s južnokorejskom industrijom poluvodiča. AMD je u srpnju 2026. s južnokorejskim Ministarstvom znanosti i ICT-a potpisao memorandum o razvoju otvorene AI infrastrukture koja kombinira njegove procesore s tehnologijama lokalnih kompanija. Tijekom listopadskog posjeta Južnoj Koreji izvršna direktorica AMD-a Lisa Su predstavila je dodatne planove za razvoj zajedničkih istraživačkih programa i osnivanje centra AI Center of Excellence, uz najavu zapošljavanja nekoliko stotina stručnjaka.

U inicijativu su uključene brojne korejske tehnološke kompanije, među kojima su Rebellions, FuriosaAI, HyperAccel, DEEPX, Mobilint, MangoBoost, Panmnesia, Nota AI, FADU i Upstage. Suradnja obuhvaća razvoj procesora, memorijskih tehnologija, mrežne infrastrukture, softvera i AI modela. Južna Koreja pritom želi povezati svoju snažnu poluvodičku industriju, uključujući proizvođače memorije, s razvojem vlastitih AI procesora i računalnih platformi koje bi se mogle koristiti i na međunarodnom tržištu.

Za AMD je posebno važna mogućnost širenja ROCm softverskog ekosustava, koji predstavlja alternativu Nvidijinoj platformi CUDA. AMD već razvija otvorene programske alate i biblioteke za izvršavanje AI modela na Instinct akceleratorima, ali heterogeni sustavi donose dodatne izazove jer različiti procesori koriste zasebne programske modele, upravljačke programe i metode optimizacije. Uspješna integracija zahtijeva softver koji može prepoznati dostupne resurse, rasporediti radna opterećenja i osigurati prijenos podataka bez nepotrebnih kašnjenja.

Upravo će softverska interoperabilnost biti jedan od ključnih elemenata provjere u Seulu. Nije dovoljno povezati različite procesore unutar iste mreže, nego treba omogućiti da se modeli izvršavaju uz predvidljive performanse, učinkovito korištenje memorije i jednostavno upravljanje. Kod velikih jezičnih modela to uključuje raspoređivanje zahtjeva, upravljanje privremenom memorijom, obradu ulaznog konteksta i generiranje odgovora, pri čemu različite faze rada mogu imati različite zahtjeve za računalnom snagom i memorijskom propusnošću.

Partneri će zato morati provjeriti koliko zajednička arhitektura može povećati broj obrađenih zahtjeva, smanjiti vrijeme odgovora i poboljšati odnos performansi i potrošnje energije. Takvi rezultati bit će važni za procjenu ukupnog troška vlasništva, osobito kod velikih sustava u kojima električna energija, hlađenje, mrežna infrastruktura i održavanje predstavljaju znatan dio operativnih troškova.

Iako je početak rada referentnog klastera planiran za proljeće 2027., AMD, FuriosaAI i MangoBoost još nisu objavili broj procesora, ukupni računalni kapacitet, energetsku snagu ni investicijsku vrijednost projekta. Nisu predstavljeni ni konkretni kupci budućeg zajedničkog sustava. Zasad je potvrđena suradnja na projektiranju i provjeri arhitekture te namjera njezina postavljanja unutar MangoBoostove postojeće infrastrukture u Seulu. Rezultati tih ispitivanja trebali bi pokazati može li se kombinacija AMD-ovih GPU-ova, korejskih NPU procesora i DPU infrastrukture ponuditi kao komercijalna alternativa tradicionalnim AI klasterima koji se oslanjaju na jednog proizvođača akceleratora.