UMJETNA INTELIGENCIJA

Snaga za AI dolazi iz novog Intel Gaudi 3

Snaga za AI dolazi iz novog Intel Gaudi 3

Sa samo 10 posto poduzeća koje je prošle godine uspješno prebacilo GenAI projekte u proizvodnju, Intelove najnovije ponude rješavaju izazove s kojima se tvrtke suočavaju u skaliranju inicijativa AI.

“Inovacije napreduju neviđenom brzinom, a sve to omogućuje silicij – i svaka tvrtka brzo postaje tvrtka s umjetnom inteligencijom”, rekao je izvršni direktor Intela Pat Gelsinger. “Intel donosi AI posvuda u poduzeće, od osobnog računala do podatkovnog centra do ruba. Naše najnovije platforme Gaudi, Xeon i Core Ultra isporučuju kohezivan skup fleksibilnih rješenja skrojenih kako bi zadovoljili promjenjive potrebe naših kupaca i partnera i iskoristili goleme prilike koje su pred nama.”

Poduzeća žele skalirati GenAI od pilota do proizvodnje. Da bi to učinili, potrebna su im lako dostupna rješenja, izgrađena na učinkovitim i troškovno i energetski učinkovitim procesorima poput Intel Gaudi 3 AI akceleratora, koja također rješavaju zahtjeve složenosti, fragmentacije, sigurnosti podataka i usklađenosti.

Intel Gaudi 3 AI akcelerator napajat će AI sustave s do deset tisuća akceleratora povezanih putem zajedničkog standarda Etherneta. Intel Gaudi 3 obećava 4x više AI računanja za BF16 i 1,5x povećanje propusnosti memorije u odnosu na svog prethodnika. Akcelerator će donijeti značajan skok u obuci AI i zaključivanju za globalna poduzeća koja žele implementirati GenAI u velikim razmjerima.

U usporedbi s Nvidijom H100, predviđa se da će Intel Gaudi 3 u prosjeku isporučiti 50% brže vrijeme treninga3 na modelima Llama2 s parametrima 7B i 13B i modelu s parametrima GPT-3 175B. Dodatno, projicira se da će propusnost inferencije Intel Gaudi 3 akceleratora nadmašiti H100 za 50% u prosjeku1 i 40% za inferenciju energetske učinkovitosti u prosjeku2 po parametrima Llama 7B i 70B i modelima parametara Falcon 180B.

Intel Gaudi 3 pruža otvoreni softver temeljen na zajednici i Ethernet umrežavanje industrijskog standarda. I omogućuje poduzećima fleksibilno skaliranje od jednog čvora do klastera, super-klastera i mega-klastera s tisućama čvorova, podržavajući zaključivanje, fino podešavanje i obuku na najvećoj razini.
Intel Gaudi 3 bit će dostupan proizvođačima originalne opreme – uključujući Dell Technologies, HPE, Lenovo i Supermicro – u drugom kvartalu 2024. godine.