UMJETNA INTELIGENCIJA

IBM će ubrzati GenAI s optičkim rješenjem

Dizajniranjem i sastavljanjem prvog javno objavljenog uspješnog polimernog optičkog valovoda (PWG) za napajanje ove tehnologije, IBM-ovi istraživači su pokazali kako će CPO redefinirati način na koji računalna industrija prenosi podatke velike propusnosti između čipova, tiskanih ploča i poslužitelja.

IBM će ubrzati GenAI s optičkim rješenjem
Depositphotos

IBM je predstavio nova istraživanja u optičkoj tehnologiji koja bi mogla dramatično poboljšati način na koji podatkovni centri treniraju i pokreću generativne AI modele. Istraživači su uveli novi proces za optiku u paketu (CPO), sljedeću generaciju optičke tehnologije, kako bi omogućili povezivanje unutar podatkovnih centara brzinom svjetlosti kroz optiku koja nadopunjuje postojeće žice kratkog dosega.

Dizajniranjem i sastavljanjem prvog javno objavljenog uspješnog polimernog optičkog valovoda (PWG) za napajanje ove tehnologije, IBM-ovi istraživači su pokazali kako će CPO redefinirati način na koji računalna industrija prenosi podatke velike propusnosti između čipova, tiskanih ploča i poslužitelja. Iako podatkovni centri koriste optička vlakna za svoje vanjske komunikacijske mreže, regali u podatkovnim centrima još uvijek pretežno vode komunikaciju putem žica na bazi bakra. Ove žice povezuju GPU akceleratore koji mogu provesti više od polovice svog vremena u mirovanju, čekajući podatke s drugih uređaja u velikom, distribuiranom procesu obuke koji može izazvati značajne troškove i energiju.

Istraživači su pokazali način da se brzina i kapacitet optike dovedu u podatkovne centre. U tehničkom dokumentu, IBM predstavlja novi CPO prototip modula koji može omogućiti optičko povezivanje velike brzine. Ova bi tehnologija mogla značajno povećati propusnost komunikacija podatkovnog centra, minimizirajući zastoj GPU-a uz drastično ubrzanje AI obrade. Ova istraživačka inovacija, kako je opisano, omogućila bi niže troškove za skaliranje GenAI-ja, bržu obuku AI modela i dramatično povećanu energetsku učinkovitost za podatkovne centre.

"Kako GenAI zahtijeva više energije i procesorske snage, podatkovni centar se mora razvijati, a skupna optika može učiniti ove podatkovne centre spremnima za budućnost", rekao je Dario Gil, viši potpredsjednik i direktor istraživanja u IBM-u. "S ovim otkrićem, čipovi sutrašnjice komunicirat će slično kao što optički kabeli prenose podatke u podatkovne centre i iz njih, otvarajući novu eru bržih, održivijih komunikacija koje mogu podnijeti radna opterećenja AI budućnosti."

U posljednjih nekoliko godina, napredak u tehnologiji čipova je gusto upakirao tranzistore na čip. IBM-ova 2-nanometarska tehnologija čipa može sadržavati više od 50 milijardi tranzistora. Tehnologija CPO ima za cilj povećati gustoću međusobnog povezivanja između akceleratora omogućujući proizvođačima čipova da dodaju optičke putove koji povezuju čipove na elektroničkom modulu izvan granica današnjih električnih putova. Istraživački rad ističe kako ove nove optičke strukture visoke propusnosti, zajedno s prijenosom više valnih duljina po optičkom kanalu, imaju potencijal povećati propusnost između čipova čak 80 puta u usporedbi s električnim vezama.

Ova bi inovacija, kao što je opisano, omogućila proizvođačima čipova da dodaju šest puta više optičkih vlakana na rub silicijskog fotoničkog čipa, što se naziva "gustoća na plaži", u usporedbi s trenutnom najsuvremenijom CPO tehnologijom. Svako vlakno, oko tri puta veće od ljudske vlasi, moglo bi se protezati od centimetara do stotina metara duljine i prenositi terabit podataka u sekundi. IBM-ov tim sastavio je PWG visoke gustoće na optičkim kanalima od 50 mikrometara, adijabatski spojen na silicijeve fotoničke valovode, koristeći standardne procese pakiranja sklopa.

U radu se dodatno navodi da su ovi CPO moduli s PWG na koraku od 50 mikrometara prvi koji su prošli sve testove otpornosti na stres potrebne za proizvodnju. Komponente su podvrgnute okruženjima visoke vlažnosti i temperaturama u rasponu od -40°C do 125°C, kao i mehaničkom ispitivanju izdržljivosti kako bi se potvrdilo da se optički interkonekti mogu saviti bez loma ili gubitka podataka. Štoviše, istraživači su demonstrirali PWG tehnologiju na koraku od 18 mikrometara. Slaganje četiri PWG-a omogućilo bi do 128 kanala za povezivanje na tom koraku.