U industriji poluvodiča sve se više raspravlja o arhitekturama procesora za umjetnu inteligenciju koje bi mogle preispitati dominantnu ulogu memorije visoke propusnosti. Razmatraju se rješenja oslonjena na drukčije vrste memorije, posebno za izvođenje modela, gdje zahtjevi nisu isti kao kod treniranja. Takav razvoj mogao bi s vremenom promijeniti strukturu tržišta komponenti za umjetnu inteligenciju i odnos među proizvođačima različitih vrsta memorije.
Dosadašnji procesori za umjetnu inteligenciju obrađuju goleme skupove podataka oslanjajući se na više slojeva memorije visoke propusnosti smještene uz procesor, što omogućuje rukovanje velikim količinama podataka iznimno velikom brzinom. Taj pristup pokazao se učinkovitim za treniranje modela, no donosi visoke troškove i znatnu potrošnju energije. Za izvođenje modela, koje čini sve veći dio stvarne primjene umjetne inteligencije, neki smatraju da bi drukčija arhitektura mogla biti učinkovitija i jeftinija.
Među razmatranim pristupima ističu se rješenja oslonjena na memoriju ugrađenu izravno u procesor te na memoriju niže potrošnje izvedenu iz potrošačke memorije. Najveći proizvođač čipova već je najavio korištenje takve memorije za svoje procesore namijenjene izvođenju modela, obrazlažući to većom energetskom učinkovitošću. Time se otvara mogućnost da se za različite faze rada umjetne inteligencije koriste različite vrste memorije, ovisno o tome je li naglasak na brzini, kapacitetu ili učinkovitosti.
Posljedice takvog razvoja za tržište mogle bi biti znatne. Ako se dio potražnje preusmjeri s memorije visoke propusnosti na druge vrste memorije, mijenja se odnos snaga među proizvođačima i raspodjela profita unutar industrije. Memorija visoke propusnosti trenutačno je najprofitabilniji proizvod, pa svako preispitivanje njezine uloge izaziva pažnju. Istodobno, raznolikost arhitektura mogla bi smanjiti ovisnost o jednoj vrsti memorije i ublažiti pritisak na napeti lanac opskrbe.
Valja naglasiti da je riječ o razvoju koji je još u ranoj fazi, a dio informacija temelji se na očekivanjima i najavama, a ne na gotovim proizvodima na tržištu. Hoće li alternativne arhitekture doista zaživjeti i u kojoj mjeri, ovisit će o tome koliko će biti učinkovite u stvarnoj primjeni te kako će se odnositi prema postojećim rješenjima po cijeni i performansama. Tržište poluvodiča sklono je naglim zaokretima, no temeljne promjene arhitekture obično traju dulje nego što se isprva očekuje.
Za poslovne korisnike rasprava o arhitekturama nosi posrednu pouku. Razlika između treniranja i izvođenja modela sve je važnija pri planiranju infrastrukture, jer različite faze imaju različite zahtjeve i troškove. Organizacije koje uglavnom izvode gotove modele mogle bi imati koristi od učinkovitijih i jeftinijih rješenja, dok one koje treniraju vlastite modele i dalje ovise o najsnažnijoj memoriji. Razumijevanje tih razlika postaje dio promišljenog planiranja ulaganja.
Za proizvođače memorije razvoj raznolikijih arhitektura nosi i strateški izazov. Tvrtke koje su uložile golema sredstva u kapacitete za memoriju visoke propusnosti mogle bi se suočiti s promjenom potražnje ako se dio tržišta preusmjeri na druge vrste memorije. Istodobno, oni koji proizvode širi raspon memorijskih proizvoda mogli bi imati prednost u prilagodbi. Time se naglašava koliko je tržište poluvodiča dinamično i koliko brzo tehnološki zaokreti mogu promijeniti odnose među proizvođačima.
Za europsko i regionalno tržište razvoj raznolikijih arhitektura mogao bi s vremenom donijeti veću dostupnost i niže cijene rješenja za izvođenje modela, što bi olakšalo uvođenje umjetne inteligencije u širem krugu organizacija. Ovisnost o najnaprednijoj i najskupljoj memoriji ograničavajući je čimbenik za mnoge, pa bi pojava učinkovitijih alternativa mogla proširiti pristup tehnologiji. Ipak, do tada tržištem i dalje dominira memorija visoke propusnosti, a njezina cijena i dostupnost ostaju ključne za cijeli sektor.
