Što je neuronska procesorska jedinica i zašto je toliko važna za moderna računala?

Otkako postoji računalstvo, ljudi uspoređuju strojeve sa svojim mozgom. Dvojica pionira tog područja, John von Neumann i Alan Turing, to su činili već u ranim danima.

Konkretnije, von Neumann je napisao knjigu "Računalo i mozak", dok je Turing 1949. godine izjavio da ne vidi zašto računalo jednog dana ne bi moglo ravnopravno konkurirati ljudskom intelektu u većini područja.

Jedini problem s tom usporedbom je što tradicionalni procesor – centralna procesorska jedinica (CPU) – uopće ne oponaša mozak. CPU je pretjerano matematički i logički orijentiran. S druge strane, NPU – neuronska procesorska jedinica – koristi potpuno drugačiji pristup: simulira strukturu ljudskog mozga izravno u svojoj elektronici.

No, pokušaji oponašanja rada ljudskog mozga elektroničkim putem nisu nova ideja.

Doslovni "elektronički mozgovi" sežu u sredinu 1940-ih, u doba rođenja modernog računalstva, kada su neurofiziolog Warren McCulloch i logičar Walter Pitts stvorili "neuronsku mrežu" sklopova. McCullochovo pionirsko djelo potaknulo je daljnja istraživanja 1950-ih i 1960-ih, ali je ideja s vremenom pala u zaborav – možda zbog nedostatka napretka u odnosu na sve veću snagu klasičnih računala.

"U Japanu i Njemačkoj radilo je nekoliko pojedinaca na neuronskim mrežama, ali to nije bilo priznato kao pravo područje", rekao je Yann LeCun, francusko-američki računalni znanstvenik koji se danas smatra jednim od kumova umjetne inteligencije. Opisujući svoj rad s Geoffreyjem Hintonom, još jednim pionirom tog područja, LeCun dodaje da je to 1986. ponovno postalo ozbiljno polje.

Za povratak neuronskih mreža u središte računalnih znanosti bila je ključna njihova primjena u prepoznavanju govora početkom 2000-ih.

Pojam NPU pojavio se kasnih 1990-ih, ali trebalo je duboko ulaganje Applea, IBM-a i Googlea da se tehnologija iz akademskih laboratorija prebaci u mainstream. Te su tvrtke uložile milijarde dolara u razvoj silicijskih čipova, pretočivši desetljeća istraživanja u proizvod koji danas stane u naše telefone i prijenosna računala – procesor nadahnut ljudskim mozgom. LeCun je danas glavni znanstvenik za umjetnu inteligenciju u Meti.

Kako rade NPU-ovi?

Na neki način, današnji NPU-ovi nisu tako različiti od onih koje su stvorili McCulloch i Pitts – njihova struktura oponaša mozak putem paralelne arhitekture. To znači da NPU ne rješava probleme sekvencijalno kao CPU, već istodobno izvršava milijune, pa čak i trilijune malih izračuna. Taj se kapacitet opisuje pojmom "tera operacija u sekundi" ili TOPS.

No tu stvari postaju složenije. NPU-ovi se oslanjaju na setove instrukcija dubokog učenja, prethodno treniranih na ogromnim količinama podataka. Uzmimo primjer detekcije rubova na fotografijama, gdje se koristi konvolucijska neuronska mreža (CNN).

NPU-ovi su iznimno učinkoviti u izvođenju konvolucijskih operacija – obavljaju ih velikom brzinom i uz nisku potrošnju energije. To ih čini znatno učinkovitijima od CPU-a, a čak i GPU-ovi, iako također koriste paralelnu obradu, nisu optimizirani za takve zadatke, što rezultira većom potrošnjom i kraćim trajanjem baterije.

Zanimljivo je da su prvi telefoni s ugrađenim NPU-om lansirani još 2017. godine – Huawei Mate 10 i iPhone X s Appleovim čipom A11 Bionic. No ti su NPU-ovi bili slabi – imali su manje od 1 TOPS, u usporedbi s današnjim Snapdragon X čipsetima koji dosežu 45 TOPS i nalaze se u najjačim prijenosnicima. Potrebne su godine kako bi se razvile aplikacije koje u potpunosti koriste mogućnosti ovih čipova.

Samo osam godina kasnije, AI aplikacije su posvuda. Primjerice, ako vaš telefon omogućuje uklanjanje osoba s fotografije – gotovo sigurno koristi NPU. Isto vrijedi i za Googleovu funkciju “Circle to Search” ili “Add Me”, koja pomoću proširene stvarnosti (AR) i NPU-a može naknadno umetnuti vašu figuru u fotografiju.

NPU i prijenosna računala

Prošle godine Microsoft je najavio novu kategoriju računala s operacijskim sustavom Windows – Copilot+ PC. Ta računala moraju imati NPU s minimalno 40 TOPS, što je predstavljalo problem za AMD i Intel, čiji su čipovi tada nudili samo 15 TOPS. Qualcomm je iskoristio priliku – svi njegovi Snapdragon X procesori prelazili su tu granicu s NPU-ovima snage 45 TOPS. Uređaji koji koriste ove čipove uključuju Microsoft Surface Laptop i Snapdragon verzije Acer Swift AI serije.

AMD i Intel danas nude čipove koji zadovoljavaju Microsoftove zahtjeve, pa je broj računala s oznakom "Copilot+ PC" značajno narastao. Ipak, postoji kvaka – jeftinija prijenosna računala (cijene ispod 800 USD) još uvijek koriste slabije procesore koji ne zadovoljavaju kriterije Copilot+.

Zašto biste onda platili više za Copilot+ računalo? Microsoft se nada da će vas privući nizom ekskluzivnih značajki, a najimpresivnija – i najkontroverznija – je “Recall”. Ova funkcija nudi svojevrsnu “fotografsku memoriju”, koja vam omogućuje da pronađete nešto što ste prethodno vidjeli u sustavu Windows 11.

Recall koristi NPU za analizu svake snimke zaslona, koristeći kontekst, prepoznavanje znakova (OCR) i analizu raspoloženja, kako bi stvorio indeks koji korisnik može pretraživati. Nakon kritika zbog sigurnosti i kontrole nad pohranjenim podacima, Microsoft je morao redizajnirati ovu značajku kako bi bila sigurnija.

Ostale funkcije nadograđuju postojeće mogućnosti. Image Creator koristi NPU za pretvaranje teksta u slike, Studio Effects dodaje filtere vašim videopozivima, dok Live Captions koristi NPU za prijevod bilo kojeg videa u stvarnom vremenu.

Tvrtke poput Acera, HP-a i Lenova razvile su vlastite lokalne AI alate koji analiziraju dokumente pohranjene na računalu, sažimaju ih i rade analizu sentimenta – a takve će funkcije vjerojatno postajati sve naprednije.

Budućnost NPU-a

Neki stručnjaci vjeruju da će razvoj NPU-ova u sljedećih nekoliko godina slijediti put CPU-a u ranim fazama – prema nečemu nalik Mooreovom zakonu, s udvostručavanjem TOPS-a svake godine ili dvije. Ta će snaga otvoriti vrata lokalnom generiranju realističnih AI slika i sadržaja, bez potrebe za servisima poput Midjourneyja.

Kako softver bude sazrijevao zajedno s hardverom, a sve više developera bude koristilo ove mogućnosti, očekuje se pojava osobnih AI agenata koji će vas razumjeti jer su “živjeli” u vašem računalu dok radite. Neće samo pomagati u pretraživanju, nego će izvršavati radnje u vaše ime.

NPU-ovi će se vjerojatno proširiti i izvan telefona i računala – u televizore koji kreiraju personalizirane vijesti s vašim omiljenim virtualnim voditeljem, u fitness trackere koji preporučuju vježbe prema vašem raspoloženju i rasporedu. Tko zna – možda će vaš najbolji prijatelj jednog dana biti humanoidni robot koji vas razumije bolje od bilo kojeg čovjeka.