NOVA ERA TEHNOLOGIJE

Qualcomm predstavio AI Hub: Alat koji bi trebao olakšati posao developerima

Qualcomm predstavio AI Hub: Alat koji bi trebao olakšati posao developerima
Dražen Tomić / Tomich Productions

Prošle smo godine svjedočili porastu interesa i razvoju u primjenama generativne umjetne inteligencije. Sada smo u sljedećoj eri tehnologije - s AI aplikacijama koje postaju sve prisutnije na našim uređajima.

Tim povodom, Qualcomm je na Mobile World Congressu predstavio alat koji pojednostavljuje način na koji developeri mogu pristupiti i preuzeti AI modele izravno na testne uređaje. To se čini kroz Qualcomm AI Hub, koji sadrži library s više od 75 generativnih AI modela za preuzimanje na uređaje s Qualcommovim procesorima, pri čemu se kontinuirano dodaju novi modeli.

Ujedno, library sadrži neke od najpopularnijih modela u industriji, poput Whispera, OpenAI-jevog sustava automatskog prepoznavanja govora (ASR) Stable Diffusiona, text-to-image modela tvrtke Stability AI.

Qualcomm AI Hub automatski primjenjuje optimizacije usmjerene prema hardveru na modele za superiornu izvedbu AI-a na uređaju. Osim toga, modeli su prilagođeni kako bi maksimalno iskoristili sve jezgre unutar Qualcomm AI Enginea, uključujući NPU, CPU i GPU, što rezultira boljom energetskom učinkovitošću, nižom upotrebom memorije i do četiri puta bržim vremenskim inferencijama.

Prednost AI-a na uređaju, osim općenito povećane izvedbe aplikacije, je ta što se, izbjegavajući bilo kakve kolizije s cloudom, povećava privatnost, što je posebno važno prilikom stvaranja modela koji koriste baze podataka s povjerljivim ili vlasničkim podacima.

"Qualcomm AI Hub pruža developerima sveobuhvatni library AI modela kako bi brzo i lako integrirali prethodno optimizirane AI modele u svoje aplikacije, što dovodi do bržih, pouzdanijih i privatnijih korisničkih iskustava", navode u Qualcommu.

Inače, u trenutku pisanja teksta optimizirani modeli već su bili dostupni, kako na Qualcomm AI Hubu, tako i na GitHubu te Hugging Faceu.