AI I STROJNO UČENJE

Tencent otvorio model Hy4 Preview

Tencent je objavio otvorene težine modela Hy4 Preview s ukupno 770 milijardi parametara, od kojih se pri obradi aktivira 49 milijardi. Kontekst dulji od milijun tokena namijenjen je programiranju, uredskim analizama, istraživanju i financijskim zadacima. Model je dostupan za vlastito postavljanje i kroz plaćeni API, pa tvrtke mogu birati između kontrole infrastrukture i usluge u oblaku.

Tencent otvorio model Hy4 Preview
Depositphotos

Tencent je 28. kolovoza otvorio “težine” modela Hy4 Preview, sustava sa 770 milijardi parametara i 49 milijardi aktivnih parametara po koraku obrade. Kompanija ga je namijenila dugotrajnim zadacima iz programiranja, uredske analitike, znanstvenog istraživanja, razvoja igara i financija, a objava se pojavila na Hugging Faceu i u Tencentovu repozitoriju tijekom popodnevnog prozora u Europi.

Model podržava kontekst dulji od milijun tokena, što mu omogućuje da u jednom zahtjevu primi vrlo velike zbirke koda ili dokumenata. To nije isto što i zajamčeno razumijevanje svakog detalja: kontekst određuje koliko materijala sustav može obraditi, dok točnost ovisi o zadatku, načinu postavljanja pitanja, alatima i provjeri rezultata.

Hy4 koristi arhitekturu mješavine stručnjaka, poznatu kao MoE. Umjesto da za svaki token uključi svih 770 milijardi parametara, usmjerivač aktivira manji dio mreže, ukupno 49 milijardi. Takav pristup pokušava spojiti kapacitet vrlo velikog modela s manjim računskim troškom inferencije, ali sam broj parametara ne govori koliko će sustav biti brz na konkretnoj opremi.

Otvorene težine daju organizacijama mogućnost rada na vlastitim poslužiteljima, prilagodbe načina posluživanja i kontrole nad podacima koji ne trebaju napustiti njihovu infrastrukturu. Takvo postavljanje istodobno zahtijeva dovoljno memorije, računalne snage, stručnjake za optimizaciju i vlastite sigurnosne kontrole, pa dostupnost težina ne znači da je model jeftin za izvođenje.

Tencent istodobno nudi komercijalni pristup kroz TokenHub i OpenRouter. Službeni cjenik navodi šest juana za milijun ulaznih tokena, 18 juana za milijun izlaznih i 0,3 juana kada se iskoristi predmemorirani ulaz. Preračunato prema cijenama objave, riječ je o približno 0,83 dolara za ulaz, 2,50 dolara za izlaz i četiri centa za pogodak u predmemoriji.

Predmemoriranje je važno kod velikog konteksta. Ako korisnik više puta šalje isti repozitorij, pravilnik ili zbirku izvještaja, pružatelj ne mora svaki put iznova obraditi cijeli zajednički početak zahtjeva. Ušteda ipak vrijedi samo kada se ulaz može ponovno upotrijebiti prema pravilima usluge; često mijenjanje dokumenata ili kratki jednokratni upiti ne ostvaruju isti učinak.

Model je povezan s Tencentovim proizvodima WorkBuddy i CodeBuddy te s aplikacijama Yuanbao i ima. Time objava nije samo datoteka za istraživače nego dio distribucije kroz poslovne asistente i razvojne alate. Kompanija je za WorkBuddy i CodeBuddy najavila dvotjedno besplatno korištenje, nakon čega trošak ovisi o odabranom proizvodu i količini obrade.

Tencent navodi da je u internom slijepom testiranju 163 stručnjaka ocijenilo 203 inženjerska zadatka. Hy4 je ostvario 2,99 boda od četiri, u usporedbi s 2,92 za GLM-5.3 i 2,94 za Kimi K3. Budući da nisu objavljeni svi zadaci, uzorci odgovora i detaljan protokol, rezultat treba čitati kao tvrdnju proizvođača, a ne kao konačnu neovisnu ljestvicu.

Kompanija također tvrdi da je model pomogao optimizirati vlastiti sustav treniranja i inferencije te povećati propusnost 31,8 posto u odnosu na internu početnu konfiguraciju. Koristan je to primjer mogućeg povrata ulaganja, ali bez specifikacije hardvera, opterećenja i bazne verzije drugi ga timovi ne mogu izravno prenijeti u svoje troškovnike.