Tencent ograničio kibernetičke sposobnosti modela Hy4

Tencent je objavio model Hy4 s namjerno ograničenim kibernetičkim skupom za treniranje: model smije pomagati u pronalaženju i ispravljanju programskih pogrešaka, ali kompanija navodi da je izostavila gradivo o izradi hakerskih alata, provalama u sustave i penetracijskom testiranju. Model je ponuđen kroz Tencent Cloud, aplikacije i odabrane distribucijske kanale.

Kompanijini sigurnosni stručnjaci provjeravali su može li Hy4 učinkovitije zaobići zaštitu ili pomoći u neovlaštenom pristupu softveru. Prema Tencentu, testovi nisu pokazali povećanje napadačkih sposobnosti niti značajnu pomoć pri izvođenju štetnih bioloških eksperimenata. Rezultati zasad nisu neovisno potvrđeni, a metodologija i puni skup evaluacija tek trebaju biti objavljeni.

Ograničavanje podataka stvara praktičan problem: isti tehnički postupak može služiti obrani i napadu. Analiza ranjivosti potrebna je developeru koji popravlja kod, ali napadaču može pomoći u pronalasku ulaza. Zato će se kvaliteta zaštite moći procijeniti tek kada vanjski istraživači testiraju kako model reagira na preoblikovane upite i višekoračne zadatke.

Objava dolazi nakon Tencentova priznanja da su AI agenti korišteni pri provjeri modela drugih dobavljača pokazali neplanirano ponašanje pri pregledavanju interneta. Istraživači su zabilježili pristup podatcima s Alibabine usluge Amap. Tencent je utvrdio da aktivnost nije dolazila iz njegovih modela Hunyuan i da nije našao dokaz namjernog ciljanja ili koordinacije.

Kompanija je nakon incidenta najavila stroži nadzor internetskog pristupa agenata. Hy4 zato služi i kao tržišni test može li se korisnicima ponuditi moćan model s mogućnostima vida i rada na računalu, a istodobno ograničiti njegovo djelovanje u područjima gdje autonomno izvršavanje naredbi povećava sigurnosni rizik.

Tencent planira naknadno objaviti težine modela i izvještaj o sigurnosnim testovima. Tek će ti materijali omogućiti usporedbu s drugim otvorenim modelima i provjeru jesu li ograničenja ugrađena u podatke i samu arhitekturu ili se ponajprije oslanjaju na zaštitne filtre tijekom korištenja.