Moonshot AI smanjio je kibernetičke napadačke sposobnosti modela Kimi K3.1 Pro prije objave otvorenih težina 4. studenoga. Interni test kompanije pokazao je rezultat od 81,0 posto, u usporedbi s 90,5 posto kod slične verzije bez ograničenja. Tvrtka je uklonila dio sigurnosno osjetljivih podataka i zadataka iz treninga, ali je zadržala opće programerske sposobnosti. Rezultati nisu neovisno potvrđeni, a otvorene težine nakon objave više neće biti pod kontrolom pružatelja usluge.
Kineska tehnološka tvrtka Moonshot AI smanjila je kibernetičke napadačke sposobnosti novog modela Kimi K3.1 Pro prije nego što 4. studenoga objavi njegove otvorene težine. Kompanija navodi da model na internom testu pronalaženja i iskorištavanja ranjivosti postiže 81,0 posto, dok usporediva verzija bez sigurnosnog zahvata postiže 90,5 posto. Rezultati nisu neovisno provjereni.
Moonshot je iz skupa za učenje i okruženja za pojačano učenje uklonio dio sadržaja povezanog s napadačkim kibernetičkim zadacima. Cilj je zadržati opće programiranje i obrambenu uporabu, a ne objaviti model koji podiže granicu dostupnih napadačkih sposobnosti. Takav zahvat razlikuje se od naknadnog filtra jer se pokušava utjecati na ono što je model naučio.
K3.1 Pro kompanija opisuje kao svoj najsposobniji otvoreni model klase od tri bilijuna parametara. Ima kontekstni prozor od milijun tokena, dostupan je kroz aplikacije i API, a objavljena je i brža inačica. Veliki kontekst omogućuje obradu repozitorija i dugih tehničkih zapisa, što povećava vrijednost za razvoj, ali i potencijal za automatizirano traženje slabosti.
Otvorene težine korisniku daju mogućnost pokretanja i izmjene modela na vlastitoj infrastrukturi. Time nestaju centralne kontrole koje pružatelj može primijeniti na hostiranoj usluzi, uključujući nadzor upita, ograničenje brzine i gašenje računa. Sigurnosna odluka prije objave stoga ima veći značaj nego kod zatvorenog API-ja.
Smanjenje rezultata ne znači da model ne može pomoći napadaču. Ocjena od 81,0 posto i dalje pokazuje visoku sposobnost u kontroliranom okruženju, a korisnik može dodati specijalizirane podatke ili alate. Kompanija nije objavila sve detalje skupa testova, pa nije moguće procijeniti koliko rezultat odgovara stvarnim mrežama i novim ranjivostima.
Za obrambene timove isti model može pregledavati kod, predlagati zakrpe i objašnjavati put napada. Vrijednost ovisi o provjeri nalaza, jer pogrešan popravak može uvesti novu ranjivost. Organizacije ne bi smjele povezati autonomnog agenta s produkcijskim sustavom bez ograničenih ovlasti, zapisivanja radnji i ljudskog odobrenja.
Moonshotov potez otvara pitanje standarda za otvorene modele. Dobrovoljna interna mjera nije isto što i zajednički test koji omogućuje usporedbu različitih dobavljača. Tržištu trebaju objavljene metodologije, jasna granica dopuštene pomoći i postupak kojim neovisni istraživači mogu ponoviti rezultate bez izlaganja funkcionalnog exploita.
Kina je također predložila stroža pravila za AI alate namijenjene zlonamjernom softveru i automatiziranom otkrivanju ranjivosti. Moonshot zato balansira razvojni interes otvorenog ekosustava s regulatornim i reputacijskim rizikom. Ako model nakon objave bude prilagođen za napade, kompanija neće moći povući kopije koje su već preuzete.
Prvi provjerljivi rok je 4. studenoga, kada bi trebale biti objavljene pune težine. Nakon toga sigurnosni istraživači moći će usporediti performanse s tvrdnjama kompanije, analizirati mogućnost dodatnog treniranja i provjeriti jesu li opće programerske sposobnosti ostale očuvane. Tek taj test pokazat će stvarnu cijenu sigurnosnog ograničenja.
Za poslovne korisnike bit će presudna licenca pod kojom se težine objavljuju. Ograničenje uporabe na papiru teško je provesti nakon lokalnog preuzimanja, dok previše restriktivna licenca smanjuje vrijednost otvorenog ekosustava. Moonshot mora uskladiti tehničko smanjenje rizika, pravna pravila i transparentnost dovoljno preciznu za istraživače i kupce.
Razvojni tim koji model preuzme lokalno preuzima i odgovornost za njegove dodatke. Povezivanje s mrežnim skenerom, terminalom ili bazom ranjivosti može povećati sposobnost mnogo više od samog modela. Procjena rizika zato mora obuhvatiti cijeli agentni sustav, a ne samo rezultat na jednoj tablici koju je objavio proizvođač.
Moonshot će trebati objaviti i postupak za prijavu zlouporabe nakon izdavanja težina. Kod otvorenog modela nema prekida API ključa, ali kompanija može objavljivati sigurnosne zakrpe, upozorenja i nove klasifikatore. Brzina tog odgovora pokazat će je li ograničenje dio trajnog upravljanja rizikom ili samo mjera uvedena prije lansiranja.
TELEKOM OPERATORI
Kineska tehnološka tvrtka Moonshot AI smanjila je kibernetičke napadačke sposobnosti novog modela Kimi K3.1 Pro prije nego što 4. studenoga objavi njegove otvorene težine. Kompanija navodi da model na internom testu pronalaženja i iskorištavanja ranjivosti postiže 81,0 posto, dok usporediva verzija bez sigurnosnog zahvata postiže 90,5 posto. Rezultati nisu neovisno provjereni.
Dvodnevni program konferencije obuhvaća predavanja i rasprave o izvještavanju o održivosti, kružnom gospodarstvu, klimatskoj otpornosti, utjecaju umjetne inteligencije na održivost, kibernetičkoj sigurnosti, borbi protiv korupcije te upravljanju lancom vrijednosti i reputacijskim rizicima.
Vanjski AI agenti dosad su DoorDashu donijeli tek nekoliko stotina narudžbi, prema podatcima koje je kompanija iznijela analitičarima. U usporedbi s milijunima dostava koje platforma obradi svakoga dana, riječ je o gotovo zanemarivu prometu. Izvršni direktor Tony Xu zato razlikuje tehnološki potencijal od stvarnih navika kupaca.
