Financijska direktorica OpenAI-ja Sarah Friar upozorila je kompanije na moguće kibernetičke rizike pri korištenju jeftinijih kineskih modela umjetne inteligencije. Pritisak na američke pružatelje AI usluga raste jer modeli s javno dostupnim težinama omogućuju lokalno izvršavanje i niže troškove. Kritike se odnose na sigurnost, mogućnost nadzora i postupanje sa sustavima koji se mogu slobodno prilagođavati. Rasprava otvara i pitanje kako uspoređivati stvarne rizike otvorenih i vlasničkih modela.
Financijska direktorica OpenAI-ja Sarah Friar upozorila je poslovne korisnike da uporaba jeftinijih kineskih modela umjetne inteligencije može otvoriti ozbiljne kibernetičke ranjivosti. Ustvrdila je da zapadni modeli nude bolju zaštitu te pozvala organizacije da temeljito procijene sigurnosne značajke modela razvijenih u Kini.
OpenAI i njegov glavni konkurent Anthropic suočavaju se sa sve snažnijom konkurencijom modela s javno dostupnim težinama (modela s dostupnim težinama), posebno kineskog podrijetla. Korisnici takve modele mogu preuzeti i pokretati na vlastitoj infrastrukturi, često uz manje troškove od premium američkih usluga, dok u pojedinim mjerilima postižu usporedive rezultate. Modeli iz Kine u kolovozu su činili najveći udio preuzimanja generativnih AI modela na platformi Hugging Face.
OpenAI i Anthropic uglavnom nude zatvorene modele čije se težine ne mogu slobodno preuzimati i mijenjati. Njihovi predstavnici tvrde da otvoreniji pristup može povećati određene rizike. Guillaume Princen, Anthropicov direktor za međunarodno poslovanje, također je upozorio da dostupnost takvih modela povećava izloženost sigurnosnim prijetnjama.
Upozorenja dolaze u vrijeme kada izvješća o sigurnosnim testovima naprednih AI sustava bilježe neuobičajena ponašanja u simuliranim kibernetičkim scenarijima. Ipak, Friar smatra da zapadni proizvođači ne bi smjeli znatno usporiti objavu novih modela. „Moramo dobro upravljati tempom razvoja, ali ne smijemo usporiti toliko da neravnoteža u dostupnosti alata stvori kritične sigurnosne probleme u svijetu”, poručila je.
Pojam modela s dostupnim težinama znači da su težine modela dostupne za preuzimanje, ali ne znači nužno da su dostupni svi podaci za treniranje, programski kod i postupci razvoja. Zbog toga takve modele ne treba automatski izjednačavati s potpuno otvorenim softverom. Lokalno izvršavanje može organizaciji dati veću kontrolu nad podacima koji se šalju modelu. Međutim, preuzimanje modela ne uklanja opasnosti od zlonamjernih uputa, neprovjerenih dodataka ili ranjivosti u okolnoj infrastrukturi. Sigurnosni rizik ovisi i o tome s kojim sustavima model može komunicirati.
Model koji samo sažima dokumente ima drukčiji profil rizika od AI agenta koji može pokretati naredbe ili pristupati poslovnim aplikacijama. Za poslovnu uporabu bitno je provjeriti podrijetlo modela, uvjete licenciranja i način distribucije ažuriranja. Važna je i procjena smije li model iznositi osjetljive podatke izvan kontroliranog okruženja. I zatvoreni i otvoreniji modeli zahtijevaju testiranje, nadzor pristupa te bilježenje aktivnosti. Sama zemlja podrijetla modela nije dovoljna za pouzdanu procjenu njegove sigurnosti.
Financijska direktorica OpenAI-ja Sarah Friar upozorila je poslovne korisnike da uporaba jeftinijih kineskih modela umjetne inteligencije može otvoriti ozbiljne kibernetičke ranjivosti. Ustvrdila je da zapadni modeli nude bolju zaštitu te pozvala organizacije da temeljito procijene sigurnosne značajke modela razvijenih u Kini.
IN2theHeart društveno je odgovoran program IN2 grupe u sklopu kojeg se odabiru i financiraju projekti usmjereni na poboljšanje skrbi za pacijente u hrvatskim bolnicama. Program je dio tradicionalne konferencije IBIS dani u organizaciji IN2 grupe, a o projektima koji će dobiti novčanu potporu odlučuju sami posjetitelji konferencije, među njima i brojni zdravstveni radnici.
Hrvatski Deep Creek Studio iz Poduzetničkog inkubatora PISMO powered by A1 najavio je izlazak svoje nove igre Dream Glitcher na Steamu, koji je zakazan za 11. studenoga ove godine u 11:00 sati za Windows PC i macOS.
