Senat razmatra blokadu AI modela

Američki senatori pregovaraju o zakonu koji bi razvijatelje najnaprednijih AI modela obvezao na razumno ublažavanje poznatih katastrofalnih rizika prije javne objave, izvijestio je Reuters. Jedna razmatrana verzija omogućila bi saveznoj vlasti da zaustavi objavu modela ocijenjenog nesigurnim, dok bi kompanija odluku mogla osporiti pred saveznim sudom.

U razgovorima sudjeluju republikanci John Thune i Ted Cruz te demokratkinje Amy Klobuchar i Maria Cantwell. Pregovara se i o ograničenoj prednosti saveznih pravila pred propisima saveznih država za rizike poput pomoći pri izradi nuklearnog ili biološkog oružja. Nacrt nije javno objavljen, nadležno tijelo nije konačno određeno, a odredbe se mogu promijeniti prije predstavljanja zakona.

Obveza dužne pažnje ne bi značila jamstvo da model nikada neće pogriješiti. Zahtijevala bi dokumentirani postupak: prepoznavanje poznatog rizika, testiranje sposobnosti, mjere ublažavanja i odluku odgovorne osobe. U sporu bi se zatim ocjenjivalo je li razvijatelj postupao razumno s obzirom na tada dostupno znanje, a ne je li naknadno mogao zamisliti svaku moguću zlouporabu.

Najzahtjevnije pitanje jest ovlast blokiranja. Model se može objaviti kao API, preuzimljivi skup parametara ili integrirana usluga, pa zabrana mora precizno definirati što se zaustavlja i na kojem teritoriju. Ako je prethodna verzija već dostupna izvan Sjedinjenih Država, tehnička provedba nije jednaka zabrani prodaje fizičkog proizvoda. Nisu objavljeni kriteriji za hitnu mjeru ni trajanje zabrane.

Sudsko osporavanje trebalo bi biti zaštita od proizvoljne odluke, ali brzina je presudna. Višemjesečni postupak može poslovno obesmisliti lansiranje u sektoru u kojem se modeli mijenjaju svakih nekoliko mjeseci. Prekratak postupak, s druge strane, možda ne dopušta neovisnim stručnjacima provjeru bioloških, kibernetičkih ili nuklearnih sposobnosti. Pregovarači još nisu predstavili tijek postupka.

Klobuchar je poručila da bi stručnjaci državnih tijela trebali moći provjeriti i testirati tvrdnje kompanija. Cantwell zagovara ulogu nacionalnih laboratorija u ispitivanju sofisticiranih bioloških, nuklearnih i kibernetičkih rizika. Takvo testiranje traži kontrolirano okruženje jer sam pokušaj dokazivanja sposobnosti može rezultirati opasnim postupkom ili kodom. Potrebna su i pravila čuvanja poslovnih tajni modela.

Moguća prednost saveznih propisa pred propisima saveznih država politički je najosjetljiviji dio. Jedinstven standard smanjuje trošak usklađivanja kompanije koja posluje u pedeset država, ali može ukloniti strože zaštite ondje gdje je lokalni zakon već donesen. Reuters navodi da se razgovara o ograničenoj prednosti saveznih pravila samo za određene rizike modela, a ne o općoj zabrani državne AI regulative.

Definicija pojma „frontier model” odredit će tržišni doseg. Prag se može temeljiti na količini računalne snage, trošku treniranja, rezultatima testova ili dostupnosti opasnih sposobnosti. Svaki izbor stvara poticaj za drukčije ponašanje: čvrsti prag računalne snage može se zaobići učinkovitijom arhitekturom, dok test sposobnosti mora biti ponovljiv i otporan na prilagodbu modela isključivo radi prolaska ispitivanja.

Zakon bi izravno pogodio OpenAI, Anthropic i Google, no sekundarni učinak zahvatio bi pružatelje usluga u oblaku i korisnike koji prilagođavaju modele. Nije poznato bi li se obveza odnosila samo na izvornog razvijatelja ili i na tvrtku koja dodatnim treniranjem bitno poveća sposobnosti. Bez jasne granice odgovornost se može prebacivati između dobavljača modela, infrastrukture i krajnje aplikacije.

Trošak usklađivanja također nije objavljen. Obvezna evaluacija može tražiti specijalizirane timove, sigurne laboratorije i odgodu lansiranja, što velike kompanije lakše podnose nego manji razvijatelji. Iznimke za istraživanje ili otvorene modele zato će biti jednako važne kao pravilo za najveće sustave.