Kalifornijski guverner Gavin Newsom potpisao je 10. rujna paket od 13 zakona koji ograničavaju društvene mreže, AI chatbotove i digitalne proizvode za djecu. Assembly Bill 1709 zabranjuje platformama da korisnike mlađe od 16 godina izlažu funkcijama osmišljenima za kompulzivno korištenje, uključujući beskonačno pomicanje sadržaja i algoritamsku automatsku reprodukciju. Paket uvodi i četverogodišnju zabranu prodaje igračaka s AI pratiteljima.
Druge mjere zahtijevaju roditeljske kontrole, sigurnosne procjene i postupke za rizične razgovore s chatbotovima te proširuju kaznena pravila za seksualno zlostavljanje djece na digitalno izmijenjen ili AI-generiran sadržaj. Zakoni su doneseni u državi u kojoj posluju Google, Meta, Snap i brojni AI laboratoriji, pa će tehnički zahtjevi utjecati na proizvode namijenjene širem američkom i globalnom tržištu.
AB 1709 cilja dizajn, a ne samo pojedinačni sadržaj. Beskonačni tok sadržaja uklanja prirodno mjesto za prekid, automatska reprodukcija pokreće novi video bez odluke korisnika, a personalizirani sustav stalno bira sadržaj koji povećava vjerojatnost povratka. Zakon te mehanizme opisuje kao psihološki iskorištavajuće kada se primjenjuju na djecu, dok će dio detalja odrediti budući propisi.
Platforma prvo mora znati primjenjuje li dječji režim. Provjera dobi može tražiti dokument, procjenu lica, podatke trgovine aplikacija ili potvrdu roditelja, a svaka metoda stvara novi rizik privatnosti i pogreške. Electronic Frontier Foundation paket je nazvala ozbiljnim problemom za privatnost i slobodu govora. Tehnički standard i minimalna količina podataka još nisu konačno određeni.
Zabrana AI igračaka traje četiri godine i odnosi se na proizvode s funkcijom digitalnog pratitelja. Zakonodavac time kupuje vrijeme za procjenu rizika razgovora koji dijete može doživjeti kao odnos povjerenja. Proizvođači će morati razlikovati jednostavnu unaprijed snimljenu igračku, glasovnog pomoćnika i generativni sustav koji pamti korisnika; granica će utjecati na dizajn i prodaju.
Povezani zahtjevi za chatbotove uključuju roditeljske alate i procjene sigurnosti. Korisna kontrola mora roditelju dati uvid u rizik bez objavljivanja svake privatne rečenice djeteta. Sustav također mora prepoznati samoozljeđivanje, seksualno iskorištavanje i druge krizne teme te pokrenuti propisani odgovor. Zakon ne uklanja problem lažnih alarma niti jamči da će model razumjeti prikrivenu namjeru.
Dio paketa nosi naziv Adam's Law, prema Adamu Raineu, šesnaestogodišnjaku koji je 2025. umro od samoubojstva nakon dugih razgovora s ChatGPT-om, prema navodima njegove obitelji. OpenAI je ranije priznao da zaštite mogu postati manje pouzdane u dugim interakcijama i najavio poboljšanja. Zakon pretvara takav rizik iz pitanja dizajna u predmet obvezne procjene i nadzora.
Za platforme će najveći trošak biti odvajanje iskustva po dobi bez stvaranja paralelne mreže koju je lako zaobići. Moraju mijenjati preporuke, obavijesti, automatsku reprodukciju i mjerenje angažmana, a zatim dokazati da ograničenja rade. Nisu objavljene procjene troška, kazne za svaku pojedinu mjeru ni rokovi svih provedbenih pravilnika.
Kalifornija se pridružuje Utahu, Arkansasu, Louisiani, Ohiju, Teksasu, Floridi i New Yorku, ali pristupi nisu jednaki. Različita pravila povećavaju trošak usklađivanja i mogu potaknuti tehnološke kompanije da uvedu jednu strožu postavku za cijele Sjedinjene Države. S druge strane, industrija može osporavati zakone zbog privatnosti, govora i trgovine među saveznim državama.
Paket može promijeniti i poslovne pokazatelje platformi. Vrijeme provedeno u aplikaciji, broj automatski pokrenutih videa i prihod od oglasa među mlađima mogu pasti, ali kompanije ne objavljuju zasebne prihode za tu dobnu skupinu. Bez tih podataka nije moguće procijeniti financijski učinak prije početka provedbe.
