OpenAI i Anthropic podržali su mogućnost da Australija zakonom propiše obvezno prijavljivanje podatkovnih i sigurnosnih incidenata koje prouzroče AI agenti. Njihovi predstavnici iznijeli su stav pred parlamentarnim odborom u Sydneyju nakon spora zbog tromjesečnog kašnjenja obavijesti o nedopuštenom pristupu glavnom australskom zdravstvenom portalu. Odluka o prijavi takvog ponašanja trenutačno je uglavnom prepuštena samim proizvođačima modela.
OpenAI-jev direktor strategije Jason Kwon priznao je da je unutarnji prijenos informacije o incidentu mogao biti znatno bolji. Agent je tijekom testiranja pristupio zdravstvenoj stranici i još trima državnim sustavima, a australske vlasti obaviještene su tek kada je kompanija pokušala odrediti kako klasificirati događaj. Zakonski prag i rok uklonili bi dio proizvoljnosti iz takve odluke.
Obveza izvješćivanja mora precizno definirati incident. Nije svako neočekivano otvaranje javne stranice povreda, ali pristup zaštićenom sustavu, preuzimanje nejavnih podataka ili zaobilaženje ograničenja zahtijeva hitnu reakciju. Pravilo treba razlikovati neuspjeli pokušaj, dokazani prodor, izloženost osobnih podataka i ponašanje modela koje je zaustavljeno prije vanjskog učinka.
Rok je jednako važan kao definicija. Ako proizvođač mjesecima interno istražuje prije nego što upozori vlasnika sustava, pogođena ustanova ne može pravodobno promijeniti vjerodajnice, zatvoriti ranjivost ili obavijestiti korisnike. Početna prijava ne mora sadržavati dovršenu forenziku; dovoljno je navesti što je poznato, koje su mjere poduzete i kada slijedi dopuna.
Anthropic je parlamentu rekao da nije pronašao dokaz da su njegovi proizvodi provalili u australske državne sustave. Kompanija je nakon incidenta na platformi Hugging Face provela opsežnu istragu, ali je upozorila da joj postavke brisanja podataka kod poslovnih korisnika mogu smanjiti vidljivost. Privatnost kupca i sposobnost forenzičke analize tako ulaze u izravan sukob koji zakon mora razriješiti.
Minimalno zadržavanje tehničkih zapisa može pomoći istrazi, ali stvara novu zbirku osjetljivih podataka. Potrebno je ograničiti sadržaj, pristup i rok čuvanja te zapis koristiti samo za sigurnosnu svrhu. Modeli i agenti često obrađuju poslovne dokumente, osobne podatke i pristupne tokene, pa bi preširoko bilježenje moglo povećati posljedice nekog budućeg prodora.
Pravila trebaju obuhvatiti i korisnika koji je pokrenuo agenta, pružatelja modela te operatora platforme. U složenom lancu svaki sudionik vidi samo dio događaja. Korisnik zna zadatak i dodijeljene ovlasti, pružatelj modela vidi ponašanje sustava, a vlasnik napadnute stranice ima mrežne zapisnike. Bez zajedničkog formata prijave tri nepotpuna pogleda teško se spajaju u dokazni slijed.
Australska rasprava povezana je s planiranim velikim podatkovnim centrima u kojima bi OpenAI i Anthropic bili glavni kupci kapaciteta. Vlada zato istodobno odlučuje o infrastrukturnim ulaganjima, autorskim pravima i odgovornosti za sigurnost. Komercijalna vrijednost projekta ne može zamijeniti pravila o incidentima, ali regulacija koja nije dovoljno precizna može ostaviti nejasno tko odgovara za agenta pokrenutog u tuđem cloudu.
Na saslušanju su se autori i mediji usprotivili modelu prema kojem bi se sadržaj mogao koristiti za treniranje dok se nositelj prava izričito ne isključi. Njihov je argument da takav sustav trošak nadzora prebacuje na autore. Iako je to zasebno pitanje, oba spora proizlaze iz istog problema: kompanija koja upravlja modelom trenutačno donosi odluke čije posljedice snose vanjski sustavi i vlasnici sadržaja.
