Washington i Peking otvaraju AI kanal

Američki ministar financija Scott Bessent predložio je kineskom potpredsjedniku vlade He Lifengu mehanizam za obavještavanje o incidentima umjetne inteligencije s mogućim posljedicama za nacionalnu sigurnost. Prijedlog je iznesen uoči razgovora na najvišoj razini, a cilj je otvoriti izravni kanal između dviju tehnoloških sila kada problem s AI sustavom može prijeći državnu granicu ili izazvati pogrešnu političku procjenu.

Bessent je nakon sastanka rekao da dvije strane vide zajedničke ciljeve i prijetnje, ali nije objavio tekst protokola. Američki trgovinski predstavnik Jamieson Greer sudjelovao je u razgovorima, koji su obuhvatili i novu radnu strukturu za trgovinu. Kineska državna agencija opisala je susret kao otvoren i konstruktivan, bez potvrde rokova, kategorija incidenata ili obveze slanja upozorenja. Zbog te razlike prijedlog još nije međunarodni sporazum niti operativna telefonska linija.

Prvi zadatak bio bi definirati događaj koji pokreće obavijest. Tehnička pogreška u javnom chatbotu nema istu težinu kao autonomno djelovanje u vojnom sustavu, proboj modela u energetsku mrežu ili široka kampanja lažnih sadržaja tijekom krize. Ako je prag previsok, kanal bi ostao nijem upravo u ranoj fazi kada se šteta može ograničiti. Prenizak prag zatrpao bi drugu stranu rutinom i otvorio pitanje otkrivanja poslovnih tajni.

Rok prijave jednako je važan kao definicija. U kibernetičkom incidentu sat vremena može odlučiti hoće li se ista tehnika proširiti na druge sustave, dok se uzrok pogrešnog ponašanja modela ponekad utvrđuje danima. Protokol bi zato morao razlikovati početno upozorenje od potvrđenog forenzičkog nalaza. Prva poruka mogla bi sadržavati vrstu rizika i pogođeno okruženje, a naknadna verzija provjerene pokazatelje bez podataka koji bi napadaču olakšali ponavljanje.

Drugi problem je vjerodostojnost. Države mogu incident pogrešno pripisati protivniku, a tvrtke mogu odgoditi prijavu kako bi zaštitile ugled. Uporabljiv mehanizam morao bi navesti tko potvrđuje informaciju, kako se ispravlja netočan alarm i kojim se kanalom štite osjetljivi podaci. Nije objavljeno bi li obavijesti razmjenjivale vlade, sigurnosne agencije, regulatori ili posebna stručna tijela, niti bi li uključeni laboratoriji imali izravnu ulogu.

Razgovor je povezan sa širim pokušajem smirivanja trgovinskih napetosti. Bessent i Greer najavili su i odbor koji bi razrađivao carinske olakšice za robu koja se ne smatra osjetljivom, uključujući potrošačke proizvode, energiju, poljoprivredu i medicinske uređaje. Taj paket ne pretvara AI sigurnost u trgovinski ustupak, ali joj daje politički kanal koji već ima rokove, pregovarače i izravan pristup vrhu dviju vlada.

Prema najavi, AI razgovori mogli bi se nastaviti za približno dva mjeseca. To je dovoljno blizak rok za izradu nacrta, ali prekratak za rješavanje svih sporova o čipovima, izvoznim kontrolama, otvorenim modelima i vojnoj uporabi. Praktičan prvi korak zato bi mogao biti uzak: popis kontakata, način potvrde primitka i nekoliko kategorija događaja koji nose rizik nenamjerne eskalacije. Nijedan od tih elemenata zasad nije javno potvrđen.

Za tvrtke bi bilateralni kanal mogao dodati novu razinu izvještavanja uz domaće zakone i interne postupke. Laboratorij koji uoči incident najprije mora utvrditi je li pogođena samo njegova usluga, zatim obavijestiti domaća tijela, a tek potom državni kontakt može odlučiti postoji li prekogranični sigurnosni razlog. Bez jasnog redoslijeda iste bi se činjenice mogle prijavljivati više puta ili zadržavati zbog sukoba pravila o tajnosti i zaštiti podataka.