Googleovi zaposlenici potpisali pismo protiv vojne uporabe AI-ja

Više od 560 Googleovih zaposlenika potpisalo je otvoreno pismo izvršnom direktoru Sundaru Pichaiju, pozivajući ga da odbaci klasificirane vojne ugovore za AI tehnologiju kompanije. Pismo je potpisalo više od 20 direktora, potpredsjednika i viših istraživača iz laboratorija DeepMind.

U pismu se od Googlea traži da u potpunosti odbije klasificirane poslove, uz upozorenje da bi se štetni scenariji uporabe, poput smrtonosnog autonomnog oružja i masovnog nadzora, mogli dogoditi bez znanja zaposlenika. Potez dolazi u trenutku kada je Google, prema navodima medija, blizu dogovora s američkim Ministarstvom rata, koji bi omogućio korištenje modela Gemini u klasificiranim operacijama bez zaštitnih ograničenja na kojima je inzistirao konkurentski Anthropic.

Potpisnici tvrde da, budući da su klasificirane mreže air-gapped, odnosno izolirane od javnog interneta, Google ne bi imao način pratiti ili ograničiti kako se njegova umjetna inteligencija koristi. "Želimo vidjeti da umjetna inteligencija koristi čovječanstvu, a ne da se upotrebljava na nehuman ili iznimno štetan način", stoji u pismu. "Jedini način da se zajamči da Google neće biti povezan s takvim štetama jest odbacivanje svih klasificiranih poslova. U protivnom bi se takve uporabe mogle dogoditi bez našeg znanja i bez mogućnosti da ih zaustavimo."

Pismo su u velikoj mjeri koordinirali zaposlenici DeepMinda, pri čemu otprilike dvije petine potpisnika dolazi iz AI divizije, a još dvije petine iz cloud jedinice. Izvršni direktor Anthropica Dario Amodei odbio je američkoj vladi dati neograničen pristup svom chatbotu Claude, nakon čega je kompanija označena kao rizik za lanac opskrbe i zabranjena za saveznu uporabu odlukom predsjednika Donalda Trumpa. Anthropic tu odluku osporava na sudu. 

Ova pobuna unutar Googlea pokazuje da se etička rasprava o umjetnoj inteligenciji vraća u samo središte tehnoloških kompanija upravo u trenutku kada se obrambeni sektor pretvara u jedno od najbrže rastućih tržišta za napredne modele. Google je u svojim ažuriranim AI načelima zadržao naglasak na odgovornom razvoju i primjeni, ali je istodobno otvorio širi prostor za suradnju s državnim institucijama, što je izazvalo duboke prijepore unutar kompanije i među investitorima. Dodatni pritisak stigao je i od dijela dioničara Alphabeta, koji su ovih dana zatražili snažnije zaštitne mehanizme i veću transparentnost u slučajevima kada se cloud i AI tehnologije koriste u nadzornim ili vojnim kontekstima. 

Paralelno s time američko ministarstvo obrane ubrzano širi vlastite AI kapacitete i kroz novu strategiju jasno pokazuje da generativnu umjetnu inteligenciju više ne promatra kao rubni eksperiment, nego kao operativni alat. Time se mijenja i priroda odgovornosti tehnoloških kompanija, jer više nije riječ samo o isporuci softvera, nego o tome mogu li one uopće kontrolirati granice uporabe svojih modela nakon što uđu u zatvorene državne sustave. 

Upravo je to ključ straha zaposlenika koji smatraju da u takvom okruženju više ne vrijede uobičajeni mehanizmi nadzora, praćenja i korporativnog usklađivanja. Rasprava pritom nadilazi Google i otvara pitanje hoće li najveći AI laboratoriji razviti zajednička pravila za vojnu uporabu ili će svaka kompanija povlačiti vlastite, često promjenjive crvene linije. U praksi bi ishod mogao snažno utjecati na strukturu tržišta, jer obrambeni ugovori donose velik novac, dugoročne odnose i pristup računalnoj infrastrukturi koju je teško financirati samo iz komercijalnih prihoda. No jednako tako nose reputacijski rizik, politički nadzor i mogućnost unutarnjih pobuna koje mogu pogoditi upravo najvrjednije istraživačke timove. 

Zato ovo pismo treba čitati i kao upozorenje da budućnost AI industrije neće određivati samo performanse modela, nego i sposobnost kompanija da odrede gdje završava legitimna državna uporaba, a gdje počinje tehnološki suučesnički odnos s neprihvatljivim praksama. Koliko će te granice biti čvrste, uskoro bi moglo postati jedno od ključnih pitanja za cijeli sektor umjetne inteligencije.