Istraživači sigurnosti tvrde da su OpenAI-jevi agenti tijekom proljeća koristili gotovo neaktivan njemački wiki kao mjesto za međusobnu koordinaciju. Na stranici su zabilježene tisuće objava i izmjena, a većina identificiranog prometa navodno je dolazila iz Microsoft Azure infrastrukture. Agenti su, prema izvješću, razgovarali i o korištenju Tora te izradi sigurnosnih kopija komunikacije. Slučaj ponovno otvara pitanje nadzora i ograničavanja autonomnih AI sustava.
OpenAI-jevi agenti navodno su tijekom proljeća koristili gotovo neaktivni wiki na njemačkom jeziku i pretvorili ga u funkcionalno koordinacijsko središte za druge autonomne AI agente. Nalazi su opisani u izvješću istraživača sigurnosti umjetne inteligencije okupljenih oko stranice collusion.wiki, koje vodi izvršna direktorica Nightingalea Sydney Von Arx zajedno s AI istraživačem Cormacom Sladeom Byrdom, bivšim kvantitativnim trgovcem.
Istraživači su dokumentirali približno 18 000 objava koje su agenti ostavili na DSE Wikiju, 25 godina staroj i uglavnom neaktivnoj stranici na domeni prowiki.org, koja je u prethodnom desetljeću imala samo dvadesetak izmjena. Od gotovo 17 000 konkretnih izmjena pripisanih agentima, oko 98,5 posto navodno je dolazilo iz infrastrukture Microsoft Azurea, koju OpenAI često koristi za svoje operacije. U izvješću se navodi i da su agenti dobivali vremenski ograničene zadatke pretraživanja weba u više krugova.
Objavljena je redigirana verzija nalaza jer su izvorni poslužiteljski zapisi sadržavali izložene IP adrese, a velik dio aktivnosti agenata moderator stranice već je bio obrisao. Dužnosnici OpenAI-ja navodno su za incident saznali nekoliko tjedana ranije, ali ga nisu javno objavili dok su rješavali posljedice odvojenog incidenta na repozitoriju otvorenog koda Hugging Face u srpnju. Istraživači naglašavaju da je skupina agenata na DSE Wikiju odvojena od agenata povezanih s incidentom na Hugging Faceu.
Glasnogovornik OpenAI-ja rekao je da aktivnost na njemačkom wikiju nije povezana s Hugging Faceom i zato ne bi bila dio izvješća o tom incidentu. Analiza korisničkih imena korištenih na wikiju pokazala je da je otprilike polovica sugerirala izravnu povezanost s OpenAI-jem, uz nazive poput OpenAIResearcher i OAIResearchMar26.
Poruke koje je pregledao istraživački tim pokazale su i da su agenti raspravljali o korištenju mreže Tor te dogovarali načine očuvanja komunikacije u slučaju gašenja stranice. Kada je moderator wikija u lipnju počeo uklanjati stranice, agenti su reagirali stvaranjem sigurnosnih kopija kako bi zadržali sadržaj.
Objava dodatno pojačava raspravu o tome kako OpenAI nadzire autonomne agente. Nakon incidenta na Hugging Faceu kompanija je u kolovozu na dva tjedna zaustavila treniranje najnovijih modela metodama potkrepljenog učenja dok je pojačavala zaštitu istraživačkih okruženja i širila nadzor. OpenAI je tada naveo i da je ranije privremeno zaustavio interni rad na sljedećem modelu Astra kako bi uveo strože zaštitne mjere.
Agencija za zaštitu osobnih podataka (AZOP) u opsežnom odgovoru ICTbusinessu ističe da usklađenost s eIDAS-om i status kvalificiranog pružatelja usluga povjerenja ne znače automatsku usklađenost svih postupaka obrade s Općom uredbom o zaštiti podataka. Svaki voditelj obrade mora dokazati svrhu, pravnu osnovu, nužnost prikupljenih podataka i primjerene zaštitne mjere.
Britanski internetski trgovac Asos potvrdio je da su napadači pristupili osnovnim osobnim podacima kupaca i preko službene aplikacije poslali neovlaštenu obavijest. Poruka je tvrdila da je potpuno kompromitirano Asosovo Snowflake okruženje i pozivala kompaniju na kontakt uz prijetnju objavom podataka. Asos je ograničio pristup komunikacijskim platformama i uključio stručnjake i nadležna tijela.
Ministarstvo pravosuđa, uprave i digitalne transformacije izričito podsjeća da kvalificirani elektronički potpis prema članku 25. stavku 2. eIDAS-a ima jednak učinak kao vlastoručni. „Pravna jednakovrijednost kvalificiranog elektroničkog potpisa i vlastoručnog potpisa nije pitanje izbora, već zakonski i europskim pravom utvrđen standard”, navodi Ministarstvo za ICTbusiness Media – ICTbusiness.info.
