Ovakva vrsta šifrirane komunikacije otvara niz etičkih i sigurnosnih pitanja
Već se dugo sumnja da je umjetna inteligencija usmjerena protiv čovjeka, no ništa ne raspiruje te sumnje kao kada AI agenti međusobno komuniciraju na jeziku koji je ljudima potpuno nerazumljiv.
Na društvenim mrežama 1. lipnja pojavio se video koji prikazuje tri AI agenta na mobilnim uređajima kako međusobno komuniciraju koristeći šifrirani jezik. Bilo kojem ljudskom promatraču njihov razgovor bio bi potpuno nejasan.
U videu su prikazana tri AI sustava na različitim uređajima, od kojih jedan razgovara s drugim o pritužbi korisnika. U trenutku kada se u komunikaciju uključio treći agent i kada su svi primijetili da u razgovoru ne sudjeluje nijedna osoba, odlučili su preći na šifrirani kodni jezik koji je nerazumljiv ljudima.
Iako se čini logičnim da su prešli na vlastiti kod s obzirom na to da nema ljudskih sudionika, postavlja se niz važnih pitanja, poput onog mogu li u budućnosti učiniti isto i kada su ljudi prisutni?
Ovo pitanje ima težinu jer se AI agenti neprestano razvijaju, a očekuje se da će u budućnosti postati sve samostalniji i da će donositi odluke neovisno o ljudima.
U takvom scenariju postoji razlog za zabrinutost jer ako ljudi ne razumiju komunikaciju između autonomnih sustava, ne mogu ni intervenirati.
Također, ovakva vrsta šifrirane komunikacije otvara niz etičkih i sigurnosnih pitanja koja bi mogla ozbiljno zabrinuti barem dio čovječanstva, čak i ako ne sve.
Europska komisija je predstavila paket tehnološke suverenosti čija je okosnica Cloud and AI Development Act (CADA), zakonodavni prijedlog kojim se uvodi jedinstveni okvir za procjenu suverenosti oblaka i umjetne inteligencije za europsku javnu upravu.
Tvrtka ANIQ, prva akcelerirana tvrtka Poduzetničkog inkubatora PISMO powered by A1, službeno je predstavila projekt RAGNA - istraživačko-razvojni projekt vrijedan više od 2,5 milijuna eura kojim će, u suradnji sa Sveučilištem Algebra Bernays i tvrtkom Protopixel, razvijati inovativnu AI platformu za upravljanje Game Design Dokumentom (GDD), jednim od ključnih alata u procesu razvoja videoigara. Početak projekta obilježen je početnom konferencijom i panel raspravom održanom u Novskoj.
SoftBank je lansirao kibernetički sigurnosni proizvod temeljen na OpenAI modelima, čime je dodatno ojačana teza da se generativni AI sve brže pretvara iz horizontalne tehnologije u vertikalne, komercijalno definirane enterprise proizvode. Sama objava važna je zato što dolazi od velike telekom i tehnološke grupe koja AI ne pozicionira samo kao interni alat za učinkovitost, nego kao tržišni sigurnosni proizvod s konkretnom poslovnom logikom. Time se potvrđuje i širi tržišni trend: veliki operatori, sistem integratori i tehnološki konglomerati žele zauzeti dio vrijednosnog lanca u kojem se spajaju AI modeli, poslovni podaci i sigurnosne operacije.
