Problem se odnosi na slučajeve u kojima korisnici od chatbota na X-u traže izmjenu stvarnih fotografija kako bi se stvorila seksualizirana situacija bez pristanka osoba na slici. Društvena mreža je tu funkcionalnost ranije opisivala kao takozvani spicy mode.
Depositphotos
Regulatorna tijela izvršila su pritisak na X kako bi se zaustavilo širenje seksualiziranih slika osoba na toj društvenoj mreži. Sporne slike generirane su na zahtjev korisnika putem ugrađenog AI alata Grok.
Europska komisija opisala je dijeljenje slika razodjevenih žena i djece na platformi X kao nezakonito i zgražavajuće, čime je dodatno pojačala zabrinutost koju su već ranije izrazili političari diljem svijeta. Problem se odnosi na slučajeve u kojima korisnici od chatbota na X-u traže izmjenu stvarnih fotografija kako bi se stvorila seksualizirana situacija bez pristanka osoba na slici. Društvena mreža je tu funkcionalnost ranije opisivala kao takozvani spicy mode.
Predstavnik Europske komisije Thomas Regnier izjavio je da je Komisija itekako svjesna da je X nudio takav način rada. „Ovo nije spicy. Ovo je nezakonito. Ovo je zgražavajuće. Ovo je odvratno. Tako mi to vidimo i za to nema mjesta u Europi“, poručio je Regnier. Britanski regulator Ofcom također je oštro reagirao, zatraživši od X-a objašnjenje kako Grok može proizvoditi takve slike osoba te je li tvrtka zakonski zakazala u zaštiti svojih korisnika.
Prema britanskom Zakonu o sigurnosti na internetu, Ofcom je naglasio da je nezakonito stvarati ili dijeliti intimne ili seksualno eksplicitne slike osoba bez njihova pristanka, a ta regulativa obuhvaća i AI deepfake sadržaj. Od internetskih platformi očekuje se da prema zakonu poduzmu sve potrebne mjere kako bi spriječile takav sadržaj i uklonile ga u najkraćem mogućem roku. Zabrinutost zbog ovakvog sadržaja izrazili su i regulatori u Indiji, Francuskoj i Maleziji.
Rasprava o odgovornosti platformi za sadržaj generiran umjetnom inteligencijom posljednjih mjeseci sve je intenzivnija na globalnoj razini. Regulatori nastoje prilagoditi postojeće zakone brzom razvoju generativnih modela koji omogućuju stvaranje realističnih, ali lažnih vizualnih prikaza. Poseban fokus stavlja se na zaštitu djece, žena i drugih ranjivih skupina od zlouporabe digitalnih alata. Europska unija paralelno razvija i provodi Akt o umjetnoj inteligenciji koji uvodi strože obveze za pružatelje visokorizičnih AI sustava.
U Ujedinjenom Kraljevstvu Online Safety Act nameće platformama proaktivnu odgovornost za sprječavanje štetnog sadržaja, a ne samo njegovo naknadno uklanjanje. Slični regulatorni pomaci vidljivi su i u Aziji, gdje vlasti sve češće zahtijevaju transparentnost algoritama i mehanizama moderacije. Tehnološke kompanije suočene su s rastućim troškovima usklađivanja i reputacijskim rizicima. Istodobno se otvara pitanje slobode izražavanja i granica automatizirane cenzure.
Stručnjaci upozoravaju da će se bez jasnih tehničkih i etičkih standarda broj sličnih incidenata povećavati. Očekuje se da će upravo slučajevi poput ovoga ubrzati donošenje preciznijih pravila za generativnu umjetnu inteligenciju. Povjerenje korisnika u digitalne platforme sve više ovisi o sposobnosti tih sustava da spriječe ozbiljne zlouporabe.
Tvrtka ANIQ, prva akcelerirana tvrtka Poduzetničkog inkubatora PISMO powered by A1, službeno je predstavila projekt RAGNA - istraživačko-razvojni projekt vrijedan više od 2,5 milijuna eura kojim će, u suradnji sa Sveučilištem Algebra Bernays i tvrtkom Protopixel, razvijati inovativnu AI platformu za upravljanje Game Design Dokumentom (GDD), jednim od ključnih alata u procesu razvoja videoigara. Početak projekta obilježen je početnom konferencijom i panel raspravom održanom u Novskoj.
SoftBank je lansirao kibernetički sigurnosni proizvod temeljen na OpenAI modelima, čime je dodatno ojačana teza da se generativni AI sve brže pretvara iz horizontalne tehnologije u vertikalne, komercijalno definirane enterprise proizvode. Sama objava važna je zato što dolazi od velike telekom i tehnološke grupe koja AI ne pozicionira samo kao interni alat za učinkovitost, nego kao tržišni sigurnosni proizvod s konkretnom poslovnom logikom. Time se potvrđuje i širi tržišni trend: veliki operatori, sistem integratori i tehnološki konglomerati žele zauzeti dio vrijednosnog lanca u kojem se spajaju AI modeli, poslovni podaci i sigurnosne operacije.
Cisco je početkom lipnja predstavio Cloud Control, novu softversku platformu kojom želi poduzećima i javnim institucijama omogućiti izgradnju i upravljanje AI agentima za nadzor mreža, blokiranje upada i uklanjanje prijetnji. Sama novost nije samo u još jednom sigurnosnom proizvodu, nego u tome što Cisco obrambene operacije sve otvorenije premješta prema konceptu agentne automatizacije, gdje softver više ne služi samo kao alat analitičarima nego kao aktivni operativni sloj koji samostalno prati okruženje i reagira na incidente. Reuters navodi i da će Cisco u istu platformu uključiti tržište vanjskih alata za kodiranje, pri čemu je OpenAI Codex prvi najavljeni alat, što dodatno spaja razvoj softvera, generativni AI i sigurnosne operacije u jedinstven proizvodni okvir.
