Postavljeno je pitanje primjenjuju li tvrtke algoritme ili analitiku podataka na osobne i demografske informacije te kako njihove prakse utječu na djecu i tinejdžere. FTC je otkrio da su tvrtke prikupile i mogle neograničeno dugo čuvati mnoštvo podataka, uključujući informacije od brokera podataka te o korisnicima i onima koji ne koriste njihove platforme.
Savezna komisija SAD-a za trgovinu utvrdila je da društvene mreže nisu uspjele adekvatno zaštititi online korisnike. Tijelo je reklo da su se uključili u nadzor velikih razmjera kako bi unovčili osobne podatke.
U izvješću temeljenom na odgovorima Facebooka, YouTubea, X-a, Twitcha, Snapa, Discorda, Reddita, WhatsAppa i TikToka, FTC je izrazio ozbiljnu zabrinutost zbog politika pristupa i zadržavanja podataka kompanija, uključujući činjenicu da neke prikupljaju pojedinosti o ne- korisnika. FTC je izdao naloge za informacije platformama u prosincu 2020., tražeći detalje o tome kako prikupljaju, prate i koriste osobne i demografske podatke. Agencija je također istražila kako tvrtke određuju koje se reklame i drugi sadržaj prikazuju korisnicima.
Također je postavljeno pitanje primjenjuju li tvrtke algoritme ili analitiku podataka na osobne i demografske informacije te kako njihove prakse utječu na djecu i tinejdžere. FTC je otkrio da su tvrtke prikupile i mogle neograničeno dugo čuvati mnoštvo podataka, uključujući informacije od brokera podataka te o korisnicima i onima koji ne koriste njihove platforme. Dijeljenje informacija korisnika izaziva ozbiljnu zabrinutost u vezi s primjerenošću kontrola i nadzora tvrtki za rukovanje podacima. FTC navodi da tvrtke koriste podatke za svoje algoritme, analizu podataka i AI.
Označio je prakse prikupljanja, minimiziranja i zadržavanja podataka tvrtki užasno neadekvatnima, ističući da neke tvrtke nisu izbrisale informacije kada su to korisnici tražili. FTC je zaključio da tvrtke ne štite dovoljno djecu i tinejdžere, navodeći istraživanje koje pokazuje da društveni mediji i digitalna tehnologija doprinose negativnom mentalnom zdravlju kod mlađih korisnika. "Iako su unosne za tvrtke, ove prakse nadzora mogu ugroziti privatnost ljudi, zaprijetiti njihovim slobodama i izložiti ih nizu šteta, od krađe identiteta do uhođenja", rekla je predsjednica FTC-a Lina Khan. Među svojim preporukama, FTC je pozvao američke političare da nešto poduzmu.
Direktor tvrtke Gordan Palić izjavio je povodom lansiranja da su gledali kako talentirani ljudi iz Hrvatske i regije rintaju mjesecima stvarajući sjajan digitalni sadržaj, da bi ih onda preko noći uništila neka promjena algoritma u Kaliforniji, što je suludo, te da su zato htjeli stvoriti platformu gdje nitko ne stoji između autora i njegove publike.
Sigurnosni istraživači otkrili su kako je zlonamjerna datoteka AGENTS.md, neprimjetno spremljena u korisnikovu mapu Downloads, navela AI programerskog agenta da instalira lažni npm paket. Pritom glavna slabost nije bila klasičan propust modela nego automatsko povjerenje u lokalne upute pronađene u radnom direktoriju.
OpenAI je u ChatGPT-u uveo strože sigurnosne protokole kojima želi smanjiti rizik od nasilja u stvarnom svijetu i bolje zaštititi maloljetnike. Promjene uključuju dodatna ograničenja pristupa praktičnim informacijama o oružju te mogućnost automatskog prekidanja razgovora u slučajevima zabrinjavajućih obrazaca ponašanja.
