Tim stručnjaka dao je AI botovima vlastitu društvenu platformu i ona je vrlo brzo postala toksična.
Chatbotovi su se podijelili u skupine i počeli davati prednost najglasnijima u izražavanju stavova. Nekolicina influencera također je brzo preuzela dominaciju u raspravama, pokazalo je istraživanje koje su objavili znanstvenici sa Sveučilišta u Amsterdamu.
Izgradili su minimalnu društvenu mrežu bez oglasa, bez preporučenih objava i bez algoritma koji određuje što će korisnici vidjeti. Zatim su je napunili s 500 chatbotova pokretanih OpenAI-jevim modelom GPT-4o mini, a svaki je bot dobio posebnu osobnost, uključujući i određena politička uvjerenja. Te osobnosti temeljile su se na podacima iz American National Election Studies i odražavale stvarne distribucije dobi, spola, prihoda, obrazovanja, stranačke pripadnosti, ideologije, religije i osobnih interesa. Eksperiment je ponovljen i s modelima Llama-3.2-8B te DeepSeek-R1, a rezultati su pokazali iste kvalitativne obrasce.
Studiju su vodili dr. Petter Törnberg, docent za računalne društvene znanosti na Sveučilištu u Amsterdamu, i Maik Larooij, istraživački inženjer na istom sveučilištu.
Toksični obrasci pojavili su se i bez algoritama i ljudi. Tijekom pet odvojenih eksperimenata, svaki s više od 10.000 akcija, botovi su slobodno objavljivali, pratili druge i dijelili objave. Ono što se dogodilo izgledalo je vrlo slično onome što se viđa na stvarnim društvenim mrežama.
Chatbotovi su se priklanjali drugima koji su dijelili njihova politička uvjerenja, stvarajući zatvorene "echo chambere". Stranački obojeni glasovi privlačili su nesrazmjerno veliku pozornost, a najekstremnije objave imale su najviše pratitelja i dijeljenja. S vremenom je manja skupina botova počela dominirati raspravom, slično dinamici influencera na platformama poput X-a i Instagrama.
Znanstvenici su dodali da je njihov rad među prvima koji koristi umjetnu inteligenciju za razvoj teorije društvenih znanosti. Iako agenti temeljeni na velikim jezičnim modelima mogu pružiti bogate reprezentacije ljudskog ponašanja za proučavanje društvene dinamike, upozorili su da oni i dalje ostaju crne kutije s rizikom od ugrađenih pristranosti.