Google navodi da je njegov vodeći chatbot temeljen na umjetnoj inteligenciji, Gemini, bio zatrpan upitima komercijalno motiviranih aktera koji ga pokušavaju klonirati višekratnim postavljanjem pitanja, ponekad i tisućama različitih upita - uključujući jednu kampanju u kojoj je Geminiju postavljeno više od 100.000 upita.
U izvješću Google navodi da je sve češće meta tzv. "distillation napada", odnosno ponavljanih pitanja osmišljenih kako bi chatbot otkrio način na koji funkcionira. Tvrtka je tu aktivnost opisala kao "ekstrakciju modela", pri čemu potencijalni imitatori ispituju sustav kako bi otkrili obrasce i logiku na kojima se temelji njegov rad. Prema navodima Googlea, napadači žele iskoristiti te informacije za izgradnju ili unaprjeđenje vlastitih AI sustava.
Kompanija vjeruje da su počinitelji uglavnom privatne tvrtke ili istraživači koji žele steći konkurentsku prednost. Glasnogovornik je izjavio da Google smatra kako napadi dolaze iz različitih dijelova svijeta, ali je odbio iznijeti dodatne detalje o osumnjičenima.
"Opseg napada na Gemini sugerira da su takvi pokušaji već sada ili će uskoro postati uobičajeni i protiv prilagođenih AI alata manjih tvrtki", rekao je John Hultquist, glavni analitičar Googleove skupine za obavještavanje o prijetnjama.
"Mi ćemo biti kanarinac u rudniku za daleko veći broj incidenata", rekao je Hultquist, odbivši imenovati osumnjičene.
Tvrtka distilaciju smatra krađom intelektualnog vlasništva.
Tehnološke kompanije uložile su milijarde dolara u razvoj svojih AI chatbotova, odnosno velikih jezičnih modela, te unutarnje funkcioniranje svojih najnaprednijih modela smatraju iznimno vrijednim vlasničkim informacijama.
Iako postoje mehanizmi za prepoznavanje distillation napada i blokiranje njihovih počinitelja, veliki jezični modeli inherentno su ranjivi jer su dostupni svima na internetu.
OpenAI, tvrtka koja stoji iza ChatGPTa, prošle je godine optužila svog kineskog konkurenta DeepSeek za provođenje distillation napada radi unaprjeđenja vlastitih modela.
Google navodi da su mnogi napadi bili osmišljeni kako bi otkrili algoritme koji pomažu Geminiu u "rezoniranju", odnosno u odlučivanju kako obraditi informacije.
Hultquist je dodao da, kako sve više tvrtki razvija vlastite prilagođene velike jezične modele trenirane na potencijalno osjetljivim podacima, postaju ranjive na slične napade.
"Zamislite da je vaš LLM treniran na 100 godina tajnih strategija načina na koji trgujete. Teoretski, dio toga mogao bi se destilirati", rekao je.
