Koliko energije uistinu troši svaki ChatGPT prompt?

Utrošak energije umjetne inteligencije trenutačno je jedna od velikih tema, dijelom i zato što su vodeće AI tvrtke najavile ambiciozne planove za napajanje svojih budućih projekata.

Meta i Google govorili su o ponovnom uvođenju nuklearne energije kako bi poduprli svoje AI ambicije, dok se OpenAI poigrava idejom izgradnje podatkovnih centara u svemiru. Uz planove koji zvuče gotovo znanstveno-fantastično, prirodno se postavlja pitanje zašto tehnološki divovi trebaju toliko energije i kolika je stvarna potrošnja naših svakodnevnih interakcija s AI proizvodima.

Kao odgovor na sve veći interes javnosti, kompanije poput Googlea ove su godine objavile određene podatke o potrošnji energije i energetskoj učinkovitosti svojih AI proizvoda, a ubrzo im se pridružio i OpenAI. U lipnju je izvršni direktor Sam Altman objavio blog u kojem je naveo kolika je potrošnja energije "prosječnog" upita upućenog ChatGPT-u, i to 0,34 vat-sata. Altman je tu brojku usporedio s potrošnjom električne pećnice u nešto više od jedne sekunde ili s potrošnjom visokoučinkovite žarulje tijekom nekoliko minuta.

Znači li to da jedan ChatGPT upit doista troši 0,34 vat-sata energije? Nažalost, odgovor vjerojatno nije tako jednostavan. Iako ta brojka može biti točna, Altman nije dao nikakav kontekst ni objašnjenje načina na koji je izračunata, što uvelike ograničava naše razumijevanje. Primjerice, nije jasno što OpenAI smatra "prosječnim" upitom, s obzirom na to da veliki jezični model može obavljati vrlo različite zadatke, od odgovaranja na opća pitanja do programiranja i generiranja slika, a svi ti zadaci troše različite količine energije.

Također nije poznato koji su dijelovi procesa obuhvaćeni tom brojkom. Moguće je da se odnosi isključivo na GPU poslužitelje koji se koriste za inferenciju, odnosno proces generiranja odgovora. Međutim, u cijeli sustav uključeni su i mnogi drugi potrošači energije, poput sustava hlađenja, mrežne opreme, pohrane podataka, vatrozida, gubitaka pri pretvorbi električne energije te sigurnosnih i rezervnih sustava. Velik dio te dodatne infrastrukture zajednički je različitim vrstama tehnoloških tvrtki i često predstavlja izazov u preciznom izvještavanju o potrošnji energije. Stoga, iako Altmanova brojka možda ne daje potpunu sliku, može se tvrditi da ima smisla izdvojiti potrošnju GPU poslužitelja, jer je upravo ona glavni izvor energetske potrošnje specifičan za AI radna opterećenja.

Još jedna nepoznanica jest odnosi li se taj prosjek na više modela ili samo na jedan, i ako je tako, na koji točno. Čak i kada bismo to znali, bilo bi potrebno redovito ažurirati podatke kako se pojavljuju novi i napredniji modeli. Primjerice, GPT-5 je postao dostupan svim korisnicima ChatGPT-a svega dva mjeseca nakon što je Altman objavio svoj blog, a neovisni AI laboratoriji ubrzo su proveli testiranja i objavili procjene prema kojima bi taj model mogao trošiti i do 8,6 puta više energije po upitu u odnosu na GPT-4. OpenAI o tome nije objavio nikakve službene podatke, ali čak i ako su te neovisne procjene samo približno točne, Altmanova bi objava brzo postala zastarjela, a mi bismo ostali jednako neinformirani o stvarnoj potrošnji energije ChatGPT-a kao i prije.