Otkako je ChatGPT stupio na scenu, izraz generativna umjetna inteligencija prisutan je posvuda. Učenici ga koriste za "pomoć" oko zadaće, uredski radnici uz njegovu pomoć sastavljaju e-mailove, a čitave industrije raspravljaju o tome što to znači za budućnost rada. No čak ni mnogi redoviti korisnici nemaju pojma što zapravo znače slova "GPT". Ispostavlja se da ta tri slova objašnjavaju gotovo sve o tome kako ova tehnologija funkcionira.
"G" kao Generative (generativan)
Kao što sama riječ sugerira, to znači da sustav generira, odnosno stvara novi sadržaj.
Za razliku od starijeg softvera koji samo pretražuje ili dohvaća informacije, generativni AI proizvodi originalni tekst kao odgovor na upite.
Zatražite recept, pjesmu ili objašnjenje crnih rupa i svaki put će izgraditi nešto novo na temelju obrazaca koje je naučio.
Iako mnogi ljudi koriste ChatGPT kao zamjenu za tražilicu, on je zapravo puno više od toga.
"P" kao Pre-trained (prethodno treniran)
Prije nego što je ChatGPT postao javno dostupan krajem 2022., treniran je na golemim količinama tekstualnih podataka. To je uključivalo javno dostupne materijale poput knjiga, članaka i internetskih stranica.
Tijekom faze prethodnog treniranja model je naučio gramatiku, činjenice, obrasce zaključivanja i način na koji ljudi obično strukturiraju jezik.
Nakon toga prošao je dodatno fino podešavanje uz ljudske povratne informacije kako bi njegovi odgovori bili korisniji i manje štetni. Prednost je u tome što može gotovo trenutačno odgovoriti na gotovo svaku temu.
Nedostatak je što ponekad može odražavati pogreške ili pristranosti prisutne u podacima na kojima je treniran.
"T" kao Transformer
Ovo se odnosi na specifičnu vrstu arhitekture neuronske mreže predstavljenu 2017. Pojednostavljeno rečeno, transformer pomaže sustavu razumjeti koje su riječi u rečenici najvažnije i kako su međusobno povezane.
Tekst razlaže na male dijelove zvane tokeni, procjenjuje njihovu važnost i predviđa što bi trebalo doći sljedeće. Upravo taj mehanizam predviđanja omogućuje ChatGPT-u stvaranje iznenađujuće koherentnih odlomaka, umjesto nasumičnog niza riječi.