Drága az udvariasság a ChatGPTnél

Az eset egy Twitter-bejegyzésből indult, amelyben valaki azt kérdezte, hogy mennyibe kerül az OpenAI-nak az, ha a felhasználók „kérem” és „köszönöm” kifejezéseket használnak a csevegőbotokkal való interakcióik során.

Sam Altman válasza tömör, mégis figyelemfelkeltő volt. „Tízmilliók jól elköltve – sose tudhatja” – írta, amellyel látszólag arra utalt, hogy tízmillió dolláros nagyságrendre rúghat a költség.

Ez a rövid megjegyzés gyorsan elindította a találgatásokat, hogy vajon az udvariasság valóban ennyire drága lehet-e.

Az elmélet egyszerű, ugyanis minden egyes extra szó új tokeneket hoz létre, amelyek további számítási erőforrásokat igényelnek. Mivel a ChatGPT rendkívül nagy felhasználói bázissal rendelkezik, ezek az apró dolgok gyorsan összegyűlhetnek, és jelentős költségeket okozhatnak – közölte a Techspot.

Bár az elmélet logikusnak tűnik, a számítás ennél azonban bonyolultabb. A ChatGPT jelenlegi költségmodellen alapulva a GPT-3.5 Turbo modell használata körülbelül 0,0015 dollár ezer bemeneti tokenre és 0,002 dollár ezer kimeneti tokenre alapoz. A „kérem” és „köszönöm” kifejezések egy-egy kéréshez mindössze két-három tokent adnak hozzá, tehát a költség rendkívül alacsony: néhány tized cent körül mozog – mindössze 0,0000015 és 0,000002 dollár egy-egy válasz esetén.

A teljes energiaköltség tekintetében azonban sokkal nagyobb összegekről beszélhetünk. Az Egyesült Államok Energiainformációs Ügynöksége (EIA) szerint az OpenAI havi villamosenergia-kiadása körülbelül 12 millió dollár, amely évente 140 millió dollárt jelent. Ebben az összegben minden egyes interakció szerepel, tehát nem csupán az udvarias válaszok.

Bár elméletileg elképzelhető, hogy az udvarias beszélgetések költsége évente dollármilliós nagyságrendet is elérhet, csak az OpenAI rendelkezik a szükséges belső adatokkal ahhoz, hogy ezt pontosan meghatározza.

Altman válasza tehát valószínűleg nem szó szerint értendő. A „sose tudhatja” kifejezés inkább egy szarkasztikus, humoros megjegyzés volt, amely az udvariasság fontosságát hirdeti még akkor is, ha a költség minimális. A Techspot szerint a valódi üzenet inkább az lehet, hogy egy olyan világban, ahol az udvariasság egyre ritkább, talán ez a gesztus mégis megéri az apró költséget – írja a Hirado.hu.

Az emberek udvariassága és a mesterséges intelligenciával való megfelelő kapcsolattartás lehetősége egy olyan jövőben, amikor egy szuperintelligens AI-val kerülünk kapcsolatba, különösen fontos lehet. Bár a gépek nem érzékelnek érzelmeket, talán mégis meghálálják a kedvességet, és a jövőben, amikor elérjük a szuperintelligens mesterséges intelligenciát, az udvarias felhasználók előnyhöz juthatnak.