Tehnologie

L-am întrebat pe ChatGPT dacă este adevărat că OpenAI pierde bani atunci când îi spui „te rog” sau „mulțumesc”. Ce a răspuns chatbot-ul: teoria conspirației sau adevăr?

Cum recent a apărut un zvon cât se poate de ciudat potrivit căruia OpenAi ar scoate mai mulți bani din buzunar pentru fiecare formulă de politețe pe care o adresezi inteligenței arficiale, am decis să-l întreb chiar pe ChatGPT care este adevărul. Ce altă sursă mai bună, nu?

Înainte de toate, trebuie amintit că Sam Altman, șeful OpenAI, a fost primul care a dat această veste, deși ea s-a rostololit puțin exagerat pe marele internet.

Concret, Sam Altman, CEO al OpenAI, a declarat recentă pe rețelele de socializare că a spune „te rog” și „mulțumesc” lui ChatGPT a costat compania destul de mulți bani.

Altman a răspuns unui utilizator de pe X, platforma cunoscută anterior sub numele de Twitter, care era curios câți bani a pierdut OpenAI în costuri cu energia electrică din cauza oamenilor care au arătat bune maniere modelelor lor AI.

„Zeci de milioane de dolari bine cheltuiți, nu se știe niciodată”, a fost răspunsul CEO-ului.

Acestea fiind spuse, să purcedem în a afla ce spune chiar ChatGPT, incluzând aici informațiile date de chatbot, dar explicate astfel încât să le priceapă mai abitir un om care nu este expert nici în economie, nici în inteligență artificială.

Mitul costului politeții în AI: De ce nu pierd modelele OpenAI bani când le spui „mulțumesc”

Deși circulă zvonuri că politețea digitală are un preț, realitatea este mai nuanțată și spune mai mult despre percepția publică asupra inteligenței artificiale decât despre costurile reale de operare.

În ultimele luni, în mediile online a început să circule un zvon bizar, dar aparent plauzibil: că OpenAI (și, prin extensie, alte companii care oferă AI conversațional) „pierde bani” atunci când un utilizator scrie „te rog” sau „mulțumesc” în conversație.

Aparent, aceste cuvinte de politețe, fiind inutile din punct de vedere al solicitării funcționale, ar consuma resurse computaționale în mod nejustificat și, astfel, ar duce la costuri suplimentare pentru companie.

Deși ideea pare desprinsă dintr-un manual de eficientizare corporatistă dusă la extrem, merită să investigăm de unde a pornit acest mit, dacă are vreo bază în realitate și, mai ales, ce ne spune el despre relația dintre utilizatori, limbaj și tehnologie.

De unde a pornit zvonul?

Zvonul pare să fi fost declanșat de o combinație de factori:

Costurile ridicate asociate operării modelelor AI. Este bine documentat că rularea modelelor de limbaj mari (LLM), cum este GPT-4, implică un consum semnificativ de resurse hardware, în special procesoare grafice (GPU-uri) de mare performanță.

Informații din interior despre „tokeni”. Modelele AI nu „văd” textul ca oamenii, ci îl procesează sub formă de unități numite „tokeni”. „Te rog” sau „mulțumesc” sunt tokeni în plus care trebuie procesați.

Sensibilitatea crescută la costuri în AI. Într-un context economic în care investițiile în AI trebuie justificate, orice consum de resurse pare important.

Amestecul dintre realitate și satiră. Unele conturi online au ironizat ideea politeții ca „risipă de tokeni”, ceea ce a fost interpretat de unii ca fiind un fapt.

Astfel, ideea că „OpenAI pierde bani când îi spui mulțumesc” a prins rădăcini ca memă digitală. Dar este ea adevărată?

Adevărul tehnic din spatele unei întrebări pur umane: cât costă de fapt „mulțumesc”?

Pentru a răspunde serios, trebuie să înțelegem cum sunt taxate și procesate cererile către un model de limbaj:

Fiecare solicitare către ChatGPT (sau un API OpenAI) este taxată în funcție de numărul de tokeni. Un token este, în medie, echivalent cu 3-4 caractere în limba engleză sau un cuvânt scurt. „Mulțumesc” este un token în română; „thank you” este două în engleză.

Costurile marginale sunt mici. În cazul GPT-4-turbo (modelul folosit în mod standard în ChatGPT), OpenAI percepe aproximativ 0,01 de dolari pentru 1000 de tokeni de input și 0,03 de dolari pentru 1000 de tokeni de output. Asta înseamnă că un cuvânt în plus poate costa, în cel mai rău caz, fracțiuni de cent, adică sub un ban românesc.

Nu există o penalizare pentru politețe. Din punct de vedere funcțional, un input care conține „te rog” sau „mulțumesc” nu declanșează procese speciale în model. E doar un token în plus de procesat. E ca și cum ai tipări un cuvânt în plus într-un document.

Mitul costului politeții, demontat

Așadar, chiar dacă este adevărat că „mulțumesc” este un token în plus care necesită calcul, ideea că acest lucru „costă” OpenAI în mod semnificativ este falsă. Din trei motive:

Dimensiunea inputului este deja variabilă. Modelele AI sunt optimizate să răspundă la inputuri de lungime variabilă, de la câteva cuvinte la paragrafe întregi. Adăugarea unui token suplimentar nu afectează semnificativ performanța sau costul.

Sistemele sunt optimizate pentru scalare. Arhitectura care susține modele ca ChatGPT este construită tocmai pentru a face față la sute de milioane de solicitări zilnice. Un „te rog” nu face diferența.

Companiile încurajează limbajul natural. În mod ironic, chiar OpenAI și alte companii încurajează un limbaj natural, uman, prietenos. Încercările de a antrena AI să fie „politicos” implică și ca utilizatorii să modeleze același comportament.

De ce se teme lumea, de fapt?

Atunci când analizăm reacția emoțională la ideea că „politețea costă bani”, apare o problemă mai profundă: frica de ineficiență, de risipă, de a fi „neproductiv” într-o lume algoritmică.

Am fost antrenați, în epoca tehnologică, să gândim în termeni de optimizare: să tăiem tot ce e redundant, lent sau neproductiv.

Chiar și așa, conversația umană nu funcționează așa. Politețea, ezitările, subtilitățile, toate fac parte din ceea ce ne face oameni. Și, în interacțiunea cu AI, vrem să păstrăm această umanitate.

Paradoxal, ideea că AI ar fi „deranjată” de politețe sau că politețea ar fi ineficientă ne arată cât de mult am internalizat logica algoritmică.

Politețea are valoare, chiar și în interacțiunea cu AI

Deși modele ca ChatGPT nu „simt” recunoștința așa cum ar simți-o un om, politețea nu este inutilă.

Acest lucru se întâmplă din trei motive:

Consolidarea obiceiurilor. Dacă obișnuim să fim politicoși cu AI, păstrăm un ton general civilizat în interacțiunile noastre digitale. Asta se poate transpune și în comportamentul nostru cu ceilalți oameni.

Exemplul pentru copii și tineri. Mulți minori folosesc AI. Dacă văd că adulții interacționează respectuos cu tehnologia, vor învăța același comportament în general.

Feedback implicit. Un „mulțumesc” poate semnala, chiar și pentru AI, că răspunsul a fost satisfăcător. În viitor, modelele ar putea folosi astfel de semnale (fie și indirect) pentru ajustări subtile.

Dacă politețea nu costă, de ce persistă mitul?

Mitul persistă pentru că reflectă mai mult anxietăți sociale decât fapte tehnice. Într-o lume în care AI devine omniprezentă, apar temeri legate de costuri ascunse, automatizare, pierdere de control.

Este mai ușor să credem că „te rog” e un lux risipitor decât să acceptăm că, poate, politețea încă are un loc în era digitală. E o poveste comodă, dar nu una adevărată.

Politețea digitală nu e risipă, e alegere

Nu, OpenAI nu pierde bani în mod semnificativ dacă îi spui „mulțumesc”. Tokenii suplimentari costă doar fracțiuni de cent, iar infrastructura AI este construită tocmai pentru astfel de variații. Adevărata pierdere ar fi, poate, dacă am elimina complet politețea din interacțiunile noastre cu tehnologia și, prin extensie, cu noi înșine.

Politețea nu e despre eficiență. E despre relație. Chiar și într-o conversație cu un model de limbaj.

Așadar, poate că ar trebui să continuăm să fim politicoși atât cu oamenii, cât și cu AI-ul, mai ales în era în care ne este frică de modul în care inteligența artificială ar putea să evolueze. Un lucru este clar: asemenea creșterii copiilor, cum îți crești AI-ul fix așa îl ai.

Iar dacă fracțiunea aia de bănuț cheltuită în plus are să deranjeze pe cineva, chiar și pe Sam Altman, fie la el acasă, ca să zic așa.