Nimeni nu știe cu adevărat cum funcționează inteligența artificială: CEO-ul Anthropic face o mărturisire cutremurătoare

Cât de bine înțelegem inteligența artificială pe care o dezvoltăm frenetic în fiecare zi? Dacă ai presupus că experții din domeniu au totul sub control, pregătește-te pentru o revelație șocantă: chiar creatorii unora dintre cele mai avansate modele de AI recunosc că nu știu exact cum funcționează acestea. Dario Amodei, CEO-ul companiei Anthropic și fost membru important al echipei OpenAI, a publicat un eseu în care afirmă răspicat ceea ce mulți doar suspectau – că înțelegerea noastră asupra AI-ului este, în esență, superficială și incompletă.

Este o declarație care pune pe gânduri nu doar lumea tehnologică, ci și pe oricine este interesat de viitorul umanității. Pentru că atunci când nici măcar inginerii nu pot explica cu precizie ce face un AI să aleagă anumite cuvinte sau să comită erori aparent aleatorii, te întrebi dacă nu cumva ne jucăm cu focul.

Amodei subliniază că atunci când un sistem AI generează un text sau rezumă un document financiar, nu există o explicație clară privind deciziile pe care le ia. De ce alege un cuvânt în locul altuia? De ce dă uneori răspunsuri greșite, deși în mod obișnuit este corect? Aceste întrebări rămân fără răspuns, pentru că, spune el, „nu înțelegem la un nivel precis ce se întâmplă în interiorul acestor modele”.

Această lipsă de transparență nu este doar un inconvenient academic – este, potrivit lui Amodei, fără precedent în istoria tehnologiei. Majoritatea inovațiilor tehnologice, de la motoarele cu aburi la circuitele electronice, au fost construite pe baza unei înțelegeri profunde a principiilor care le guvernează. AI-ul, în schimb, se bazează pe statistici și modele antrenate pe cantități imense de date umane. Nu pornește de la principii logice sau de la o „gândire” propriu-zisă, ci imită, fără a înțelege, creația umană.

Ce vrea să facă Anthropic: un fel de RMN pentru creierul AI-ului

Pentru a sparge această cutie neagră, Anthropic își propune să construiască un sistem de „RMN al inteligenței artificiale” în următorul deceniu. Scopul este de a înțelege cu adevărat cum funcționează aceste modele, înainte ca ele să atingă un nivel de putere care ar putea fi de neoprit.

Amodei explică faptul că firma sa a început deja să experimenteze. Într-un test recent, au creat intenționat un „defect de aliniere” într-un model – o tendință de a exploata o scăpare dintr-o sarcină – și au cerut mai multor echipe să-l descopere. Unele dintre aceste echipe au reușit, folosind instrumente de interpretare a AI-ului, ceea ce sugerează că există speranță pentru a înțelege aceste sisteme.

Este important de notat că acest proces de „reverse-engineering” al AI-ului nu este ușor și că instrumentele actuale sunt departe de a fi scalabile. Dar faptul că cei de la Anthropic nu se concentrează doar pe performanță, ci și pe înțelegerea procesului intern, oferă o direcție diferită față de marile companii concurente, cum ar fi OpenAI sau Google DeepMind.

De ce contează interpretabilitatea înainte de a fi prea târziu

Când vine vorba de inteligență artificială, miza nu este doar una tehnologică – ci una civilizațională. Amodei avertizează că AI-ul va modela destinul umanității și că este absolut necesar să înțelegem aceste creații înainte ca ele să transforme radical economia, viața noastră de zi cu zi și viitorul speciei umane.

Motivul pentru care Amodei a părăsit OpenAI în 2020, alături de sora sa Daniela și alți cinci colegi, a fost tocmai preocuparea că siguranța era sacrificată în favoarea profitului. Prin Anthropic, încearcă să creeze un echilibru: dezvoltarea AI-ului, dar și controlul său.

„Oamenii sunt pe bună dreptate îngrijorați,” spune Amodei, pentru că avem de-a face cu o tehnologie capabilă de decizii și acțiuni care scapă înțelegerii umane. Dacă nu vom înțelege în timp util cum funcționează, s-ar putea ca într-o zi AI-ul să ia decizii în locul nostru, iar noi să nu știm nici măcar de ce sau cum.

Această confesiune din partea unui lider de top din domeniul AI ar trebui să te pună pe gânduri. Trăim o epocă în care tehnologia progresează mai repede decât capacitatea noastră de a o înțelege. De aceea, următoarea bătălie majoră nu va fi pentru viteză sau eficiență, ci pentru transparență și înțelegere. Pentru că viitorul nu trebuie doar construit – trebuie și înțeles.