Un expert spune că ChatGPT este mult mai prost decât cred oamenii

Cercetătorul în robotică și expert în inteligență artificială Rodney Brooks susține că am supraestimat cu mult modelele de limbaj mari ale OpenAI, pe care se bazează chatbot-ul de succes ChatGPT.

Într-un interviu cu IEEE Spectrum, Brooks susține că aceste instrumente sunt mult cmai stupide decât ne dăm seama, ca să nu mai vorbim de faptul că este foarte departe de a putea concura cu oamenii la orice sarcină dată la nivel intelectual.

Pe scurt, este AI gata să devină genul de inteligență generală artificială (AGI) care ar putea funcționa la un nivel intelectual similar cu cel al oamenilor?

De ce ChatGPT nu ar putea înlocui un om

„Nu, pentru că nu are niciun model subiacent al lumii”, a spus Brooks publicației.

„Nu are nicio legătură cu lumea. Este doar o corelație între limbaje”.

Comentariile lui Brooks servesc ca o reamintire valoroasă a limitărilor actuale care afectează tehnologia AI și a cât de ușor este să le conferim sens, chiar dacă au fost concepute pentru a suna, pur și simplu, mai degrabă decât rațiunea, ca oamenii.

„Vedem o persoană făcând ceva și știm ce altceva poate face și putem face o judecată rapid”, a spus el pentru IEEE Spectrum.

„Dar modelele noastre de generalizare de la o performanță la o competență nu se aplică sistemelor AI”.

Cu alte cuvinte, modelele actuale de limbaj nu sunt capabile să deducă în mod logic sensul, în ciuda faptului că ele fac să sune așa cum pot – ceea ce poate induce cu ușurință utilizatorul în eroare.

„La ce sunt bune modelele mari de limbaj este să spună cum ar trebui să sune un răspuns, ceea ce este diferit de ceea ce ar trebui să fie un răspuns”, a spus Brooks.

Cercetătorul a spus că a experimentat modele mari de limbaj pentru a-l ajuta cu „codarea arcană” – dar a avut probleme serioase.

„Oferă un răspuns cu încredere deplină și într-un fel îl cred”, a spus Brooks pentru IEEE Spectrum.

„Și jumătate din timp, este complet greșit. Și petrec două sau trei ore folosind acel indiciu, apoi spun: „Nu a funcționat”.

„Acum, asta nu este același lucru cu inteligența”, a adăugat el. „Nu este același lucru cu a interacționa. Este să caute doar”.

Pe scurt, Brooks crede că viitoarele iterații ale tehnologiei ar putea ajunge în unele locuri interesante – „dar nu AGI”. Și având în vedere riscurile pe care le implică ca un sistem AI să înlocuiască inteligența unei ființe umane, probabil că este mai bine așa.