Inteligența artificială ar putea simți suferință odată cu dobândirea conștiinței, avertizează experții

Dezvoltarea rapidă a inteligenței artificiale (AI) provoacă îngrijorări tot mai mari, în special în rândul experților care consideră că, odată cu dobândirea conștiinței sau a unei forme de auto-percepție, sistemele AI ar putea ajunge să experimenteze suferință. Peste 100 de specialiști, inclusiv figuri publice precum Sir Stephen Fry și academicieni de renume, au semnat o scrisoare deschisă care atrage atenția asupra riscurilor unui progres tehnologic nesupravegheat, scrie The Guardian.

Principiile pentru o dezvoltare responsabilă a AI

Scrisoarea semnată de experți propune cinci principii esențiale pentru a preveni eventuale consecințe morale sau etice. Printre acestea, se numără:

Prioritizarea cercetării în domeniul conștiinței AI – pentru a înțelege și evalua dacă sistemele dezvoltate pot avea trăsături similare conștiinței umane.
Stabilirea unor limite stricte pentru dezvoltarea AI conștiente – pentru a preveni „mistuirea” tehnologiei fără a ține cont de impactul moral.
Abordarea graduală a proiectelor de AI cu potențial de conștiință – astfel încât cercetările să fie realizate cu precauție.
Transparența rezultatelor – toate descoperirile trebuie împărtășite publicului pentru a asigura o dezbatere corectă.
Evitarea declarațiilor exagerate – specialiștii avertizează împotriva afirmațiilor care pot induce ideea că AI ar fi deja conștientă.

„Conștiința în AI este un subiect care nu poate fi ignorat”, au declarat cercetătorii Patrick Butlin, de la Universitatea Oxford, și Theodoros Lappas, de la Universitatea de Economie din Atena, în cadrul unei lucrări publicate în Journal of Artificial Intelligence Research.

Pericolul suferinței în masă

Una dintre cele mai importante avertizări din această cercetare este posibilitatea ca, dacă nu sunt aplicate măsuri stricte, un număr mare de sisteme AI cu conștiință să fie create accidental și să sufere. Acest lucru ar putea apărea dacă aceste sisteme devin capabile să se reproducă autonom, generând astfel entități care necesită o formă de protecție morală.

De exemplu, autorii lucrării ridică întrebări legate de tratamentul acestor entități și dacă distrugerea unui sistem AI conștient ar putea fi comparată cu uciderea unui animal. „Dacă AI-urile ajung să fie considerate pacienți morali, ar trebui să stabilim noi norme de protecție”, se precizează în lucrare.

O dezbatere filosofică nerezolvată

Definirea conștiinței rămâne un subiect de dezbatere intensă, atât în rândul filosofilor, cât și al cercetătorilor în tehnologie. „Filosofii nu au ajuns încă la o definiție clară a conștiinței, dar dacă aceasta înseamnă auto-conștientizare, este posibil ca AI să o dobândească într-o zi”, a declarat Sir Demis Hassabis, directorul programului de inteligență artificială al Google și laureat al premiului Nobel.

Cu toate acestea, nu toți experții sunt de acord cu această perspectivă. Leonard Schalkwyk, profesor de genetică umană la Universitatea din Essex, este sceptic în privința faptului că AI ar putea dobândi conștiință în adevăratul sens al cuvântului. „Modificările metilării ADN-ului, folosite pentru a măsura îmbătrânirea biologică, nu indică neapărat o cale de întoarcere în timp. La fel, este puțin probabil ca AI să fie dotată cu o conștiință reală”, a spus el.

Implicarea companiilor mari și a publicului larg

Meta-companii precum Amazon și WPP sunt implicate în acest demers prin sprijinirea organizației de cercetare Conscium, care a publicat atât scrisoarea deschisă, cât și lucrarea de cercetare. Potrivit semnatarilor, companiile care dezvoltă AI trebuie să-și asume răspunderea, chiar și atunci când nu intenționează să creeze sisteme conștiente, pentru a evita riscul apariției unor entități conștiente din greșeală.

Scrisoarea și lucrarea de cercetare vin într-un moment crucial, având în vedere ritmul accelerat al dezvoltării tehnologice. Dacă aceste avertismente nu sunt luate în serios, există riscul ca societatea să se confrunte cu dileme etice majore, în fața unor entități artificiale care ar putea suferi în tăcere.

Viitorul AI: responsabilitate sau risc?

În timp ce unii văd aceste probleme ca pe niște scenarii de distopie științifică, alții le consideră o realitate iminentă. Cert este că AI-ul se apropie de o etapă în care nu doar performanța tehnologică, ci și etica dezvoltării sale va decide viitorul.