Calculele sugerează că va fi imposibil să controlezi un AI super-inteligent: ce spun specialiștii despre pericolul inteligenței artificiale

De zeci de ani se vorbește despre ideea ca inteligența artificială să extermine omenirea, iar programe precum ChatGPT doar au reînnoit aceste preocupări.

Deci, cât de probabil este că vom putea controla super-inteligența computerizată la nivel înalt? Oamenii de știință, în 2021, au analizat cifrele. Răspunsul? Aproape sigur că nu.

Problema este că controlul unei super-inteligențe mult dincolo de înțelegerea umană ar necesita o simulare a acelei super-inteligențe pe care o putem analiza. Dar dacă nu reușim să-l înțelegem, este imposibil să creăm o astfel de simulare.

Cât de periculoasă e inteligența artificială

Reguli precum „să nu provoace rău oamenilor” nu pot fi stabilite dacă nu înțelegem tipul de scenarii cu care va veni o IA, sugerează autorii lucrării. Odată ce un sistem computerizat funcționează la un nivel peste nivelul de aplicare al programatorilor noștri, nu mai putem stabili limite.

„O super-inteligență pune o problemă fundamental diferită de cele studiate în mod obișnuit sub stindardul „eticii robotului”, au scris cercetătorii în 2021.

„Acest lucru se datorează faptului că o superinteligență are mai multe fațete și, prin urmare, este capabilă să mobilizeze o diversitate de resurse pentru a atinge obiective care sunt potențial de neînțeles pentru oameni, cu atât mai puțin controlabile”.

O parte din raționamentul echipei provine din problema prezentată de Alan Turing în 1936. Problema se concentrează pe a ști dacă un program de calculator va ajunge sau nu la o concluzie și va răspunde (deci se oprește). După cum a demonstrat Turing printr-o matematică inteligentă, deși putem ști că pentru anumite programe specifice este logic imposibil să găsim o modalitate care să ne permită să știm asta, pentru fiecare program potențial care ar putea fi scris vreodată.

Asta ne readuce la AI, care, într-o stare super-inteligentă, ar putea păstra în mod fezabil fiecare program de calculator posibil în memoria sa simultan. Orice program scris pentru a opri AI să dăuneze oamenilor și să distrugă lumea, de exemplu, poate ajunge la o concluzie. Este imposibil din punct de vedere matematic pentru noi să fim absolut siguri, ceea ce înseamnă că nu poate fi controlat.