ONU avertizează asupra pericolelor inteligenței artificiale: Armele autonome și deepfake-urile

Inteligența artificială (AI) reprezintă un pericol major pentru democrație și pace dacă nu va fi controlată corespunzător, a avertizat Organizația Națiunilor Unite (ONU). Secretarul general al ONU, Antonio Guterres, a subliniat importanța acestei probleme, în contextul unui raport prezentat de un grup de experți care semnalează riscurile crescânde ale deepfake-urilor realiste, precum și evoluția armelor autonome și utilizarea AI de către grupuri criminale și teroriste.

Raportul atrage atenția asupra unei guvernanțe globale insuficiente în domeniul AI, avertizând că dezvoltarea acestei tehnologii nu poate fi lăsată doar în mâinile pieței. Guterres și experții săi fac un apel la o cooperare internațională sporită pentru a preveni consecințele nedorite ale inteligenței artificiale.

Rolul armelor autonome și deepfake-urilor

Una dintre cele mai îngrijorătoare evoluții menționate în raportul ONU este dezvoltarea armelor autonome, care pot lua decizii letale fără intervenția umană. În lipsa unei reglementări internaționale clare, aceste arme pot duce la conflicte necontrolate și destabilizare globală. De asemenea, grupurile teroriste și criminale ar putea exploata inteligența artificială pentru a dezvolta noi forme de atacuri cibernetice și tactici de dezinformare.

Un alt risc semnificativ identificat este utilizarea deepfake-urilor, tehnologii care permit crearea de imagini și videoclipuri extrem de realiste, dar false. Acestea pot fi folosite pentru a manipula opinia publică, pentru a crea confuzie politică și pentru a destabiliza guvernele democratice. Deepfake-urile pornografice reprezintă o amenințare serioasă pentru viața privată a indivizilor, iar lipsa unui cadru legal eficient face dificilă combaterea acestui tip de abuz digital.

Soluții propuse pentru controlul AI

Grupul de experți ai ONU, format din aproximativ 40 de specialiști din domeniul tehnologiei, dreptului și protecției datelor, a fost creat de Antonio Guterres în octombrie pentru a aborda aceste provocări. În raportul lor, experții solicită înființarea unui grup de experți științifici, similar cu cel al Panelului Interguvernamental pentru Schimbările Climatice (IPCC), care să informeze comunitatea internațională despre riscurile emergente și să ofere soluții pentru utilizarea AI în scopuri benefice, precum reducerea sărăciei sau combaterea inegalităților de gen.

De asemenea, aceștia propun crearea unui mecanism de coordonare ușor în cadrul secretariatului ONU, care să faciliteze cooperarea globală. Totuși, raportul nu susține înființarea imediată a unui organism internațional robust pentru guvernanța AI, dar avertizează că, pe măsură ce riscurile legate de AI cresc, ar putea deveni necesară o instituție internațională cu atribuții clare de monitorizare, raportare și aplicare a legilor.

Raportul subliniază, de asemenea, că viteza și autonomia dezvoltării AI fac imposibilă realizarea unei liste complete a pericolelor. Cu toate acestea, experții avertizează că așteptarea până la apariția unei amenințări ar putea însemna că răspunsul va veni prea târziu. Prin urmare, ei recomandă evaluări științifice continue și un dialog politic constant pentru a evita surprizele neplăcute.

Concluziile raportului fac parte din propunerea de „Compact Digital Global”, care urmează să fie adoptată la Summitul pentru Viitor de dumiNICA.