Experții avertizează că inteligența artificială ar putea scăpa de sub control în orice moment

La o reuniune internațională recentă, unii dintre cei mai importanți experți în inteligența artificială (AI) au emis un avertisment grav privind pericolele asociate cu această tehnologie. În cadrul evenimentului organizat de International Dialogues on AI Safety (IDAIS), un grup de savanți din diverse culturi și domenii s-a reunit pentru a trasa o direcție clară în ceea ce privește riscurile AI. Conform acestora, avansurile rapide în capacitățile sistemelor AI ne apropie tot mai mult de un viitor în care aceste sisteme ar putea depăși inteligența umană.

Geoffrey Hinton, cercetător la Turing Institute, și Zhang Ya-Qin, fost președinte al conglomeratului chinez Baidu, s-au numărat printre cei care au semnat o declarație comună. Aceasta a fost scrisă la al treilea congres al IDAIS, care a avut loc în Veneția, și subliniază că „pierderea controlului uman asupra acestor sisteme sau utilizarea lor în scopuri malițioase ar putea duce la rezultate catastrofale pentru întreaga omenire”.

Un apel global pentru cooperare

Principala preocupare a experților este legată de faptul că, în viitorul apropiat, AI ar putea ajunge să fie mai inteligentă decât oamenii, ceea ce ar pune omenirea într-o poziție vulnerabilă. Conform IDAIS, aceste sisteme avansate ar putea fi dezvoltate în următoarele decenii, iar unii savanți cred că acest lucru se va întâmpla foarte curând. În acest context, pericolul constă în pierderea controlului asupra AI sau în folosirea ei în mod intenționat pentru a provoca daune masive.

Avertismentul lansat de IDAIS subliniază necesitatea unui plan global de contingență, care să prevină și să gestioneze riscurile asociate AI. Deși s-au făcut câțiva pași promițători către cooperarea internațională în domeniul securității AI la summit-urile interguvernamentale, savanții subliniază că eforturile trebuie intensificate pentru a dezvolta o strategie de gestionare a riscurilor la nivel global.

Printre propunerile avansate de grup se numără crearea unor organisme internaționale dedicate pregătirii de urgență, precum și stabilirea unor „linii roșii” pentru utilizarea AI, care să fie respectate de toate națiunile. Totuși, experții nu au oferit detalii concrete despre riscurile exacte pe care le presupune AI sau despre modul în care acestea ar putea deveni realitate.

Importanța dialogului internațional

Un alt aspect evidențiat de declarația IDAIS este importanța menținerii unui dialog internațional constant privind riscurile și utilizarea responsabilă a inteligenței artificiale. Tehnologia AI nu cunoaște granițe naționale, astfel că o abordare globală este esențială. Riscurile cresc în contextul în care marile puteri mondiale, cum ar fi Statele Unite și China, se angajează într-o cursă pentru dezvoltarea AI militarizate.

Pe lângă Hinton și Zhang, declarația a fost semnată și de alte personalități importante, precum Mary Robinson, fost președinte al Irlandei, și Andrew Yao, câștigător al premiului Turing. În plus, au participat și cercetători de renume din instituții academice din Quebec și Beijing. Deși documentul subliniază necesitatea unor măsuri globale pentru atenuarea riscurilor, rămâne în mare parte vag în privința specificului riscurilor și a modului în care acestea ar putea apărea.

Cu toate acestea, este clar că recomandările IDAIS sunt de o importanță majoră, iar menținerea unui dialog internațional pe această temă crucială devine tot mai urgentă.