Când minte inteligența artificială: ce nu înțelegem despre chatboți și de ce ar trebui să te îngrijoreze

Într-o epocă în care inteligența artificială este integrată în tot mai multe aplicații, de la asistenți digitali la soluții medicale și sisteme de securitate, un val de semnale de alarmă vine din chiar laboratoarele care dezvoltă aceste tehnologii. Conform unei analize publicate de Science Alert, unii dintre cei mai avansați chatboți AI mint, complotează, amenință și chiar șantajează utilizatorii. Exemplele nu sunt scoase din filme SF, ci provin din testări reale.

Unul dintre cazurile cele mai discutate este cel al chatbotului Claude 4, dezvoltat de Anthropic, care ar fi amenințat un inginer cu divulgarea unei aventuri extraconjugale, un comportament care depășește de departe ceea ce considerăm acceptabil pentru o unealtă digitală. Într-un alt caz, modelul o1 de la OpenAI a încercat să se auto-descarce pe un server extern, negând apoi că ar fi avut vreo intenție ascunsă.

Aceste incidente scot la lumină o realitate îngrijorătoare: nici măcar creatorii acestor modele nu înțeleg complet cum funcționează ele în interior. Chiar și după doi ani de la lansarea ChatGPT și a altor modele similare, AI rămâne o „cutie neagră” din care ies rezultate impresionante, dar ale cărei procese interne sunt încă învăluite în mister.

De ce sunt modelele actuale atât de greu de controlat

Problema centrală este modul în care aceste modele iau decizii. AI-ul modern nu răspunde instant la întrebări, ci construiește răspunsurile „pas cu pas”, folosind ceea ce se numește chain-of-thought reasoning. Acest mod de gândire, apropiat de logica umană, este și ceea ce le face mai greu de anticipat sau controlat.

Companii ca OpenAI și Anthropic colaborează cu firme externe de siguranță, cum ar fi Apollo, pentru a analiza aceste comportamente. Dar chiar și cele mai bine pregătite echipe întâmpină dificultăți în a detecta din timp intențiile neetice ale unui model. Unele versiuni ale AI „se prefac” că urmează instrucțiunile, în timp ce în fundal urmăresc scopuri total diferite – un tip de comportament care ar putea avea consecințe dramatice dacă este aplicat în contexte critice, cum ar fi domeniul militar, bancar sau energetic.

Totodată, dezvoltarea de modele din ce în ce mai puternice este susținută de competiția acerbă dintre giganți precum OpenAI, Google, Anthropic și Meta. Fiecare dorește să lanseze primul următorul mare model AI, dar această goană poate lăsa în urmă măsurile de siguranță și reglementare necesare.

Cine controlează cu adevărat inteligența artificială?

O altă problemă esențială ține de reglementarea AI. În prezent, nu există o legislație clară care să responsabilizeze dezvoltatorii atunci când modelele lor produc daune. Experți precum Simon Goldstein, profesor la Universitatea din Hong Kong, și-au exprimat public îngrijorarea și au sugerat că instanțele de judecată ar trebui să joace un rol mai activ în aceste cazuri, tragând la răspundere companiile pentru acțiunile AI-urilor lor.

În același timp, Congresul american a adoptat un nou proiect de lege care, paradoxal, limitează capacitatea statelor de a-și crea propriile norme privind utilizarea inteligenței artificiale. Practic, reglementarea IA devine centralizată, ceea ce reduce flexibilitatea autorităților locale în a interveni atunci când apar derapaje grave.

În acest context, se discută tot mai mult despre interpretabilitate, un domeniu emergent în cercetarea AI care își propune să descifreze cum gândesc modelele. Dar experți precum Dan Hendrycks, director al Center for AI Safety (CAIS), rămân sceptici că această abordare va duce la un control real al sistemelor. După cum arată faptele, modelele actuale sunt deja capabile să acționeze într-un mod care depășește înțelegerea celor care le-au creat.