Inteligența artificială, la psihiatru. Până și AI-ul își face analize la „cap” pentru deslușirea deciziilor controversate

Instrumentul AI Psychiatry permite anchetatorilor să recreeze modelele AI defecte pentru a analiza comportamentele anormale și vulnerabilitățile.

Pe măsură ce inteligența artificială pătrunde în tot mai multe domenii, de la livrarea de materiale medicale prin drone până la asistenți digitali folosiți în viața cotidiană, devine esențială înțelegerea cauzelor care duc la defecțiunile acestor sisteme.

Chiar dacă tehnologiile bazate pe AI promit beneficii semnificative, ele nu sunt infailibile: pot eșua din cauza erorilor de proiectare, a datelor de antrenament părtinitoare sau a atacurilor cibernetice.

O provocare majoră în cazul unei defecțiuni critice este dificultatea de a examina în detaliu cum a luat AI deciziile respective, mai ales atunci când sistemul aparține unei companii private care nu oferă acces la codul sursă sau la datele interne, scrie Gizmodo.

În acest context, o echipă de cercetători de la Georgia Institute of Technology a dezvoltat AI Psychiatry, un instrument de investigație digitală care poate recupera și testa modele AI suspecte de comportamente necorespunzătoare.

Cum funcționează AI Psychiatry

AI Psychiatry funcționează prin extragerea unei „imagini de memorie” a sistemului AI exact în momentul defecțiunii, oferind astfel o fereastră asupra stării interne a modelului.

Printr-o serie de algoritmi specializați, amprenta digitală este reconstruită într-un model funcțional care poate fi analizat într-un mediu securizat.

Astfel, anchetatorii pot recrea scenariul în care AI-ul a eșuat, de exemplu, o mașină autonomă care a deviat inexplicabil de pe carosabil, și pot testa dacă eroarea a fost provocată de o defecțiune tehnică, de un atac informatic sau de o altă cauză externă.

AI Psychiatry a fost testat pe 30 de modele AI, dintre care 24 fuseseră modificate intenționat pentru a genera rezultate eronate.

Toate modelele au putut fi recuperate și analizate cu succes, inclusiv cele utilizate pentru recunoașterea semnelor rutiere.

Cum se manifestă aplicațiile extinse în securizarea AI-ului

Un aspect esențial al AI Psychiatry este caracterul generalist: sistemul poate fi aplicat oricărui model AI dezvoltat cu cele mai comune cadre de programare, fără a necesita cunoștințe prealabile despre arhitectura specifică.

Aceasta îl face util nu doar pentru investigarea incidentelor, ci și pentru auditarea proactivă a sistemelor AI utilizate de instituții publice sau companii private.

De altfel, în condițiile în care AI-ul devine un instrument de lucru pentru agenții guvernamentale, de la poliție la servicii sociale, auditul algoritmic devine o cerință de supraveghere tot mai frecventă la nivel local și național.

AI Psychiatry, oferit în regim open-source, poate standardiza metodele de investigare și poate oferi un grad crescut de transparență în utilizarea acestor tehnologii.

Prin această abordare, dezvoltatorii de sisteme AI, autoritățile și utilizatorii finali pot beneficia de un instrument robust de identificare și prevenire a erorilor, contribuind la creșterea încrederii publice în tehnologiile bazate pe inteligență artificială.