Inevitabilul s-a produs, ajutorul de șomaj stabilit de inteligență artificială. Statul în care AI-ul decide cine primește bani de la stat

Tehnologia continuă să își facă loc în tot mai multe domenii, iar acum chiar și sistemele de asistență socială sunt gestionate cu ajutorul inteligenței artificiale (AI). Nevada devine primul stat din SUA care implementează un sistem bazat pe AI generativ pentru a evalua și recomanda soluții în cazurile de contestație a șomajului. Deși această tehnologie promite să eficientizeze procesele birocratice și să accelereze soluționarea cazurilor, ea aduce și provocări și riscuri semnificative.

Cum funcționează sistemul AI și ce schimbări aduce

Sistemul de AI, dezvoltat de Google și utilizat în Nevada, este conceput pentru a analiza stenogramele audierilor de apel în cazurile de șomaj și pentru a oferi recomandări referitoare la dreptul persoanelor la ajutor de șomaj. Cu ajutorul tehnologiei Vertex AI Studio de la Google, AI-ul va compara cazurile curente cu cele anterioare și va genera sugestii, reducând timpul necesar soluționării unui dosar de la câteva ore la doar câteva minute.

Nevada a făcut această mișcare pentru a rezolva rapid peste 40.000 de contestații restante, cauzate în principal de creșterea cererilor de șomaj în timpul pandemiei. Sistemul este destinat să ajute funcționarii Departamentului pentru Ocuparea Forței de Muncă, Instruire și Reabilitare (DETR) să gestioneze mai eficient aceste dosare, reducând povara administrativă. În teorie, AI-ul poate să ușureze procesele și să ofere soluții mai rapide, dar există și o serie de riscuri asociate.

Riscurile și îngrijorările legate de folosirea AI-ului în deciziile de șomaj

Deși tehnologia promite să reducă timpul de procesare și să elimine unele erori umane, utilizarea AI-ului pentru astfel de decizii importante nu este lipsită de probleme. AI-ul generativ este cunoscut pentru erori, halucinații și părtiniri, care pot duce la soluții greșite sau nedrepte pentru cei care fac apeluri în cazurile de șomaj. Această situație este agravată de faptul că, odată ce AI-ul face o recomandare, aceasta va fi revizuită de o persoană, dar există îngrijorări că factorii de decizie umani ar putea să se simtă presați să aprobe rapid recomandările pentru a reduce restanțele.

Un alt aspect îngrijorător este că, în cazurile de apel, instanțele de judecată nu vor putea interveni dacă o eroare produsă de AI influențează decizia finală. Potrivit Elizabeth Carmona, avocat senior la Nevada Legal Services, acest lucru ar putea crea dificultăți pentru reclamanți, deoarece va fi complicat să se determine dacă decizia finală a fost bazată pe o eroare AI sau pe o evaluare corectă a unui caz. O astfel de situație poate compromite accesul corect la justiție și dreptul la un proces echitabil.

Implementarea și monitorizarea sistemului AI

Google a colaborat îndeaproape cu statul Nevada pentru a implementa sistemul și a monitoriza posibilele probleme, cum ar fi părtinirile sau erorile. Deși sistemul este supus unei verificări umane înainte de a se lua o decizie finală, există preocupări cu privire la riscul ca recomandările AI să fie acceptate prea rapid, fără o analiză corespunzătoare, mai ales în situațiile în care resursele umane sunt limitate.

În plus, DETR a asigurat că nicio decizie nu va fi luată exclusiv de AI și că toate recomandările vor fi revizuite de cel puțin un funcționar. Dacă funcționarul nu este de acord cu recomandarea AI, dosarul va fi investigat în continuare, evitând astfel riscul unei greșeli majore.

Ce urmează pentru alte state?

În ciuda riscurilor și provocărilor, implementarea AI-ului în astfel de procese sensibile este văzută ca o posibilă soluție pentru reducerea birocrației și accelerarea soluționării dosarelor restante. Nevada este pionier în utilizarea acestei tehnologii, însă succesul său va fi atent urmărit de alte state care ar putea fi tentate să adopte soluții similare în viitor.

Dacă sistemul AI din Nevada funcționează corect și reușește să soluționeze dosarele rapid și eficient, este foarte probabil ca și alte state să urmeze acest model. Totuși, rămâne de văzut dacă inteligența artificială va putea face față complexității acestor cazuri fără a comite erori semnificative care să afecteze viețile oamenilor.

Decizia Nevadei de a utiliza AI generativ pentru a analiza cazurile de șomaj și a face recomandări ridică numeroase semne de întrebare. Deși promisiunea unui proces mai rapid și mai eficient este atractivă, riscurile asociate cu erorile și părtinirile AI sunt semnificative. Într-un sistem care afectează direct veniturile și securitatea financiară a oamenilor, orice greșeală ar putea avea consecințe grave. În ciuda îmbunătățirilor tehnologice, rămâne esențial ca deciziile finale să fie luate cu discernământ uman, asigurându-se că drepturile cetățenilor nu sunt compromise în procesul de digitalizare a sistemului.