Meta renunță la oameni în favoarea inteligenței artificiale. Așa înțelegi cum acaparează AI-ul absolut tot
Potrivit unor documente interne analizate de NPR, Meta intenționează să automatizeze până la 90% din procesele de evaluare a riscurilor, renunțând la analiștii umani.
Meta se îndreaptă spre o automatizare aproape completă a proceselor sale interne de siguranță, potrivit unor documente interne obținute de postul american NPR.
Meta vrea să înlocuiască 90% dintre oameni cu sisteme AI
Compania ar urma să înlocuiască în proporție de 90% evaluatorii umani de riscuri cu sisteme bazate pe inteligență artificială, o schimbare majoră în cadrul așa-numitelor „evaluări de confidențialitate și integritate”, scrie publicația Mashable.
Până acum, Meta folosea echipe de analiști umani pentru a evalua pericolele asociate noilor tehnologii sau modificărilor de algoritm.
Evaluările includeau, de altfel, inclusiv impactul potențial asupra siguranței utilizatorilor, în special în contextul conținutului periculos sau al dezinformării.
Responsabilitățile cu pricina ar urma să fie preluate de sisteme AI, care vor analiza automat chestionare completate de echipele de produs și vor genera instant decizii de risc și recomandări.
Avantajele există, dar vin la pachet cu riscuri
Deși compania susținea anterior că AI-ul va fi folosit doar pentru evaluări de risc redus, NPR arată că noul sistem este aplicat deja în decizii legate de siguranța AI, riscurile pentru tineri și integritate, inclusiv moderarea conținutului violent sau fals. În plus, inginerii companiei vor primi o autonomie mai mare în procesul decizional.
Schimbarea vine în contextul în care Meta a închis în aprilie programul de verificare umană a informațiilor, înlocuindu-l cu un sistem de tip „Community Notes” și algoritmi proprii, cunoscuți pentru că ratează frecvent dezinformări sau le semnalează eronat.
Consiliul de Supraveghere al Meta a reacționat la aceste măsuri, cerând companiei să evalueze urgent posibilele consecințe negative asupra drepturilor omului.
În cadrul unei decizii recente, Consiliul a avertizat că automatizarea excesivă poate afecta în mod disproporționat țările aflate în criză, unde capacitatea tehnologiilor automate de a înțelege contextul local este limitată.
Strategia de automatizare reflectă obiectivul general al Meta de a crește eficiența și viteza de lansare a produselor.
Chair și așa, criticii atrag atenția că înlocuirea oamenilor cu AI în domenii sensibile, precum siguranța utilizatorilor și moderarea conținutului, ar putea crea vulnerabilități semnificative pentru miliarde de utilizatori la nivel global. Rămâne de văzut cum se va adapta compania în raport cu realitatea.
