Inteligența artificială rescrie modul în care își fac avocații treaba în instanțe, dar beneficiile vin cu riscuri: Avertismentul experților

Inteligența artificială pare să promită eficiență în domeniul juridic, dar riscurile asociate cu erori, halucinații și lipsa de pregătire pot submina credibilitatea avocaților și a instanțelor. Experții cer, de altfel, alfabetizare digitală și reguli stricte privind utilizarea AI.

AI-ul devine tot mai prezentă în activitatea avocaților, însă sistemul de justiție nu este încă pregătit să o folosească responsabil.

Halucinațiile AI, erorile de utilizare și lipsa unei înțelegeri exacte a tehnologiei pot compromite credibilitatea profesiei.

Un exemplu recent este cazul avocatului Brandon Monk, care, în 2024, a depus un document generat de AI plin de cazuri și citate inexistente într-un proces împotriva Goodyear, scrie publicația DarkReading.

Judecătorul a impus o amendă de 2.000 de dolari și obligativitatea unui curs despre utilizarea GenAI în domeniul juridic.

Cassandra Maldini, vicepreședinte AI governance la Securiti, explică problema de fond: „Tehnologia nu are un interes pentru adevăr. Este bazată pe algoritmi probabilistici și îți oferă un răspuns, dar nu garantează că este cel corect”.

Astfel de greșeli pot submina, în mod sigur, încrederea clienților și pot aduce prejudicii de imagine instanțelor care nu detectează erorile.

De la eficiență la criza de credibilitate în avocatură

AI poate fi un instrument valoros pentru analiza rapidă a mii de documente legale sau chiar pentru îmbunătățirea probelor video dintr-un accident.

Peter Hedberg, vicepreședinte la Corvus Insurance, subliniază că firmele pot reduce timpul și costurile de cercetare folosind AI.

Însă există un risc major, iar acesta se referă la modelele lingvistice mari (LLM) sunt „ca niște căței care vor doar să te mulțumească”, spune Hedberg. „Nu sunt proiectate să spună adevărul, ci să îți dea un răspuns care te face să revii.”

Cazurile de halucinații AI, unde sunt inventate complet citate și precedente juridice, demonstrează că avocații nu pot folosi outputul AI fără verificări riguroase.

Lipsa de gândire critică și tentația de a exploata scurtături pot duce la erori grave. Maldini avertizează că, fără măsuri clare, profesia juridică se confruntă cu „o criză de credibilitate”.

Este mare nevoie de alfabetizarea AI, dar mai ales de reguli stricte și etice

Experții subliniază că alfabetizarea AI este esențială. Avocații, judecătorii și jurații trebuie să înțeleagă limitele tehnologiei și să își păstreze rolul de verificare a veridicității probelor.

Deja au existat cazuri în care instanțele au respins probe video modificate cu AI, invocând „tehnici noi” care pot induce confuzie în rândul juraților.

Tyler Shields, analist la Enterprise Strategy Group, avertizează că angajații de nivel inferior din firmele de avocatură pot introduce date sensibile în instrumente AI externe, expunând riscuri majore de confidențialitate. Mai mult, AI poate fi folosit pentru fabricarea probelor sau a dovezilor deepfake.

Pentru a limita riscurile, experții propun:

educație aprofundată și cursuri obligatorii despre utilizarea AI în drept;
reguli de etică privind verificarea și utilizarea rezultatelor AI;
introducerea de mecanisme de verificare criptografică și watermarking digital pentru probele AI.