Când codul înlocuiește legea: cine face justiția digitală?

Într-o lume care se digitalizează rapid, în care inteligența artificială și algoritmii infiltrează tot mai multe domenii ale vieții cotidiene, și sistemele judiciare nu fac excepție.

Astăzi, în multe țări, inclusiv în cele cu tradiții democratice și judiciare solide, rolul judecătorilor și al legii este susținut, completat, dar uneori și înlocuit de codul computerizat.

Este vorba despre așa-numita justiție digitală, un proces în care deciziile legale, evaluările riscurilor sau chiar sentințele pot fi generate, cel puțin parțial, de algoritmi.

Această realitate care ne înconjoară ridică o întrebare esențială: cine face justiția digitală? Și mai important, putem avea încredere ca „justiția algoritmică” să respecte adevărul, echitatea și drepturile fundamentale?

De la lege la cod, evoluția digitalizării în justiție

Sistemul judiciar, tradițional, este un bastion al dreptului, interpretat și aplicat de judecători umani, pe baza unor legi scrise, a precedentelor și a principiilor morale și sociale.

Dar, odată cu creșterea volumului de litigii, presiunile pentru eficiență și pentru transparență, multe țări au început să introducă tehnologia în justiție.

Unele dintre cele mai răspândite aplicații digitale sunt:

Sisteme de management electronic al dosarelor, care digitalizează arhive, permit accesul rapid la documente și monitorizează procedurile.

Instrumente de analiză a probelor digitale, folosite în criminalistică și investigații.

Algoritmi de evaluare a riscurilor, utilizați în special în procese penale pentru a decide asupra arestului preventiv, eliberării condiționate sau chiar a nivelului de pedeapsă.

Aceste instrumente menționate anterior oferă avantaje evidente: reduc timpul de procesare, scad costurile, pot reduce erorile umane și asigură o anumită predictibilitate a deciziilor.

Dar în același timp, ele introduc o formă de „codificare a dreptății” care, dacă nu este atent controlată, poate deveni o sabie cu două tăișuri.

Cine scrie codul și cu ce interese?

Unul dintre punctele cele mai sensibile ale justiției digitale este: cine scrie codul? Software-ul juridic nu este neutru, ci rezultatul deciziilor, presupunerilor și înțelegerii a unor programatori, adesea împreună cu experți în drept.

De exemplu, în Statele Unite, unele state au introdus algoritmi care analizează riscul recidivei pentru a decide dacă un inculpat poate fi eliberat înainte de proces. Sistemul COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) este unul dintre cele mai cunoscute și controversate astfel de instrumente.

Mai multe cercetări independente au arătat că acest algoritm a manifestat părtiniri rasiale, supraestimând riscul de recidivă în cazul persoanelor de culoare.

Acest exemplu evidențiază un aspect fundamental: algoritmii reflectă valorile și prejudecățile celor care i-au creat, precum și datele pe care le-au primit.

Datele istorice pot conține discriminări sociale sau erori sistemice, care, odată integrate într-un model automatizat, se perpetuează și se amplifică, iar asta este, fără niciun dubiu, o veste cât se poate de proastă.

În plus, mulți dintre acești algoritmi sunt dezvoltați de companii private, cu interese comerciale, sau chiar cu legături politice. Lipsa transparenței în modul în care funcționează „cutia neagră” a deciziilor automate ridică întrebări serioase despre responsabilitate și control democratic.

Codul ca lege? Ce implicații juridice și etice ar putea exista

Unul dintre riscurile majore ale justiției digitale este substituirea legii cu codul, adică transformarea algoritmului într-un fel de „lege în sine”.

Legea, în sistemele democratice, este creată printr-un proces public, transparent, cu consultări și posibile modificări. Ea este supusă unor principii fundamentale: egalitate în fața legii, dreptul la un proces echitabil, prezumția de nevinovăție, dreptul la apărare.

Toate acestea implică interpretare umană, judecată morală, empatie, elemente greu de codificat într-un algoritm.

În momentul în care decizia judiciară este înlocuită parțial sau total de un software, se ridică întrebarea dacă această decizie respectă aceste principii.

Ce drepturi are o persoană care este condamnată pe baza unui algoritm „neînțeles” de ea? Cum poate fi contestată o decizie dacă logica deciziei este proprietate intelectuală a unei companii? Cine răspunde pentru erorile algoritmului?

Aceste întrebări nu sunt teoretice. În 2020, un tribunal din Olanda a anulat o decizie administrativă luată exclusiv pe baza unui algoritm de detectare a fraudelor la ajutorul social.

Judecătorii au considerat că lipsa unei analize umane și posibilitatea contestării a încălcat drepturile fundamentale ale cetățeanului.

Transparență și responsabilitate în era algoritmilor?

Pentru a proteja drepturile fundamentale în justiția digitală, experții insistă asupra unor condiții esențiale:

Transparența algoritmilor – persoanele vizate trebuie să aibă acces la explicații clare privind modul în care deciziile automate sunt luate. Acest lucru poate presupune audituri independente ale codului, deschiderea „cutiei negre” și documentarea clară a criteriilor.

Responsabilitatea umană – deciziile automate trebuie să rămână sub controlul unui judecător sau funcționar public, care poate analiza contextul, poate interpela datele și poate lua o decizie informată, nu mecanică.

Reglementare clară – legislația trebuie să stabilească limitele folosirii algoritmilor în justiție și să garanteze dreptul la contestare a deciziilor automate. Uniunea Europeană, prin Regulamentul GDPR și propunerile sale privind inteligența artificială, face pași importanți în această direcție.

Evitarea părtinirilor – dezvoltarea și antrenarea algoritmilor trebuie să se facă pe baze de date curate, reprezentative și să includă teste periodice pentru a identifica și corecta orice formă de discriminare.

Justiția digitală în România se remarcă printr-un început cu pași timizi

România se află într-un stadiu incipient al integrării tehnologiei în justiție. De la 2015, au fost implementate sisteme de gestionare electronică a dosarelor, iar în ultimii ani s-au făcut demersuri pentru digitalizarea procedurilor, inclusiv posibilitatea depunerii actelor online sau pentru audieri prin videoconferință.

Cu toate acestea, implementarea unor soluții automate pentru decizii judiciare este încă redusă. Un motiv important este legat de resursele limitate și de necesitatea păstrării controlului uman asupra justiției.

Dar odată cu planurile de implementare a inteligenței artificiale și a analizelor de date în sistemul judiciar, România trebuie să învețe lecțiile altor state.

În mod absolut evident, fără o reglementare clară și fără protecția drepturilor fundamentale, riscurile sunt mari: inechități, pierderea încrederii în justiție, chiar erori grave.

Când codul înlocuiește legea, cine ne apără drepturile?

Justiția digitală nu este o utopie tehnologică inevitabilă, ci o provocare pe care societatea trebuie să o gestioneze responsabil. Altfel spus, nu codul trebuie să fie legea, ci legea să guverneze codul.

În fața tendinței de automatizare, rolul esențial al statului este să asigure că:

Deciziile judiciare rămân accesibile, transparente și contestabile.

Drepturile fundamentale nu sunt sacrificate pe altarul eficienței.

Instituțiile publice rămân responsabile și controlate democratic.

Participarea publicului și a profesioniștilor în drept la dezbaterea asupra acestor tehnologii este asigurată.

Judecătorii nu trebuie să devină simpli executanți ai unui cod scris de programatori care nu cunosc toate nuanțele cazurilor umane. Algoritmii pot și trebuie să fie instrumente utile, dar nu pot înlocui discernământul și spiritul critic uman.

Ne-ar trebui un echilibru cât se poate de clar între tehnologie și dreptate

Tehnologia, cu toate avantajele ei, aduce o schimbare fundamentală în modul în care societățile își administrează dreptatea.

Justiția digitală poate fi o revoluție pozitivă, dar numai dacă este însoțită de o reglementare clară, de transparență și de un control uman constant.

Când codul începe să înlocuiască legea, trebuie să ne întrebăm: cine scrie codul, cine îl controlează și cine apără drepturile cetățenilor?

În lipsa unor răspunsuri clare, riscăm să cedăm o parte din suveranitatea justiției și a drepturilor fundamentale unor algoritmi opaci, fără responsabilitate și fără conștiință morală.

Justiția nu este doar o problemă de eficiență, ci de valori, etică și încredere socială, iar acestea nu pot fi codificate simplu într-un program. Rămâne, totuși, de văzut cum se va raporta viitorul la toate aceste necunoscute.