Filtrele AI, bucuria escrocilor, necazul bunicilor. Cum sunt păcăliți oamenii în vârstă cu inteligența artificială

Interacțiunile video manipulate cu inteligență artificială declanșează un val de escrocherii tot mai sofisticate, vizând în special persoanele în vârstă.

Tehnologia din spatele acestor fraude nu mai implică doar conturi false sau mesaje suspecte, ci videoclipuri în direct în care escrocii își schimbă complet identitatea, înfățișare și voce, cu ajutorul filtrelor AI, devenind practic imposibil de identificat ca fiind falși, scrie publicația Futurism.

Fenomenul, cunoscut sub numele de deepfake în timp real, implică modificarea instantanee a feței și a vocii în timpul apelurilor video.

Cu ajutorul acestei tehnologii, un individ poate apărea ca o femeie tânără, atractivă, sau chiar ca o rudă apropiată a victimei.

O investigație realizată de publicația 404 Media arată cât de ușor poate un escroc să-și creeze un avatar convingător, capabil să inspire încredere și emoție, deschizând astfel calea pentru înșelătorii precum escrocheriile romantice sau fraudele legate de sistemele de sănătate.

De la escrocherii romantice la frauda „nepoților”, realitatea înfricoșătoare a AI-ului generativ

Una dintre cele mai tulburătoare metode este așa-numita „escrocherie a bunicului”, în care escrocii imită vocea unui nepot sau a unei rude apropiate, cerând bani urgent.

O bunică din Canada, victima unei astfel de escrocherii, a pierdut 9.000 de dolari canadieni după ce a fost convinsă că nepoata ei avea nevoie disperată de ajutor. „Aș fi făcut orice pentru nepoții mei”, a spus ea.

Escrocheriile sunt ușurate de faptul că AI-ul generativ poate produce rezultate tot mai greu de distins de realitate.

Tehnologia de inteligență artificială folosită pentru a crea aceste deepfake-uri este aceeași care generează conținut automat pe internet, de la imagini și texte false până la manipulări video elaborate.

Dincolo de persoanele în vârstă, nici tinerii nu sunt imuni. Un studiu realizat în 2021 a arătat că generațiile Z, millennial și X sunt cu 34% mai susceptibile să piardă bani în urma fraudelor decât persoanele de peste 60 de ani, deși tipologia escrocheriilor diferă.

Tinerii sunt adesea atrași în capcane care implică produse false sau scheme financiare legate de criptomonede.

Deepfake-uri virale și implicații sociale, o problemă care depășește granițele infracționale

Manipulările realizate cu AI nu se limitează la escrocherii individuale. În 2024, în contextul alegerilor prezidențiale din SUA, rețelele de socializare au fost invadate de deepfake-uri cu caracter politic, de la parodii discutabile până la conținut de dezinformare.

Unele dintre acestea au avut scopul de a ridiculiza persoane publice precum Kamala Harris, altele, aparent amuzante, au prezentat un duet imaginar între Donald Trump și Joe Biden, cântând împreună o melodie romantică în limba mandarină.