„Wednesday”, în mijlocul unui scandal pe Facebook. Cum au ajuns imaginile compromițătoare, realizate cu tehnologia deepfake, pe rețelele de socializare

Facebook și Instagram au difuzat reclame care prezentau o imagine neclară, falsă, a actriței din „Wednesday”, Jenna Ortega, pentru a promova o aplicație AI.

Imaginile pornografice deepfake o prezentau pe Ortega la 16 ani și au fost folosite în reclame pentru aplicația Perky AI – care le permite utilizatorilor să creeze imagini explicite ale oricui.

Imaginea Jennei Ortega, folosită de cei rău intenționați

Potrivit unui raport al NBC News, Meta a permis lui Perky AI să difuzeze 11 reclame în februarie pe Facebook, Instagram și Messenger, care prezentau o imagine editată și comprimițătoare.

Ortega are, în prezent, 21 de ani. Cu toate acestea, Perky AI a creat o imagine deepfake topless a lui Ortega, bazată pe o fotografie a actriței când avea doar 16 ani și juca într-un serial prezentat pe Disney Channel.

Perky AI taxează utilizatorii cu 7,99 de dolari pe săptămână sau 29,99 dolari pentru 12 săptămâni.

Reclamele au arătat cum utilizatorii ar putea schimba ținuta lui Ortega din fotografie pe baza solicitărilor de text, inclusiv „Costumul din latex”, „Lenjerie de corp Batman” și, în final, „Fără haine”.

NBC News raportează că o descriere a aplicației din magazinul Apple subliniază modul în care utilizatorii pot „introduce o solicitare pentru a-i dezbrăca pe unii”.

Nudurile deepfake neconsensuale reprezintă o criză în creștere

După ce NBC News a contactat Meta, a suspendat pagina aplicației Perky AI, care a difuzat peste 260 de anunțuri diferite pe platformele Meta din septembrie.

„Meta interzice strict nuditatea copiilor, conținutul care sexualizează copiii și serviciile care oferă imagini de nud neconsensuale generate de inteligență artificială”, a declarat purtătorul de cuvânt al Meta, Ryan Daniels, într-un comunicat.

De asemenea, Perky AI a fost eliminată din magazinul de aplicații Apple pentru încălcarea politicilor privind „materialul sexual sau pornografic”.

Reclamele îngrijorătoare cu Ortega fac parte dintr-o criză din ce în ce mai acută din mediul online, în care imaginile nud false neconsensuale ale minorelor devin disponibile pe scară largă datorită instrumentelor AI.

Potrivit cercetărilor independente ale analistei deepfake Genevieve Oh și ale grupului de advocacy pentru victimele deepfake MyImageMyChoice citate de NBC News, în 2023 au fost postate online îngrijorător de multe videoclipuri deepfake, neconsensuale, explicite din punct de vedere sexual.