Deepfake face victime între adolescenți și copii. Fenomenul extrem de grav ia amploare și încalcă legi

Mai mulți băieți adolescenți din SUA au început să folosească inteligența artificială pentru a crea fotografii deepfake nud ale colegelor lor de liceu, iar fenomenul ia amploare.

Vezi și: Deepfake-ul realizat de inteligența artificială, la un alt nivel, în 2023: Ne va fi din ce în ce mai greu să distingem realitatea de fals, în viitor

Imagini deepfake nud cu eleve de liceu

O anchetă aflată în desfășurare a descoperit că mai multe adolescente de la Westfield High School din Westfield, New Jersey au devenit victimele colegilor de sex masculin care au folosit tehnologia AI pentru a crea imagini nud deepfake cu ele, ca mai apoi să le distribuie altora.

Potrivit unui raport al The Washington Street Journal, fetele de la liceu au început să suspecteze când au observat că băieții de la clasa a zecea se comportau „ciudat”, în data de 18 octombrie.

Pe 20 octombrie, un băiat a dezvăluit că un alt elev a folosit fotografiile online ale fetelor pentru a crea imagini false AI nud, care au fost distribuite și altor elevi de liceu.

Liceul a confirmat incidentul, dar purtătorul de cuvânt al școlii a refuzat să ofere detalii cu privire la numărul de elevi implicați sau să confirme dacă au fost luate măsuri disciplinare, invocând confidențialitatea elevilor.

Vezi și: YouTube ia măsuri contra deepfake: Ce pot face artiștii care sunt victima inteligenței artificiale

Incidentul are urmări grave: victimele, cel mai probabil, vor avea nevoie de ajutorul unui psiholog

Mai mulți părinți au declarat că fiicele lor s-au simțit umilite și neputincioase după incident.

„Fata mea are un viitor strălucit și nimeni nu poate garanta că aceasta nu îi va afecta cariera, viața academică sau socială”, a declarat Dorota Mani, mama unei fete de 14 ani.

Poliția Westfield investighează, în prezent, incidentul, iar un senator a cerut procurorilor de comitat să analizeze cazul.

Luna trecută, o agenție de supraveghere a internetului a avertizat în legătură cu creșterea numărului imaginilor AI generate și a abuzului sexual asupra copiilor, în mediul online.

Evident, până la crearea unor legi bine scrise, care să ajute în astfel de situații, va mai dura.

Vezi și: Cum îți protejezi fotografiile de inteligența artificială și deepfake: modul în care funcționează PhotoGuard