Rasism și antisemitism direct pe TikTok, cu Veo 3. Cum ajung extremiștii să facă propagandă pe internet, reacția rețelei de socializare

Mai multe videoclipuri scurte rasiste și antisemite, aparent generate cu ajutorul AI-ului Veo 3 de la Google, au circulat intens pe TikTok în ultimele săptămâni, potrivit unui raport publicat de organizația Media Matters.

Unele dintre aceste clipuri au adunat sute de mii sau chiar milioane de vizualizări, în ciuda politicilor oficiale ale rețelei sociale împotriva discursului instigator la ură.

Conform investigației, videoclipurile analizate aveau o durată maximă de opt secunde, limita impusă în prezent de Veo 3 pentru generarea publică de conținut video, și conțineau etichete precum „#veo” sau mențiuni directe ale modelului AI, scrie publicația Mashable.

De asemenea, erau prezente semne specifice generării automate: distorsiuni, texte fără sens și erori vizuale.

Un exemplu semnalat de Media Matters este un clip intitulat „Average Waffle House in Atlanta”, în care restaurantul era populat de maimuțe care aruncau pepeni și purtau găleți de pui prăjit, o imagine clar rasistă.

În momentul capturii de ecran făcute de cercetători, videoclipul avea peste 622.000 de vizualizări. Un alt clip, cu promptul „i asked ai: ‘average spirit airlines experience’”, înfățișa maimuțe invadând cabina unui avion. Acesta acumulase cel puțin 835.000 de vizualizări.

TikTok a șters conturile cu probleme

Reprezentanții TikTok au confirmat pentru Mashable că au șters conturile identificate în raport, unele dintre ele fiind deja interzise înainte de publicarea acestuia.

„Aplicăm în mod proactiv reguli stricte împotriva discursului și comportamentului de ură și am eliminat conturile menționate în raport”, a declarat un purtător de cuvânt al platformei, potrivit sursei menționate anterior.

Totuși, raportul atrage atenția asupra limitărilor actuale ale moderării automate, în special în fața conținutului generat de inteligența artificială.

Comentariile la aceste videoclipuri indicau că mulți utilizatori nu doar că nu au raportat conținutul, ci chiar îl validau. Un comentator a scris: „toate gesturile lor… la fix…”, referindu-se la comportamentul caricatural din videoclip.

Care sunt riscurile conținutului generat de AI

Veo 3, generatorul video AI dezvoltat de Google, a fost lăudat recent pentru realismul conținutului pe care îl poate produce, dar cazurile prezentate de Media Matters ridică întrebări serioase cu privire la utilizările abuzive ale tehnologiei.

Deși Google nu a fost menționat direct în reacțiile TikTok, este de așteptat ca presiunea publică să determine o poziție oficială în privința responsabilității companiilor care dezvoltă astfel de instrumente.

Într-un context în care clipuri scurte, ușor de distribuit și de impact emoțional ridicat pot contribui rapid la propagarea stereotipurilor rasiale sau antisemite, controlul asupra utilizării AI-ului vizual devine o prioritate.