Campania de dezinformare creată cu ChatGPT, oprită de OpenAI. Mai multe site-uri de “știri” au creat fake news cu AI

OpenAI a închis o operațiune de influență iraniană care folosea ChatGPT pentru a crea știri false.

OpenAI a anunțat recent că a stopat o campanie de influență iraniană care utiliza ChatGPT pentru a genera articole de știri false și postări pe rețelele sociale, destinate publicului american. Compania a identificat și a blocat conturi care creau conținut pentru cinci site-uri (în engleză și spaniolă) care se prezentau ca fiind publicații de știri, dar care răspândeau mesaje polarizatoare pe teme precum campania prezidențială din SUA, drepturile LGBTQ+ și războiul din Gaza.

Detalii despre operațiunea „Storm-2035”

Operațiunea a fost identificată sub numele de „Storm-2035”, parte dintr-o serie de campanii de influență pe care Microsoft le-a atribuit săptămâna trecută guvernului iranian. Pe lângă articolele de știri false, campania includea și „o duzină de conturi pe X (fost Twitter) și unul pe Instagram”, toate conectate la această operațiune. Potrivit OpenAI, campania nu a reușit să obțină un impact semnificativ.

„Majoritatea postărilor pe rețelele sociale pe care le-am identificat au primit puține sau deloc aprecieri, distribuiri sau comentarii”, a precizat compania.

În plus, OpenAI a menționat că, conform scalei Breakout Scale a Institutului Brookings, care evaluează nivelul de amenințare, operațiunea a primit doar un rating de Categoria 2 (pe o scară de la unu la șase). Aceasta înseamnă că operațiunea a avut activitate pe mai multe platforme, dar nu există dovezi că publicul real a preluat sau a distribuit pe scară largă conținutul generat.

Conținut polarizator și încercări de manipulare

Operațiunea „Storm-2035” s-a concentrat pe crearea de conținut pentru site-uri de știri false, atât cu orientare conservatoare, cât și progresistă, încercând să manipuleze opiniile din ambele tabere. Potrivit Bloomberg, unele dintre materialele create sugerau că Donald Trump ar fi fost „cenzurat pe rețelele sociale” și că ar fi „pregătit să se declare rege al SUA”. Alte articole încercau să prezinte alegerea lui Tim Walz de către Kamala Harris ca partener de candidatură drept o „decizie calculată pentru unitate”.

Operațiunea a inclus și conținut despre prezența Israelului la Jocurile Olimpice, despre politica din Venezuela, drepturile comunităților latino-americane și independența Scoției. Pe lângă subiectele grele, campania a adăugat și comentarii despre modă și frumusețe, probabil pentru a părea mai autentică sau pentru a încerca să atragă un public mai larg.

Ben Nimmo, investigator în cadrul OpenAI Intelligence and Investigations, a declarat pentru Bloomberg că „operațiunea a încercat să joace de ambele părți, dar nu pare să fi obținut vreun angajament real de la niciuna dintre ele”.

Atacuri cibernetice și influență limitată

Această operațiune nereușită de influență vine la scurt timp după dezvăluirile din această săptămână privind atacurile cibernetice iraniene care au vizat campaniile lui Kamala Harris și Donald Trump. FBI a raportat că Roger Stone, un consilier informal al lui Trump, a fost victima unor e-mailuri de phishing. Hackerii iranieni au preluat controlul contului său și au trimis mesaje cu linkuri de phishing către alte persoane. FBI nu a găsit dovezi că cineva din echipa lui Harris ar fi căzut în capcana acestui atac.

În ciuda acestor eforturi sofisticate, operațiunea „Storm-2035” nu a reușit să obțină un impact real asupra publicului american. Aceasta subliniază atât capacitatea de detectare și reacție rapidă a companiilor de tehnologie, cât și importanța continuării eforturilor de combatere a dezinformării pe internet.