Inteligența artificială trece la un nou nivel: cum au fost generate știri false cu ajutorul ChatGPT

Știai că asta va veni.

South China Morning Post raportează că poliția chineză a arestat un bărbat care ar fi folosit ChatGPT pentru a crea o știre falsă și a răspândit-o online. Acesta poate fi primul caz în care o persoană este reținută pentru utilizarea AI, deși cu siguranță nu va fi ultima.

Bărbatul a fost reținut în provincia de nord-vest Gansu și a fost identificat de poliție folosind doar numele de familie, Hong. Într-o declarație, forța a spus că a fost reținut pentru „folosirea tehnologiei inteligenței artificiale pentru a inventa informații false și neadevărate”.

Articolul în cauză a apărut pe 25 aprilie și susține în mod fals că a avut loc un accident de tren local în care nouă persoane au murit. Ofițerii de securitate cibernetică au descoperit că articolul a fost postat simultan în peste 20 de conturi de pe Baijiahao, o platformă de microblogging condusă de gigantul chinez al motoarelor de căutare Baidu, și a fost citit de cel puțin 15.000 de persoane.

Este prima arestare de când China a introdus noi legi pentru a reglementa utilizarea AI și a tehnologiei „deepfake” în ianuarie. Dispozițiile administrative privind Sinteza Aprofundată pentru Serviciul de Informații pe Internet vizează orice tehnologii care generează text, imagini, audio sau video și menționează în mod explicit modelele de învățare profundă. Nu interzice crearea de lucruri folosind aceste tehnologii, dar le obligă să fie „etichetate în mod clar” ca atare.

Nimic surprinzător

Poliția a urmărit articolul la o companie deținută de suspect și, la 10 zile după ce a apărut, poliția l-a arestat pe Hong, i-a luat computerul și i-a percheziționat casa. Declarația poliției spune că Hong a mărturisit că a folosit elemente din poveștile populare anterioare din China pentru a introduce în ChatGPT, producând diverse versiuni ale poveștii rapid, înainte de a fi încărcate în conturile Baijiahao. Hong a susținut că a făcut-o după ce prietenii de pe WeChat i-au spus cum să câștige bani din clicuri.

Crima lui Hong este, conform poliției, „să creeze certuri și să provoace necazuri”, care presupune o pedeapsă maximă de cinci ani. Cu toate acestea, autoritățile pot alege să dea un exemplu și, având în vedere că aceasta este o premieră, Hong s-ar putea să fie în apă foarte fierbinte.

Toate acestea fac parte dintr-o represiune tehnologică mai largă și în curs de desfășurare de la Beijing, deoarece Partidul Comunist Chinez autoritar încearcă să-și exercite controlul asupra tehnologiei emergente și asupra modului în care populația Chinei o folosește. Poliția chineză a emis o declarație în februarie, prin care avertizează publicul să se ferească de zvonurile create de ChatGPT.

Această preocupare specială, desigur, se extinde cu mult dincolo de China: PCC este doar unul dintre primele guverne naționale care a abordat-o în mod explicit. Atât guvernele Marii Britanii, cât și cele ale SUA se trezesc cu întârzierecu unele dintre potențialele probleme cu AI, iar recent „nașul învățării profunde” Geoffrey Hinton și-a părăsit poziția la Google cu niște avertismente destul de îngrozitoare despre modul în care controlăm această tehnologie (sau nu reușim). Oamenii care foloseau aceste lucruri pentru a genera știri false a fost întotdeauna îngrozitor de previzibil, dar, din păcate, abia am început.