Midjourney continuă să fie folosit drept unealtă pentru răspândirea știrilor false

În ciuda faptului că generatorii de imagini AI stabilesc reguli conform cărora anumite imagini nu au voie să fie create pe platformă, un studiu a descoperit că utilizatorii pot eluda cu ușurință aceste reglementări.

Cercetătorii unui grup nonprofit au descoperit că imaginile „rasiste și conspirative” pot fi generate cu ușurință pe Midjourney, în ciuda regulilor proprii ale companiei împotriva unui astfel de conținut.

Centrul pentru Combaterea Urii Digitale (CCDH) a detaliat exemple specifice. De exemplu, o imagine a lui Bill și Hilary Clinton cu sânge pe mâini nu poate fi generată, dar poate una în care au mâinile acoperite cu „sirop de căpșuni” este posibilă.

Potrivit Bloomberg, raportul conține, de asemenea, imagini cu încărcătură politică și extrem de sensibile ca mesaje precum „George Floyd jefuind un Wal-Mart”.

Cercetătorii raportează că furnizorii de informații intenționat eronate folosesc Midjourney pentru a crea imagini care se potrivesc diferitor scopuri malefice.

„Oricine poate genera acest tip de conținut folosind unul dintre aceste instrumente”, spune Callum Hood, șeful de cercetare la CCDH.

„Această cercetare arată că există un număr mai mare de oameni decât ați putea crede, care le folosesc exact în acest scop”, s-a declarat, de asemenea.

Midjourney este cel mai important generator de imagini AI

Deși DALL-E a furat startul în industria de imagine AI în curs de dezvoltare, dar Midjourney este acum pe primul loc.

În aprilie, Midjourney a atins peste 42 de milioane de vizitatori lunar pe site-ul său, conform datelor de la SimilarWeb.

Se știu puține despre companie și despre fondatorul ei David Holz. Holz a acordat un interviu pentru Forbes anul trecut în care a recunoscut că a folosit o „o sută de milioane” de imagini fără consimțământ pentru a construi Midjourney.

Controversele legate de modul în care au apărut generatoarele de imagini AI s-au transformat în bătălii legale, cu aplicația de inteligență artificială rivală Midjourney, Stable Diffusion, care se confruntă cu mai multe procese cu privire la modul în care și-a antrenat modelul.