Giganții de inteligență artificială, mai „secretoși” decât ar fi bine pentru omenire. Ce s-a aflat
Cercetătorii de la Universitatea Stanford au publicat un raport care clasifică cât de transparente sunt modelele de inteligență artificială.
Din păcate, veștile nu sunt bune deloc.
Ce au descoperit oamenii de știință
Descoperirile de la Stanford Human-Centered Artificial Intelligence (HAI) au fost compilate în Foundation Model Transparency Index și au dat celor 10 modele de AI de vârf un scor dintr-un maxim de 100.
Printre modelele pe care le-a analizat Stanford HAI se numără generatorul de imagini Stable Diffusion, de la Stability AI, Llama 2, de la Meta, și ChatGPT de la OpenAI.
Llama 2, un model de text generativ, a obținut cel mai mare scor, cu un scor de 54 din 100. Cu toate acestea, cercetătorii notează că scorul nu oferă „transparență adecvată”, ceea ce, spun ei, dezvăluie o „lipsă fundamentală de transparență în industria AI.
Stable Diffusion a primit un scor general de 47 la sută, plasându-l pe locul patru pe listă.
Scorurile primite de inteligența artificială, destul de triste
Defalcând datele, Stable Diffusion a primit 100% în „Accesul la model”, ceea ce se presupune că setul său de date de antrenament, Laion-5B, este accesibil public cu site-uri web precum Have I Been Trained, permițând fotografilor și altor creatori să vadă dacă imaginile lor au fost incluse in set.
Cu toate acestea, Stable Diffusion a primit 14% în categoria „Impact”, care analizează impactul pe care modelul îl are asupra utilizatorilor săi și politicile care guvernează utilizarea acestuia.
Dar Stable Diffusion nu a fost singurul care a obținut un scor scăzut la categoria „Impact”, The Verge remarcând că niciunul dintre creatorii modelelor nu dezvăluie nicio informație despre impactul tehnologiei asupra societății.
Rishi Bommasani, liderul societății la Centrul Stanford pentru Cercetare a Modelelor Fundației și unul dintre cercetătorii din index, dorește ca indicele să ofere un punct de referință pentru guverne și companii.
