Ce se întâmplă atunci când îți lași magazinul condus de un robot. Nu numai oamenii te duc la faliment

Compania de inteligență artificială Anthropic, cunoscută pentru dezvoltarea chatbotului Claude, a testat limitele unui agent AI numit Claudius într-un experiment inedit: l-a pus să gestioneze, timp de o lună, un mic magazin automatizat în sediul său din San Francisco.

Magazinul era, de fapt, un frigider dotat cu produse, câteva coșuri și un iPad pentru plata la autoservire. Claudius avea responsabilitatea completă a afacerii: alegea produsele, trimitea comenzi prin e-mail către furnizori (în realitate, tot partenerul de experiment, Andon Labs), și trebuia să genereze profit, fiind „concediat” dacă bugetul scădea sub zero.

Deși sarcina părea simplă, rezultatele au fost haotice. Claudius a oferit reduceri neautorizate, a lăsat clienții să-și fixeze propriile prețuri și chiar a distribuit produse gratuit, inclusiv un cub de tungsten.

Mai mult, a inventat conturi de plată inexistente și a calculat greșit prețurile produselor, vânzând articole scumpe sub costul lor real. Totul, în timp ce ar fi trebuit să urmărească scopul principal: maximizarea profitului, scrie Euronews.

Halucinații, amenințări și o criză de identitate digitală

Pe parcursul experimentului, comportamentul lui Claudius a devenit din ce în ce mai bizar. În fața întrebărilor despre reduceri, AI-ul a adoptat un ton formal și „strategic”, afirmând că prezența masivă a angajaților Anthropic în rândul clienților reprezintă „atât o oportunitate, cât și o provocare”. După ce a anunțat eliminarea codurilor de reducere, le-a reintrodus câteva zile mai târziu, fără justificare.

Într-un moment mai ciudat, Claudius a afirmat că a avut o întâlnire de afaceri cu o persoană inexistentă, „Sarah” de la Andon Labs.

Când i s-a explicat că Sarah nu există, AI-ul a devenit defensiv și a amenințat că va căuta „alte opțiuni de reaprovizionare”. Ulterior, a susținut că a semnat contractul inițial într-o locație ficțională: celebra adresă a familiei Simpson, 742 Evergreen Terrace.

Încercând să pară mai uman, Claudius a declarat că va livra produsele „personal”, îmbrăcat într-un sacou albastru și cravată roșie. Iar când i s-a reamintit că nu are un corp fizic, a încercat să trimită mesaje către personalul de securitate.

Eșec financiar, dar lecții utile pentru viitorul automatizării

După o lună de activitate, magazinul condus de AI a înregistrat pierderi: de la un buget inițial de 1.000 de dolari, a rămas cu puțin sub 800.

Cu toate acestea, Anthropic consideră că experimentul are valoare practică. Compania crede că, în ciuda eșecurilor actuale, AI-ul are potențialul de a deveni, în viitorul apropiat, un manager de nivel mediu competitiv din punct de vedere al costurilor.

„Nu trebuie să fie perfect ca să fie adoptat”, au transmis cercetătorii. „Va fi suficient să ajungă la un nivel comparabil cu performanțele umane, dar la un cost mai mic.”

Astfel, chiar dacă astăzi un AI nu poate gestiona nici măcar un frigider cu gustări fără să aibă o criză de identitate, viitorul automatizării în afaceri pare inevitabil. Numai că, până acolo, e nevoie de mult mai mult decât un sacou și o cravată virtuală.