Descoperirea despre inteligența artificială care aduce scenariul din Terminator mai aproape. OpenAI și Sam Altman, în centrul unei noi controverse

Sam Altman ar fi descoperit că inteligența artificială ar putea nimici omenirea. Acesta ar fi fost, de fapt, motivul pentru care ar fi fost demis de la OpenAI.

Sam Altman de la OpenAI ar fi vrut să avertizeze omenirea

Înainte de „răscoala” de la OpenAI și cele patru zile de exil ale directorului general, Sam Altman și mai mulţi cercetători din echipa sa au scris o scrisoare către Consiliul de Administraţie în care avertizau asupra unei descoperiri importante în materie de inteligenţă artificială despre care au spus că ar putea ameninţa omenirea, au declarat pentru Reuters două persoane familiarizate cu acest subiect, conform Reuters.

Scrisoarea şi algoritmul de inteligenţă artificială au fost evoluţii cheie înainte de înlăturarea lui Altman de către Consiliul de Administraţie, au spus cele două surse. Sursele Reuters au spus că scrisoarea a fost un factor dintr-o listă mai lungă de nemulţumiri ale Consiliului de Administraţie care au dus la concedierea lui Altman, considerat copilul teribil al inteligenţiei artificiale, printre care se numără și preocupările acestuia legate de comercializarea progreselor înainte de a înţelege consecinţele.

Vezi și: Inteligența artificială poate crea o pandemie mortală: ce spune un fost director Google despre viitorul AI

Vezi și: Revoluționar în medicină: Cercetătorii au inventat un aparat noninvaziv care verifică glucoză din sânge

Înainte de revenirea sa triumfală, care s-a întâmplat marţi seara, peste 700 de angajaţi au ameninţat că vor demisiona şi se vor alătura Microsoft – susţinătorul lui Altman – în semn de solidaritate cu liderul lor concediat.

Inteligența artificială, periculoasă

După ce a fost contactat de Reuters, OpenAI, care a refuzat să comenteze, a recunoscut într-un mesaj intern adresat personalului un proiect numit Q* şi o scrisoare adresată Consiliului înainte de evenimentele din weekend, a declarat una dintre persoane. Un purtător de cuvânt al OpenAI a declarat că mesajul, trimis de Mira Murati, un director cu vechime, a alertat personalul cu privire la anumite articole din presă, fără a comenta acurateţea acestora.

Unele persoane de la OpenAI cred că Q* (pronunţat Q-Star) ar putea fi o descoperire făcută în timpul căutării în cadrul cercetărilor făcute de startup a ceea ce este cunoscut sub numele de inteligenţă artificială generală (AGI), a declarat pentru Reuters una dintre surse.

OpenAI defineşte AGI ca fiind sisteme autonome ce depăşesc oamenii în majoritatea sarcinilor valoroase din punct de vedere economic. Având în vedere resursele vaste de calcul, noul model a fost capabil să rezolve anumite probleme matematice, a declarat sub rezerva anonimatului sursa Reuters. Cu toate că efectua doar calcule matematice la nivelul elevilor de şcoală primară, faptul că a reuşit astfel de teste i-a făcut pe cercetători să fie foarte optimişti cu privire la viitorul succes al Q*, a mai spus sursa.

Vezi și: OpenAI, „unicornul” din Silicon Valley: de ce este așa de specială compania

Cercetătorii consideră că matematica este o frontieră a dezvoltării inteligenţei artificiale generative. În prezent, inteligenţa artificială generativă este bună la scriere şi la traducerea limbilor străine prin prezicerea statistică a următorului cuvânt, iar răspunsurile la aceeaşi întrebare pot varia foarte mult. Dar cucerirea abilităţii de a face matematică – unde există un singur răspuns corect – presupune că AI ar avea capacităţi mai mari de raţionament, asemănătoare cu inteligenţa umană. Acest lucru ar putea fi aplicat, de exemplu, la cercetări ştiinţifice noi, consideră cercetătorii din domeniul AI.