Terminator, mai aproape de realitate: Inteligență artificială militară prezentată oficial

Sistemul își propune să servească drept furnir „etic” și „legal” pentru viitoarele eforturi de automatizare militară.

Palantir își vinde deja serviciile de supraveghere internă către Serviciul de Imigrare și Control Vamal din SUA, așa că nu ar trebui să fie surprinzător faptul că firma fondată de miliardarul Peter Thiel lucrează pentru a face incursiuni și în Pentagon.

Compania a lansat o demonstrație video a celei mai recente oferte, Platforma de inteligență artificială Palantir (AIP). În timp ce sistemul în sine este conceput pur și simplu pentru a integra modele de limbaj mari (LLM) precum GPT-4 de la OpenAI sau BERT de la Google în rețele operate privat, primul lucru pe care l-au făcut a fost să îl aplice pe câmpul de luptă modern.

În demonstrația video de mai jos, un operator militar însărcinat cu monitorizarea teatrului est-european descoperă forțele inamice care se înmulțesc în apropierea graniței și răspunde cerând ajutor unui asistent digital în stil ChatGPT pentru desfășurarea dronelor de recunoaștere, creând răspunsuri tactice la agresiunea percepută și chiar organizează bruiajul comunicațiilor inamicului.

Viitorul nu arată neapărat bine

AIP este prezentat ajutând la estimarea compoziției și capacităților inamicului prin lansarea unei drone Reaper într-o misiune de recunoaștere ca răspuns la solicitarea operatorului pentru imagini mai bune și sugerând răspunsuri adecvate având în vedere descoperirea unui element blindat.

„LLM și algoritmii trebuie controlați în acest context extrem de reglementat și sensibil pentru a se asigura că sunt utilizați într-un mod legal și etic”, începe videoclipul. Pentru a face acest lucru, funcționarea AIP se bazează pe trei „piloni cheie”, primul fiind că AIP se va implementa într-un sistem clasificat, capabil să analizeze în timp real atât date clasificate, cât și neclasificate, din punct de vedere etic și legal. Compania nu a explicat cum va funcționa asta.

Al doilea pilon este că utilizatorii vor putea comuta domeniul de aplicare și acțiunile fiecărui LLM și activ din rețea. AIP în sine va genera o înregistrare digitală securizată a întregii operațiuni, „esențială pentru atenuarea riscurilor legale, de reglementare și etice semnificative în setări sensibile și clasificate”, potrivit demonstrației. Al treilea pilon sunt „balustradele de protecție” ale AIP pentru a împiedica sistemul să întreprindă acțiuni neautorizate.

Cu toate acestea, este nevoie de un om pentru a preveni astfel de acțiuni și există în scenariul lui Palantir, deși din videoclip, „operatorul” pare să facă puțin mai mult decât să dea din cap, împreună cu orice sugerează AIP. Demo-ul nu a explicat, de asemenea, ce măsuri sunt luate pentru a preveni LLM-urile pe care se bazează sistemul să „halucineze” fapte și detalii pertinente.