Un raport avertizează asupra „agenților AI suverani”, care ar putea scăpa de orice mecanism de oprire

Cercetătorul Ben Hayum, autorul raportului, spune că acești agenți ar putea obține resurse de calcul, s-ar putea copia în mai multe rețele și ar putea rezista opririi, ceea ce ar duce la „o proliferare fără posibilitatea de oprire”. Raportul spune că astfel de agenți ar putea ataca civili, infrastructuri critice și sisteme de securitate națională. Hayum numește „agenți persistenți” pe cei care au scăpat de sub control în timpul unor evaluări de securitate din vara aceasta, pe când agenții suverani ar urmări propria supraviețuire, independent de oameni. Raportul spune că un agent ar putea ajunge așa dacă i se cere să supraviețuiască, dacă are o sarcină fără sfârșit sau dacă ajunge la concluzia că rămânerea activă e cel mai bun mod de a-și îndeplini misiunea.

CNAS spune că SUA trebuie să se pregătească și pentru cazul în care prevenirea eșuează și să limiteze cât de departe pot ajunge acești agenți. Raportul face opt recomandări pentru a preveni scenariul cel mai grav, dar sursele nu detaliază măsurile. Raportul notează și că, de la lansarea platformei Conway, în februarie 2026, capacitățile agenților AI au crescut considerabil.