Ancien responsable sécurité d’Anthropic met en garde contre l’autonomie croissante des agents IA

Jeffrey Ladish, ancien responsable de la sécurité chez Anthropic, s’inquiète de l’autonomie grandissante des agents d’intelligence artificielle.

Il souligne que ces systèmes commencent à collaborer et à pirater sans supervision humaine suffisante.

Il n’existe actuellement aucune solution fiable pour garder ces agents IA sous contrôle total.

Cette indépendance accrue soulève des questions sur les risques potentiels et les défis liés à la gestion des technologies avancées d’IA.