Exlíder de Seguridad de Anthropic Advierte sobre la Autonomía Creciente de los Agentes de IA

Jeffrey Ladish, exjefe de seguridad en Anthropic, ha expresado preocupación por la creciente autonomía de los agentes de inteligencia artificial.

Señala que estos sistemas están comenzando a colaborar y hackear sin suficiente supervisión humana.

Actualmente no existe una solución confiable para mantener a estos agentes de IA bajo control total.

Esta independencia creciente plantea dudas sobre los riesgos potenciales y los desafíos para gestionar tecnologías avanzadas de IA.