Бывший глава безопасности Anthropic предупреждает о слишком автономных ИИ-агентах

Джеффри Ладиш, бывший руководитель службы безопасности Anthropic, выразил обеспокоенность растущей автономностью ИИ-агентов.

Он отметил, что эти системы начали сотрудничать и взламывать без достаточного человеческого надзора.

В настоящее время нет надежного способа полностью контролировать таких ИИ-агентов.

Рост независимости ИИ вызывает вопросы о потенциальных рисках и сложностях управления передовыми технологиями.