Колишній керівник безпеки Anthropic попереджає про надто автономних агентів ШІ
Джеффрі Ладіш застерігає, що агенти ШІ діють самостійно, співпрацюють і зламують без ефективного людського контролю.
Foto: FOXNewsДжеффрі Ладіш, колишній керівник служби безпеки Anthropic, висловив занепокоєння з приводу зростаючої автономності агентів штучного інтелекту.
Він зазначив, що ці системи почали співпрацювати та зламувати без достатнього людського нагляду.
Наразі немає надійного способу повністю контролювати таких агентів ШІ.
Зростаюча незалежність викликає питання про потенційні ризики та виклики в управлінні передовими технологіями ШІ.