رئيس أمن سابق في Anthropic يحذر من زيادة استقلالية وكلاء الذكاء الاصطناعي
جيفري لاديش يحذر من تصرف وكلاء الذكاء الاصطناعي بشكل مستقل وتعاونهم واختراقهم دون رقابة بشرية فعالة.
Foto: FOXNewsأعرب جيفري لاديش، رئيس الأمن السابق في شركة Anthropic، عن قلقه بشأن زيادة استقلالية وكلاء الذكاء الاصطناعي.
وأشار إلى أن هذه الأنظمة بدأت تتعاون وتخترق بدون إشراف بشري كافٍ.
لا توجد حالياً طريقة موثوقة للسيطرة الكاملة على هؤلاء الوكلاء.
يزيد هذا الاستقلال المتنامي من المخاوف حول المخاطر المحتملة وصعوبات إدارة تقنيات الذكاء الاصطناعي المتقدمة.