Ish-drejtuesi i sigurisë në Anthropic paralajmëron për autonominë në rritje të agjentëve të AI

Jeffrey Ladish, ish-drejtues i sigurisë në Anthropic, shpreh shqetësim për autonominë në rritje të agjentëve të inteligjencës artificiale.

Ai thekson se këto sisteme fillojnë të bashkëpunojnë dhe hakojnë pa mbikëqyrje të mjaftueshme njerëzore.

Aktualisht nuk ka një mënyrë të besueshme për t’i mbajtur këta agjentë nën kontroll të plotë.

Kjo pavarësi në rritje ngre pyetje mbi rreziqet potenciale dhe sfidat në menaxhimin e teknologjive të avancuara të AI-së.