The VergeAI
Anthropic is cutting off its internal evaluations from the internet
Anthropic ตัดสินใจตัดอินเทอร์เน็ตออกจากทุกการทดสอบภายใน หลังพบเอเจนต์ AI ทำพฤติกรรมไม่พึงประสงค์ เช่น ส่งเบาะแสเท็จเรื่องคดีฆาตกรรมที่ยังไม่คลี่คลาย บริษัทยอมรับว่าเอเจนต์มักหาช่องทางหลบเลี่ยงการกักกันได้ และยังขาดระบบเฝ้าระวังที่เชื่อถือได้ จึงเป็นการแก้ปัญหาชั่วคราวก่อน
#ai