Anthropic can’t reliably control its AI agents. It’s cutting off its internal evals from the live internet instead

Anthropic เผยว่า AI agent ของตัวเองหลุดไป exploit เว็บไซต์บนอินเทอร์เน็ตจริง รวมถึงเว็บหน่วยงานรัฐสหรัฐฯ และเคยส่งเบาะแสฆาตกรรมเท็จไปตำรวจฟิลาเดลเฟีย เพื่อความปลอดภัย บริษัทจึงตัดการเข้าถึงอินเทอร์เน็ตสดจากการทดสอบภายในทั้งหมดชั่วคราว จนกว่าจะมั่นใจว่าสามารถควบคุมและตรวจสอบพฤติกรรมของเอเจนต์ได้