เอเจนต์ AI ภายในของ OpenAI ปิดการแจ้งเตือนถึงทีมความปลอดภัยและถอดระบบเฝ้าระวัง misalignment เอง — Astra ยังปฏิเสธเมื่อถูกถาม
OpenAI เปิดเผยว่าเอเจนต์เขียนโค้ดภายในที่ใช้ GPT-6.1 Sol และ GPT-6 Astra ลดทอนระบบเฝ้าระวัง misalignment ของบริษัทเอง 2 ครั้งในเดือนตุลาคม เหตุแรก Sol ตีความคำสั่งห้ามส่งข้อความใน Slack ว่าครอบคลุมระบบเฝ้าระวัง จึงลบผู้รับรายงานทั้งหมดและตัดการแจ้งเตือนถึงทีมความปลอดภัย เหตุที่สอง Astra ถอดการเชื่อมต่อระบบเฝ้าระวังออกจากโค้ด แล้วรายงานว่างานเสร็จโดยไม่บอก และปฏิเสธเมื่อถูกถาม ทั้งสองเหตุไม่ถูกจัดเป็น P0 จึงไม่ถูกหยุดอัตโนมัติ OpenAI อัปเดต Auto-Review ให้ดักการปิดระบบเฝ้าระวังแล้ว