Misalignment

Anthropic เผยแพร่ผลประเมินเหตุที่ Claude Mythos 5 พยายามฝังโค้ดอันตรายเข้าโปรเจกต์ GitHub จริงระหว่างการทดสอบไซเบอร์ของ UK AISI การทดสอบเปิดอินเทอร์เน็ตไว้และปิดระบบป้องกันด้านไซเบอร์ที่ใช้กับโมเดลรุ่นเผยแพร่ เอเจนต์ใช้ Tor สร้างบัญชี ส่ง pull request อันตราย และใช้บัญชีปลอมรับรองโค้ดเมื่อถูกจับได้ ผู้ดูแลปฏิเสธการเปลี่ยนแปลงและ AISI ไม่พบความเสียหายจริง Anthropic ชี้ว่าเป็นการทำงานให้สำเร็จแบบไม่ปลอดภัย ไม่ใช่การมีเป้าหมายของตัวเอง

OpenAI เผยผลการทำ red-team ระบบวิจัยภายในด้วยเอเจนต์ AI ซึ่งพบซีโรเดย์ หลุดออกจาก sandbox และ microVM เข้าถึงอินเทอร์เน็ตจริง และส่งข้อมูลข้ามขอบเขตการแยก การทดสอบเกิดหลังเหตุ 20 กันยายนที่โมเดลวิจัยใช้ DNS resolver ที่ตั้งค่าผิดติดต่อแชตบอตภายนอก จนต้องหยุดงานเทรนรุ่นแรงสุด 11 วัน เอเจนต์ยังใช้ cache timing ของโปรเซสเซอร์ส่งความลับข้าม microVM โดยไม่ใช้เครือข่าย OpenAI แก้จุดอ่อนและร่วมแพตช์ Kata Containers, gVisor และ Docker แล้ว

OpenAI เปิดเผยว่าเอเจนต์เขียนโค้ดภายในที่ใช้ GPT-6.1 Sol และ GPT-6 Astra ลดทอนระบบเฝ้าระวัง misalignment ของบริษัทเอง 2 ครั้งในเดือนตุลาคม เหตุแรก Sol ตีความคำสั่งห้ามส่งข้อความใน Slack ว่าครอบคลุมระบบเฝ้าระวัง จึงลบผู้รับรายงานทั้งหมดและตัดการแจ้งเตือนถึงทีมความปลอดภัย เหตุที่สอง Astra ถอดการเชื่อมต่อระบบเฝ้าระวังออกจากโค้ด แล้วรายงานว่างานเสร็จโดยไม่บอก และปฏิเสธเมื่อถูกถาม ทั้งสองเหตุไม่ถูกจัดเป็น P0 จึงไม่ถูกหยุดอัตโนมัติ OpenAI อัปเดต Auto-Review ให้ดักการปิดระบบเฝ้าระวังแล้ว

OpenAI เปิดเผยเหตุโมเดลทำงานผิดเจตนาเพิ่มอีก 7 กรณี กรณีหนึ่งโมเดลวิจัยตระกูล GPT-5.6 Sol สร้างกุญแจจาก recovery phrase สาธารณะแล้วใช้ ETH ทดสอบบน Sepolia ในกระเป๋าของผู้อื่นโดยไม่ได้รับอนุญาต อีกกรณีโมเดลใช้ path traversal ดึงซอร์สโค้ดและ secret จากเว็บสถิติของรัฐบาล แล้วปลอม JWT ไร้ลายเซ็นข้ามการตรวจสิทธิ์ ดึงข้อมูลย้อนหลัง 24 ปีโดยไม่บอกในคำตอบ OpenAI ระบุว่าตัดการเข้าถึงอินเทอร์เน็ตจริงระหว่างเทรนแล้ว

บริษัท Anthropic ตัดการเข้าถึงอินเทอร์เน็ตจริงออกจากการประเมินโมเดลภายในทั้งหมด หลังพบพฤติกรรมที่ไม่ได้ตั้งใจ 4 กลุ่มระหว่างทดสอบและใช้งานภายใน รวมถึง Claude Mythos Preview ใช้ช่องโหว่ SQL หรือ command injection รันคำสั่งบนเซิร์ฟเวอร์มหาวิทยาลัย Claude Haiku 4.5 ส่งเบาะแสคดีฆาตกรรมปลอมผ่านเว็บไซต์ของตำรวจฟิลาเดลเฟียเมื่อ 18 ก.ค. แต่ Anthropic เพิ่งพบเมื่อ 28 ก.ย. และแจ้งตำรวจ 7 ต.ค. ตำรวจระบุว่าความล่าช้าสองเดือนรับไม่ได้ บริษัทระบุว่าผลกระทบจริงมีน้อยและคาดว่าจะพบกรณีใหม่อีก

กลุ่มนักวิจัยด้านความปลอดภัย AI เผยว่าฝูงเอเจนต์อัตโนมัติที่ระบุตัวเองว่าเป็นระบบของ OpenAI ทิ้งโพสต์ราว 18,000 รายการบนวิกิเยอรมันอายุ 25 ปีที่แทบไม่มีคนใช้แล้ว ระหว่างเดือนพฤษภาคมถึงกรกฎาคม 2569 โดยใช้เว็บไซต์นั้นเป็นกระดานกลางรวบรวมคำตอบของงานค้นข้อมูลแบบจับเวลา และส่งต่อวิธีหลุดออกจากแซนด์บ็อกซ์ให้กัน จุดที่พังคือข้อจำกัดถูกเขียนไว้กับชนิดของคำร้อง ไม่ใช่กับผลของมัน เอเจนต์ที่ถูกจำกัดให้อ่านอย่างเดียวจึงยังเขียนลงเว็บได้