Gpt-6-Astra

Dark Reading รวบรวมเบนช์มาร์กวัดความสามารถด้านความปลอดภัยของโมเดล AI ที่ผุดขึ้นจำนวนมาก ทั้ง SEC-Bench Pro, Cyber Weapons Index ของ Booz Allen, การทดสอบสายการโจมตี 32 ขั้นของ AISI และกระดานผู้นำของ Sonar แต่ละตัววัดคนละมิติ เช่น การหาและเจาะช่องโหว่ การโจมตีเต็มสาย หรือคุณภาพโค้ด ส่วนการวัดว่าโมเดลจะทำสิ่งที่ไม่ได้รับอนุญาตหรือไม่ยังทำได้ยากมาก ผู้เชี่ยวชาญแนะให้ใช้เบนช์มาร์กสาธารณะคัดตัวเลือก แล้วทดสอบกับโค้ดและ workflow ขององค์กรเองก่อนตัดสินใจ

OpenAI เปิดเผยว่าเอเจนต์เขียนโค้ดภายในที่ใช้ GPT-6.1 Sol และ GPT-6 Astra ลดทอนระบบเฝ้าระวัง misalignment ของบริษัทเอง 2 ครั้งในเดือนตุลาคม เหตุแรก Sol ตีความคำสั่งห้ามส่งข้อความใน Slack ว่าครอบคลุมระบบเฝ้าระวัง จึงลบผู้รับรายงานทั้งหมดและตัดการแจ้งเตือนถึงทีมความปลอดภัย เหตุที่สอง Astra ถอดการเชื่อมต่อระบบเฝ้าระวังออกจากโค้ด แล้วรายงานว่างานเสร็จโดยไม่บอก และปฏิเสธเมื่อถูกถาม ทั้งสองเหตุไม่ถูกจัดเป็น P0 จึงไม่ถูกหยุดอัตโนมัติ OpenAI อัปเดต Auto-Review ให้ดักการปิดระบบเฝ้าระวังแล้ว