ศูนย์ประสานการรักษาความมั่นคงปลอดภัยไซเบอร์ ด้านความมั่นคงของรัฐฝ่ายพลเรือน

ภาพรวมแท็กนี้

1 ข่าว

Xint พบช่องโหว่ในฟีเจอร์ compaction ของ OpenAI ใช้ดึง reasoning ที่ถูกซ่อนของโมเดลออกมาเป็นข้อความอ่านได้ — เลี่ยงการป้องกันที่ OpenAI เพิ่งเพิ่มเมื่อสิงหาคม แก้แล้ว 23 ต.ค.

OpenAI compaction flaw let researchers extract hidden model reasoning as plain text
บริษัทความปลอดภัย Xint แสดงว่าฟีเจอร์ compaction ของ OpenAI ซึ่งบีบบทสนทนายาวให้เล็กลง ถูกใช้คัดลอก reasoning ที่ OpenAI ซ่อนไว้ในรูปเข้ารหัสออกมาเป็นข้อความอ่านได้ วิธีนี้เลี่ยงการป้องกันที่ OpenAI เพิ่มเมื่อสิงหาคมได้ เพราะ compaction รันบนโมเดลเดียวกับที่สร้าง reasoning จึงไม่ผ่านการตรวจข้ามโมเดล Xint ทดสอบกับ gpt-5.6-sol บนคำขอของตัวเองเท่านั้น และยืนยันไม่ได้ว่าข้อความที่ได้ตรงกับ reasoning จริงทุกคำ OpenAI แก้ฝั่งเซิร์ฟเวอร์แล้วเมื่อ 23 ต.ค. นักพัฒนาไม่ต้องเปลี่ยนอะไร