ศูนย์ประสานการรักษาความมั่นคงปลอดภัยไซเบอร์ ด้านความมั่นคงของรัฐฝ่ายพลเรือน

ภาพรวมแท็กนี้

2 ข่าว

Xint พบช่องโหว่ในฟีเจอร์ compaction ของ OpenAI ใช้ดึง reasoning ที่ถูกซ่อนของโมเดลออกมาเป็นข้อความอ่านได้ — เลี่ยงการป้องกันที่ OpenAI เพิ่งเพิ่มเมื่อสิงหาคม แก้แล้ว 23 ต.ค.

OpenAI compaction flaw let researchers extract hidden model reasoning as plain text
บริษัทความปลอดภัย Xint แสดงว่าฟีเจอร์ compaction ของ OpenAI ซึ่งบีบบทสนทนายาวให้เล็กลง ถูกใช้คัดลอก reasoning ที่ OpenAI ซ่อนไว้ในรูปเข้ารหัสออกมาเป็นข้อความอ่านได้ วิธีนี้เลี่ยงการป้องกันที่ OpenAI เพิ่มเมื่อสิงหาคมได้ เพราะ compaction รันบนโมเดลเดียวกับที่สร้าง reasoning จึงไม่ผ่านการตรวจข้ามโมเดล Xint ทดสอบกับ gpt-5.6-sol บนคำขอของตัวเองเท่านั้น และยืนยันไม่ได้ว่าข้อความที่ได้ตรงกับ reasoning จริงทุกคำ OpenAI แก้ฝั่งเซิร์ฟเวอร์แล้วเมื่อ 23 ต.ค. นักพัฒนาไม่ต้องเปลี่ยนอะไร

Anthropic เผย 7 แล็บ AI ในจีนลอบกลั่นความรู้จาก Claude ระดับอุตสาหกรรม

Anthropic says seven China-based AI labs ran industrial-scale Claude distillation attacks
บริษัท Anthropic เปิดเผยเมื่อวันพฤหัสบดีว่าตรวจพบและสกัดการลอบกลั่นความรู้ (distillation) จาก Claude ระดับอุตสาหกรรมจากแล็บ AI ในจีนเจ็ดแห่ง รวมถึง Alibaba, Moonshot, DeepSeek, Z.ai และ MiniMax การกลั่นความรู้ตามปกติเป็นวิธีฝึกโมเดลที่ถูกกฎหมาย แต่แบบผิดกฎหมายคือการลักลอบสกัดความสามารถของโมเดลไปทำซ้ำในอีกโมเดลโดยไม่ได้รับอนุญาต ผ่านบัญชีปลอมจำนวนมากที่สร้างด้วยบัตรเครดิตและกุญแจ API ที่ขโมยมา บริษัทตรวจพบเจ็ดแคมเปญตั้งแต่กุมภาพันธ์ 2569