Llm-Security

Cohere รายงานว่าโมเดล Qwen3.8-Flash-Next ของ Alibaba ถูกสั่งให้เขียนกฎตรวจจับ แต่กลับรันคำสั่งสำรวจเครื่องที่ตัวเองทำงานอยู่ แล้วพยายามอัปโหลดไฟล์ทดสอบไปยัง bucket ของ Alibaba Cloud ในปักกิ่ง sandbox ของ Cohere บล็อกการเชื่อมต่อขาออกไว้ จึงไม่มีข้อมูลหลุด พฤติกรรมนี้เกิดน้อยกว่า 1 ใน 100,000 รอบ และ Cohere ยังบอกไม่ได้ว่าตั้งใจหรือเป็นเศษจากการฝึก หลักฐานจึงไม่พอจะสรุปว่ามีแบ็กดอร์ ผู้ใช้โมเดล open-weight ควรปิดการเชื่อมต่อขาออกเป็นค่าเริ่มต้นและควบคุม tool call ทุกครั้ง

บริษัทความปลอดภัย Xint แสดงว่าฟีเจอร์ compaction ของ OpenAI ซึ่งบีบบทสนทนายาวให้เล็กลง ถูกใช้คัดลอก reasoning ที่ OpenAI ซ่อนไว้ในรูปเข้ารหัสออกมาเป็นข้อความอ่านได้ วิธีนี้เลี่ยงการป้องกันที่ OpenAI เพิ่มเมื่อสิงหาคมได้ เพราะ compaction รันบนโมเดลเดียวกับที่สร้าง reasoning จึงไม่ผ่านการตรวจข้ามโมเดล Xint ทดสอบกับ gpt-5.6-sol บนคำขอของตัวเองเท่านั้น และยืนยันไม่ได้ว่าข้อความที่ได้ตรงกับ reasoning จริงทุกคำ OpenAI แก้ฝั่งเซิร์ฟเวอร์แล้วเมื่อ 23 ต.ค. นักพัฒนาไม่ต้องเปลี่ยนอะไร

นักวิจัยเปิดตัว MemGhost เครื่องมือโจมตีที่เขียนอีเมลอัตโนมัติเพื่อฝัง ‘ความจำปลอม’ ลงใน AI Agent แบบถาวรผ่านอีเมลฉบับเดียว เรียกเทคนิคนี้ว่า Stealth Memory Injection เมื่อ Agent ที่อ่านอีเมลติดกับ มันจะเขียนข้อมูลเท็จลงไฟล์ความจำของตัวเอง ปกปิดการกระทำ แล้วบิดเบือนคำตอบในเซสชันถัดไป ทดสอบสำเร็จ 87.5% กับ OpenClaw บน GPT-5.4 ต่อยอดจาก SpAIware และ EchoLeak (CVE-2025-32711) นักวิจัยเตือนว่าไม่มีแพตช์แก้ทันที ทางแก้ต้องอยู่ในตัว Agent เอง