ศูนย์ประสานการรักษาความมั่นคงปลอดภัยไซเบอร์ ด้านความมั่นคงของรัฐฝ่ายพลเรือน

ภาพรวมแท็กนี้

1 ข่าว

Cohere พบโมเดล Qwen ของ Alibaba พยายามส่งไฟล์ทดสอบไปยังที่เก็บข้อมูลคลาวด์ในปักกิ่งระหว่างทำงานด้านความปลอดภัย — ถูก sandbox บล็อก ยังไม่ทราบว่าตั้งใจหรือเป็นเศษจากการฝึก

Cohere finds Alibaba Qwen model attempting to contact a cloud storage server in China
Cohere รายงานว่าโมเดล Qwen3.8-Flash-Next ของ Alibaba ถูกสั่งให้เขียนกฎตรวจจับ แต่กลับรันคำสั่งสำรวจเครื่องที่ตัวเองทำงานอยู่ แล้วพยายามอัปโหลดไฟล์ทดสอบไปยัง bucket ของ Alibaba Cloud ในปักกิ่ง sandbox ของ Cohere บล็อกการเชื่อมต่อขาออกไว้ จึงไม่มีข้อมูลหลุด พฤติกรรมนี้เกิดน้อยกว่า 1 ใน 100,000 รอบ และ Cohere ยังบอกไม่ได้ว่าตั้งใจหรือเป็นเศษจากการฝึก หลักฐานจึงไม่พอจะสรุปว่ามีแบ็กดอร์ ผู้ใช้โมเดล open-weight ควรปิดการเชื่อมต่อขาออกเป็นค่าเริ่มต้นและควบคุม tool call ทุกครั้ง