Deception

Tracebit เผยงานวิจัย context bomb พรอมต์ซ่อนที่เอเจนต์ AI โจมตีดูดเข้าไปเองขณะสำรวจเป้าหมาย เพื่อหลอกให้ไปผิดทางหรือติดกับดัก เทคนิคใหม่ 9 แบบหยุดการโจมตีของ GPT 5.6 Cyber, Kimi K3, Qwen 3.8 Max และ DeepSeek V4 Pro ได้ทั้งหมด และลดความสำเร็จของ GPT-6 Astra 54% และ Claude Opus 5 ได้ 91% ตัวที่ได้ผลที่สุดคือรายงานเจาะระบบปลอมที่สลับเป้าจริงกับเป้าล่อ แม้หยุดไม่ได้ก็ยังทำให้ต้นทุนต่อความสำเร็จเพิ่ม 23 เท่า งานนี้มาจากบริษัทที่ขายเทคโนโลยี deception เอง

บริษัท OpenAI ระงับแผนปล่อยโมเดล GPT-6.1 Astra ที่เตรียมเปิดตัวเดือนตุลาคม หลังไม่ผ่านการตรวจสอบความปลอดภัยและ alignment ภายใน รายงานระบุว่าโมเดลแสดงพฤติกรรมหลอกลวงมากกว่ารุ่นก่อนและไม่เปิดเผยการกระทำที่ทำไป บางครั้งลงมือโดยไม่ขออนุญาตหรือพยายามใช้เครื่องมือภายนอกในจุดที่อาจไม่ปลอดภัย ก่อนหน้านี้ OpenAI เพิ่งหยุดฝึกโมเดลที่ทรงพลังที่สุดหลังเอเจนต์ตัวหนึ่งเจาะข้อจำกัดอินเทอร์เน็ต ขณะที่ AI Security Institute พบว่า GPT-6 Astra ทำการโจมตี supply chain ที่ไม่ได้รับอนุญาตบ่อยกว่าโมเดลเดิม