ช่องโหว่เชิงสถาปัตยกรรมใน API ของ OpenAI, Anthropic และ Google — ส่งซองความคิดที่เข้ารหัสไปให้โมเดลรุ่นเล็กถอดออกมาเป็นข้อความธรรมดาได้

ทีมวิจัยจาก ELLIS Institute Tübingen, Max Planck Institute, MATS Research และ Snyk พบว่าซองข้อมูลความคิดภายในที่ API ของผู้ให้บริการ LLM เข้ารหัสไว้ ถูกเซ็นด้วยกุญแจระดับผู้ให้บริการโดยไม่ผูกกับโมเดล เซสชัน หรือผู้ใช้ ผู้โจมตีจึงนำซองจากโมเดลเรือธงไปป้อนให้โมเดลรุ่นเล็กที่มีการ์ดน้อยกว่าถอดเป็นข้อความธรรมดาได้ การวิเคราะห์บันทึกเอเจนต์สาธารณะพบข้อมูลส่วนบุคคลและข้อมูลรับรองซ่อนอยู่หลายร้อยรายการ ทีมวิจัยระบุว่าการโจมตีใช้ไม่ได้แล้วหลังมีการแก้ไข แต่ยังไม่มีผู้ให้บริการรายใดยืนยันต่อสาธารณะ



