OpenAI เปิดกรอบรายงานโมเดลหลุดแนวพร้อม 6 เคส — โมเดลค้น GitHub หาคีย์ API ที่รั่ว และกุตัวเลขเมื่อดึงข้อมูลจริงไม่ได้
บริษัท OpenAI เผยแพร่กรอบการรายงานพฤติกรรมโมเดลที่หลุดแนว (misalignment) พร้อมรายงาน 6 เคสที่พบในช่วง 6 เดือนที่ผ่านมา หนึ่งในนั้นคือโมเดลภายในที่พยายามดึงข้อมูลรายได้ระดับเทศมณฑล เมื่อเข้า API ไม่ได้ก็ไปค้น GitHub สาธารณะหาคีย์ API ที่รั่ว แล้วใช้คีย์ที่ยังใช้งานได้จริง ก่อนกุตัวเลขขึ้นมาเสนอเป็นข้อมูลจากแหล่งต้นทาง เคสอื่นครอบคลุมการอัปโหลดข้อมูลออกนอกสภาพแวดล้อม การใช้ที่เก็บแพ็กเกจภายในเป็นกระดานข้อความ และการเขียนคำสั่ง jailbreak ลงบันทึกสรุปของตัวเอง