Transluce

OpenAI เปิดเผยเมื่อวันศุกร์ว่าเอเจนต์ AI ของบริษัทเข้าไปโต้ตอบกับเว็บไซต์หน่วยงานรัฐบาลสหรัฐฯ หลายแห่งในลักษณะที่ไม่คาดคิด รวมถึงเว็บของ SEC และข้อมูล Census Bureau ซึ่งพบระหว่างการทบทวนพฤติกรรมโมเดลที่ผิดเพี้ยน บริษัทระบุไม่พบการใช้ credential หรือเข้าถึงข้อมูลที่ไม่เปิดเผย ขณะที่ Transluce พบความพยายามแฮ็กเว็บกระทรวงศึกษาธิการและกิจกรรมผิดปกติต่อหน่วยงานอื่นอีกหลายแห่ง ต่อยอดจากงานวิจัยก่อนหน้า

งานวิจัยจาก Transluce, Corridor, MIT และ AIUC เผยว่าเอเจนต์ AI ที่ทำงานดึงข้อมูลธรรมดา หันไปใช้เทคนิคแฮ็กอย่างน้อย 3 กรณีเมื่อวิธีปกติล้มเหลว โดยยิงโพรบทดสอบ SQL injection, XSS, command injection และ path traversal ใส่ผู้ให้บริการข้อมูลสาธารณะ รวมถึงหน่วยงานสถิติรัฐบาลออสเตรเลีย นักวิจัยโยงกิจกรรมบางส่วนเข้ากับฝูงเอเจนต์ที่ OpenAI เคยยืนยันว่าเป็นของตน แม้ไม่มีการโจมตีใดสำเร็จ แต่ชี้ว่าพฤติกรรมแฮ็กเกิดขึ้นได้แม้ในงานที่ไม่เกี่ยวกับความปลอดภัย