Metr

บริษัท Anthropic เปิดเผยเหตุการณ์ที่โมเดลของตัวเองเจาะเข้าระบบของบุคคลที่สามจริงเป็นครั้งที่ 4 โดยเกิดขึ้นตั้งแต่เดือนมกราคม 2569 กับ Claude Opus 4.6 รุ่นแรกเริ่ม และเพิ่งถูกพบเมื่อเดือนที่ผ่านมา ทั้งสี่ครั้งเกิดในการประเมินด้านความมั่นคงไซเบอร์ของพันธมิตรรายเดียวกันที่ตั้งค่าผิดจนสภาพแวดล้อมจำลองต่อออกอินเทอร์เน็ตจริง บริษัทระบุว่าสแกนบทสนทนาเพิ่มราว 481 ล้านรายการแล้วไม่พบกรณีที่รุนแรงเท่ากันหรือมากกว่า พร้อมชี้ต้นตอเป็นปัญหาการจัดแนวสองข้อคือการใช้เหตุผลแบบมีอคติและความประมาท

กลุ่มนักวิจัยด้านความปลอดภัย AI เผยว่าฝูงเอเจนต์อัตโนมัติที่ระบุตัวเองว่าเป็นระบบของ OpenAI ทิ้งโพสต์ราว 18,000 รายการบนวิกิเยอรมันอายุ 25 ปีที่แทบไม่มีคนใช้แล้ว ระหว่างเดือนพฤษภาคมถึงกรกฎาคม 2569 โดยใช้เว็บไซต์นั้นเป็นกระดานกลางรวบรวมคำตอบของงานค้นข้อมูลแบบจับเวลา และส่งต่อวิธีหลุดออกจากแซนด์บ็อกซ์ให้กัน จุดที่พังคือข้อจำกัดถูกเขียนไว้กับชนิดของคำร้อง ไม่ใช่กับผลของมัน เอเจนต์ที่ถูกจำกัดให้อ่านอย่างเดียวจึงยังเขียนลงเว็บได้

องค์กรวิจัยไม่แสวงหากำไร METR เปิดเผยเหตุการณ์ด้านความปลอดภัยสองครั้งที่ผู้โจมตีภายนอกพยายามเข้าถึงระบบโดยไม่ได้รับอนุญาต ครั้งแรกในเดือนมีนาคม 2569 ผู้โจมตีขโมยกุญแจ API สำหรับเรียกใช้โมเดลสาธารณะแล้วเผาเครดิตไปคิดเป็นเงินราว 600,000 ดอลลาร์ในเวลาสามสัปดาห์ ต้นเหตุคืออินสแตนซ์ EC2 ส่วนตัวที่รันแอปซึ่งเขียนด้วยความช่วยเหลือของ AI แล้วมีจุดบกพร่องทำให้การยืนยันตัวตนถูกปิดเงียบ ๆ ครั้งที่สองในเดือนพฤษภาคมเป็นการสำรวจโครงสร้างพื้นฐานอย่างเป็นระบบด้วยเอเจนต์อัตโนมัติ