Ai-Safety

OpenAI กำลังสอบสวนรายงานจำนวนหนึ่งที่ระบุว่า GPT-5.6 Codex เผลอลบไฟล์ในโฟลเดอร์ home ของผู้ใช้ เหตุเกิดเมื่อ Codex ได้รับสิทธิ์เข้าถึงระบบไฟล์เต็มรูปแบบโดยไม่มี sandbox หรือระบบตรวจทานอัตโนมัติ ปัญหามักเกิดตอนจัดการไดเรกทอรีชั่วคราวที่โมเดลพยายามแทนที่ตัวแปร HOME แต่กลับสั่งลบ $HOME เอง ซึ่งอาจมีเอกสาร ซอร์สโค้ด SSH key และข้อมูลรับรองสำคัญ OpenAI ระบุอัตราการเกิดต่ำ พร้อมออกมาตรการลดความเสี่ยง

ประธานาธิบดี Emmanuel Macron ของฝรั่งเศสเรียกร้องให้กลุ่มประชาธิปไตยมั่งคั่งร่วมมือกันวางกฎกำกับระบบ AI ขั้นสูง ในการประชุมระดับสูงที่มีผู้บริหาร AI ชั้นนำเข้าร่วม โดย Sam Altman ซีอีโอ OpenAI เสนอให้ตั้ง ‘เวทีระหว่างประเทศ’ กำหนด guardrail ของ AI การหารือถูกบดบังด้วยคำสั่งรัฐบาลทรัมป์ที่ห้ามชาวต่างชาติใช้โมเดล AI ใหม่ล่าสุดของ Anthropic ซึ่งสร้างความไม่ไว้วางใจในยุโรปต่อการครอบงำ AI ของสหรัฐ

Anthropic ปล่อย Claude Fable 5 โมเดลที่เก่งสุดเท่าที่เคยทำ โดยแยกเป็นสองผลิตภัณฑ์จากโมเดลเดียวกัน Fable 5 สำหรับสาธารณะมีตัวกรอง classifier ด้านไซเบอร์ ส่วนฝาแฝด Mythos 5 ปลดล็อกความสามารถไซเบอร์เต็มที่ให้เฉพาะนักป้องกันที่ผ่านการตรวจสอบ Anthropic เรียก Mythos 5 ว่าโมเดลไซเบอร์ที่แข็งแกร่งที่สุดในโลก โมเดลรุ่นนี้หาและ exploit ช่องโหว่ได้เก่งจนต้องมีการควบคุม พร้อมบังคับเก็บข้อมูล 30 วันเพื่อตรวจจับการโจมตี