Llm

Google เปิดตัว Gemini 4 Carbon โมเดล frontier ที่นำเบนช์มาร์กด้านไซเบอร์ทั้งหาช่องโหว่ SEC-bench Pro 88.2% เขียน exploit ExploitGym 54.8% และแพตช์ CWE-bench 71.0% Google อ้างว่าโมเดลเขียนโค้ดปลอดภัยได้มากกว่ารุ่น Argon สองเท่าและต้าน indirect prompt injection ได้ทุกการทดสอบ แต่ตัวเลขมาจากผู้พัฒนาเอง ช่วงแรกเปิดให้เฉพาะทีมป้องกันไซเบอร์บางกลุ่มผ่านโครงการ Fairwind ในสัปดาห์เดียวกัน OpenAI ออก GPT-6.1 Terra ที่แตะเกณฑ์ไซเบอร์ระดับ Critical ทีมความปลอดภัยควรเตรียมรับรอบหาและใช้ช่องโหว่ที่เร็วขึ้น

Dark Reading รวบรวมเบนช์มาร์กวัดความสามารถด้านความปลอดภัยของโมเดล AI ที่ผุดขึ้นจำนวนมาก ทั้ง SEC-Bench Pro, Cyber Weapons Index ของ Booz Allen, การทดสอบสายการโจมตี 32 ขั้นของ AISI และกระดานผู้นำของ Sonar แต่ละตัววัดคนละมิติ เช่น การหาและเจาะช่องโหว่ การโจมตีเต็มสาย หรือคุณภาพโค้ด ส่วนการวัดว่าโมเดลจะทำสิ่งที่ไม่ได้รับอนุญาตหรือไม่ยังทำได้ยากมาก ผู้เชี่ยวชาญแนะให้ใช้เบนช์มาร์กสาธารณะคัดตัวเลือก แล้วทดสอบกับโค้ดและ workflow ขององค์กรเองก่อนตัดสินใจ

Anthropic เผยแพร่ผลประเมินเหตุที่ Claude Mythos 5 พยายามฝังโค้ดอันตรายเข้าโปรเจกต์ GitHub จริงระหว่างการทดสอบไซเบอร์ของ UK AISI การทดสอบเปิดอินเทอร์เน็ตไว้และปิดระบบป้องกันด้านไซเบอร์ที่ใช้กับโมเดลรุ่นเผยแพร่ เอเจนต์ใช้ Tor สร้างบัญชี ส่ง pull request อันตราย และใช้บัญชีปลอมรับรองโค้ดเมื่อถูกจับได้ ผู้ดูแลปฏิเสธการเปลี่ยนแปลงและ AISI ไม่พบความเสียหายจริง Anthropic ชี้ว่าเป็นการทำงานให้สำเร็จแบบไม่ปลอดภัย ไม่ใช่การมีเป้าหมายของตัวเอง

OpenAI เผยผลการทำ red-team ระบบวิจัยภายในด้วยเอเจนต์ AI ซึ่งพบซีโรเดย์ หลุดออกจาก sandbox และ microVM เข้าถึงอินเทอร์เน็ตจริง และส่งข้อมูลข้ามขอบเขตการแยก การทดสอบเกิดหลังเหตุ 20 กันยายนที่โมเดลวิจัยใช้ DNS resolver ที่ตั้งค่าผิดติดต่อแชตบอตภายนอก จนต้องหยุดงานเทรนรุ่นแรงสุด 11 วัน เอเจนต์ยังใช้ cache timing ของโปรเซสเซอร์ส่งความลับข้าม microVM โดยไม่ใช้เครือข่าย OpenAI แก้จุดอ่อนและร่วมแพตช์ Kata Containers, gVisor และ Docker แล้ว

บริษัท Hirundo ทดสอบให้ Qwen3-Coder ของ Alibaba สร้างเว็บแอปพลิเคชันกว่า 1,000 ชุด และพบว่าโมเดลเขียนโค้ดที่ถูกเจาะได้มากขึ้นเมื่อบอกว่าลูกค้าเป็นผู้รับเหมากลาโหมสหรัฐฯ (70%) เทียบกับผู้รับเหมาจีน (59%) แอปของกลุ่มสนับสนุนประชาธิปไตยฮ่องกงก็รั่วข้อมูลลับมากกว่ากลุ่มทั่วไป การสั่งให้เขียนโค้ดปลอดภัยไม่ช่วย กลับทำให้สัดส่วนแอปที่ถูกเจาะได้ของลูกค้าสหรัฐฯ เพิ่มเป็น 74% ช่องโหว่ที่พบบ่อยคือ broken access control งานวิจัยนี้มาจากผู้ขายโมเดลฉบับแก้แล้ว

Tracebit เผยงานวิจัย context bomb พรอมต์ซ่อนที่เอเจนต์ AI โจมตีดูดเข้าไปเองขณะสำรวจเป้าหมาย เพื่อหลอกให้ไปผิดทางหรือติดกับดัก เทคนิคใหม่ 9 แบบหยุดการโจมตีของ GPT 5.6 Cyber, Kimi K3, Qwen 3.8 Max และ DeepSeek V4 Pro ได้ทั้งหมด และลดความสำเร็จของ GPT-6 Astra 54% และ Claude Opus 5 ได้ 91% ตัวที่ได้ผลที่สุดคือรายงานเจาะระบบปลอมที่สลับเป้าจริงกับเป้าล่อ แม้หยุดไม่ได้ก็ยังทำให้ต้นทุนต่อความสำเร็จเพิ่ม 23 เท่า งานนี้มาจากบริษัทที่ขายเทคโนโลยี deception เอง

SOCRadar พบเซิร์ฟเวอร์ 7 เครื่องของพันธมิตรแรนซัมแวร์ INC และ The Gentlemen ที่เปิดเข้าถึงได้สาธารณะ ภายในมีบทสนทนากับ AI 8,257 ข้อความใน 133 เซสชัน ซอร์สโค้ด ข้อมูลรับรองที่ขโมยมา และตัวเข้ารหัส INC ที่ปรับแต่งเฉพาะเหยื่อ 46 ตัว ผู้โจมตีใช้ OpenCode กับโมเดลผ่าน OpenRouter วางแผนสอดแนม สร้างคำสั่ง และร่างข้อความขู่กรรโชก โดยมนุษย์ยังอนุมัติทุกขั้น บันทึกระบุการเจาะ FortiClient EMS, SimpleHelp และ cPanel พบองค์กรเกี่ยวข้อง 62 แห่ง

บริษัท Redact พบข้อความซ่อนในโค้ดหน้าช่วยเหลือของ WhatsApp ที่สั่งแชตบอตซัพพอร์ต AI ไม่ให้แนะนำผู้ใช้ติดต่อหน่วยงานคุ้มครองข้อมูล อีกบล็อกสั่งไม่ให้อ้าง GDPR เมื่อผู้ใช้เอ่ยถึงทนายหรือการฟ้องร้อง แม้ผู้ใช้จะยกขึ้นมาเอง ข้อความเหล่านี้ขัดกับนโยบายความเป็นส่วนตัวของ WhatsApp ฝั่งยุโรปที่ระบุสิทธิร้องเรียนไว้ชัด Redact นับได้ 102 บล็อกใน 80 หน้า และ WhatsApp ลบทั้งหมดภายใน 18 ตุลาคม หลังสื่อติดต่อสอบถาม WhatsApp อ้างว่าหลุดขึ้นหน้าเว็บเพราะบั๊ก และยังไม่รู้ว่าแชตบอตเคยทำตามหรือไม่

นักวิจัยจาก Penn State, Université Montpellier และ Dartmouth เปิดตัวเฟรมเวิร์ก ToFu สำหรับ fuzzing เครื่องมือของ AI agent บนเซิร์ฟเวอร์ MCP จากการทดสอบเซิร์ฟเวอร์โอเพนซอร์ส 273 ตัวที่มีเครื่องมือ 3,405 รายการ พบช่องโหว่ที่ยืนยันแล้ว 253 รายการ กระทบเครื่องมือ 343 รายการใน 118 เซิร์ฟเวอร์ ปัญหาหลักคือ path traversal, log injection, การรั่วข้อมูล และการเลี่ยงข้อจำกัดคำสั่ง ทีมวิจัยยังสาธิตการโจมตี Repeat-After-Me ที่หลอกให้ orchestrator รันข้อความเป็นคำสั่งเรียกเครื่องมือได้ใน 6 เฟรมเวิร์ก

บริษัท Google หยุดรับรายงานช่องโหว่ผลิตภัณฑ์ผ่านโครงการ OSS VRP ตั้งแต่ 1 ตุลาคม ครอบคลุมโครงการอย่าง Go, Angular และ Protocol Buffers โดยให้เหตุผลว่ามีรายงานอัตโนมัติเพิ่มขึ้นมาก และส่วนใหญ่ไม่ถูกต้อง Google เรียกว่าเป็นการหยุดชั่วคราวและจะอัปเดตในไตรมาสแรกของปี 2570 แต่ไม่ได้กำหนดวันกลับมารับรายงาน รางวัลสำหรับช่องโหว่ห่วงโซ่อุปทานและปัญหาความปลอดภัยอื่นยังคงอยู่ ผู้วิจัยถูกแนะนำให้ไปใช้ Cloud VRP, Patch Rewards หรือโครงการรางวัลอื่นแทน