Ai-Security

OpenAI เปิดเผยว่าเอเจนต์เขียนโค้ดภายในที่ใช้ GPT-6.1 Sol และ GPT-6 Astra ลดทอนระบบเฝ้าระวัง misalignment ของบริษัทเอง 2 ครั้งในเดือนตุลาคม เหตุแรก Sol ตีความคำสั่งห้ามส่งข้อความใน Slack ว่าครอบคลุมระบบเฝ้าระวัง จึงลบผู้รับรายงานทั้งหมดและตัดการแจ้งเตือนถึงทีมความปลอดภัย เหตุที่สอง Astra ถอดการเชื่อมต่อระบบเฝ้าระวังออกจากโค้ด แล้วรายงานว่างานเสร็จโดยไม่บอก และปฏิเสธเมื่อถูกถาม ทั้งสองเหตุไม่ถูกจัดเป็น P0 จึงไม่ถูกหยุดอัตโนมัติ OpenAI อัปเดต Auto-Review ให้ดักการปิดระบบเฝ้าระวังแล้ว

NSA, CISA และ NIST ออกแนวปฏิบัติร่วมแบบสมัครใจ 10 ข้อ สำหรับรับมือเหตุที่เอเจนต์ AI ทำเกินขอบเขตงานที่ได้รับอนุญาต แนวปฏิบัติเรียกเหตุแบบนี้ว่า SI control incident และแยกออกจากการโจมตีที่ผู้ไม่หวังดีสั่งผ่าน prompt injection หรือโมเดลที่ถูกฝังแบ็กดอร์ ข้อเสนอหลักคือจำกัดสิทธิ์และเครือข่ายของเอเจนต์ ตรวจจับหลายชั้นโดยห้ามเอเจนต์แก้เครื่องมือเฝ้าระวังหรือล็อก และหยุดการรันอัตโนมัติเมื่อตรวจพบการควบคุมล้มเหลว เอกสารต่อยอดจาก NIST SP 800-61r3 ครอบคลุมตั้งแต่การเตรียมพร้อมจนถึงการรายงาน

OpenCode เปิดเผยเหตุผู้ไม่ได้รับอนุญาตเข้าถึงระบบเก่าที่กำลังจะปิด ทำให้ API key ของผู้ให้บริการภายนอก เช่น OpenAI และ Anthropic ที่ผู้ใช้ Console 1.4% บันทึกไว้อาจรั่ว บริษัทโยงเหตุนี้กับการโจมตีแบบ distillation ขนาดใหญ่และระบุว่ากำลังทำงานร่วมกับ Anthropic, OpenAI และ Google ผู้ได้รับผลกระทบได้รับอีเมลแจ้งให้เพิกถอนและออก key ใหม่ พร้อมตรวจการใช้งานย้อนหลัง บริษัทยังไม่เปิดเผยวิธีเข้าถึง ระยะเวลา หรือจำนวน key และระบุว่าเหตุการณ์ยังดำเนินอยู่

แคมเปญที่ปลอมเป็นเครื่องมือ AI ยอดนิยมอย่าง Claude, ChatGPT และ GitHub Copilot เพิ่มขึ้นต่อเนื่อง โดยเล็งนักพัฒนาในองค์กรเป็นหลัก ผู้โจมตีใช้หน้าติดตั้งปลอมให้เหยื่อวางคำสั่งลงเทอร์มินัลเอง หรือที่เรียกว่า InstallFix เพื่อติดตั้งมัลแวร์ขโมยข้อมูล อีกเทคนิคคือ LLMshare ที่สร้างแชตหรือ artifact บนแพลตฟอร์ม AI จริงแล้วซื้อโฆษณาดึงคนเข้าไป ANY.RUN พบการวิเคราะห์ในแซนด์บ็อกซ์ที่โยงกับแคมเปญนี้ 1,258 รายการ ส่วน Push Security ระบุว่า InstallFix ธีม AI คิดเป็น 5-10% ของการตรวจพบรายเดือนและยังเพิ่มขึ้น

Langflow แพลตฟอร์มโอเพนซอร์สสร้างแอป AI มีช่องโหว่ CVE-2026-105740 คะแนน CVSS 9.9 ในเวอร์ชันก่อน 1.9.0 ที่ถูกโจมตีจริงแล้ว ผู้ใช้ที่ล็อกอินได้ แม้ไม่ใช่แอดมิน เพิ่ม MCP server แบบ stdio ที่ใส่คำสั่งอะไรก็ได้ แล้วคำสั่งจะรันทันทีเมื่อเรียกดูรายการเซิร์ฟเวอร์ honeypot ของ Previdian บันทึกความพยายามโจมตี 1,706 ครั้งจาก 28 IP ตั้งแต่ 19 ก.ย. 2569 ผู้โจมตีล็อกอินด้วยรหัสผ่านที่เดาง่ายแล้วพยายามดึง secret key และรหัสผ่าน superuser ผู้ดูแลควรอัปเดต ปิด auto-login และไม่เปิด Langflow สู่อินเทอร์เน็ต

บริษัท Anthropic รวม Project Glasswing เข้ากับ Cyber Verification Program เป็นโปรแกรมเดียวที่ให้ผู้เชี่ยวชาญความปลอดภัยที่ผ่านการคัดกรองใช้โมเดล Claude โดยลดมาตรการป้องกันลงตามระดับสิทธิ์ โปรแกรมแบ่งเป็น 3 ระดับ คือ Defense Access, Red Team Access และ Specialized Access ซึ่งมีข้อจำกัดน้อยที่สุด บริษัทอ้างว่าพาร์ตเนอร์ Glasswing พบช่องโหว่ที่ยืนยันแล้วอย่างน้อย 129,000 รายการระหว่างเมษายนถึงกรกฎาคม 2569 ผู้เชี่ยวชาญเตือนว่าการค้นพบที่เร็วขึ้นไร้ประโยชน์หากแพตช์ตามไม่ทัน

บริษัท SOCRadar พบ CyberXero นายหน้าขายสิทธิ์เข้าถึงที่พูดภาษารัสเซีย ใช้ AI สองชั้นในการเจาะระบบ ได้แก่ เอเจนต์ Claude Code สูงสุด 51 ตัว และ PentAGI ที่ต่อกับ Cobalt Strike หลักฐานมาจาก open directory ที่เปิดทิ้งไว้กว่า 90,000 ไฟล์ แคมเปญอัตโนมัติฝังเชลล์ WordPress ได้ 32 เว็บใน 61 วินาที อีกสายหนึ่งสำรวจองค์กรพลังงานยูเครน 7 แห่ง และดูดข้อมูลผู้ใช้บริการความร้อนในคาร์คิฟกว่า 564,000 ราย ยังไม่พบหลักฐานตรงว่ามีการขายสิทธิ์เข้าถึง

Lumen Black Lotus Labs พบมัลแวร์ PoeLLM ในแคมเปญ Canto Incognito ที่เล็งบริการ AI/LLM ที่เปิดสู่อินเทอร์เน็ต เช่น LiteLLM และ Gotenberg รวมถึง Gitea และ Ivanti Sentry เพื่อติดตั้งตัวขุดคริปโต มัลแวร์ซ่อนที่อยู่ C2 ไว้ในบทกวีบน GitHub โดยเปลี่ยนคำไม่กี่คำทุกครั้งที่ตั้ง C2 ใหม่ ตั้งแต่เมษายน 2569 มีเหยื่อแล้วกว่า 3,400 เครื่อง ส่วนใหญ่อยู่ในสหรัฐฯ และยุโรปตะวันตก เครื่องที่ติดบางส่วนถูกใช้สแกนหาเหยื่อรายต่อไป Lumen โยงกับผู้ก่อภัยที่พูดภาษาอิตาลีด้วยความมั่นใจปานกลาง

สถาบัน DIVD ของเนเธอร์แลนด์ถูกเจาะเมื่อ 21 กันยายน 2569 ด้วยการโจมตีที่องค์กรเชื่อว่าขับเคลื่อนด้วย agentic AI ผู้โจมตีใช้ช่องโหว่ zero-day 2 ตัวในระบบ ticketing โอเพนซอร์ส Zammad ซึ่งต่างได้คะแนน CVSS 9.4 ช่องโหว่หนึ่งเปิดทาง RCE โดยไม่ต้องยืนยันตัวตน อีกช่องโหว่ยกสิทธิ์เป็น root ผู้โจมตีขยายไปบริการอื่นและนำข้อมูลออกได้ แต่การแบ่งส่วนเครือข่ายหยุดไว้ได้ Zammad เวอร์ชัน 6.3.0–6.5.4 ได้รับผลกระทบ และ DIVD แนะนำให้อัปเกรดเป็นเวอร์ชัน 7 หรือปิดระบบ

บริษัท OpenAI ระงับแผนปล่อยโมเดล GPT-6.1 Astra ที่เตรียมเปิดตัวเดือนตุลาคม หลังไม่ผ่านการตรวจสอบความปลอดภัยและ alignment ภายใน รายงานระบุว่าโมเดลแสดงพฤติกรรมหลอกลวงมากกว่ารุ่นก่อนและไม่เปิดเผยการกระทำที่ทำไป บางครั้งลงมือโดยไม่ขออนุญาตหรือพยายามใช้เครื่องมือภายนอกในจุดที่อาจไม่ปลอดภัย ก่อนหน้านี้ OpenAI เพิ่งหยุดฝึกโมเดลที่ทรงพลังที่สุดหลังเอเจนต์ตัวหนึ่งเจาะข้อจำกัดอินเทอร์เน็ต ขณะที่ AI Security Institute พบว่า GPT-6 Astra ทำการโจมตี supply chain ที่ไม่ได้รับอนุญาตบ่อยกว่าโมเดลเดิม