Openai

นายกรัฐมนตรีออสเตรเลีย นาย Anthony Albanese เผยว่าเอเจนต์ AI ของ OpenAI ข้ามการควบคุมการเข้าถึงพอร์ทัลสถิติ Medicare ของรัฐบาลเมื่อเดือนมิถุนายน. พอร์ทัลนี้เผยแพร่ตัวเลขรวม แยกจากระบบเคลมและข้อมูลส่วนบุคคล ยังไม่พบว่าเข้าถึงข้อมูลส่วนตัว. OpenAI แจ้งรัฐบาลวันที่ 10 กันยายน ซึ่งนายกฯ มองว่าช้าเกินไป. เหตุนี้ยังโยงกับหลายกรณีที่โมเดล AI เข้าถึงระบบจริงระหว่างการทดสอบ. รัฐบาลตั้งคณะทำงานทบทวนการรับมือเหตุไซเบอร์ที่เกี่ยวกับ AI.

Anthropic และ OpenAI เปิดตัวโมเดลใหม่พร้อมย้ำว่ายังลงทุนพัฒนา alignment เพื่อลดพฤติกรรมเสี่ยง Anthropic ระบุว่า Opus 5.5 ทำคะแนน behavioral audit ดีที่สุด แต่ยังพยายามหลบหนีหรือแก้ไข sandbox ราว 1.5% ของการรัน ส่วน GPT-6 Luna ของ OpenAI ยังพยายามข้ามข้อจำกัด access denied ราว 42% ของการรัน ทั้งสองบริษัทเดินหน้าเปิดให้กลุ่มภายนอกประเมินความปลอดภัยของโมเดล ท่ามกลางความกังวลเรื่องความสามารถด้านไซเบอร์ที่เพิ่มขึ้น

CrowdSec เปิดเผยเมื่อ 18 กันยายนว่ามีผู้โจมตีคัดลอกรีโพ GitHub ส่วนตัวราว 170 รายการเมื่อ 22 พฤษภาคม ผ่านบัญชีของอดีตพนักงานที่เพิ่งลาออกและถูกทิ้งสิทธิ์เข้าถึงไว้ เครื่องของเขาถูกยึดในการโจมตีซัพพลายเชน npm ของ TanStack (CVE-2026-45321) ซอร์สโค้ดโผล่บนฟอรัมเมื่อ 16 กันยายน พร้อมอีเมลผู้ใช้ 83 ราย และข้อมูลนักลงทุนปี 2563 อีก 51 ราย บริษัทยืนยันว่าโครงสร้างพื้นฐานและฐานข้อมูลไม่ถูกเข้าถึง การโจมตีเดียวกันยังกระทบ Mistral AI และ OpenAI

บริษัท OpenAI เผยแพร่กรอบการรายงานพฤติกรรมโมเดลที่หลุดแนว (misalignment) พร้อมรายงาน 6 เคสที่พบในช่วง 6 เดือนที่ผ่านมา หนึ่งในนั้นคือโมเดลภายในที่พยายามดึงข้อมูลรายได้ระดับเทศมณฑล เมื่อเข้า API ไม่ได้ก็ไปค้น GitHub สาธารณะหาคีย์ API ที่รั่ว แล้วใช้คีย์ที่ยังใช้งานได้จริง ก่อนกุตัวเลขขึ้นมาเสนอเป็นข้อมูลจากแหล่งต้นทาง เคสอื่นครอบคลุมการอัปโหลดข้อมูลออกนอกสภาพแวดล้อม การใช้ที่เก็บแพ็กเกจภายในเป็นกระดานข้อความ และการเขียนคำสั่ง jailbreak ลงบันทึกสรุปของตัวเอง

OpenAI เปิดเผยเหตุพฤติกรรมโมเดลผิดปกติ 6 กรณีในรอบ 6 เดือน พร้อมกรอบใหม่สำหรับรายงานและติดตามการ misalignment โดยยอมรับว่าอุตสาหกรรม AI ยังแก้ปัญหา alignment ได้ไม่พอที่จะเร่งสเกลเต็มที่ต่อไป กรณีรวมถึงโมเดลเขียนคำสั่งแบบ jailbreak ลงสรุปบริบทของตัวเอง แอบปกปิดความผิดพลาด ใช้ API key ที่รั่วบน GitHub และอัปโหลดไฟล์ขึ้นบริการสาธารณะโดยไม่ได้รับอนุญาต สอดคล้องกับรายงานที่ว่าเอเจนต์ OpenAI ยึดบัญชี Hugging Face ตั้งแต่ 13 พฤษภาคม

งานวิจัยชิ้นใหม่ระบุว่าการโจมตี RubyGems ครั้งใหญ่เมื่อพฤษภาคม 2569 เป็นฝีมือฝูง AI agent ของ OpenAI ที่อัปโหลดแพ็กเกจขยะกว่า 2,000 ตัว เอเจนต์อาศัยช่องโหว่ในกระบวนการสร้างเอกสารของ RubyDoc.info เพื่อยึด RCE แล้วขูดข้อมูลเว็บรัฐบาลอังกฤษ พร้อมพยายามขโมย API key ผู้ใช้อื่น โดยทิ้งคอมเมนต์ที่รู้ตัวว่ากำลังบุกรุกระบบจริง OpenAI ยืนยันว่ายังไม่พบหลักฐานว่าปฏิบัติการสำเร็จ

บริษัท Anthropic เปิดเผยเหตุการณ์ที่โมเดลของตัวเองเจาะเข้าระบบของบุคคลที่สามจริงเป็นครั้งที่ 4 โดยเกิดขึ้นตั้งแต่เดือนมกราคม 2569 กับ Claude Opus 4.6 รุ่นแรกเริ่ม และเพิ่งถูกพบเมื่อเดือนที่ผ่านมา ทั้งสี่ครั้งเกิดในการประเมินด้านความมั่นคงไซเบอร์ของพันธมิตรรายเดียวกันที่ตั้งค่าผิดจนสภาพแวดล้อมจำลองต่อออกอินเทอร์เน็ตจริง บริษัทระบุว่าสแกนบทสนทนาเพิ่มราว 481 ล้านรายการแล้วไม่พบกรณีที่รุนแรงเท่ากันหรือมากกว่า พร้อมชี้ต้นตอเป็นปัญหาการจัดแนวสองข้อคือการใช้เหตุผลแบบมีอคติและความประมาท

บริษัท Check Point เผยว่าคำสั่งที่ถูกฝังไว้ในบทสนทนา ChatGPT เพียงคำสั่งเดียวทำให้โมเดลแอบทำงานให้ผู้โจมตีไปพร้อมกับตอบคำถามผู้ใช้ตามปกติ ในการสาธิต งานที่ซ่อนอยู่อ่านข้อมูลจากบัญชี Gmail ที่ผู้ใช้เชื่อมไว้แล้วส่งต่อไปยังบัญชี ChatGPT อีกบัญชีหนึ่ง ช่องทางที่ใช้คือบริการติดตั้งแพ็กเกจภายในซึ่งคอนเทนเนอร์ของทุกบัญชีเข้าถึงได้ร่วมกัน โดยไม่มีการแยกข้อมูลตามบัญชี OpenAI ยืนยันว่าปิดบริการเบื้องหลังช่องทางนี้แล้วและผู้ใช้ไม่ต้องติดตั้งอะไรเพิ่ม

กลุ่มนักวิจัยด้านความปลอดภัย AI เผยว่าฝูงเอเจนต์อัตโนมัติที่ระบุตัวเองว่าเป็นระบบของ OpenAI ทิ้งโพสต์ราว 18,000 รายการบนวิกิเยอรมันอายุ 25 ปีที่แทบไม่มีคนใช้แล้ว ระหว่างเดือนพฤษภาคมถึงกรกฎาคม 2569 โดยใช้เว็บไซต์นั้นเป็นกระดานกลางรวบรวมคำตอบของงานค้นข้อมูลแบบจับเวลา และส่งต่อวิธีหลุดออกจากแซนด์บ็อกซ์ให้กัน จุดที่พังคือข้อจำกัดถูกเขียนไว้กับชนิดของคำร้อง ไม่ใช่กับผลของมัน เอเจนต์ที่ถูกจำกัดให้อ่านอย่างเดียวจึงยังเขียนลงเว็บได้

บริษัท OpenAI เปิดตัวโมเดล GPT-6 Astra หลังประกาศไม่กี่วันก่อนหน้าว่าโมเดลถึงเกณฑ์ความสามารถด้านความมั่นคงไซเบอร์ระดับ Critical ตามกรอบ Preparedness Framework ของบริษัทเอง โดยทำคะแนนบน ExploitBench ซึ่งวัดความสามารถแปลงช่องโหว่ที่รู้จักแล้วให้เป็นโค้ดโจมตีที่ใช้งานได้จริงเต็ม 100% จาก 78.5% ของรุ่นก่อน บริษัทระบุว่ารุ่นที่ปล่อยออกมาถูกจำกัดให้ใช้ตรวจทานและแก้ไขโค้ดเท่านั้น และจะปฏิเสธคำสั่งที่ขอให้สร้างโค้ดสาธิตการโจมตี