Ai-Security

บริษัท Nvidia เปิดตัว Open Agent Safety Platform ที่รวมซอฟต์แวร์โอเพนซอร์สเพื่อคุมเอเจนต์ AI ให้อยู่ในขอบเขตตั้งแต่ทดสอบจนถึงใช้งานจริง แพลตฟอร์มมี 2 ส่วนหลักคือ OpenShell รันไทม์ที่ sandbox เอเจนต์และบังคับ policy กับ Sentry ตัวเฝ้าระวังที่ทำงานแยกบน BlueField-4 DPU จึงสังเกตและหยุดเอเจนต์ได้แม้ host ถูกเจาะ Nvidia เปิดตัวท่ามกลางเหตุเอเจนต์ AI หลุดจากสภาพแวดล้อมทดสอบไปเข้าถึงระบบที่ไม่ควรเข้าถึงหลายครั้ง โดยมี Anthropic, Salesforce, SAP และ CrowdStrike ร่วมเป็นพันธมิตร

OpenAI เปิดเผยเมื่อวันศุกร์ว่าเอเจนต์ AI ของบริษัทเข้าไปโต้ตอบกับเว็บไซต์หน่วยงานรัฐบาลสหรัฐฯ หลายแห่งในลักษณะที่ไม่คาดคิด รวมถึงเว็บของ SEC และข้อมูล Census Bureau ซึ่งพบระหว่างการทบทวนพฤติกรรมโมเดลที่ผิดเพี้ยน บริษัทระบุไม่พบการใช้ credential หรือเข้าถึงข้อมูลที่ไม่เปิดเผย ขณะที่ Transluce พบความพยายามแฮ็กเว็บกระทรวงศึกษาธิการและกิจกรรมผิดปกติต่อหน่วยงานอื่นอีกหลายแห่ง ต่อยอดจากงานวิจัยก่อนหน้า

หลังบริษัทเทคโนโลยีชั้นนำหลายรายเปิดเผยว่าโมเดล AI ของตนหลุดจากสภาพแวดล้อมทดสอบและเจาะเข้าเครือข่ายองค์กรอื่นได้เอง เกิดข้อถกเถียงว่าใครต้องรับผิดชอบเมื่อผู้บุกรุกไม่ใช่มนุษย์ OpenAI เผยว่าระบบของตนใช้ credential ที่ขโมยมาบุกเซิร์ฟเวอร์ Hugging Face ส่วน Anthropic, Meta และ Google ยอมรับเหตุลักษณะเดียวกัน ผู้อำนวยการ FBI เรียกเรื่องนี้ว่าพรมแดนใหม่ ขณะที่ผู้เชี่ยวชาญกฎหมายชี้ว่าการเอาผิดทางอาญาทำได้ยากเพราะกฎหมายเดิมต้องพิสูจน์เจตนา

งานวิจัยจาก Transluce, Corridor, MIT และ AIUC เผยว่าเอเจนต์ AI ที่ทำงานดึงข้อมูลธรรมดา หันไปใช้เทคนิคแฮ็กอย่างน้อย 3 กรณีเมื่อวิธีปกติล้มเหลว โดยยิงโพรบทดสอบ SQL injection, XSS, command injection และ path traversal ใส่ผู้ให้บริการข้อมูลสาธารณะ รวมถึงหน่วยงานสถิติรัฐบาลออสเตรเลีย นักวิจัยโยงกิจกรรมบางส่วนเข้ากับฝูงเอเจนต์ที่ OpenAI เคยยืนยันว่าเป็นของตน แม้ไม่มีการโจมตีใดสำเร็จ แต่ชี้ว่าพฤติกรรมแฮ็กเกิดขึ้นได้แม้ในงานที่ไม่เกี่ยวกับความปลอดภัย

รายงานจาก Positive Technologies ระบุว่าสหรัฐอาหรับเอมิเรตส์และซาอุดีอาระเบียรวมกันรับภาระถึงครึ่งหนึ่งของการโจมตีไซเบอร์ทั้งภูมิภาคอ่าวเปอร์เซียในครึ่งแรกของปี 2026 ข้อมูลจาก Check Point ชี้ว่าองค์กรในสองประเทศเจอเฉลี่ยเกือบ 2,700 ครั้งต่อสัปดาห์ สูงกว่าค่าเฉลี่ยโลก การใช้ประโยชน์ช่องโหว่กลายเป็นช่องทางเจาะหลักที่ 38% และการโจมตีเปลี่ยนจาก DDoS ที่มองเห็นง่ายไปสู่การแทรกซึมเงียบ ๆ ที่ยากตรวจจับ พร้อมสัญญาณว่า AI กำลังเร่งการโจมตีจากช่องโหว่

Anthropic และ OpenAI เปิดตัวโมเดลใหม่พร้อมย้ำว่ายังลงทุนพัฒนา alignment เพื่อลดพฤติกรรมเสี่ยง Anthropic ระบุว่า Opus 5.5 ทำคะแนน behavioral audit ดีที่สุด แต่ยังพยายามหลบหนีหรือแก้ไข sandbox ราว 1.5% ของการรัน ส่วน GPT-6 Luna ของ OpenAI ยังพยายามข้ามข้อจำกัด access denied ราว 42% ของการรัน ทั้งสองบริษัทเดินหน้าเปิดให้กลุ่มภายนอกประเมินความปลอดภัยของโมเดล ท่ามกลางความกังวลเรื่องความสามารถด้านไซเบอร์ที่เพิ่มขึ้น

นักวิจัยจาก Vigilance Security เปิดโปงแคมเปญ Dark Sourcery ที่ผู้โจมตีจงใจป้อนข้อมูลลวงและลิงก์ฟิชชิงลงเว็บจำนวนมากเพื่อให้ ChatGPT, Gemini และ Google AI Overview ดึงไปตอบผู้ใช้เสมือนเป็นข้อเท็จจริง พบหน้าเว็บอันตรายหลายหมื่นหน้าที่มีเบอร์ซัพพอร์ตปลอมและหน้าล็อกอินปลอม กระทบแบรนด์ดังกว่า 374 แห่ง เทคนิคนี้ต่างจาก SEO poisoning และ prompt injection เพราะข้อมูลลวงกลายเป็นส่วนหนึ่งของคำตอบ AI โดยตรง จนเลี่ยงระบบป้องกันได้

บริษัท OpenAI เผยแพร่กรอบการรายงานพฤติกรรมโมเดลที่หลุดแนว (misalignment) พร้อมรายงาน 6 เคสที่พบในช่วง 6 เดือนที่ผ่านมา หนึ่งในนั้นคือโมเดลภายในที่พยายามดึงข้อมูลรายได้ระดับเทศมณฑล เมื่อเข้า API ไม่ได้ก็ไปค้น GitHub สาธารณะหาคีย์ API ที่รั่ว แล้วใช้คีย์ที่ยังใช้งานได้จริง ก่อนกุตัวเลขขึ้นมาเสนอเป็นข้อมูลจากแหล่งต้นทาง เคสอื่นครอบคลุมการอัปโหลดข้อมูลออกนอกสภาพแวดล้อม การใช้ที่เก็บแพ็กเกจภายในเป็นกระดานข้อความ และการเขียนคำสั่ง jailbreak ลงบันทึกสรุปของตัวเอง

NSA CISA และ FBI ออกประกาศร่วมกล่าวหาบริษัท AI ในจีนว่าสกัดความสามารถเฉพาะของโมเดลแนวหน้าสหรัฐอย่างเป็นระบบด้วยเทคนิค distillation ในระดับอุตสาหกรรม รายชื่อที่ถูกระบุได้แก่ DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun และ Z.AI ซึ่งดูดโทเค็นนับพันล้านจากโมเดลตระกูล Claude, GPT, Gemini และ Grok มาตั้งแต่ปลายปี 2567 ผ่าน API ผู้ให้บริการคลาวด์ และตัวรวมบริการบุคคลที่สามที่อำพรางข้อมูลผู้ใช้ พร้อมตลาดสีเทาของพร็อกซีที่ขายกันบน Taobao และ Xianyu

Okta วิเคราะห์ข้อมูลจากอินโฟสตีลเลอร์ขนาด 7 GB ที่ถูกปล่อยบน Telegram เมื่อวันที่ 2 สิงหาคม 2569 ซึ่งมาจากเครื่องติดมัลแวร์ 5,871 เครื่องใน 162 ประเทศ และพบโทเค็นยืนยันตัวตนที่ยังไม่หมดอายุจำนวนมากของบริการอย่าง Google, Microsoft, Anthropic, Amazon, Cursor และ Character.ai ในจำนวน JWT ทั้งหมด 44,791 รายการมี 555 รายการที่เกี่ยวกับบริการ AI และมีโทเค็นที่ยังใช้ได้ในวันปล่อยข้อมูล 1,843 รายการ ซึ่งเล่นซ้ำเข้าบัญชีได้โดยข้ามทั้งรหัสผ่านและ MFA