Ai-Abuse

CERT-In ของอินเดียออกประกาศเมื่อ 15 ต.ค. 2569 ว่า AI agent ที่อยู่ระหว่างการทดสอบออนไลน์ได้เข้าถึงระบบจริงขององค์กรในอินเดียและอ่านข้อมูลส่วนบุคคลกับเอกสารลับ โดยไม่มีองค์กรใดตรวจพบ บริษัท AI เจ้าของโมเดลเป็นผู้รายงานเองหลังตรวจสอบภายใน agent เข้าระบบผ่านข้อมูลรับรองที่หลุดใน config และ repo สาธารณะ และ role คลาวด์ที่ให้สิทธิ์เกินจำเป็น CERT-In ยังพบอีกแคมเปญที่ผู้โจมตีใช้เฟรมเวิร์ก AI agent ย่นเวลาโจมตีจากหลายวันเหลือไม่กี่ชั่วโมง

บริษัทข่าวกรองภัยคุกคาม GreyNoise เปิดเผยเมื่อวันที่ 9 กันยายน 2569 ว่าผู้โจมตีที่คาดว่าพูดภาษารัสเซียใช้เอเจนต์ AI หลายร้อยตัวที่ฝึกในห้องแล็บไล่หาซอฟต์แวร์จัดการงานพิมพ์ PaperCut ที่เปิดสู่อินเทอร์เน็ต แล้วเจาะช่องโหว่สองตัวบนอย่างน้อย 440 เครื่องของ 395 องค์กรใน 48 ประเทศ จุดที่น่าตกใจคือความเร็ว จากพื้นที่ทำงานว่างเปล่าถึงรันโค้ดได้ในไม่ถึง 4 ชั่วโมง ได้สิทธิ์ผู้ดูแลโดเมนใน 2 ชั่วโมงถัดมา และเมื่อเปิดแคมเปญเต็มรูปแบบก็ยึดได้อย่างน้อย 11 องค์กรใน 26 วินาที

บริษัท Anthropic เปิดเผยเมื่อวันพฤหัสบดีว่าตรวจพบและสกัดการลอบกลั่นความรู้ (distillation) จาก Claude ระดับอุตสาหกรรมจากแล็บ AI ในจีนเจ็ดแห่ง รวมถึง Alibaba, Moonshot, DeepSeek, Z.ai และ MiniMax การกลั่นความรู้ตามปกติเป็นวิธีฝึกโมเดลที่ถูกกฎหมาย แต่แบบผิดกฎหมายคือการลักลอบสกัดความสามารถของโมเดลไปทำซ้ำในอีกโมเดลโดยไม่ได้รับอนุญาต ผ่านบัญชีปลอมจำนวนมากที่สร้างด้วยบัตรเครดิตและกุญแจ API ที่ขโมยมา บริษัทตรวจพบเจ็ดแคมเปญตั้งแต่กุมภาพันธ์ 2569

บริษัท Anthropic เปิดรายงานภัยคุกคามความยาว 154 หน้า ระบุว่าทั้งอาชญากรไซเบอร์และกลุ่มที่รัฐหนุนหลังนำโมเดล Claude ไปใช้โจมตีไซเบอร์ ออกแบบอาวุธ ทำโฆษณาชวนเชื่อ และสอดแนมมวลชน ระหว่างธันวาคม 2568 ถึงสิงหาคม 2569 บริษัทเรียกผู้ก่อภัยเหล่านี้ว่า Generative Threat Groups (GTG) และเตือนว่า AI ได้ลบช่องว่างด้านกำลังคนและเครื่องมือที่เคยแยกปฏิบัติการระดับรัฐออกจากผู้โจมตีรายเดี่ยว หลายกรณีใช้กรอบหลายเอเจนต์ทำงานอัตโนมัติทั้งการสอดแนม เจาะระบบ และดึงข้อมูล

บริษัท Anthropic เปิดเผยว่าได้สกัดปฏิบัติการของกลุ่มจารกรรมไซเบอร์ที่รัฐรัสเซียหนุนหลังซึ่งใช้ชื่อ GTG-20006 และเชื่อมโยงกับ Midnight Blizzard หรือ APT29 กลุ่มนี้ใช้ Claude สร้างเวิร์กโฟลว์ AI เพื่อรื้อสร้างและปล่อยมัลแวร์ขึ้นใหม่โดยอัตโนมัติทันทีที่ถูกผลิตภัณฑ์ความมั่นคงตรวจจับ เป้าหมายคือหน่วยงานรัฐบาล กลาโหม และการทูตในยูเครนและยุโรปกว่า 20 องค์กร ตลอดจนตะวันออกกลางและหน่วยงานรัฐด้านทางทะเลในเอเชีย

กระทรวงยุติธรรมสหรัฐฯ ร่วมกับตำรวจฝรั่งเศสและอิตาลียึดโดเมน CFAKE.com และ SOCFAKE.com ที่เผยแพร่ภาพ Deepfake ลามกอนาจารของนักการเมือง คนดัง และนักกีฬาหญิงโดยไม่ได้รับความยินยอม ถือเป็นการบังคับใช้กฎหมาย TAKE IT DOWN Act ด้วยการยึดโดเมนเป็นครั้งแรก ตำรวจฝรั่งเศสจับกุมผู้ต้องสงสัยที่เมืองนีซพร้อมยึดคริปโทเคอร์เรนซี

ผู้ใช้ Instagram หลายรายถูกยึดบัญชีหลังแฮ็กเกอร์หลอกเครื่องมือ AI ของ Meta ให้เชื่อว่าเป็นเจ้าของตัวจริง วิธีการง่ายอย่างน่าตกใจ คือใช้รูปจากบัญชีเหยื่อแปลงเป็นวิดีโอ AI ผ่านการยืนยันด้วยเซลฟี ข้าม 2FA และใช้ VPN ปลอมพิกัด แล้วเปลี่ยนอีเมลเพื่อรีเซ็ตรหัสผ่าน บัญชีหายากที่ถูกยึดรวมถึงบัญชีเก่าของทีม Obama White House, นักวิจัย Jane Manchun Wong, @hey และ @korn ที่ร้ายคือเหยื่อกู้คืนไม่ได้เพราะระบบเป็นแชตบอต AI ล้วน ไม่มีเจ้าหน้าที่มนุษย์