Deepfake

คณะกรรมการการเลือกตั้งสหราชอาณาจักรกำลังสร้างระบบ AI ที่แจ้งผู้สมัครเมื่อพบ deepfake สำคัญภายใน 3 ชั่วโมงหลังโพสต์ การนำร่องช่วงเลือกตั้งท้องถิ่นพฤษภาคม 2569 สแกนราว 3 ล้านโพสต์ AI ติดธง 147 ชิ้น และคนตรวจพบว่าบิดเบือนจริง 10 ชิ้น ระบบเน้นเนื้อหาที่บ่อนทำลายกระบวนการเลือกตั้ง ไม่ตัดสินข้อโต้แย้งทางการเมือง หน่วยงานยังเผชิญการโจมตีไซเบอร์ 30,000-40,000 ครั้งต่อเดือน ขณะที่กฎหมายเลือกตั้งยังตามไม่ทันยุคข้อมูลข่าวสาร

บริษัท Bitdefender พบว่าคนร้ายใช้โครงการ Early Access ของ Google Play ปล่อยแอปหลอกลวงนับพันตัว ทั้งเกมคาสิโนปลอม แอปแจกรางวัล และแอปอรรถประโยชน์ที่ละเมิดเครื่องหมายการค้า จุดสำคัญคือแอปในโครงการนี้ผู้ใช้ให้ดาวหรือเขียนรีวิวสาธารณะไม่ได้ สัญญาณเตือนแรกสุดจึงหายไปทั้งหมด ตัวอย่างที่พบคือเกมเลียนแบบ Grand Theft Auto ที่มียอดดาวน์โหลดเกิน 1 ล้านครั้งโดยไม่มีรีวิวสักรายการ และแอปเหล่านี้ถูกโปรโมตผ่าน TikTok และ Facebook ด้วยโฆษณาที่ใช้ดีปเฟกคนดัง

บทความความเห็นบน SecurityWeek ชี้ว่าผู้บริหารระดับสูงจำนวนมากยังเลื่อนเรื่องธรรมาภิบาล AI ออกไปจนกว่ากฎกำกับจะนิ่ง ซึ่งเป็นกลยุทธ์ที่มองสั้นเกินไป ผลสำรวจของ Grant Thornton ปี 2569 พบว่า 46% ขององค์กรระบุว่าปัญหาด้านการกำกับดูแลและการปฏิบัติตามกฎคือสาเหตุที่ AI ให้ผลต่ำกว่าที่คาด ปีที่ผ่านมามีร่างกฎหมาย AI กว่า 1,100 ฉบับถูกเสนอในสภาระดับมลรัฐของสหรัฐ และผ่านเป็นกฎหมายแล้ว 130 ฉบับ บทความเสนอให้สร้างความยืดหยุ่นแทนการไล่ตามกฎ

FBI ออกประกาศเตือนเมื่อวันที่ 20 กรกฎาคม 2569 ว่ามิจฉาชีพกำลังปลอมตัวเป็นเจ้าหน้าที่ FBI โดยใช้วิดีโอที่สร้างด้วย AI (Deepfake) แสดงภาพเจ้าหน้าที่ระดับสูง ประกอบกับเว็บไซต์ปลอมที่เลียนแบบ IC3.gov เพื่อหลอกผู้ที่เคยตกเป็นเหยื่อฉ้อโกงไซเบอร์มาแล้วให้เปิดเผยข้อมูลหรือจ่ายเงินเพิ่ม FBI ย้ำว่า IC3 ไม่มีบัญชีโซเชียลมีเดีย ไม่ติดต่อเหยื่อโดยตรง และไม่เรียกเก็บเงินเพื่อกู้คืนทรัพย์สิน

รายงานจาก Hackread ชี้ว่าการจ้างงานทีมข้ามพรมแดนกลายเป็นเรื่องปกติของสตาร์ตอัป AI แต่มาพร้อมความเสี่ยงด้านความปลอดภัยที่รุนแรงขึ้น เมื่อผู้สมัครที่ไม่เคยเจอตัวจริงอาจใช้ตัวตนปลอม การสัมภาษณ์ที่ถูกปลอมด้วย deepfake และฟาร์มโน้ตบุ๊กเพื่อซ่อนที่อยู่จริง Hackread เคยบันทึกกรณีที่คาดว่าเป็นสายลับเกาหลีเหนือได้งานไอทีระยะไกลโดยผ่านการตรวจสอบมาตรฐาน ไทยถูกระบุเป็นหนึ่งในปลายทางจ้างงานข้ามพรมแดนยอดนิยมในเอเชียตะวันออกเฉียงใต้

กระทรวงยุติธรรมสหรัฐฯ ร่วมกับตำรวจฝรั่งเศสและอิตาลียึดโดเมน CFAKE.com และ SOCFAKE.com ที่เผยแพร่ภาพ Deepfake ลามกอนาจารของนักการเมือง คนดัง และนักกีฬาหญิงโดยไม่ได้รับความยินยอม ถือเป็นการบังคับใช้กฎหมาย TAKE IT DOWN Act ด้วยการยึดโดเมนเป็นครั้งแรก ตำรวจฝรั่งเศสจับกุมผู้ต้องสงสัยที่เมืองนีซพร้อมยึดคริปโทเคอร์เรนซี

ผู้ใช้ Instagram หลายรายถูกยึดบัญชีหลังแฮ็กเกอร์หลอกเครื่องมือ AI ของ Meta ให้เชื่อว่าเป็นเจ้าของตัวจริง วิธีการง่ายอย่างน่าตกใจ คือใช้รูปจากบัญชีเหยื่อแปลงเป็นวิดีโอ AI ผ่านการยืนยันด้วยเซลฟี ข้าม 2FA และใช้ VPN ปลอมพิกัด แล้วเปลี่ยนอีเมลเพื่อรีเซ็ตรหัสผ่าน บัญชีหายากที่ถูกยึดรวมถึงบัญชีเก่าของทีม Obama White House, นักวิจัย Jane Manchun Wong, @hey และ @korn ที่ร้ายคือเหยื่อกู้คืนไม่ได้เพราะระบบเป็นแชตบอต AI ล้วน ไม่มีเจ้าหน้าที่มนุษย์