สรุปสั้น

นักวิจัยจากบริษัท Vigilance Security เปิดเผยแคมเปญโจมตีขนาดใหญ่ที่ตั้งชื่อว่า “Dark Sourcery” ซึ่งจงใจ “วางยา” (poisoning) ผู้ช่วย AI ยอดนิยมอย่าง ChatGPT ของ OpenAI, Google Gemini และ Google AI Overview ด้วยข้อมูลบิดเบือนและลิงก์ฟิชชิง เพื่อให้ระบบเหล่านี้หยิบเนื้อหาอันตรายไปนำเสนอต่อผู้ใช้เสมือนเป็นข้อเท็จจริงหรือเว็บไซต์ที่น่าเชื่อถือ วิธีการคือผู้โจมตีเผยแพร่โพสต์ รีวิว ไฟล์ PDF และหน้าซัพพอร์ตปลอมที่ปรับแต่งมาอย่างดีจำนวนมหาศาลลงเว็บ แล้วอาศัยเทคนิค search engine optimization (SEO) ผลักดันให้ AI ดึงเนื้อหาเหล่านั้นมาใช้ในการสนทนา

นักวิจัยพบหน้าเว็บอันตรายหลายหมื่นหน้าที่บรรจุเบอร์โทรซัพพอร์ตปลอม อีเมลปลอม หน้าล็อกอินปลอม และข้อมูลอัปเดตซอฟต์แวร์หลอกลวง โดยแคมเปญนี้พุ่งเป้าไปที่แบรนด์ดังในหลายอุตสาหกรรมแล้วอย่างน้อย 374 องค์กร รวมถึงบริษัทระดับ Fortune 100 สายการบินใหญ่ ธนาคาร และบริษัทท่องเที่ยว ตัวอย่างแบรนด์ที่ได้รับผลกระทบ ได้แก่ Delta, Lufthansa, Qatar Airways, Chase, Bank of America, Airbnb และ TripAdvisor สิ่งที่ทำให้การโจมตีนี้อันตรายเป็นพิเศษคือผู้ใช้จำนวนมากมองว่า AI เป็นแหล่งข้อมูลที่ “รู้ทุกอย่าง” และมักเชื่อคำตอบโดยไม่ตรวจสอบ

รายละเอียดข่าว

เว็บไซต์ Dark Reading รายงานเมื่อวันที่ 23 กันยายน 2569 ว่า นักวิจัยจากบริษัท Vigilance Security ได้เผยแพร่งานวิจัยที่ระบุถึงแคมเปญ Dark Sourcery ซึ่งอาศัยหลักการวิศวกรรมสังคม (social engineering) กับตัว AI แทนที่จะเป็นกับมนุษย์โดยตรง นาย Ariel Simon รองประธานฝ่ายวิจัยของ Vigilance เขียนไว้ในรายงานว่า ผู้โจมตีกำลัง “ท่วมเว็บ” ด้วยโพสต์ รีวิว ไฟล์ PDF และหน้าซัพพอร์ตปลอมที่ปรับแต่งมาอย่างพิถีพิถัน เพื่อหลอกให้ AI นำเสนอเบอร์โทรศัพท์ อีเมล และหน้าล็อกอินที่เป็นของปลอมออกไป

นาย Simon อธิบายว่า ทีมวิจัยสงสัยว่าการใช้โดเมนที่มีความน่าเชื่อถือสูง เช่น เว็บของมหาวิทยาลัยหรือหน่วยงานรัฐ ผสมกับแหล่งความคิดเห็นสาธารณะอย่างโซเชียลมีเดีย ฟอรัม และรีวิวของผู้ใช้ ทำให้การวางยา AI ประสบความสำเร็จสูง เพราะโมเดลจำนวนมากจะดูที่แหล่งที่มาแล้วเชื่อถือเนื้อหามากขึ้นหากมาจากองค์กรที่ดูน่าเชื่อถือ จุดนี้เองที่ผู้โจมตีนำมาใช้ประโยชน์ในการทำให้ข้อมูลลวงถูกฝังเข้าไปในระบบตอบคำถามของ AI

วิธีการโจมตี

แม้การโจมตีนี้จะคล้ายกับ SEO poisoning ที่พยายามดันผลลัพธ์ให้ปรากฏสูงกว่าผลอื่น แต่มีความต่างในระดับพื้นฐาน นาย Simon ระบุว่า “ในกรณีนี้ ข้อมูลอันตรายกลายเป็นส่วนหนึ่งของคำตอบ AI เอง เบอร์ซัพพอร์ตปลอมถูกนำเสนอในฐานะคำแนะนำที่เป็นประโยชน์ โดยผู้ใช้อาจไม่เคยเปิดดูหน้าเว็บต้นทางที่ให้ข้อมูลนั้นเลยด้วยซ้ำ” นอกจากนี้ การโจมตียังต่างจาก prompt injection ที่มักใช้เจาะ AI chatbot ตรงที่ไม่ได้ป้อนคำสั่งหรือ prompt ที่ชัดเจนให้ AI ทำตาม จึงไม่ถูกระบบป้องกันของ AI สกัด เพราะข้อมูลบิดเบือนที่แสดงเป็นข้อเท็จจริงทำให้ AI ตอบผู้ใช้ด้วยข้อมูลเท็จโดยไม่ได้ทำตามคำสั่งใดของผู้โจมตีเลย เท่ากับ “ข้ามผ่านระบบป้องกันทั้งหมด”

ผลสำรวจของ Exploding Topics ที่เผยแพร่เมื่อเดือนสิงหาคมและถูกอ้างในรายงานพบว่า 91% ของผู้ใช้ AI chatbot ไม่ตรวจสอบคำตอบที่ได้รับ นาย Simon เขียนว่า “นั่นหมายความว่าหากผู้โจมตีควบคุม AI ได้ และเราเชื่อมันแบบไม่ลืมหูลืมตา พวกเขาก็แทบจะควบคุมเราได้เลย” ทั้งนี้ ทีมวิจัยพบผู้เสียหายบางรายที่ถูกหลอกให้มอบข้อมูลการชำระเงินหรือข้อมูลบัตรเครดิตผ่านเบอร์โทรปลอมที่ได้จากคำตอบของ chatbot และเมื่อนักวิจัยลองโทรไปยังเบอร์ปลอมเหล่านั้น ก็พบเจ้าหน้าที่ปลายสายที่เสนอจะ “ช่วยเลื่อนเที่ยวบิน” หรือ “ปลดล็อกบัญชีธนาคาร” ให้ พร้อมขอข้อมูลบัตรเครดิตเพื่อดำเนินการ

ผลกระทบ

การโจมตีนี้สร้างความเสี่ยงในหลายชั้น สำหรับผู้ใช้ทั่วไป ความเชื่อมั่นที่มีต่อ AI เกินพอดีทำให้ตกเป็นเหยื่อฟิชชิงได้ง่ายกว่าลิงก์น่าสงสัยแบบเดิม เพราะข้อมูลลวงมาในรูปคำตอบที่ดูเป็นกลางและน่าเชื่อถือ สำหรับแบรนด์ที่ถูกปลอมแปลงข้อมูล ผลกระทบคือความเสียหายต่อชื่อเสียงและความไว้วางใจของลูกค้า ขณะที่องค์กรที่นำ AI chatbot และ AI agent มาใช้ในกระบวนการทำงานก็เสี่ยงที่พนักงานจะได้รับคำตอบที่ถูกปนเปื้อนข้อมูลอันตราย นาย Simon ย้ำว่าผลกระทบที่แท้จริงกำลังเกิดขึ้นแล้วในขณะนี้ และยังยากที่จะประเมินขอบเขตทั้งหมดได้

คำแนะนำ

สำหรับผู้ใช้ แนวปฏิบัติสำคัญที่สุดคือตรวจสอบผลลัพธ์ที่ AI ให้มาเสมอ อย่าเชื่อ chatbot ราวกับว่าไม่มีทางผิดพลาด โดยเฉพาะเบอร์โทร อีเมล และ URL ที่เกี่ยวกับการซัพพอร์ต การกู้บัญชี การคืนเงิน การชำระเงิน และการดาวน์โหลดซอฟต์แวร์ ควรนำไปเทียบกับข้อมูลทางการของบริษัทก่อนใช้งาน สำหรับแบรนด์ ทีมความปลอดภัยควรให้ความสำคัญกับข้อร้องเรียนของลูกค้าเรื่องการถูกหลอก และเฝ้าติดตามคำตอบที่ AI ให้แก่ลูกค้าพร้อมแหล่งที่มาที่ถูกอ้างอิง ส่วนองค์กรที่ใช้ AI agent ควรตรวจสอบการทำงานของเอเจนต์แบบเรียลไทม์ ยืนยันทุกแหล่งข้อมูลและเนื้อหาที่เข้าสู่บริบทของโมเดล รวมถึงตรวจสอบรายละเอียดสำคัญอย่างเบอร์โทร ลิงก์ แพ็กเกจซอฟต์แวร์ และคำสั่งต่าง ๆ ก่อนนำไปใช้

แหล่งอ้างอิง