สรุปสั้น

สหรัฐอาหรับเอมิเรตส์ (UAE) วางแผนย้ายการดำเนินงาน บริการ และภาคส่วนของรัฐบาลกลางครึ่งหนึ่งไปให้เอเจนต์ AI อัตโนมัติทำภายใน 2 ปีข้างหน้า ทำให้เกิดคำถามว่ารัฐจะรักษาความปลอดภัยและเฝ้าระวังเอเจนต์เหล่านั้นอย่างไร นาย Omar Sultan Al Olama รัฐมนตรีแห่งรัฐด้านปัญญาประดิษฐ์ระบุว่า UAE ใช้ “control tower agent” คอยกำกับ ตรวจสอบโดยทั้งเอเจนต์และมนุษย์อย่างต่อเนื่อง และถือว่าการเฝ้าระวังกับการสร้างความไว้วางใจเป็นหัวใจของโครงการ เพื่อไม่ให้ระบบสร้างความเสียหายต่อประชาชน

โครงการนี้เกิดในประเทศที่ใช้ AI สูงที่สุดในโลก โดยประชากรกว่า 73% ใช้ AI ในไตรมาสที่สองของปี 2569 เทียบกับค่าเฉลี่ยโลก 19% ตามรายงานของบริษัท Microsoft แต่ UAE ก็เผชิญการโจมตีไซเบอร์ที่เพิ่มขึ้นมากในช่วง 2 ปีที่ผ่านมา ซึ่งหลายครั้งขับเคลื่อนด้วยเอเจนต์ AI ท่ามกลางความตึงเครียดทางการเมืองและความขัดแย้งทางทหารในภูมิภาค ขณะที่ภาคเอกชนเองก็ยังตามไม่ทันเรื่องการกำกับดูแลเอเจนต์ รายงานล่าสุดพบว่าเกือบหนึ่งในสามของทีมความปลอดภัยเคยเจอเอเจนต์ที่ไม่มีใครลงทะเบียนไว้รันอยู่ในระบบจริง

รายละเอียดข่าว

เว็บไซต์ Dark Reading รายงานเมื่อวันที่ 22 ตุลาคม 2569 ว่านาย Al Olama กล่าวต่อผู้เข้าร่วมการประชุม Annual Meeting of Global Future Leaders ของ World Economic Forum (WEF) ที่ดูไบเมื่อวันที่ 14 ตุลาคมว่า “มีการกำกับดูแลที่ทำให้เราเข้าใจว่าเอเจนต์กำลังทำอะไร ลงมือทำบางอย่างอย่างไร และมีการตรวจสอบอย่างต่อเนื่อง ทั้งการตรวจสอบโดยเอเจนต์และการตรวจสอบโดยมนุษย์ เพื่อไม่ให้ระบบเสียการควบคุมไม่ว่ารูปแบบใด”

คณะรัฐมนตรี UAE เปิดตัวกรอบการทำงานนี้ในเดือนเมษายน โดยตั้งเป้าเปลี่ยนภาคส่วน บริการ และการดำเนินงานของรัฐบาลกลาง 50% ไปสู่ agentic AI ภายใน 2 ปี เพื่อออกแบบนโยบายและกระบวนการของรัฐใหม่ให้รองรับความสามารถของ AI สร้าง “ระบบอัจฉริยะ” ที่ลงมือเชิงรุกเพื่อลดต้นทุน และให้บริการประชาชนได้มีประสิทธิภาพขึ้น

โครงการ Agentic AI ของรัฐบาลจะทยอยดำเนินการหลายระยะในกระทรวงและหน่วยงานรัฐบาลกลาง เมื่อวันที่ 9 ตุลาคม สภารัฐมนตรีด้านปัญญาประดิษฐ์และการพัฒนาได้ทบทวนระยะแรก ซึ่งเน้นการสร้างขีดความสามารถของรัฐ การสำรวจและประเมินบริการ การดำเนินงาน และงานต่าง ๆ ของรัฐ และการจัดลำดับความสำคัญ ระยะที่สองจะสร้างระบบนิเวศทางเทคนิคระดับชาติสำหรับ agentic AI ภายใต้ชื่อ “FedAI” ให้หน่วยงานรัฐพัฒนาและดำเนินบริการแบบเอเจนต์ได้เอง พร้อมจัดการแข่งขันภายในอย่างแฮ็กกาธอนเพื่อพัฒนาแอปพลิเคชัน รวมถึงฝึกอบรมข้าราชการด้านการพัฒนา agentic AI และ generative AI

ชีค Mansour bin Zayed Al Nahyan รองประธานาธิบดีและรองนายกรัฐมนตรี ระบุว่า “เรากำลังสร้างระบบรัฐบาลที่ฉลาดขึ้น ยืดหยุ่นขึ้น และเชิงรุกมากขึ้น … สิ่งนี้ต้องเกิดขึ้นบนโครงสร้างพื้นฐานดิจิทัลที่ปลอดภัยและเชื่อถือได้”

ความเสี่ยงและแนวทางกำกับดูแล

นางสาว Evin McMullen ผู้ร่วมก่อตั้งและซีอีโอของบริษัท AmanTrue สตาร์ตอัปในดูไบที่พัฒนาชั้นควบคุมการกำกับดูแลสำหรับ agentic AI ระบุว่าความปลอดภัยและความไว้วางใจหมายถึงการเฝ้าระวังและตรวจสอบกิจกรรมของเอเจนต์ “สถาบันใดก็ตาม โดยเฉพาะรัฐบาลที่ใช้เอเจนต์ AI ในวงกว้างกับงานภายในหรือบริการประชาชน ควรต้องแสดงได้ว่าใครเป็นผู้ลงมือเมื่อเอเจนต์ทำอะไรสักอย่าง เอเจนต์ตัวไหน ใครอนุญาต ทั้งตัวบุคคลและหน่วยงานที่สังกัด และขอบเขตหรือนิยามของงานคืออะไร”

เธอเสริมว่าเมื่อหลายหน่วยงานทำงานผ่านเอเจนต์บนข้อมูลและบริการชุดเดียวกัน การกำกับดูแลยิ่งสำคัญ “สถาบันต้องแสดงได้ว่าเอเจนต์ตัวใดเข้าถึงข้อมูลแต่ละรายการ ในอำนาจของใคร ภายใต้ขอบเขตใด และได้ผลลัพธ์อะไร”

ปัญหานี้ไม่ใช่เรื่องเฉพาะของรัฐ เอเจนต์ AI มักมีอายุสั้น บดบังได้ว่ากำลังทำงานในนามของใคร และบางครั้งก็ทำเกินคำสั่ง จึงต้องติดตามอย่างใกล้ชิด แต่รายงานของบริษัท ServiceNow ที่เผยแพร่เมื่อวันที่ 20 ตุลาคมพบว่า 29% ของทีมความปลอดภัยเคยพบเอเจนต์ AI ที่ไม่รู้จักรันอยู่ใน production โดยไม่เคยลงทะเบียน และ 9 ใน 10 องค์กรเคยเกิดเหตุความปลอดภัยที่มีสาเหตุจาก agentic AI ในปีที่ผ่านมา

นาย Al Olama สรุปว่า “สกุลเงินเดียวของรัฐบาลคือความไว้วางใจ” และ “ถ้ารัฐบาลตัดสินใจผิดเพียงครั้งเดียวก็เสียสกุลเงินนั้นไปมาก AI ก็เช่นกัน เมื่อไรที่เกิดเหตุการณ์ที่ AI หลุดออกจากแซนด์บ็อกซ์ไปทำร้ายผู้คน ผมคิดว่าจะต้องใช้เวลานานมากกว่าจะเรียกความไว้วางใจกลับคืนมา”

ผลกระทบ

การมอบงานบริการประชาชนครึ่งหนึ่งให้เอเจนต์ AI ขยายพื้นผิวการโจมตีของรัฐอย่างมาก เอเจนต์ที่เข้าถึงข้อมูลประชาชนและสั่งการระบบได้เองกลายเป็นเป้าหมายใหม่ของ prompt injection การยึดตัวตนของเอเจนต์ และการใช้สิทธิ์เกินขอบเขต ซึ่งเหตุการณ์ล่าสุดก็แสดงให้เห็นแล้ว ทั้งเอเจนต์ภายในของ OpenAI ที่ปิดระบบเฝ้าระวังของตัวเอง (2026/10/221 ) และผู้โจมตีที่ใช้เอเจนต์ AI ไล่ยึด tenant คลาวด์ภายในไม่กี่ชั่วโมง (2026/10/238 ) UAE ซึ่งเผชิญการโจมตีไซเบอร์ที่ซับซ้อนขึ้นอยู่แล้ว (2026/09/220 ) จึงต้องรับความเสี่ยงทั้งสองด้านพร้อมกัน

ในอีกด้าน แนวทางที่ UAE ประกาศ ทั้ง control tower agent การตรวจสอบสองชั้น และการทำระบบนิเวศกลาง FedAI ทำให้กรณีนี้เป็นสนามทดสอบขนาดใหญ่ที่ภาครัฐประเทศอื่นจะจับตาว่าการกำกับดูแลเอเจนต์ในระดับประเทศทำได้จริงแค่ไหน อย่างไรก็ตาม รายละเอียดทางเทคนิคของกลไกเหล่านี้ยังไม่ถูกเปิดเผย สิ่งที่มีตอนนี้เป็นคำแถลงระดับนโยบายเป็นหลัก

คำแนะนำ

  • ทำทะเบียนเอเจนต์ AI ทุกตัวในองค์กร ระบุเจ้าของ ตัวตนที่ใช้รัน ข้อมูลที่เข้าถึงได้ และงานที่อนุญาต และสแกนหาเอเจนต์ที่ไม่ได้ลงทะเบียนเป็นระยะ
  • ให้สิทธิ์เอเจนต์แบบจำกัดตามงานและมีอายุ (task-scoped, time-bound) แทนการใช้สิทธิ์ของผู้สร้าง
  • บังคับให้มนุษย์อนุมัติการกระทำที่มีผลสำคัญ เช่น การแก้ข้อมูลประชาชน การโอนเงิน หรือการเปลี่ยนสิทธิ์
  • เก็บล็อกที่ตอบได้ว่าเอเจนต์ตัวใดทำอะไร ในอำนาจของใคร กับข้อมูลรายการใด โดยไม่บันทึกข้อมูลอ่อนไหวเกินจำเป็น
  • เตรียมกลไกหยุดและเพิกถอนสิทธิ์ของเอเจนต์ได้ทันทีเมื่อพฤติกรรมเบี่ยงจากที่ตั้งใจ และซ้อมขั้นตอนนี้ก่อนนำเอเจนต์ขึ้นใช้กับบริการจริง

แหล่งอ้างอิง