AI agents ในระบบจริงคืออะไร และทำไมจึงกลายเป็นความเสี่ยง AI ด้านความปลอดภัยรุ่นใหม่
AI agent ในบริบทองค์กรคือระบบปัญญาประดิษฐ์ที่ได้รับมอบหมายให้ลงมือทำงานอัตโนมัติแทนมนุษย์ ตั้งแต่เรียกใช้ API เข้าถึงฐานข้อมูล ไปจนถึงตัดสินใจเชิงธุรกิจในระบบโปรดักชัน โดยเชื่อมต่อเข้ากับโครงสร้างพื้นฐานดิจิทัลเดิมขององค์กรอย่างลึกซึ้ง และมักถือสิทธิ์เข้าถึงข้อมูลหรือคำสั่งที่มีความสำคัญสูง จึงสร้างความเสี่ยง AI ด้านความปลอดภัยรูปแบบใหม่ที่ต่างจากระบบไอทีดั้งเดิมเพราะพฤติกรรมของ agent เปลี่ยนแปลงได้ตามข้อมูล คำสั่ง และโมเดลที่ใช้
ความเปลี่ยนแปลงเชิงโครงสร้างคือ AI ทำให้เกิดการเปลี่ยนรุ่นของโลกไซเบอร์ถาวรและเปลี่ยนวิธีจัดประเภทภัยคุกคาม โดยกลุ่มแฮ็กเพื่อหวังผลทางสังคมถูกคาดว่าจะขึ้นมาเป็นตัวหลักในภูมิทัศน์ภัยไซเบอร์ยุคใหม่ เมื่อองค์กรเร่งนำ AI agents เข้าระบบจริง ความปลอดภัยมักถูกตามคิดทีหลัง ผลคือเกิดช่องโหว่ระบบ AI ใหม่ๆ เช่น เกตเวย์สำหรับควบคุม agent ที่ถูกโจมตีได้เอง และถูกบันทึกเป็นช่องโหว่สำคัญที่พบว่ามีการโจมตีใช้ประโยชน์จริงแล้ว ซึ่งช่องโหว่ดังกล่าวสามารถทำให้รันคำสั่งบนโฮสต์ผ่านเกตเวย์โดยไม่ต้องมีข้อมูลรับรองเมื่อผูกกับช่องโหว่ตัวที่สอง
ผ่านการยืนยันตัวตนแล้วก็ยังพังได้: การโจมตี AI agents และช่องโหว่เกตเวย์
องค์กรจำนวนมากคิดว่าเพิ่ม AI gateway แล้วจะปลอดภัย แต่ในความเป็นจริงรูปแบบการโจมตี AI agents กำลังเดินเร็วกว่ากลยุทธ์ป้องกัน ระบบเกตเวย์หนึ่งตัวถูกเปิดเผยช่องโหว่ความปลอดภัยถึงเจ็ดรายการภายในเดือนเดียว และช่องโหว่ LiteLLM ในเกตเวย์เดียวกันถูกเพิ่มเข้าไปในรายชื่อช่องโหว่ที่ถูกใช้โจมตีแล้ว หลังตรวจพบว่ามีผู้โจมตีใช้มันรันคำสั่งบนโฮสต์และเมื่อเชื่อมกับช่องโหว่อีกตัวก็ไม่ต้องใช้ข้อมูลรับรองใดๆ นี่คือสัญญาณชัดว่าชั้นควบคุมด่านหน้าไม่พออีกต่อไป
ปัญหาหนักกว่านั้นคือแม้ gateway จะตรวจสอบโทเคนผู้ใช้และรับรองสิทธิ์ถูกต้อง แต่หากระบบไม่รู้ว่า agent ตัวไหนกำลังทำงาน ใครเป็นคนมอบหมาย งานที่ต้องทำคืออะไร และใช้ข้อมูลรับรองใด การตัดสินใจด้านนโยบายก็มีบริบทไม่ครบ ผลคือ AI agents สามารถผ่านการยืนยันตัวตนแต่แอบลื่นไหลออกนอกขอบเขตงาน ค่อยๆ drift ไปทำสิ่งที่ไม่ควร ทำให้ความลับหลุด หรือตกเป็นเหยื่อการโจมตีอย่าง memory poisoning จากข้อมูลหรือเครื่องมือที่ไม่ไว้วางใจได้ แม้ทุกคำขอจะ “ถูกต้องตามกติกา” ในมุมมองของเกตเวย์ก็ตาม
จาก script kiddies สู่แฮ็กเกอร์ระดับรัฐ: AI ทำให้ผู้โจมตีหน้าใหม่อันตรายขึ้นแค่ไหน
AI ไม่ได้ทำให้ช่องโหว่ระบบ AI เพิ่มขึ้นอย่างเดียว แต่ยังเปลี่ยนสมการฝั่งผู้โจมตีแบบหน้ามือเป็นหลังมือ หน่วยวิจัยภัยไซเบอร์รายหนึ่งเรียก AI ว่าเป็นตัวคูณกำลังที่กำลังเปลี่ยนวิธีการทำงานของความปลอดภัยไซเบอร์ กลุ่มที่น่ากังวลที่สุดกลับไม่ใช่รัฐหรืออาชญากรทุนหนา แต่คือกลุ่มผู้เล่นทักษะต่ำอย่าง script kiddies และ hacktivists ที่เดิมต้องพึ่งพาเครื่องมือของคนอื่นและแทบเข้าใจโค้ดไม่ลึก
วันนี้ AI วิเคราะห์ รีเวิร์สเอนจิเนียร์ ไปจนถึงสร้างเครื่องมือให้คนเหล่านี้ได้ หากราวกั้นของแพลตฟอร์มไม่แน่น ตามคำอธิบายของผู้บริหารด้านข่าวกรองภัยคุกคามของหน่วยวิจัยเจ้าเดิม กลุ่มผู้ก่อกวนเชิงสังคมได้รับการเสริมด้วยเครื่องมือและความซับซ้อนในระดับเดียวกับกลุ่มที่รัฐหนุนหลัง และภูมิทัศน์นี้จะดึงเอาผู้เล่นทักษะต่ำให้เข้ามาเพิ่มขึ้นอย่างต่อเนื่อง คนที่แค่ “ใช้เครื่องมือเป็น” วันนี้ถูกมอบเครื่องมือทรงพลังแบบที่ไม่เคยเห็นมาก่อน เมื่อรวมเข้ากับตัวอย่างการโจมตีแบบ agentic ransomware ที่ทุกขั้นตอนดำเนินการด้วย AI เอง การโจมตี AI agents จึงไม่ใช่เรื่องไกลตัวองค์กรอีกต่อไป
การป้องกัน enterprise AI ต้องเปลี่ยน: จากเกตเวย์เดี่ยวสู่โซ่ควบคุมหลายชั้น
การป้องกัน enterprise AI ด้วยแนวคิดไซเบอร์ดั้งเดิมอย่างไฟร์วอลล์และการตรวจโทเคนเพียงอย่างเดียวใช้ไม่ได้กับ AI agents อีกแล้ว ความปลอดภัยของ agent ทำงานแบบโซ่พึ่งพากัน แต่ละชั้นต้องอาศัยบริบทจากชั้นก่อนหน้า แนวทางที่เสนอคือ deployment แบบ gated dependencies แบ่งเป็นหกด่าน ได้แก่ 1 การมีทะเบียน agent และเจ้าของที่รับผิดชอบชัดเจน 2 การระบุตัวตน agent แยกจากมนุษย์และเก็บบริบทการมอบหมายงาน 3 การออกข้อมูลรับรองแบบจำกัดงานและมีอายุสั้น 4 การบันทึกเทเลเมทรีที่ตามรอยงานได้ตั้งแต่ต้นจนปลายทาง 5 การบังคับใช้นโยบายระหว่างรันที่อิงทั้งตัว agent เจ้าของ งาน และการกระทำ ไม่ใช่แค่โทเคน 6 การมีฐานพฤติกรรมและ kill path ที่หยุดสิทธิ์ของ agent ได้ทุกที่ในระบบ
ด่านเหล่านี้ต้องเสริมด้วยกรอบความคิด zero trust ที่ให้สิทธิ์เท่าที่จำเป็น ลดการเคลื่อนที่ข้ามระบบเมื่อถูกเจาะ พร้อมกับยกระดับการอบรมพนักงานเรื่องการใช้ AI อย่างปลอดภัยและเฝ้าระวัง shadow AI การใช้งาน AI ที่องค์กรไม่อนุมัติซึ่งเสี่ยงทั้งด้านความปลอดภัยและกฎระเบียบ การป้องกัน enterprise AI ที่ดีจึงไม่ใช่การซื้อเครื่องมือชิ้นเดียว แต่คือการผูกเครื่องมือ นโยบาย และการกำกับดูแลให้ทำงานสอดประสานกัน
ลงมือภายใน 30 วัน: ขั้นตอนจริงที่องค์กรควรเริ่มตอนนี้
หากองค์กรคุณมี AI agents ในโปรดักชันแล้ว การรอให้ “พร้อมกว่านี้” คือความเสี่ยงตรงๆ สิ่งที่ควรทำภายใน 30 วันไม่ใช่โครงการใหญ่ แต่คือการสร้างพื้นฐานที่หายไป เริ่มจากเลือก agents ในโปรดักชัน 10 ตัว ระบุเจ้าของ วัตถุประสงค์ เครื่องมือที่อนุมัติ และแหล่งที่มาของข้อมูลรับรองสำหรับแต่ละตัว คุณจะได้ต้นฉบับของทะเบียน agent และมุมมองใหม่เกี่ยวกับธรรมาภิบาล AI ภายในองค์กร
ขั้นต่อมาคือทดสอบว่า IAM และระบบล็อกสามารถแยกแยะตัวตนของ agent ออกจากมนุษย์หรือบริการที่มอบหมายงานให้ได้หรือไม่ หากแยกไม่ได้ การติดตั้ง gateway ก็แทบมอง agent ไม่เห็น จากนั้นลองย้อนรอยงานที่ agent ตัวหนึ่งทำจนครบทั้งสาย ตั้งแต่เริ่มรับงานจนถึงผลกระทบปลายทาง จุดใดที่สายขาดคือจุดที่การออกแบบการป้องกัน enterprise AI ยังไม่สมบูรณ์ เสริมด้วยการใช้สถาปัตยกรรม zero trust การอบรมพนักงาน การควบคุมการใช้ AI ภายใน และการร่วมมือกับผู้เชี่ยวชาญด้าน AI และความปลอดภัย เพื่อให้การตอบโต้ภัยคุกคาม AI เป็นวาระระดับบอร์ดไม่ใช่แค่เรื่องของทีมไอที
