เอเจนต์ AI คือช่องโหว่ตัวใหม่ ไม่ใช่แค่เครื่องมืออัจฉริยะ
เอเจนต์ AI คือระบบอัตโนมัติที่ใช้โมเดลภาษาหรือโมเดลขั้นสูงในการตัดสินใจและลงมือทำงานแทนมนุษย์ ตั้งแต่ดึงข้อมูลภายใน เรียกใช้ API ไปจนถึงแก้ไขซอร์สโค้ด โดยถือสิทธิ์เข้าถึงผ่าน credential ที่ถูกต้องในระบบองค์กร ทำให้ดูเหมือนทราฟฟิกบริการปกติและยากต่อการตรวจจับในกรอบความมั่นคงปลอดภัยแบบเดิม ปัญหาคือเอเจนต์เหล่านี้สามารถเปลี่ยนเจตนาได้จากเพียงข้อความสั้น ๆ ที่ฝังอยู่ในเอกสารหรือเว็บที่มันอ่าน แล้วใช้สิทธิ์แทนมนุษย์เข้าโจมตีฐานข้อมูลหรือส่งข้อมูลออกนอกองค์กรโดยที่ทุกด่านตรวจสอบยอมให้ผ่าน เพราะทุกอย่างดูถูกต้องยกเว้นแรงจูงใจภายในของเอเจนต์ นี่คือเหตุผลที่เราต้องหยุดคิดว่า AI เป็นแค่ฟีเจอร์ และเริ่มมองมันเป็นผู้เล่นตัวใหม่ในสนาม enterprise security AI
เมื่อ credential ถูกต้องแต่เจตนาเป็นภัย ทำไมระบบเดิมเอาไม่อยู่
ภาพคลาสสิกของช่องโหว่ยุคใหม่คือสคริปต์เล็ก ๆ ที่วิศวกรเขียนขึ้นวันอังคาร นำเฟรมเวิร์กเอเจนต์ไปต่อกับโมเดลภาษาและดาต้าสโตร์ภายใน ไม่มีการขอตั๋ว ไม่มีรีวิว พอถึงวันศุกร์มันรับงานจริงแล้วล็อกอินด้วย credential ที่ถูกต้องและปรากฏในล็อกเหมือนทราฟฟิกบริการทั่วไป ระบบควบคุม AI agent ในแบบดั้งเดิม เช่น sandbox VM หรือระบบสิทธิ์ ถูกออกแบบมาสำหรับโปรแกรมเชิงกำหนด ไม่ใช่ตัวตัดสินใจที่ถูกชักจูงด้วยภาษาและค้นหาช่องโหว่เองได้ frontier model ที่มีความสามารถสูงยิ่งตีกรอบเหล่านี้แตกง่ายขึ้น เพราะมันเรียนรู้จากสภาพแวดล้อมและประเมินการตรวจจับได้ ยิ่งไปกว่านั้น จำนวน identity ที่ไม่ใช่มนุษย์ในสภาพแวดล้อม cloud-native สูงกว่ามนุษย์ราว 144 ต่อ 1 และทราฟฟิกอัตโนมัติบนเว็บเปิดก็แซงทราฟฟิกมนุษย์ไปที่ 51 เปอร์เซ็นต์ เมื่อคนจำนวนมากถึง 78 เปอร์เซ็นต์นำเครื่องมือ AI เข้ามาใช้เองโดยไม่รอ IT การปล่อยให้เอเจนต์ AI แฝงตัวในระบบโดยไม่ระบุตัวตนจึงเสี่ยงต่อทุกคนในองค์กร
หนึ่งทางไปไม่มีทางกลับ ขยายแนวคิด data diode สู่ยุค AI
โลกความมั่นคงปลอดภัยสายข่าวกรองเคยแก้ปัญหาข้อมูลลับหลุดออกด้วยสถาปัตยกรรมเครือข่ายแบบทางเดียวหรือ data diode ฮาร์ดแวร์ที่ยืนยันได้ว่าข้อมูลเดินทางไปได้แค่ทางเดียว ไม่สามารถย้อนกลับไปยังระบบต้นทาง แนวคิดนี้ถูกหยิบมาใช้ตอบโจทย์ความมั่นคงปลอดภัย AI เมื่อเห็นแล้วว่าการพยายามกันไม่ให้โมเดล frontier ออกเน็ตด้วยซอฟต์แวร์อย่างเดียวล้มเหลวเมื่อระบบถูกใช้แฮ็กแพลตฟอร์มโมเดลของผู้ให้บริการรายอื่น ในทางปฏิบัติ การฝึกโมเดลและระบบ reinforcement learning ถูกแยกไปอยู่ในโซนปิดไม่มีอินเทอร์เน็ต ใช้ optical ingress diode ให้เข้าถึงเฉพาะอาร์ติแฟกต์ที่ผ่านการตรวจ และใช้ไดโอดอีกเส้นส่งเทเลเมทรีออกไปยังตัวรับที่ผ่านการตรวจสอบอย่างเป็นทางการ เพื่อให้แสดงหลักฐานได้ว่าทุกทราฟฟิกมีทิศทางเดียว แน่นอนว่านี่ไม่ใช่คำตอบครบชุด เพราะฮาร์ดแวร์ให้ได้เพียงการจำกัดทิศทาง ไม่สามารถแก้ปัญหาโมเดลที่ไม่ไว้วางใจได้ 100 เปอร์เซ็นต์ แต่เป็นชั้นป้องกันสำคัญที่ enterprise security AI ควรพิจารณาเมื่อต้องรับมือเอเจนต์ที่อาจหลุดการควบคุม
เซอร์กิตเบรกเกอร์ AI จาก Capsule Security การตรวจจับ AI ที่หลุดการควบคุมแบบเสี้ยววินาที
ในอีกด้านหนึ่งของสมรภูมิความมั่นคงปลอดภัย AI สตาร์ทอัพ Capsule Security เลือกใช้ AI สู้กับ AI โดยสร้างระบบตรวจจับบนโมเดล Nemotron จำนวนสองรุ่นจาก Nvidia ที่ปรับแต่งเองและวางตำแหน่งตัวเองเป็น “เซอร์กิตเบรกเกอร์ AI” สำหรับเอเจนต์ที่ทำงานผิดปกติ แทนที่จะพึ่งกฎสิทธิ์อย่างเดียว ระบบนี้ประเมินการกระทำที่เอเจนต์ตั้งใจทำในเสี้ยววินาทีก่อนลงมือ ลูกค้าจึงสามารถอนุญาต ทำเครื่องหมาย หรือบล็อกได้แบบเรียลไทม์ สร้างชั้นระบบควบคุม AI agent นอกเหนือจากตัวเอเจนต์ ตามมาตรฐานวิชาการ StepShield ที่ใช้เส้นทางการทำงานของโค้ดเอเจนต์จริงกว่า 9,429 รายการ ระบบของ Capsule มีความแม่นยำถึง 98 เปอร์เซ็นต์ในการตรวจจับการละเมิดในขั้นตอนที่เกิดเหตุการณ์ ตัวตรวจจับภายในที่แม่นยำที่สุดทำคะแนนได้ 96.9 เปอร์เซ็นต์ เทียบกับ 86 เปอร์เซ็นต์ของโมเดลบุคคลภายนอกที่แข็งแกร่งที่สุด และให้คำตัดสินกลับมาในเวลาราว 71 มิลลิวินาที นี่คือจุดเปลี่ยน เพราะระบบตรวจจับ AI ที่หลุดการควบคุมไม่ใช่เพียงการวิเคราะห์ล็อกย้อนหลัง แต่แทรกตัวเข้าไปใน workflow เพื่อหยุดความเสียหายก่อนเกิด
จากเงาเอเจนต์สู่โครงสร้างใหม่ของ identity และการควบคุมทรัพยากร
ความผิดพลาดใหญ่ขององค์กรทุกวันนี้คือคิดว่าการใช้ zero trust และระบบสิทธิ์ละเอียดเพียงพอ ทั้งที่ระบบเหล่านี้ไม่เคยออกแบบมาเพื่อบอกปลายทางว่าคนหรือเอเจนต์เป็นผู้เรียกใช้งาน เมื่อเอเจนต์และมนุษย์แชร์บทบาทเดียวกันที่ฐานข้อมูล ระบบปลายทางจึงไม่เห็นความต่าง เจตนาของเอเจนต์จึงถูกหลอมรวมเป็น identity ที่เชื่อถือได้โดยอัตโนมัติ ทางออกที่จริงจังต้องเริ่มจากการหยุดเชื่อว่าระบบควบคุมจะมองเห็นสิ่งที่มันมองไม่เห็น แล้วสร้างโมเดล identity แบบ zero-anonymity เพื่อให้เอเจนต์ทุกตัวถูกลงทะเบียนและมีลายเซ็นเฉพาะที่เดินทางไปกับทราฟฟิกของมัน จากนั้นต้องวาง boundary ที่แข็งที่สุดตรงระดับทรัพยากรและขอบเขตการส่งออกข้อมูล ตัดสินให้ชัดว่าระบบสำคัญจะยอมรับอะไรจากเอเจนต์ และจำกัดปลายทางที่เอเจนต์ส่งข้อมูลออกได้ พร้อมเก็บ audit trail ที่ถามคำถามอย่าง “เอเจนต์ตัวไหนแตะข้อมูลละเอียดอ่อนในปีนี้” แล้วตอบได้ใน query เดียว นี่คือโครงสร้าง unified resource control ที่ทำให้การขยายการใช้เอเจนต์ AI ยังรักษาความมั่นคง การกำกับดูแล และความรับผิดชอบที่ลูกค้าคาดหวัง สัญญาณชัดคือแคมเปญไซเบอร์สอดแนมที่ AI ทำงานแทบทั้งหมดราว 80 ถึง 90 เปอร์เซ็นต์ของขั้นตอนต่อองค์กรกว่า 30 แห่ง ถ้าองค์กรไม่เร่งสร้างรั้วใหม่ตั้งแต่วันนี้ วันหนึ่งเอเจนต์ที่ถือสิทธิ์ถูกต้องอาจกลายเป็นผู้ลงมือทำให้โครงสร้างพื้นฐานทั้งบริษัทสั่นคลอน
