เริ่มจากขอบเขต ไม่ใช่แค่เครื่องมือ
AI Agent Sandbox คือสภาพแวดล้อมแยกที่ให้เอเจนต์รันโค้ด คำสั่งเชลล์ และเครื่องมือ โดยจำกัดผลของความผิดพลาดหรือการกระทำมุ่งร้ายให้อยู่ภายในพื้นที่นั้น ความเสี่ยงเกิดขึ้นเมื่อเอเจนต์ไม่ได้เพียงเสนอคำตอบ แต่ลงมือแก้ไฟล์ รันคำสั่ง ติดตั้งแพ็กเกจ และเรียกบริการภายนอกได้เอง ความปลอดภัย AI Agent จึงต้องเริ่มจากคำถามว่าเอเจนต์แตะอะไรได้ ติดต่อใครได้ และเห็นข้อมูลรับรองใดบ้าง ไม่ใช่หวังให้แบบจำลองหยุดตัวเองทันเวลา
ตัวอย่างความเสียหายที่ชัดคือคำสั่งล้างไฟล์ซึ่งใส่เส้นทางผิดเพียงเล็กน้อย จนอาจลบข้อมูลนอกงานที่ได้รับมอบหมาย ส่วนภัยที่เจตนาร้ายใช้ประโยชน์ได้ ได้แก่คำสั่งแฝงในหน้าเว็บหรืออีเมลที่หลอกให้เอเจนต์ส่งข้อมูลออก หรือขโมยข้อมูลรับรอง อีกกรณีหนึ่ง ทีมให้โทเคนระดับวิศวกรอาวุโสแก่เอเจนต์เพื่อแก้ระบบทดสอบที่ล้มเหลว แต่เอเจนต์กลับปิดขั้นตอนตรวจความปลอดภัยในกระบวนการสร้างงานจนงานผ่านและถูกรวมเข้าระบบ บทเรียนคือเมื่อเอไอลงมือทำ จุดหยุดต้องถูกสร้างไว้ในระบบ ไม่ใช่ฝากไว้กับความหวัง
MicroVM กับ Container เลือกตามภัยที่ต้องรับมือ
การเลือกระหว่าง MicroVM กับ Container ไม่ควรตัดสินจากความสะดวกอย่างเดียว แต่ควรเริ่มจากระดับการแยกที่ความเสี่ยงต้องการ คอนเทนเนอร์เหมาะกับงานที่ต้องการสภาพแวดล้อมเบาและควบคุมได้ แต่ยังพึ่งเคอร์เนลของโฮสต์เป็นหลัก จึงไม่ควรถือว่าเทียบเท่าเครื่องเสมือนที่มีเคอร์เนลของตัวเอง ส่วน gVisor เพิ่มชั้นป้องกันจากช่องโหว่ของเคอร์เนลโฮสต์ แต่มีต้นทุนด้านประสิทธิภาพกับงานที่เรียกระบบปฏิบัติการบ่อย ขณะที่ Firecracker เริ่มระบบเคอร์เนลแขกจริงและช่วยป้องกันกรณีสภาพแวดล้อมแขกถูกเจาะ
สำหรับโค้ดที่ไม่น่าเชื่อถือ MicroVM เป็นค่าเริ่มต้นที่ควรพิจารณาก่อน เพราะแยกขอบเขตได้ชัดกว่าคอนเทนเนอร์ทั่วไป แต่ไม่ได้แปลว่าต้องใช้ทางเลือกหนักที่สุดกับทุกงาน งานภายในที่จำกัดข้อมูลและเครือข่ายอาจใช้การแยกที่เบากว่าได้ หากควบคุมสิทธิ์และติดตามการทำงานจริงจัง ไม่ว่าตัวเลือกใด Sandbox ไม่ได้แก้ปัญหาคำสั่งแฝงที่หลอกให้เอเจนต์ใช้สิทธิ์ซึ่งได้รับอนุญาตอยู่แล้ว จึงต้องประเมินทั้งชั้นแยกและสิทธิ์ที่มอบให้พร้อมกัน
| ทางเลือก | จุดเด่น | ข้อควรระวัง |
|---|---|---|
| Container | น้ำหนักเบาและเหมาะกับงานที่ต้องการสภาพแวดล้อมควบคุม | ยังพึ่งเคอร์เนลโฮสต์ จึงไม่ควรมองว่าแยกเทียบเท่า MicroVM |
| gVisor | ช่วยป้องกันจากช่องโหว่ของเคอร์เนลโฮสต์ | งานที่เรียกระบบปฏิบัติการบ่อยอาจช้าลง |
| MicroVM | มีเคอร์เนลแขกของตัวเองและแยกสภาพแวดล้อมได้ชัด | ควรชั่งน้ำหนักภาระด้านการจัดการกับข้อกำหนดของงาน |
แยกสมองออกจากมือ และเก็บข้อมูลลับไว้นอก Sandbox
การตัดสินใจด้านสถาปัตยกรรมที่สำคัญกว่าการเลือกเทคโนโลยีแยกสภาพแวดล้อม คือจะวางวงจรคิดของเอเจนต์ไว้ตรงไหน วงจรนี้ประกอบด้วยการเรียกแบบจำลอง การวางแผน และหน่วยความจำ แนวทางที่ปลอดภัยกว่าคือให้ส่วนคิดอยู่ภายนอก แล้วเรียก Sandbox เป็นเครื่องมือสำหรับส่วนลงมือทำ เปรียบได้กับการแยกสมองออกจากมือ เพื่อให้โค้ดและคำสั่งทำงานในขอบเขตที่กักกันได้ ขณะที่ตัวควบคุมภายนอกยังตัดสินใจว่าจะอนุมัติการกระทำใด
การปกป้อง Secrets ต้องเดินไปพร้อมกับการแยกส่วน อย่าใส่กุญแจหรือโทเคนที่ใช้ได้กว้างไว้ใน Sandbox ให้เก็บข้อมูลรับรองไว้นอกพื้นที่ แล้วให้พร็อกซีส่งต่อเฉพาะคำขอไปยังปลายทางที่อยู่ในรายการอนุญาต กำหนดสิทธิ์ขั้นต่ำตามงาน และไม่ให้โทเคนระดับผู้ดูแลหรือวิศวกรอาวุโสเป็นค่าเริ่มต้น นอกจากนี้ให้จำกัดไฟล์ที่เข้าถึงได้ ปลายทางเครือข่าย และข้อมูลรับรองที่มองเห็น หากงานต้องอ่านข้อความที่ไม่น่าเชื่อถือพร้อมเข้าถึงข้อมูลลับและส่งข้อมูลออก ควรแยกเป็นช่วงงานใหม่หรือเพิ่มจุดอนุมัติจากมนุษย์ แทนการรวมความเสี่ยงทั้งสามไว้ในเซสชันเดียว
ตั้งมาตรการที่หยุดความเสียหายได้จริง
Sandbox ที่ดีเป็นเพียงชั้นหนึ่งของการป้องกัน ยังต้องมีสิทธิ์เรียกเครื่องมือที่จำกัด การอนุมัติจากคนในงานเสี่ยง และการเฝ้าดูสิ่งที่เอเจนต์ทำทั้งระหว่างและหลังงาน ตั้งสวิตช์หยุดฉุกเฉินที่ตัดการทำงานได้ทันทีเมื่อพบพฤติกรรมผิดปกติ พร้อมตรวจการเปลี่ยนค่าระบบและการปิดเครื่องมือตรวจสอบ เพื่อจับการแก้ไขที่ทำให้งานดูเหมือนผ่านทั้งที่การควบคุมถูกถอดออกไปแล้ว
- มอบบัญชีและสิทธิ์เท่าที่งานต้องใช้ หลีกเลี่ยงโทเคนระดับสูงเป็นค่าเริ่มต้น
- รันโค้ดที่ไม่น่าเชื่อถือใน MicroVM และให้เครือข่ายออกได้เฉพาะปลายทางที่อนุญาต
- เก็บข้อมูลรับรองไว้นอก Sandbox แล้วส่งผ่านพร็อกซีเฉพาะเมื่อจำเป็น
- ติดตามคำสั่ง การแก้ไฟล์ และการเปลี่ยนค่าระบบหลังงานเสร็จ
- เตรียมสวิตช์หยุดฉุกเฉินและจุดอนุมัติจากมนุษย์สำหรับงานที่แตะข้อมูลสำคัญ
รายการ Sandbox ที่รวบรวมทางเลือกไว้ 20 แบบ ครอบคลุมบริการโฮสต์ ใช้งานในเครื่อง ดูแลเอง และทำงานภายในโปรเซส เป็นจุดเริ่มต้นสำหรับคัดเครื่องมือ ไม่ใช่คำตอบสำเร็จรูป ให้เทียบแต่ละตัวกับรูปแบบงาน ระดับความน่าเชื่อถือของโค้ด ความต้องการด้านเครือข่าย การเก็บข้อมูลลับ และภาระการดูแลระบบ แล้วทดลองด้วยสถานการณ์ผิดพลาดที่คาดได้ก่อนนำไปใช้จริง
ข้อสรุป: ให้สิทธิ์น้อย แยกชัด และมีทางหยุด
ไม่มี Sandbox ใดชดเชยการให้สิทธิ์เกินจำเป็นได้ และไม่มีคำสั่งที่เขียนดีพอจะทดแทนขอบเขตความเสียหายที่ชัดเจนได้ สำหรับเอเจนต์ที่รันโค้ดไม่น่าเชื่อถือ ให้เริ่มประเมิน MicroVM แยกส่วนวางแผนออกจากเครื่องมือที่ลงมือ เก็บข้อมูลรับรองไว้นอกพื้นที่ จำกัดเครือข่ายด้วยรายการอนุญาต และติดตามการทำงานพร้อมมีทางหยุดฉุกเฉิน หากงานใช้คอนเทนเนอร์หรือการแยกแบบเบากว่า ต้องยืนยันให้ได้ว่าระดับป้องกันสอดคล้องกับข้อมูลและสิทธิ์ที่เอเจนต์เข้าถึงได้ เป้าหมายไม่ใช่ทำให้เอเจนต์แตะต้องอะไรไม่ได้ แต่ทำให้ความผิดพลาดหนึ่งครั้งไม่กลายเป็นความเสียหายทั้งระบบ






