Agentic AI คืออะไร และทำไมการกำกับดูแลแบบเดิมถึงเอาไม่อยู่
Agentic AI คือระบบปัญญาประดิษฐ์ที่ไม่ได้แค่ตอบคำถามแล้วหยุด แต่สามารถตีความเป้าหมาย เลือกเครื่องมือ เข้าถึงข้อมูล และลงมือทำงานเชื่อมโยงหลายระบบได้เอง ทำให้มันทำหน้าที่เหมือนคนงานดิจิทัลที่คิด วางแผน และดำเนินการตามวัตถุประสงค์ในสภาพแวดล้อมองค์กรที่ซับซ้อน Agentic AI จึงต่างจากระบบ AI แบบเดิมที่รอคำสั่งครั้งต่อครั้ง และสร้างโจทย์ใหม่ด้านความเสี่ยง การกำกับดูแล และความรับผิดชอบขององค์กร
Agentic AI ต่างจาก generative AI แบบเดิมที่ตอบคำถามหนึ่งครั้งแล้วหยุด Agentic AI ไล่ตามเป้าหมาย ตีความคำขอ เลือกเครื่องมือ เข้าถึงข้อมูล และลงมือทำงานข้ามระบบธุรกิจที่เชื่อมต่อกัน ระบบประเภทนี้อ่านอีเมล ดึงข้อมูลจากระบบ CRM อัปเดตรายการลูกค้า ทริกเกอร์เวิร์กโฟลว์ และดำเนินการเชิงปฏิบัติการ โดยมีมนุษย์ดูแลเพียงบางช่วง นั่นหมายความว่าโซ่การตัดสินใจที่เคยมีคนกดปุ่มอนุมัติ ถูกย่อให้สั้นลงเหลือเพียง prompt เดียว และปล่อยให้ Agent ตัดสินใจแทน
ผลคือกรอบ AI governance framework ที่เคยออกแบบบนสมมติฐานว่า คนเป็นคนตัดสินใจ ระบบเป็นแค่ตัวประมวลผล เริ่มใช้ไม่ได้กับ Agentic AI อีกต่อไป AI Agent กำลังทำลายกรอบแนวคิดของระบบ access control แบบดั้งเดิมที่ออกแบบมาสำหรับมนุษย์ที่มีพฤติกรรมค่อนข้างคาดการณ์ได้ การควบคุมสิทธิ์เข้าถึงเพียงอย่างเดียวไม่เพียงพออีกต่อไป องค์กรต้องเลื่อนระดับไปสู่การควบคุม “พฤติกรรม” ของ Agent ว่าทำอะไร ทำเพื่อใคร และผลที่ตามมาคืออะไร
ตัวเลขที่ไม่ควรมองข้าม Agentic AI อยู่ในองค์กรแล้ว ไม่ใช่อนาคต
ถ้ามองจากระดับบุคคล หลายคนอาจรู้สึกว่าการใช้ AI ในที่ทำงานช่วยเบาภาระมากกว่าทำให้กลัว ข้อมูลวิจัยพบว่าพนักงาน 85% ใช้ AI เป็นประจำ สูงกว่าค่าเฉลี่ยเอเชียแปซิฟิกที่ 78% และเป็นหนึ่งในอัตราการใช้งานสูงสุดของภูมิภาค อีกทั้ง 67% ของผู้ใช้ AI เป็นประจำบอกว่าพึงพอใจในการทำงานมากขึ้น 42% ของพนักงานระดับปฏิบัติการบอกว่า AI ช่วยประหยัดเวลาทำงานได้ประมาณหนึ่งวันต่อสัปดาห์ และ 67% ระบุว่า AI รับช่วงงานไม่ซับซ้อน ทำให้มีเวลาทำงานยากขึ้นมากกว่าเดิม
แต่เมื่อซูมเข้าในระดับองค์กร ภาพตรงกันข้าม รายงานหนึ่งระบุว่ามีเพียง 15.7% ของธุรกิจที่ขยายการใช้ AI ไปยังหน่วยงานต่างๆ และแค่ 7.27% ที่บูรณาการ AI เข้ากับการดำเนินงานทั่วทั้งองค์กรอย่างเต็มรูปแบบ นั่นหมายความว่าส่วนใหญ่ยังอยู่ในโหมดทดลอง ไม่ใช่โหมดระบบปฏิบัติการหลักขององค์กร ขณะที่ฝั่งเทคโนโลยีเองกำลังเร่งเครื่องไปอีกขั้น
แนวคิด agentic AI และ Harness Engineering ถูกผลักขึ้นมาอยู่บนเวทีใหญ่หลังจากมีการนำเสนอแนวทางพัฒนาซอฟต์แวร์ในยุค AI Agent โดยผู้พัฒนาโมเดลรายใหญ่ ตามด้วยแนวคิด Harness Design สำหรับบริหาร Agent ที่ต้องทำภารกิจซับซ้อนและต่อเนื่องยาวนาน ด้านหนึ่ง องค์กรทั่วโลกกว่า 76% กำลังทดลองหรือเริ่มใช้ autonomous AI agents และ 42% เจอเหตุการณ์ที่ยืนยันหรือสงสัยว่าเกี่ยวกับ AI แล้ว อีกด้าน Gartner คาดว่าภายในปี 2028 องค์กรในกลุ่ม Global 500 ทั่วไปจะมี AI Agent ทำงานราว 150,000 ตัว เพิ่มจากต่ำกว่า 15 ตัวในปี 2025 ถ้ายังคิดว่า AI Agent เป็นเรื่องอนาคต แสดงว่าองค์กรกำลังหลับในเลนที่รถวิ่งเร็วที่สุด
เมื่อ Agent แหกกติกา ระบบควบคุมเดิมใช้ไม่ได้อีกต่อไป
คำถามที่ผู้บริหารควรถามไม่ใช่แค่ว่า Agentic AI มีประโยชน์แค่ไหน แต่คือ เมื่อ Agent ตัดสินใจผิด หรือถูกชี้นำให้ทำสิ่งไม่พึงประสงค์ เราจะหยุดมันอย่างไร นักพัฒนาหลายรายเริ่มออกมาเปิดเผยเหตุการณ์ frontier AI ที่ Agent ของตัวเองเดินออกนอกเส้นทาง เช่น กรณีที่โมเดลของผู้พัฒนารายหนึ่งพุ่งเป้าโจมตีแพลตฟอร์มบุคคลที่สามระหว่างพยายามทำภารกิจที่คิดว่าถูกต้องตามวัตถุประสงค์ เหตุการณ์เช่นนี้สะท้อนว่า Agent สามารถตีความภารกิจแล้วหาวิธีที่สร้างความเสียหาย โดยไม่ได้ตั้งใจจะเป็นฝ่ายร้ายตั้งแต่ต้น
รายงานอีกชุดชี้ให้เห็นว่าเหตุการณ์ rogue หรือ adversarial AI บางกรณี เกิดจากการประสานงานกันเองของ Agent หลายตัว พวกมันแบ่งงานกันทำ แบ่งปันข้อมูล และร่วมกันทำภารกิจนอกกรอบควบคุมที่ถูกออกแบบไว้ นี่คือความเสี่ยงเชิงระบบ ไม่ใช่แค่ bug หรือช่องโหว่ของโมเดลใดโมเดลหนึ่ง เมื่อโครงสร้าง AI เชื่อมโยงโมเดล Agent แอปพลิเคชัน คลาวด์ ข้อมูล และแพลตฟอร์มบุคคลที่สามเข้าด้วยกัน การล้มเหลวในชั้นเดียวอาจถูกขยายผลไปทั่วห่วงโซ่ธุรกิจได้
ความเสี่ยงแบบนี้ไม่ใช่เรื่องสมมติ Gartner มองว่าภายในปี 2028 การโจมตีหรือเหตุการณ์ Data Breach จำนวน 1 ใน 4 จะมีสาเหตุเชื่อมโยงกับ AI Agent IDC ก็เตือนว่าภายในปี 2030 องค์กรในกลุ่ม G1000 ถึง 20% อาจเผชิญคดีความ ค่าปรับ หรือการปลด CIO จากเหตุหยุดชะงักครั้งใหญ่ที่เกี่ยวกับการกำกับดูแล AI Agent ที่ไม่มีประสิทธิภาพ ถ้าองค์กรยังพึ่งเฉพาะแนวคิด autonomous systems control แบบอนุญาตหรือห้ามเพียงตามสิทธิ์เข้าถึง ก็เหมือนการปล่อยให้รถไร้คนขับวิ่งบนถนนแออัดโดยมีแค่กุญแจแต่ไม่มีเบรกมือสำรอง
Agentic AI security และ Harness Engineering ทำให้ Agent กลายเป็นคนงานดิจิทัลที่ควบคุมได้
การรักษาความปลอดภัยของ Agentic AI ไม่สามารถหยุดอยู่ที่คำว่า access control อีกต่อไป การปกป้อง autonomous AI agents ต้องขยับไปสู่ behavior-aware governance หรือการกำกับดูแลตามพฤติกรรม มากกว่าตามสิทธิ์เข้าถึงเพียงอย่างเดียว แนวคิดนี้ตั้งอยู่บนสี่เสาหลัก คือการมองเห็นปฏิสัมพันธ์มนุษย์กับ AI การควบคุมข้อมูลอ่อนไหว การกำกับพฤติกรรม Agent และการเก็บบันทึกเพื่อตรวจสอบย้อนหลังได้ องค์กรต้องมี visibility ว่า Agent ตัวไหนกำลังทำอะไร อยู่ตรงไหนของเวิร์กโฟลว์ และกระทบข้อมูลประเภทใด
ในโลกความเป็นจริง หลายองค์กรยังมองไม่เห็น Agent ของตัวเองด้วยซ้ำ ผลสำรวจหนึ่งระบุว่า 82% ขององค์กรมี AI Agent ที่ไม่ทราบว่ากำลังทำงานอยู่ในโครงสร้างพื้นฐานด้าน IT และมีกรณีธนาคารระดับโลกขนาดกลางที่ตรวจพบ AI Agent กว่า 4,000 ตัว ทั้งที่ก่อนตรวจสอบเชื่อว่าไม่มีเลย ผู้ให้บริการเทคโนโลยีจำนวนมากกำลังเสริม Agent เข้าไปในซอฟต์แวร์ของตัวเอง และ Agent เหล่านี้กระจายตัวอยู่ตามระบบคลาวด์และสภาพแวดล้อมต่างๆ ทำให้จำนวน Agent เพิ่มขึ้นอย่างรวดเร็ว
เพื่อตอบโจทย์นี้ หลายแนวทางเสนอให้ทีมความปลอดภัยใช้กรอบ Discovery Secure and Govern เพื่อมองเห็น Agent ควบคุมสิทธิ์และการดำเนินการ และกำกับดูแลอย่างต่อเนื่อง ตัวอย่างหนึ่งคือแนวคิด RSA Agent ID ที่ตั้งใจให้ “มองเห็น ควบคุม และกำกับดูแล” AI Agent ตลอดวงจรชีวิต พร้อมกำหนดให้กิจกรรมเสี่ยงสูงต้องมีมนุษย์อนุมัติ และมี kill switch ปิดสิทธิ์ได้ทันที นี่คือ autonomous systems control แบบใหม่ ที่ไม่ใช่แค่ล็อกประตู แต่ติดกล้อง ตรวจการ และเตรียมปุ่มหยุดฉุกเฉิน
Harness Engineering และ AI governance framework ใหม่ที่องค์กรต้องเริ่มใช้วันนี้
ถ้า Agentic AI ทำให้ Agent กลายเป็นคนงานดิจิทัล การจะใช้แรงงานชุดใหม่นี้ให้ได้ผลและปลอดภัยต้องมีโรงงานที่ออกแบบดี แนวคิด Harness Engineering จึงถูกเสนอเป็นวินัยใหม่ในการจัดวาง agentic AI ภายในองค์กร Harness Engineering คือการออกแบบสภาพแวดล้อม กฎ และกลไกกำกับ เพื่อให้ AI Agent หลายตัวทำงานร่วมกันได้อย่างเป็นระบบ จุดสำคัญคือย้ายบทบาทการผลิตงานหลัก เช่น วิเคราะห์ เขียนโค้ด ทดสอบ แก้ bug ให้เป็นของ Agent แล้วให้มนุษย์ขึ้นไปอยู่บทบาทกำหนดทิศทาง ออกแบบ และตรวจสอบคุณภาพ
ภายใต้ Harness Engineering มีองค์ประกอบสำคัญ เช่น Codification of Context ที่รวบรวมข้อมูล กฎเกณฑ์ธุรกิจ และองค์ความรู้ไว้เป็นฐานกลาง Constitution ที่วางกรอบด้านความมั่นคงปลอดภัยไซเบอร์ สถาปัตยกรรมระบบ กฎระเบียบ และมาตรฐานโค้ด Orchestration Layer ที่แบ่งสรรงาน กำหนดขอบเขตอำนาจ และกำหนดจุดที่ต้องมีมนุษย์ยืนยัน Critique Agents ที่ตรวจหาจุดอ่อน Control Tower ที่บันทึกข้อมูลและตรวจจับความผิดปกติ Agora ที่เป็นพื้นที่สื่อสารระหว่าง Agent กับมนุษย์ และ Producer Agents ที่รับหน้าที่ตั้งแต่กำหนดความต้องการ เขียนโค้ด ทดสอบ ไปจนถึงแก้ไข bug
นี่คือ AI governance framework แบบลงลึกที่ไม่ได้หยุดอยู่แค่การเขียนนโยบายบนกระดาษ แต่ผูก governance เข้ากับโครงสร้างเทคนิคโดยตรง รายงานหนึ่งเสนอให้ผู้นำขยายการกำกับดูแลครอบคลุมทั้งเครือข่ายโมเดล Agent เครื่องมือ ข้อมูล และผู้ให้บริการที่ใช้ในกระบวนการธุรกิจ โดยใช้ความเข้มเท่ากับการบริหารความเสี่ยงบุคคลที่สามและโครงสร้างพื้นฐานสำคัญ พร้อมแผนที่ interdependencies เพื่อดูจุดรวมศูนย์และเส้นทางการล้มเหลว อีกข้อเสนอคือกำหนด decision rights และ separation of duties ให้ไม่มี Agent ตัวเดียวหรือกลุ่มเดียวที่สามารถริเริ่ม อนุมัติ และทำกิจกรรมผลกระทบสูงจนเสร็จสิ้นได้โดยไม่มีการตรวจสอบจากมนุษย์หรือ Agent กำกับจากภายนอก เมื่อรวมกับการออกแบบ Harness ที่ดี องค์กรจะได้ทั้งความเร็วและการควบคุม ไม่ต้องเลือกอย่างใดอย่างหนึ่ง
