เอเจนท์ AI พร้อม แต่โครงสร้างองค์กรยังไม่พร้อมให้ทำงานแทนคน

เอเจนท์ AI คืออะไร และช่องว่างระหว่างความพร้อมของเทคโนโลยีกับองค์กร

เอเจนท์ AI คือซอฟต์แวร์อัตโนมัติที่ใช้โมเดลปัญญาประดิษฐ์ในการวางแผน ตัดสินใจ และลงมือทำงานหลายขั้นตอนแทนมนุษย์ ตั้งแต่การเรียกใช้เครื่องมือ เชื่อมต่อ API ใช้ข้อมูลประจำตัวของระบบ ไปจนถึงการสร้างและรันโค้ดเพื่อบรรลุเป้าหมายที่ได้รับมอบหมาย เอเจนท์ AI แตกต่างจากแชตบอตทั่วไปตรงที่ไม่หยุดแค่ตอบคำถาม แต่ลงมือปฏิบัติงานต่อเนื่องและประสานงานกับเอเจนท์อื่นได้

วันนี้ เอเจนท์ AI พร้อมในเชิงเทคนิคแล้ว เอเจนท์สามารถเรียกใช้เครื่องมือ ซับเอเจนท์ เข้าถึงข้อมูล ใช้ข้อมูลประจำตัว และตัดสินใจหลายขั้นตอนโดยอัตโนมัติเพื่อบรรลุเป้าหมาย จนผู้เชี่ยวชาญจำนวนมากมองว่าความสามารถของเอเจนท์ไม่ได้เป็นคอขวดหลักอีกต่อไป ข้อจำกัดตัวจริงคือการควบคุมและการกำกับดูแล เอเจนต์ไม่ได้ตอบคำสั่งเพียงครั้งเดียวแล้วหยุด แต่ทำงานต่อเนื่อง เรียกโมเดลซ้ำๆ เข้าถึง API ใช้ทรัพยากรคลาวด์ และกระตุ้นเอเจนต์อื่น หากองค์กรยังไม่มีโครงสร้างกำกับที่เหมาะสม การเร่งใช้งานเอเจนท์ AI อาจสร้างความเสี่ยงมากกว่าประสิทธิภาพ

Shadow agents ปัญหาใหม่ที่รุนแรงกว่า Shadow IT

ปัญหา Shadow agents คือสัญญาณชัดเจนว่า การนำเข้า AI ในองค์กร กำลังวิ่งแซงความสามารถในการกำกับดูแล Shadow IT ในอดีตหมายถึงพนักงานหรือแผนกสมัครใช้เครื่องมือ SaaS เองโดยไม่แจ้งฝ่าย IT จนเกิดเครื่องมือซ่อนอยู่เต็มองค์กร แต่ Shadow agents รุนแรงกว่านั้น เพราะระบบที่ไม่ได้รับอนุญาตครั้งนี้ไม่ได้แค่ “นั่งเฉยๆ” มันลงมือทำงานกับระบบจริง

ฝ่ายการเงิน HR ฝ่ายขาย การจัดซื้อ และบริการลูกค้า ต่างสามารถสร้างเอเจนท์ของตนเอง พนักงานแต่ละคนยังสร้างเอเจนท์ส่วนตัว ขณะที่ผู้ขายซอฟต์แวร์ฝังเอเจนท์เข้ามาในผลิตภัณฑ์อย่างเงียบๆ เมื่อคูณภาพนี้ในองค์กรขนาดใหญ่ CIO จะไม่ได้ดูแลเอเจนท์แค่ยี่สิบตัว แต่ต้องรับมือกับหลายร้อยหรือหลายพันเอเจนท์ที่ต่างเข้าถึงระบบและทำการกระทำในระดับหนึ่ง ที่น่ากังวลคือองค์กรส่วนใหญ่ยังไม่มีการทำรายการสินทรัพย์เอเจนท์อย่างจริงจัง ใครสร้างเอเจนท์อะไร แตะระบบไหน มีสิทธิ์แค่ไหน และใครรับผิดชอบ หากคำถามพื้นฐานเหล่านี้ตอบไม่ได้ การบริหาร AI agents ก็เป็นเพียงการสันนิษฐานว่ามีใครบางคนกำลังเฝ้าดูอยู่เท่านั้น

ความเชื่อถือและความปลอดภัย ทำไมเอเจนท์ AI ยังไม่ได้กุญแจดิจิทัลของเรา

แม้ เอเจนท์ AI พร้อม ในเชิงเทคนิค แต่ความเชื่อถือ AI agents ยังเป็นคอขวดใหญ่ในสายตาทั้งผู้ใช้และองค์กร เอเจนท์ผู้บริโภคจำนวนมากต้องขอสิทธิ์เข้าถึงอีเมล บัญชีการเงิน หรือข้อมูลส่วนตัว เพื่อจัดการงานต่างๆ เช่น เปรียบเทียบบริการ บุ๊กการเดินทาง หรือทำธุรกรรมอัตโนมัติ ความสะดวกนี้แลกมาด้วยความเสี่ยงที่หลายคนยังไม่อยากรับ

ผลสำรวจของ Pew Research Center ระบุว่า 51% ของผู้ตอบแบบสอบถามหลีกเลี่ยงการใช้แชตบอต AI โดยให้เหตุผลหลักเรื่องความเป็นส่วนตัว อีกทั้งมีความลังเลอย่างชัดเจนในการให้เอเจนท์อ่านอีเมล เปลี่ยนแปลงการเดินทาง โอนเงิน หรือช้อปปิ้งเอง การใช้งานยังกระจุกตัวในกลุ่มรายได้สูง การศึกษาสูง และงานออฟฟิศ ขณะที่คนจำนวนมากให้คุณค่ากับความสัมพันธ์ การออกกำลังกาย การทำอาหาร เวลานอกบ้าน และมิติทางจิตวิญญาณมากกว่าการใช้เครื่องมือ AI หากองค์กรอยากให้คนไว้ใจเอเจนท์ ต้องสื่อให้ชัดว่าเอเจนท์เข้าถึงข้อมูลอะไร ทำอะไรได้บ้าง และผู้ใช้สามารถตรวจทาน จำกัด หรือหยุดการทำงานได้อย่างไร

จากการควบคุมพรอมต์สู่การควบคุมการกระทำ ทำไมการกำกับดูแลยุคเก่าใช้กับเอเจนท์ไม่ได้

ตลอดยุค AI สร้างสรรค์ที่ผ่านมา การกำกับดูแลขององค์กรโฟกัสที่สิ่งที่โมเดลพูดและสิ่งที่เราป้อนให้โมเดล เราตรวจสอบพรอมต์ กรองผลตอบกลับ ทำ red team และสร้างการควบคุมรอบข้อมูลเข้าออก ซึ่งเพียงพอในโลกที่ AI แค่สร้างเนื้อหามาให้มนุษย์ดู แต่เอเจนท์เปลี่ยนสมการนั้นโดยสิ้นเชิง เพราะมันลงมือทำงานกับระบบจริง

เมื่อ AI มีความเป็นอิสระมากขึ้น ความท้าทายจึงย้ายจากการควบคุมอินพุตไปสู่การควบคุมสิ่งที่เกิดขึ้นเมื่อการตัดสินใจกลายเป็นการกระทำ เอเจนท์อาจเริ่มจากผู้ใช้ที่ผ่านการอนุมัติ พรอมต์ที่ยอมรับได้ ข้อมูลประจำตัวถูกต้อง และสิทธิ์การเข้าถึงที่เหมาะสม แต่สิ่งเหล่านี้ไม่ได้การันตีว่าการกระทำต่อๆ ไปทุกขั้นตอนควรดำเนินการ ระบบจึงต้องมีกลไกควบคุมเวลารันไทม์ที่ทำงานอินไลน์และแบบเรียลไทม์ เพื่อเข้าใจว่าเอเจนท์กำลังเรียกเครื่องมือใด แตะทรัพยากรอะไร รันโค้ดแบบไหน สื่อสารกับซับเอเจนท์ใด และพฤติกรรมยังอยู่ในขอบเขตที่ยอมรับได้หรือไม่ จุดสำคัญคือการแทรกแซงก่อนการกระทำ ไม่ใช่แค่สังเกตภายหลัง เพราะการตรวจจับและตอบสนองแบบเดิมช้าเกินไปสำหรับความเร็วของเอเจนท์

การบริหาร AI agents อย่างมีบริบท แท้จริงคือปัญหาองค์กร ไม่ใช่ปัญหาโมเดล

หัวใจของการนำเข้า AI ในองค์กร ให้ได้ผลจึงอยู่ที่การออกแบบ “ระดับอิสระภาพที่ปลอดภัย” มากกว่าการไล่ตามความสามารถของโมเดล ขั้นต่อไปของ AI ในองค์กรจะถูกกำหนดโดยระดับอิสระภาพที่องค์กรสามารถมอบให้เอเจนท์ได้อย่างปลอดภัย ไม่ใช่โดยความเก่งของเอเจนท์เพียงอย่างเดียว นั่นหมายความว่าทีมเทคโนโลยีต้องเลิกคิดในกรอบซอฟต์แวร์แบบเดิมที่ออกแบบเวิร์กโฟลว์คงที่ แล้วหันมาเน้นบริบทและการกำกับอิสระภาพของเอเจนท์แทน

ในทางปฏิบัติ องค์กรต้องมีการมองเห็นต่อเนื่องว่าเอเจนท์กำลังทำอะไร มีบริบทเพื่อเข้าใจว่าการกระทำนั้นสำคัญแค่ไหน และสามารถแทรกแซงโดยไม่ต้องมีมนุษย์อยู่ในทุกขั้นตอน เป้าหมายหลักของ CIO ภายในปี 2027 จึงไม่ใช่การติดตั้งเอเจนท์ให้มากที่สุด แต่คือการทำรายการว่ามีเอเจนท์อะไรบ้าง อนุญาตให้ทำอะไร ใครรับผิดชอบ และได้ผลตอบแทนเท่าไร ข้อมูลอีกชุดหนึ่งชี้ว่าองค์กรขนาดใหญ่จะดำเนินการเอเจนต์ AI มากกว่า 1,600 ตัวภายในสิ้นปีนี้ ขณะที่เพียง 15% ขององค์กรเท่านั้นที่ขยายการนำเอเจนท์หลายฟังก์ชันข้ามแผนก และเพียง 5% ที่บอกว่ากระบวนการธุรกิจของตนพร้อมอย่างมากสำหรับมัน นี่คือสัญญาณชัดว่าความท้าทายหลักของเอเจนท์ AI อยู่ที่การบริหาร ไม่ใช่ความสามารถ

จากงบประมาณสู่ความไว้ใจ องค์กรควรทำอะไรต่อก่อนขยายเอเจนท์ AI

งบประมาณ AI ในองค์กรกำลังเพิ่มขึ้นอย่างต่อเนื่อง IBM คาดการณ์ว่าการใช้จ่าย AI จะเพิ่มจากน้อยกว่า 15% ของงบประมาณ IT ในปี 2025 ไปเกือบ 25% ในปี 2027 และพบว่า 85% ของผู้นำเทคโนโลยียังขาดการมองเห็นแบบเรียลไทม์ต่อการใช้จ่าย AI ของตน การเทงบเพิ่มโดยไม่มีกรอบกำกับเอเจนท์ที่ชัดเจนจึงเสี่ยงทำให้ค่าใช้จ่ายและความเสี่ยงเพิ่มขึ้นพร้อมกัน

องค์กรควรเริ่มจากการสร้างบริบทและโปรโตคอลการตัดสินใจ ก่อนเร่งขยายจำนวนเอเจนท์ นักพัฒนาต้องเข้าใจว่าเอเจนท์ทำงานจริงอย่างไร ไม่ใช่แค่การออกแบบ ทีมแพลตฟอร์มและความปลอดภัยต้องกำหนดขอบเขตที่ยังบังคับใช้ได้เมื่อเอเจนท์ทำงานข้ามระบบและเครื่องมือ ผู้นำธุรกิจต้องมั่นใจว่าการเพิ่มอิสระภาพไม่ได้หมายถึงการสละการควบคุม ที่สำคัญ การออกแบบชั้นการกำกับแบบอิงความเสี่ยง เช่น การกำหนดระดับการมีส่วนร่วมของมนุษย์ตามมูลค่าธุรกรรม ความละเอียดอ่อนของข้อมูล และระดับความมั่นใจของเอเจนท์ จะช่วยให้มนุษย์อยู่ในจุดที่เหมาะสมของวงจร ไม่ใช่ทุกจุด ถ้าองค์กรทำการบ้านเหล่านี้ได้ เอเจนท์ AI จะกลายเป็นแรงขับเคลื่อนใหม่ ไม่ใช่ระเบิดเวลาที่ฝังอยู่ในระบบ