AI agents คืออะไร และช่องว่างความเชื่อใจเริ่มตรงไหน
AI agents คือระบบปัญญาประดิษฐ์ที่สามารถรับเป้าหมาย ทำความเข้าใจบริบท ตัดสินใจ และลงมือปฏิบัติงานแบบกึ่งอัตโนมัติหรืออัตโนมัติเต็มรูปแบบ โดยอาศัยข้อมูล ประสบการณ์จากการฝึก และกฎเกณฑ์ที่กำหนดไว้ล่วงหน้า เพื่อช่วยองค์กรลดงานซ้ำซ้อน ยกระดับการตัดสินใจ และเร่งความเร็วการดำเนินงานในระดับที่มนุษย์คนเดียวทำไม่ไหวในเวลาจำกัด ผลสำรวจผู้บริหารและผู้เชี่ยวชาญด้านไอทีทั่วโลก 1,200 คนพบว่า 90% ขององค์กรต้องการใช้ AI agents เพื่อขับเคลื่อนการปฏิบัติการไอทีแบบอัตโนมัติ แต่กว่า 77% ยังลังเลที่จะให้ AI ตัดสินใจด้านปฏิบัติการโดยไม่มีการอนุมัติจากมนุษย์ นี่คือหัวใจของปัญหาเรื่องความเชื่อใจ AI agents องค์กรเชื่อในศักยภาพ แต่ไม่เชื่อว่าปล่อยให้ทำงานเองแล้วจะปลอดภัย ยิ่งไปกว่านั้น แม้ 91% เห็นว่าการลงทุน AI ตอบโจทย์หรือเกินความคาดหวัง และ 76% บอกว่า agentic AI เป็นแกนกลางของกลยุทธ์ไอทีในอนาคต แต่ปัจจุบันมีเพียง 24% ที่เชื่อใจคำแนะนำของ AI ในระดับที่ตรวจทานโดยมนุษย์เพียงเล็กน้อย ความขัดแย้งนี้สะท้อนว่า ปัญหาไม่ได้อยู่ที่เทคโนโลยีอย่างเดียว แต่อยู่ที่กรอบคิดและโครงสร้างการกำกับดูแลขององค์กรด้วย
ความเชื่อใจ AI agents แตกต่างจากความตื่นเต้นอย่างไร
ถ้าดูเฉพาะตัวเลขการลงทุน หลายองค์กรเหมือนกำลังก้าวเข้าสู่ยุค AI agents อย่างมั่นใจ 93% ระบุว่าการลงทุน AI ที่มีอยู่ตอบโจทย์หรือเกินความคาดหวัง และเกือบสองในสามเพิ่มงบลงทุนต่อ แต่เมื่อมองลึกลงไปในระดับการใช้งานจริง ภาพกลับต่างออกไปมาก มีเพียง 8% เท่านั้นที่นำ AI ไปใช้ในงานปฏิบัติการทั่วทั้งองค์กร และมีแค่ 9% ของโครงการ AI ที่ถูกนำไปใช้เต็มรูปแบบ ขณะเดียวกัน การทำงานไอทีที่อัตโนมัติอยู่ตอนนี้มีเพียง 19% และมีเพียง 41% ที่บอกว่าสภาพแวดล้อมไอทีของตนพร้อมสำหรับ AI อย่างเต็มที่ กล่าวอีกแบบคือ ผู้บริหารจำนวนมากกำลังอยู่ในโหมด “พูดถึงอนาคตอัตโนมัติ แต่ปัจจุบันยังไม่กล้าปล่อยมือ” ความเชื่อใจ AI agents ยังไม่ตามทันความตื่นเต้นด้านการตลาด เพราะองค์กรยังไม่มั่นใจในความเสถียรของระบบ คุณภาพข้อมูล และความสามารถในการควบคุม AI ของบริษัทตนเอง
ทำไมผู้นำไอทีไม่กล้าปล่อย AI ทำงานอัตโนมัติเต็มตัว
เมื่อถามว่าทำไมองค์กรยังไม่กล้าปล่อย AI agents ทำงานแบบอัตโนมัติเต็มรูปแบบ เหตุผลหลักสะท้อนปัญหาความเชื่อใจอย่างชัดเจน ความกังวลเรื่องความปลอดภัยและการปฏิบัติตามข้อกำหนดอยู่ที่ 55% ความเสี่ยงจากการหยุดชะงักของการปฏิบัติการ 45% และการไม่เชื่อใจการตัดสินใจของ AI 39% ตามมาด้วยช่องว่างทักษะ 37% เครื่องมือและผู้ขายที่แยกส่วน 35% การต่อต้านในองค์กร 34% และคุณภาพข้อมูลที่ไม่ดี 30% มากกว่าครึ่งของผู้ตอบแบบสอบถาม 51% กังวลเรื่องประสิทธิภาพและความน่าเชื่อถือของ AI agents ขณะที่มีเพียง 42% เท่านั้นที่มั่นใจสูงในความสามารถด้านการกำกับดูแล AI ขององค์กรตนเอง นี่คือสัญญาณชัดเจนว่าการควบคุม AI ของบริษัทส่วนใหญ่ยังไม่พร้อมรองรับการอัตโนมัติเต็มตัว ไม่ใช่เรื่องแปลกที่ 69% ของผู้ตอบแบบสอบถามยังเลือกโมเดล AI ที่มีมนุษย์กำกับดูแล มากกว่าปล่อยให้ระบบตัดสินใจเองทั้งหมด เพราะในโลกที่ข้อมูลไม่สมบูรณ์และโมเดลอาจเกิดการสร้างข้อมูลเท็จ การมีมนุษย์เป็นด่านสุดท้ายยังเป็นเกราะป้องกันที่จำเป็น
ศิลปะการตั้งคำถาม: กรอบกำกับดูแลที่ขาดไม่ได้
ท่ามกลางกระแส AI agents ผู้บริหารเทคโนโลยีรายสำคัญเตือนตรงกันว่า การตัดสินใจเชิงกลยุทธ์ห้าม “เอาต์ซอร์ส” ให้ AI ทั้งหมด ผู้บริหารระดับสูงของบริษัทเทคโนโลยีรายใหญ่คนหนึ่งชี้ว่า การปฏิสัมพันธ์ระหว่างคนกับเครื่องกำลังเปลี่ยนจากการใช้แอปพลิเคชันไปสู่ตัวแทนอัตโนมัติ และเขาไม่เคยมอง AI เป็นผู้ตัดสินความจริงขั้นสุดท้าย แต่เป็นคู่ซ้อมดิจิทัลที่ต้องถูกซักถามอย่างหนัก เขาใช้วิธีตั้งคำถามหลายรอบที่ท้าทายลึกลงไป ตั้งแต่สมมติฐานพื้นฐาน ขอบเขตข้อมูล มุมมองตรงข้าม ไปจนถึงความสมบูรณ์ของสายโซ่การให้เหตุผล เพื่อบีบให้โมเดลแสดงจุดบอดที่การวิเคราะห์แบบเดิมมักมองไม่เห็น นี่คือรูปแบบการตรวจสอบ AI อัตโนมัติในระดับความคิด ไม่ใช่แค่เช็กผลลัพธ์ปลายทาง เมื่อองค์กรกำหนดให้ AI agents เป็น “ที่ปรึกษาที่ถูกซักถามได้” ไม่ใช่ “ผู้ตัดสินใจคนสุดท้าย” ก็จะสามารถกรองข้อมูลเท็จ คุมความเสี่ยงของอัลกอริทึม และรักษาอำนาจการตัดสินใจเชิงกลยุทธ์ไว้ในมือมนุษย์ได้ การควบคุม AI ของบริษัทจึงเริ่มต้นจากวัฒนธรรมการตั้งคำถาม ไม่ใช่จากเครื่องมือกำกับดูแลเพียงอย่างเดียว
จากความลังเลสู่ความเชื่อใจ: สร้างกรอบกำกับ AI agents ให้เดินหน้าได้จริง
แม้องค์กรจำนวนมากคาดหวังว่าจะบรรลุการปฏิบัติการไอทีแบบมีมนุษย์กำกับหรืออัตโนมัติสูงภายในสองปีข้างหน้า และ 93% เชื่อว่า AI จะเปลี่ยนงานของทีมด่านหน้าและเซอร์วิสเดสก์ในช่วงเวลาเดียวกัน แต่หากไม่มีกรอบกำกับดูแลที่ชัดเจน ความคาดหวังเหล่านี้อาจกลายเป็นเพียงสไลด์พรีเซนเทชัน สิ่งที่น่าสนใจคือ 92% ของผู้ตอบแบบสอบถามคาดว่า การสังเกตการณ์และธรรมาภิบาล AI จะกลายเป็นโดเมนไอทีใหม่ที่สำคัญ ทว่าในปัจจุบันมีเพียง 17% ที่มีการมองเห็นแบบรวมศูนย์ครอบคลุมเครือข่าย แอปพลิเคชัน อุปกรณ์ปลายทาง และคลาวด์อย่างแท้จริง แสดงว่าการกำหนดนโยบาย AI และโครงสร้างการตรวจสอบ AI อัตโนมัติยังอยู่ในช่วงตั้งไข่ หากต้องการเปลี่ยนจากความลังเลไปสู่ความเชื่อใจ องค์กรควรเริ่มจากการกำหนดบทบาท AI agents ให้ชัดเจน วางกรอบการอนุมัติและจุดที่ต้องมีมนุษย์ตรวจสอบ สร้างมาตรฐานข้อมูลและการมองเห็นข้ามซิลโอ และฝึกทีมให้มีทักษะตั้งคำถามเชิงลึกต่อข้อเสนอของ AI ดังที่ผู้บริหารจากบริษัทผู้ให้โซลูชันรายหนึ่งเตือนว่า การเดินทางสู่การปฏิบัติการไต้อัตโนมัติเต็มรูปแบบจะกินเวลาหลายปี และหลายองค์กรกำลังประเมินความยากต่ำเกินไป การเร่งสร้างโครงสร้างกำกับดูแลตั้งแต่วันนี้ จึงไม่ใช่การชะลอ AI แต่เป็นเงื่อนไขเดียวที่จะทำให้ความเชื่อใจ AI agents เติบโตทันกับความทะเยอทะยานของธุรกิจ
