ทำไม AI Agents ล้มเหลวในงานโลกจริง และจะสร้างให้เชื่อถือได้อย่างไร

AI Agents ที่โลกคาดหวัง vs ความเป็นจริงที่ล้มเหลว

AI agent ในโลกธุรกิจคือระบบที่สังเกตสภาพแวดล้อม ตีความเจตนาผู้ใช้ ตัดสินใจภายในขอบเขตที่กำหนด จากนั้นลงมือดำเนินการ ติดต่อสื่อสารกับมนุษย์ บันทึกสิ่งที่เกิดขึ้น และยกระดับเคสเมื่อมีจุดที่ต้องให้คนเข้ามาแทรกแซง เป็นการเคลื่อนจากซอฟต์แวร์แบบเรียกใช้ API ไปสู่ระบบที่ตัดสินใจและลงมือเองอย่างต่อเนื่อง.

ปัญหาคือ โลกส่วนใหญ่ยังได้แค่ “ตัวช่วยแจ้งเตือน” ไม่ใช่ตัวแทนที่ลงมือทำงาน แบบที่เห็นซ้ำๆ คือระบบตรวจพบความผิดปกติ สรุปผลอย่างสวยงาม แล้วโยนคำตัดสินกลับไปให้มนุษย์. จุดส่งต่อหน้าจอนี่เองที่ความเป็น agentic หยุดลงอย่างเงียบๆ และกลายเป็นค่าใช้จ่ายช่วง 30 วินาทีที่แพงที่สุด เพราะองค์กรกลับไปรอคนอ่าน แจ้งเตือน ตัดสินใจ และวางแผนถัดไป แม้เลเยอร์การตรวจจับจะฉลาดขึ้นมาก แต่เลเยอร์ลงมือหลังจาก “สังเกตเห็น” แทบไม่ขยับเลย. นี่คือสัญญาณชัดว่า ความเชื่อว่าโมเดลเก่งแล้วจะทำให้งานเดินเองเป็นความเข้าใจผิด

Execution Layer และ State Management: ช่องโหว่ที่ทำให้ AI agent ความเชื่อถือได้พัง

เมื่อ AI agents ถูกต่อเข้ากับบล็อกเชนและ crypto wallet ปัญหาที่แท้จริงไม่ได้อยู่ที่การสร้างทรานแซกชันบนกระดาษ แต่มันคือการทำให้การดำเนินการภายใต้ข้อจำกัดของบล็อกเชน “เชื่อถือได้” อย่างสม่ำเสมอ. สถาปัตยกรรมยอดฮิต LLM → Wallet → RPC → Blockchain ทำเหมือนว่าตราบใดที่โมเดลตัดสินใจแล้ว กระเป๋าเงินก็จะทำที่เหลือเองได้ ทั้งที่จริงมีสามหน้าที่แยกกันชัด: โมเดลกำหนดเจตนา ระบบตัดสินว่าจะลงมือหรือไม่ และโครงสร้างพื้นฐานต้องส่งทรานแซกชันให้สำเร็จท่ามกลางสภาพเครือข่ายที่เปลี่ยนตลอดเวลา. การให้ wallet แบกทุกหน้าที่คือความเข้าใจผิดด้านสถาปัตยกรรมอย่างตรงไปตรงมา

execution layer ที่ดีต้องดูแลตั้งแต่การประกอบทรานแซกชัน การจำลองก่อนรัน การจัดการ nonce การทำ RPC redundancy การตั้ง retry logic การปรับสถานะหลังรัน ไปจนถึงการจัดเส้นทางข้ามเชน. State management ที่แม่นยำช่วยให้ agent ไม่มองโลกบนบล็อกเชนแบบหลงยุค แต่ซิงก์กับสถานะเครือข่ายที่เปลี่ยนบนหลายเชนได้. ดังนั้นความเชื่อถือได้ของ AI agent ความเชื่อถือได้จึงผูกกับ plumbing และการจัดการสถานะ ไม่ใช่กับการ “สร้างทรานแซกชันที่เพอร์เฟกต์” เพียงอย่างเดียว. เมื่อโครงสร้างพื้นฐานบล็อกเชนกลายเป็นตัวตัดสินว่า agent เข้าใจ state ถูกต้องหรือไม่ การต่อผิดเลเยอร์จึงกลายเป็นเหตุให้ autonomous decision making พังลงอย่างไม่สง่างาม

AI guardrails: ไม่ใช่แค่ความปลอดภัย แต่ต้องรักษาเสียงแบรนด์เมื่อปล่อยให้ agent ทำงานเอง

องค์กรส่วนใหญ่พูดถึง AI guardrails ในมิติความปลอดภัย เช่น ป้องกัน prompt injection, การรั่วไหล PII หรือค่าใช้จ่าย API ที่ควบคุมไม่ได้ แต่แทบไม่แตะ failure mode ที่เงียบกว่ามากในเรื่องเสียงแบรนด์. เราเห็นตัวอย่าง agent ฝ่ายซัพพอร์ตที่รู้จัก API และฐานความรู้อย่างดี ตอบได้ตรงงาน แต่พอเจอลูกค้าที่โกรธโดยไม่มีคำสั่งชัดให้ยึดภาษาที่อนุมัติแล้ว มันเริ่มด้นสดด้วยน้ำเสียงและการเปิดเผยกระบวนการภายในที่นอกนโยบาย. คำตอบไม่ผิดข้อมูล ไม่หยาบคาย แต่ “หลุดแบรนด์” จนองค์กรไม่อาจปล่อยให้ autonomous decision making เดินไปเองโดยไม่มีกรอบ

คำสั่งระบบ (system prompt) ไม่ใช่กำแพงคอนกรีต แต่เป็นข้อเสนอที่โมเดลพร้อมตีความใหม่เมื่อบริบทซับซ้อนขึ้น. ถ้าแบรนด์ยังถูกนิยามแค่ในสไตล์คู่มือบนกระดาษ โดยไม่ถูกแปลงเป็นตรรกะที่ explicit ภายใน agent ผลคือเสียงแบรนด์จะไหลไปตามน้ำหนักความน่าจะเป็นของโมเดล มากกว่าตามนโยบายขององค์กร. “A brand voice converted into explicit logic will prevent off-brand or inappropriate messaging” คือคำเตือนตรงไปตรงมาว่า ถ้าไม่เขียนขอบเขตแบรนด์เป็นเลเยอร์ guardrails พิเศษ องค์กรไม่มีทางไว้ใจ agent ที่ทำงานเองได้. AI guardrails brand consistency จึงต้องถูกออกแบบเป็นระบบ governance แยกจาก guardrails ด้านความปลอดภัย เพื่อให้ทั้งเสียงและตัวตนแบรนด์ลอดผ่านทุกการตัดสินใจของ agent ได้อย่างสอดคล้อง.

จาก API-based Software สู่ Agentic Systems: ทำไมการกำกับและ RAG สำคัญกว่า prompt ยาว

องค์กรเคยอยู่ในโลกที่ซอฟต์แวร์และ API ทำงานแบบคาดเดาได้ เมื่อผู้ใช้ลงมือ ระบบก็เดินตามกฎการยืนยันตัวตน การอนุญาต และการทำธุรกรรมที่ระบุไว้[SC:84797]. โลก agentic AI กลับต้องอาศัยการตีความเจตนาและการเลือกการลงมือเองของระบบ ซึ่งเพิ่มทั้งมูลค่าและความไม่แน่นอนว่า agent อาจทำสิ่งที่ผู้ใช้ไม่ได้คาด. คำถามสำคัญจึงไม่ใช่ “จะต่อโมเดลอะไรดี” แต่เป็น “องค์กรจะใช้ระบบที่มี autonomy โดยไม่เสียความแม่น ความคุมได้ และความรับผิดชอบอย่างไร”. ช่องว่างระหว่างการ “deploy agent” กับการ “เชื่อใจ agent” กว้างกว่าที่หมวดหมู่ผลิตภัณฑ์ยอมรับ รวมถึงมีงานวิจัยที่พบว่า trust ขององค์กรยึดกับ governance, integration และการจัดการ API/MCP มากกว่ากับโมเดล.

การจัดคุณภาพ AI แบบเดิมมักตรวจเฉพาะคำตอบว่าแม่นหรือไม่ แต่ระบบ agentic ที่ซับซ้อนต้องประเมินทั้งคำตอบและการลงมือที่ตามมา. RAG ถูกพิสูจน์แล้วว่าเป็นหนึ่งในวิธีลด hallucination ที่มีประโยชน์ เพราะบังคับให้ agent อิงความรู้ที่ดึงแบบมีโครงสร้าง ไม่วิ่งตามการเดาอย่างอิสระ. เมื่อผูก RAG เข้ากับ execution layer และกรอบการกำกับ การตัดสินใจของ agent จึงถูกจำกัดให้อยู่ในขอบเขต autonomy และ effort ที่องค์กรยอมรับได้ แทนที่จะปล่อยให้ agent “ใช้เครื่องมือได้ทุกอย่าง” โดยไม่มีเส้นแบ่งระหว่างสิ่งที่ระบบทำเองกับสิ่งที่ต้องยกระดับให้คนตัดสินใจ.

หนึ่งในประโยคที่สะกิดใจจากงานวิจัยด้านนี้คือ “In the top quartile, 55 percent reported high confidence in what their agents decide and do. In the bottom quartile, 22 percent did. Trust tracked the plumbing, not the model.”. นี่ไม่ใช่ตัวเลขสวยงามเพื่อการตลาด แต่เป็นการตอกย้ำว่าการสร้าง AI agent ความเชื่อถือได้ ต้องลงทุนใน plumbing การผสานระบบ และเฟรมเวิร์ก governance มากกว่าพิธีกรรม prompt engineering ที่เอาแต่เพิ่มข้อความยาวๆ ให้โมเดล

ข้อสรุป: สร้าง AI agents ที่ทำงานได้จริง ต้องกล้าตัดสินใจเรื่อง “ขอบเขต” ไม่ใช่แค่เรื่อง “ความสามารถ”

เมื่อดูภาพรวม จะเห็นว่า AI agents ล้มเหลวในโลกจริงไม่ใช่เพราะโมเดลไม่ฉลาดพอ แต่เพราะระบบรอบข้างไม่ยอมรับว่า autonomous decision making ต้องมี execution layer, state management, brand guardrails และ governance ที่ออกแบบมาให้รองรับการตัดสินใจเป็นลำดับชั้น. เราเพิ่มเซนเซอร์และระบบตรวจจับจนเก่ง แต่ยังทิ้งเลเยอร์ตัดสินใจและลงมือไว้ให้มนุษย์อ่านแจ้งเตือนทีละอัน. เราต่อโมเดลเข้าบล็อกเชนแบบคิดว่าการเซ็นทรานแซกชันเท่ากับการควบคุมการดำเนินการ ทั้งที่ execution layer ที่จัดการสถานะและเครือข่ายต่างหากคือหัวใจ. เราวาง guardrails เพื่อกันภัยด้านความปลอดภัย แต่ไม่ตั้งขอบเขตเสียงแบรนด์และนโยบายให้ agent รู้จัก “ตัวตนองค์กร” เมื่อมันพูดและลงมือเอง.

ถ้าองค์กรต้องการ AI agent ความเชื่อถือได้ เป้าหมายจึงไม่ใช่การสร้าง agent ที่ทำทุกอย่างแทนคน แต่เป็นการกำหนดชัดว่า agent มีสิทธิ์ทำ “อะไร” ด้วยตัวเอง และต้องเรียกคนเข้าแทรกเมื่อ “อะไร” มาถึงขอบเขต. สิ่งที่ควรลงทุนคือเฟรมเวิร์ก governance ที่บูรณาการ RAG, guardrails ด้านแบรนด์, execution layer ที่เข้าใจ state และการออกแบบกระบวนการส่งต่อจาก agent ไปยังมนุษย์เมื่อจำเป็น. เมื่อองค์กรยอมรับว่าความเชื่อถือได้เกิดจากการออกแบบเส้นแบ่ง autonomy ไม่ใช่จากการเพิ่มความสามารถแบบไร้ขอบเขต เราจะเริ่มเห็น agent ที่ไม่จบอยู่แค่หน้าจอแจ้งเตือน แต่ลงมือทำงานจริงในโลกธุรกิจได้อย่างรับผิดชอบ