ค้นพบความสนใจของคุณ ไปด้วยกัน

ดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

ค้นพบความสนใจของคุณ ไปด้วยกันดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

เอเจนต์ AI ในองค์กรต้องเก่งและถูกควบคุมได้

เอเจนต์ AI ในองค์กรต้องเก่งและถูกควบคุมได้
ความสนใจ|วิเคราะห์ข้อมูลด้วย AI

จากความสามารถสู่ความรับผิดชอบ

กรอบกำกับดูแลเอเจนต์ AI คือชุดกติกา เครื่องมือ และบันทึกตรวจสอบที่กำหนดว่าเอเจนต์เข้าถึงข้อมูลใด ตัดสินใจได้แค่ไหน ใครรับผิดชอบ และจะหยุดหรือทบทวนงานเมื่อใด

เอเจนต์ที่ทำงานได้มากขึ้นย่อมสร้างประโยชน์ได้มากขึ้น แต่ก็เพิ่มโอกาสเกิดความผิดพลาดที่ขยายวงกว้าง ทั้งคำตอบที่ไม่น่าเชื่อถือ การเข้าถึงข้อมูลเกินสิทธิ์ และค่าใช้จ่ายที่สะสมโดยไม่มีใครสังเกต การกำกับดูแลจึงไม่ควรถูกมองเป็นขั้นตอนเสริมหลังสร้างระบบเสร็จ แต่เป็นเงื่อนไขพื้นฐานของการนำไปใช้จริง

การเคลื่อนไหวของ Salesforce, IBM และ Aera สะท้อนความเข้าใจร่วมกันว่าองค์กรต้องมีวิธีควบคุมเอเจนต์ AI ควบคู่กับการเพิ่มขีดความสามารถ ไม่ว่าจะเป็นการจัดการต้นทุน การกำกับดูแลข้อมูล หรือการยืนยันว่าเอเจนต์มีสิทธิ์ทำสิ่งใด หากขาดกลไกเหล่านี้ ความเร็วในการทำงานอาจกลายเป็นความเร็วในการสร้างปัญหาแทน

Salesforce ผูกการประเมินเข้ากับการควบคุมต้นทุน

Salesforce เพิ่ม Agent Evals และเครื่องมือควบคุมค่าใช้จ่ายให้ Agent Fabric ซึ่งออกแบบมาเพื่อค้นหา กำกับดูแล และติดตามเอเจนต์จากหลายแพลตฟอร์ม จุดสำคัญไม่ใช่แค่การแสดงผลว่าเอเจนต์ทำงานอย่างไร แต่คือการเปลี่ยนผลตรวจสอบให้เป็นการตอบสนอง เมื่อคุณภาพต่ำกว่าเกณฑ์ที่กำหนด ระบบสามารถเริ่มมาตรการล่วงหน้า รวมถึงหยุดเอเจนต์ด้วย Agent Kill Switch และขออนุมัติตามนโยบายของทีม

Agent Evals สร้างชุดทดสอบก่อนติดตั้งใช้งาน และประเมินเอเจนต์ในระบบจริง ส่วน API Evals ช่วยตรวจจับการเปลี่ยนแปลงของ API ที่อาจทำให้ขั้นตอนเดิมล้มเหลว การกำหนดวงเงินยังช่วยให้การจัดการต้นทุนเป็นส่วนหนึ่งของการกำกับดูแล ไม่ใช่เรื่องที่ค่อยตรวจเมื่อเห็นค่าใช้จ่ายพุ่งแล้ว

Salesforce ระบุว่า Agent Fabric รองรับคำขอมากกว่า 1.2 พันล้านรายการต่อวัน ตัวเลขนี้ทำให้เห็นความสำคัญของการตรวจสอบเอเจนต์อย่างต่อเนื่อง เมื่อระบบทำงานในปริมาณมาก การรอให้ผู้ใช้ร้องเรียนก่อนจึงค่อยแก้ย่อมช้าเกินไป อย่างไรก็ดี การมีเครื่องมือประเมินไม่ใช่หลักประกันว่าเกณฑ์ที่ตั้งไว้เหมาะสม องค์กรยังต้องกำหนดมาตรฐานคุณภาพและผู้มีอำนาจอนุมัติให้ชัดเจน

เอเจนต์ AI ในองค์กรต้องเก่งและถูกควบคุมได้

IBM ทำให้ตัวตนและสิทธิ์ของเอเจนต์ตรวจสอบย้อนกลับได้

IBM วางโจทย์การกำกับดูแลไว้ที่คำถามว่าเอเจนต์คือใคร ใครเป็นเจ้าของ และมีอำนาจทำอะไรได้บ้าง ความสามารถ IBM Agent Identity ลงทะเบียนเอเจนต์ไว้ในคลังกลาง พร้อมข้อมูลเจ้าของ ระดับความเสี่ยง เครื่องมือที่ได้รับอนุมัติ และสถานะวงจรชีวิต ส่วน HashiCorp Vault จัดหาข้อมูลรับรองสำหรับระบบปลายทางตามความจำเป็น

การออกโทเค็น OAuth อายุสั้นและจำกัดขอบเขตตามงานช่วยลดการพึ่งพาข้อมูลรับรองที่ใช้ต่อเนื่อง ขณะที่การคงการมอบอำนาจจากผู้ใช้ไว้ระหว่างการทำงาน ทำให้ตามรอยได้ว่าใครหรือระบบใดเป็นต้นทางของการกระทำ บันทึกตรวจสอบยังเชื่อมโยงตัวตน การอนุมัติ การตัดสินใจตามนโยบาย และการดำเนินการในระบบปลายทาง นี่คือฐานสำคัญของการควบคุมการเข้าถึงโดยไม่ได้รับอนุญาต

ข้อมูลจาก IBM ยังชี้ให้เห็นช่องว่างที่ต้องเร่งจัดการ โดย Gartner คาดการณ์ว่าองค์กร Fortune 500 ทั่วโลกจะมีเอเจนต์ใช้งานเฉลี่ยมากกว่า 150,000 ตัวภายในปี 2028 จากจำนวนไม่ถึง 15 ตัวในปี 2025 และมีเพียง 13% ขององค์กรที่เชื่อว่าตนมีการกำกับดูแลเอเจนต์ AI เหมาะสมแล้ว การเพิ่มจำนวนเอเจนต์โดยไม่มีเจ้าของและร่องรอยการทำงานที่ชัดเจน จึงไม่ใช่แค่ความเสี่ยงด้านไอที แต่เป็นปัญหาความรับผิดชอบทางธุรกิจด้วย

เอเจนต์ AI ในองค์กรต้องเก่งและถูกควบคุมได้

Aera ตรวจคำแนะนำก่อนเปลี่ยนเป็นการตัดสินใจ

Aera Technology เน้นช่องว่างอีกด้านหนึ่ง คือคำแนะนำของเอเจนต์ยังไม่ควรถูกนับเป็นการตัดสินใจทางธุรกิจที่เชื่อถือได้โดยอัตโนมัติ การเปลี่ยนคำแนะนำเรื่องซัพพลายเออร์หรือสินค้าคงคลังให้เป็นการลงมือทำ ต้องอาศัยข้อมูลประกอบ การเปรียบเทียบทางเลือก การตรวจนโยบาย การอนุมัติ และบันทึกผลที่เกิดขึ้น

การอัปเดตแพลตฟอร์มทั้งหกรายการของ Aera ครอบคลุมการสร้างทักษะด้วยภาษาธรรมชาติ บัญชีแยกประเภทการตัดสินใจ Policy Studio การทำงานร่วมกันระหว่างเอเจนต์ ประสบการณ์ผู้ใช้แบบไดนามิก และศูนย์บัญชาการ ผู้ใช้สามารถให้ระบบเสนอแผนสำหรับโจทย์ธุรกิจ แล้วตรวจทาน ปรับแก้ และอนุมัติก่อนนำไปใช้ แนวทางนี้ทำให้การตรวจสอบคำแนะนำเป็นส่วนหนึ่งของกระบวนการ ไม่ใช่การตามแก้หลังเกิดผลกระทบ

เมื่อนำทั้งสามแนวทางมาพิจารณาร่วมกัน ภาพตลาดชัดขึ้นว่าองค์กรไม่ได้ต้องการเพียงเอเจนต์ที่ทำงานได้ แต่ต้องการเอเจนต์ที่มีตัวตน มีขอบเขต มีต้นทุนที่ควบคุมได้ และมีคำแนะนำที่ผ่านการตรวจสอบ ความเชื่อถือ AI จึงไม่ได้เกิดจากคำตอบที่ฟังดูดี แต่เกิดจากหลักฐานและกระบวนการที่ตรวจสอบย้อนหลังได้ ข้อสรุปคือการกำกับดูแลไม่ใช่เบรกของนวัตกรรม แต่เป็นเงื่อนไขที่ทำให้องค์กรกล้าใช้เอเจนต์ในงานสำคัญ

ZestBuy ได้รับค่าคอมมิชชั่นเมื่อคุณช้อปผ่านลิงก์ของเรา โดยคุณไม่ต้องจ่ายเพิ่ม

You May Also Like

Comments
พูดอะไรบางอย่าง...
ยังไม่มีความคิดเห็น มาเป็นคนแรกที่แบ่งปันความคิดเห็นของคุณ!