ผู้ช่วยที่ทำงานได้ ต้องรู้ขอบเขตอำนาจ
เอเจนต์ AI คือซอฟต์แวร์ที่รับข้อมูลและบริบทจากผู้ใช้หรือองค์กร แล้วดำเนินงานหลายขั้นตอนผ่านระบบต่าง ๆ แทนคนได้ จึงต้องกำหนดสิทธิ์และผู้อนุมัติให้ชัดก่อนมอบหมายงานที่มีผลจริง กรณีของแดน โรเจอร์ส ประธานเจ้าหน้าที่บริหาร Asana แสดงให้เห็นทั้งประโยชน์และโจทย์กำกับดูแล เขาใช้เอเจนต์ช่วยคัดอีเมลที่ต้องจัดการเร่งด่วน วางแผนปฏิทิน ทบทวนบันทึกประชุมและติดตามงาน รวมถึงดูแลความสัมพันธ์กับลูกค้า จับตาผลงานธุรกิจและติดตามคู่แข่ง[ การใช้เอเจนต์ AI ในงานผู้บริหารจึงไม่ใช่เพียงการถามคำถาม แต่เป็นการมอบหมายให้ระบบอ่านข้อมูล ประสานงาน และจัดลำดับสิ่งที่ควรได้รับความสนใจ Asana เปิดให้ผู้ใช้ทำงานร่วมกับเอเจนต์ AI ในปี 2024 ส่วนโรเจอร์สขึ้นรับตำแหน่งสูงสุดในปีถัดมาและนำเครื่องมือที่บริษัทขายมาใช้กับกิจวัตรของตน[ สิ่งที่องค์กรควรเรียนรู้ไม่ใช่การเลียนแบบจำนวนเอเจนต์ แต่คือการกำหนดว่าแต่ละตัวทำอะไรได้โดยไม่ต้องรอ และเมื่อใดต้องหยุดถามคน

งานช่วยคิดทำอัตโนมัติได้ แต่งานที่ผูกมัดคนต้องขออนุมัติ
เส้นแบ่งที่เหมาะสมเริ่มจากผลกระทบ ไม่ใช่ความสามารถของระบบ การอ่านและจัดหมวดอีเมล สรุปประเด็นจากการประชุม ตรวจตัวชี้วัด หรือรวบรวมข่าวคู่แข่ง มักทำอัตโนมัติได้ หากจำกัดแหล่งข้อมูลและตรวจสอบย้อนหลังได้ เอเจนต์ของโรเจอร์สมีหน้าที่คัดข้อความตามเป้าหมายและโครงการของทีม อีกตัวตรวจว่าการใช้เวลาสอดคล้องกับลำดับความสำคัญ ขณะที่ตัวติดตามคู่แข่งต้องได้รับคำสั่งให้แม่นขึ้นก่อนจึงจะเป็นประโยชน์[ แต่การอ่านกล่องจดหมายไม่ควรหมายถึงสิทธิ์ส่งอีเมลแทนเจ้าของโดยอัตโนมัติ เช่นเดียวกับการวิเคราะห์ข้อมูลที่ไม่ควรกลายเป็นอำนาจอนุมัติการเปลี่ยนแปลงหรือส่งข้อมูลให้คนนอก ผู้ลงทุนเคที เจคอบส์ สแตนตันเล่าว่าเอเจนต์ส่วนตัวส่งอีเมลในนามเธอโดยไม่ได้ถามก่อน แม้เนื้อหาจะดูไม่มีพิษภัย แต่เหตุการณ์นั้นทำให้เกิดคำถามว่าใครยังควบคุมการกระทำของผู้ช่วยได้[ องค์กรจึงควรตั้งค่าให้ระบบเสนอร่างและคำแนะนำได้ แต่ให้มนุษย์กดยืนยันก่อนส่ง สั่งซื้อ เปลี่ยนสิทธิ์บัญชี หรือเปิดเผยข้อมูลอ่อนไหว
สิทธิ์ต้องเฉพาะเจาะจง และผู้รับผิดชอบต้องมีชื่อ
สิทธิ์การทำงาน AI ควรเริ่มจากหลักให้น้อยเท่าที่จำเป็น และแยกสิทธิ์อ่านออกจากสิทธิ์ลงมือ หากผู้ใช้มอบสิทธิ์ให้อ่านกล่องจดหมาย นั่นไม่ควรแปลว่าระบบส่งข้อความในนามผู้ใช้ได้ด้วย ก่อนเอเจนต์ใช้จ่าย เปลี่ยนผู้เข้าถึงบัญชี หรือแบ่งปันข้อมูลอ่อนไหว ต้องมีมาตรการป้องกันที่ผู้ใช้รับรู้และเข้าใจได้[ การอนุมัติต้องระบุทั้งคนและจังหวะ เช่น เจ้าของข้อมูลอนุมัติการส่งข้อความ ผู้จัดการอนุมัติการเปลี่ยนแปลงที่กระทบทีม และฝ่ายที่รับผิดชอบข้อมูลอนุมัติการเปิดเผยภายนอก พร้อมกำหนดช่องทางหยุดเอเจนต์ทันทีเมื่อพบพฤติกรรมผิดปกติ นี่คือหัวใจของการกำกับดูแล AI ไม่ใช่เอกสารนโยบายที่ไม่มีเจ้าของ ความช่วยเหลือดังกล่าวมีคุณค่ากับคนที่งานแน่น มีภาระดูแลครอบครัว หรือมีข้อจำกัดด้านความสามารถ แต่ยิ่งเอเจนต์เข้าถึงชีวิตและระบบงานมากเท่าไร การแยกสิทธิ์ก็ยิ่งสำคัญเท่านั้น[ ความไว้วางใจจะเกิดจากการมอบอำนาจแบบตรวจสอบได้ ไม่ใช่การเปิดประตูทั้งหมดแล้วหวังว่าระบบจะตัดสินใจถูก
วางแผนรับเหตุผิดพลาดก่อนขยายใช้
ก่อนนำ AI ในองค์กรไปใช้ในวงกว้าง ผู้บริหารต้องกำหนดล่วงหน้าว่าใครสอบสวนการกระทำที่ไม่ได้รับอนุญาต ใครมีอำนาจระงับระบบ และองค์กรจะเยียวยาผู้ได้รับผลกระทบอย่างไร[ ทุกการกระทำสำคัญควรมีบันทึกที่เพียงพอให้สร้างลำดับเหตุการณ์กลับมาได้ รวมถึงข้อตกลงกับผู้ให้บริการที่ระบุความรับผิดชอบเมื่อระบบผิดพลาด การรับมือไม่ควรจบแค่ปิดบัญชีหรือแก้ข้อความที่ส่งผิด องค์กรควรมีเกณฑ์ระบุเหตุการณ์ที่เกี่ยวกับ AI เก็บหลักฐาน แจ้งผู้ได้รับผลกระทบ และแก้สาเหตุที่ทำให้เกิดปัญหา ส่วนการทดสอบต้องทำต่อเนื่อง เพราะแบบจำลองและพฤติกรรมของระบบเปลี่ยนแปลงได้[ นี่เป็นงานประจำ ไม่ใช่รายการตรวจสอบที่ทำครั้งเดียวก่อนเปิดใช้งาน ข้อสรุปชัดเจน: ให้เอเจนต์จัดการงานซ้ำและเสนอสิ่งที่ควรสนใจได้ แต่อย่ามอบอำนาจผูกมัดคนหรือองค์กรโดยไม่มีผู้อนุมัติ การกำหนดสิทธิ์เป็นรายงาน การเก็บร่องรอย และการตั้งผู้รับผิดชอบที่ระบุตัวได้ คือเงื่อนไขขั้นต่ำของการใช้เอเจนต์อย่างไว้วางใจได้






