ผู้บริหารไม่เข้าใจ AI ของตัวเอง: ช่องว่างความโปร่งใสในองค์กร

AI กล่องดำในห้องประชุม: เมื่อผู้บริหารตอบไม่ได้ว่าเครื่องมือทำงานอย่างไร

AI transparency ในองค์กร คือระดับความชัดเจนที่บริษัทสามารถอธิบายได้ว่าโมเดลปัญญาประดิษฐ์ใช้ข้อมูลแบบใด ประมวลผลอย่างไร และสร้างผลลัพธ์ที่เชื่อมโยงกับการตัดสินใจธุรกิจอย่างไร รวมถึงการระบุข้อจำกัด อคติ และความเสี่ยงของโมเดล เพื่อให้ผู้บริหาร พนักงาน และผู้มีส่วนได้ส่วนเสียสามารถตรวจสอบ ถกเถียง และรับผิดชอบต่อผลของการใช้ AI ได้อย่างโปร่งใส ไม่ใช่ปล่อยให้ระบบทำงานแบบ “กล่องดำ” ที่ไม่มีใครอธิบายได้แต่ทุกคนต้องเชื่อผลลัพธ์

ปัญหาใหญ่ไม่ใช่แค่การใช้ AI แต่คือการใช้โดยไม่เข้าใจ กลายเป็นวัฒนธรรม “ฝากชีวิตไว้กับ AI” โดยผู้บริหารยังตอบไม่ได้ว่าเครื่องมือที่ลงทุนไปกำลังทำอะไรกับข้อมูลของบริษัท ตามรายงานจาก Startups.co.uk ที่อ้างโดย TechRadar Pro มีผู้บริหารหนึ่งในสี่ไม่สามารถอธิบายผลลัพธ์ที่ AI สร้างให้ผู้มีส่วนได้ส่วนเสียได้อย่างชัดเจน และมีเพียง 22% เท่านั้นที่อธิบายได้อย่างง่ายดาย สิ่งนี้สะท้อนว่าคำว่า ผู้บริหารเข้าใจ AI ยังเป็นแค่คำโฆษณา มากกว่าจะเป็นความจริงในองค์กรส่วนใหญ่ เมื่อระดับผู้ตัดสินใจเองยังไม่เข้าใจ AI transparency ในองค์กร ความรับผิดชอบ AI จึงเริ่มต้นไม่ได้ตั้งแต่จุดแรกสุดของกระบวนการกำกับดูแล

ความเสี่ยงซ่อนอยู่ในตัวเลข: เมื่อ AI ช่วยงานการเงินแต่ไม่มีใครตรวจสอบได้

สิ่งที่น่ากังวลไม่ใช่แค่ผู้บริหารไม่เข้าใจ AI แต่คือการปล่อยให้ AI เข้าไปอยู่ในใจกลางระบบการเงินขององค์กรโดยขาดความรับผิดชอบ AI ที่ชัดเจน รายงานเดียวกันชี้ว่ากว่า 85% ของธุรกิจขนาดเล็กใช้ AI ทำงานด้านการเงินที่ละเอียดอ่อน ตั้งแต่การจัดการบัญชีเจ้าหนี้ การตรวจสอบและความสอดคล้อง ไปจนถึงการดูแลค่าใช้จ่าย การปล่อยให้โมเดลที่อธิบายไม่ได้ทำงานกับตัวเลขเหล่านี้ เท่ากับเปิดประตูให้ความผิดพลาดที่ไม่มีใครตามรอยได้ และเมื่อเกิดปัญหา ผู้บริหารก็อาจตอบได้เพียงว่า “AI บอกมาแบบนี้”

การใช้ AI ในงานอย่าง audit และ compliance ยิ่งเพิ่มเดิมพันให้สูงขึ้น เพราะเกี่ยวข้องกับกฎหมายและความเชื่อมั่นของลูกค้า หากไม่มี AI explainability ที่ดีพอ การพิสูจน์ว่าบริษัททำงานโปร่งใสจะยิ่งยาก ในขณะเดียวกัน ลูกค้าและนักลงทุนเริ่มหลีกเลี่ยงธุรกิจที่ใช้ AI แบบไม่ตรวจสอบ การปล่อยให้ระบบอัตโนมัติเดินหน้าตัดสินใจเรื่องสำคัญ แทนที่จะสร้างความได้เปรียบทางเทคโนโลยี อาจกลายเป็นจุดอ่อนทางความน่าเชื่อถือขององค์กรเอง และทำให้ AI transparency ในองค์กรกลายเป็นข้อสงสัยแทนที่จะเป็นจุดขาย

เมื่อ AI มั่นใจที่สุดตอนตอบผิด: ช่องว่างระหว่างคำตอบที่ฟังดูดีและคำตอบที่ถูกต้อง

ปัญหาความไม่โปร่งใสใน AI ไม่ได้อยู่แค่ในระดับระบบ แต่แทรกอยู่ในธรรมชาติของโมเดลเอง งานวิเคราะห์จาก VentureBeat แสดงให้เห็นว่าทีมพัฒนาเครื่องมือที่ใช้โมเดลภาษาใหญ่จำนวนมากหลีกเลี่ยงขั้นตอนที่สำคัญที่สุด นั่นคือการตรวจว่าโมเดลให้คำตอบถูกต้องจริงหรือไม่ ไม่ใช่แค่ฟังดูดีหรือเชื่อมโยงหัวข้อถูกต้อง ในโลกธุรกิจ การประเมินผลลัพธ์ AI ด้วยเกณฑ์ “ดูสมเหตุสมผล” ยังคงแพร่หลาย ทั้งที่เกณฑ์นี้แทบไม่บอกอะไรเลยเกี่ยวกับความถูกต้อง เมื่อเครื่องมือเริ่มมีส่วนกำหนดการสืบค้นปัญหาข้อมูล การตัดสินใจยกระดับเคส compliance หรือการจัดการความล้มเหลวในการตรวจสอบ ความคลาดเคลื่อนเล็กน้อยในคำตอบอาจกลายเป็นผลกระทบใหญ่ต่อธุรกิจ

ที่น่ากังวลยิ่งกว่าคือรูปแบบที่พบจากระบบประเมินผล (eval harness) คือโมเดลมักแสดงความมั่นใจสูงสุดเมื่อให้คำตอบผิด โดยเฉพาะในสถานการณ์ที่มีสัญญาณทับซ้อนและมีหลายสาเหตุที่เป็นไปได้ ทำให้ผู้ใช้เข้าใจว่าคำตอบนั้นน่าเชื่อถือ ทั้งที่แท้จริงแล้วเบี่ยงเบนจากความจริงอย่างมีนัยสำคัญ ช่องว่างระหว่าง “คำตอบที่ฟังดูดี” กับ “คำตอบที่ตรวจสอบได้ว่าถูกต้อง” คือพื้นที่ที่ ความรับผิดชอบ AI ถูกทิ้งไว้โดยไม่มีเจ้าภาพ หากองค์กรไม่สร้างกลไกตรวจสอบเทียบกับข้อมูลจริง AI explainability ก็จะเป็นเพียงคำสวยหรูในสไลด์นำเสนอเท่านั้น

จากกล่องดำสู่ระบบที่อธิบายได้: วิธีสร้างความโปร่งใสและความรับผิดชอบ AI ในองค์กร

หากผู้บริหารยังอธิบายไม่ได้ว่า AI ทำงานอย่างไร การพูดถึงความรับผิดชอบ AI ก็ไร้ความหมาย สิ่งที่องค์กรต้องทำจึงไม่ใช่หยุดใช้ AI แต่ปรับวิธีใช้ให้มี AI transparency ในองค์กรอย่างเป็นรูปธรรม ขั้นแรกคือการยอมรับว่า “ความสมเหตุสมผล” ไม่ใช่หลักฐานของความถูกต้อง และลงทุนสร้างชุดทดสอบที่มีคำตอบจริงชัดเจน เพื่อวัดว่าโมเดลตอบถูกกี่ครั้ง แทนที่จะวัดว่าอ่านแล้วรู้สึกดีแค่ไหน สร้างกลไกประเมินผลรูปแบบ eval harness ที่วัดทั้งการมีคำตอบที่ถูกในผลลัพธ์ และลำดับความสำคัญที่โมเดลให้กับคำตอบนั้น

ถัดมาคือการดึงผู้บริหารให้เข้ามาอยู่ในวงจรการตรวจสอบ ไม่ใช่ปล่อยทุกอย่างให้ทีมเทคนิค ผู้บริหารต้องเข้าใจหลักการของ AI explainability อย่างน้อยในระดับที่สามารถตั้งคำถามได้ว่า โมเดลใช้ข้อมูลอะไร อะไรคือข้อจำกัด และผลลัพธ์ใช้เกณฑ์อะไรในการจัดอันดับความน่าเชื่อถือ รวมถึงต้องมีนโยบายชัดเจนว่า การตัดสินใจสำคัญใดบ้างที่ต้องมีมนุษย์เป็นด่านสุดท้ายไม่ว่าระบบจะมั่นใจแค่ไหน เมื่อความรับผิดชอบ AI ถูกยึดโยงกับคนที่มีอำนาจตัดสินใจจริง ไม่ใช่โยนให้ “อัลกอริทึม” โดยไม่มีเจ้าของ การใช้ AI จึงเริ่มเดินเข้าใกล้คำว่าปลอดภัยและตรวจสอบได้มากขึ้น