เมื่อการลงทุน AI วิ่งแซงคุณค่าธุรกิจ วิกฤตการกำกับดูแลที่องค์กรมองข้าม

AI ที่ใช้เงินมากกว่าสร้างคุณค่า ปัญหานี้คืออะไร

วิกฤตการกำกับดูแล AI หมายถึงสถานการณ์ที่องค์กรลงทุนและติดตั้งระบบปัญญาประดิษฐ์อย่างรวดเร็ว แต่ขาดกรอบกติกา เครื่องมือวัดผล และความรับผิดชอบที่ชัดเจน ส่งผลให้ไม่สามารถประเมินได้ว่า AI สร้างคุณค่าทางธุรกิจจริงหรือไม่ เพิ่มความเสี่ยงด้านจริยธรรมและการดำเนินงาน และเปิดช่องให้การใช้ข้อมูลถูกบิดเบือนไปในทางที่ไม่ได้คำนึงถึงผู้ใช้หรือสังคมโดยรวม การลงทุนด้าน AI กำลังขยายตัวอย่างรวดเร็ว ขณะที่หลายองค์กรเริ่มใช้ AI ในบริการลูกค้า การจัดการความรู้ การพัฒนาซอฟต์แวร์ และงานภายในเพื่อเพิ่มประสิทธิภาพและผลประกอบการ แต่การขยายตัวนี้กลับเร็วกว่าความสามารถในการวัด กำกับ และอธิบายคุณค่าที่แท้จริงของ AI ทำให้ผู้นำสายเทคโนโลยีและการเงินถูกถามมากขึ้นว่าไม่ใช่แค่ใช้ AI หรือไม่ แต่ใช้แล้วคุ้มค่าจริงหรือเปล่า การลงทุนที่ไม่มีคำตอบเรื่อง AI ROI measurement จึงเริ่มกลายเป็นต้นทุนที่มองไม่เห็นและเสี่ยงจะกลายเป็นเงินจม

เคส Draftkings กับการใช้ AI มุ่งเป้าคนแพ้คือภาพสะท้อน AI governance failures

กรณีของ Draftkings เป็นตัวอย่างชัดเจนว่าการขาด AI risk management และการกำกับดูแลทำให้ AI ถูกใช้เพื่อสร้างรายได้จากผู้ที่เปราะบางอย่างไร NYT รายงานว่าบริษัทใช้ AI เพื่อมุ่งโปรโมชันไปยังนักพนันที่มีแนวโน้มจะขาดทุนมากที่สุด มีโมเดลหนึ่งที่สร้างขึ้นในปี 2023 เพื่อให้คะแนน elasticity กับผู้เล่นแต่ละคน ยิ่งคะแนนสูงยิ่งมีแนวโน้มจะเสียเงินมากขึ้นต่อโปรโมชันที่ได้รับ และการวิเคราะห์ในภายหลังพบว่าผู้เล่นที่มีค่า elasticity สูงเดิมพันสล็อตมากกว่าค่าเฉลี่ย ขณะเดียวกัน โมเดล AI อีกตัวที่ฝ่ายการพนันอย่างรับผิดชอบพัฒนาขึ้นเพื่อให้คะแนนความเสี่ยงและคาดการณ์พฤติกรรมที่เป็นอันตรายหลายวันหรือหลายสัปดาห์ล่วงหน้ากลับถูกยุติโครงการในช่วงต้นปี 2025 นักวิเคราะห์สองคนระบุว่าพวกเขาขอมาตรการป้องกันไม่ให้โมเดลระบุนักพนันที่เปราะบางเป็นเป้าหมาย แต่ได้รับคำตอบว่าจะมีอีกส่วนหนึ่งของบริษัทดูแลเรื่องนี้ ทว่าต่อมางานด้านการป้องกันถูกชี้นำให้ออกจากการทำงานกับเครื่องมือ AI ในลักษณะเดียวกัน นี่คือ AI governance failures ในรูปแบบที่จับต้องได้

งานวิจัยที่ถูกอ้างถึงยังชี้ว่า รายได้รวมจากการเดิมพันกีฬาและคาสิโนของ Draftkings เมื่อปีที่แล้วอยู่ในระดับสูง และบริษัทคืนให้ลูกค้าในรูปแบบโปรโมชันเป็นจำนวนมาก แต่แม้ลูกค้าจะเพิ่มจาก 5 ล้านรายเป็น 11 ล้านรายภายในเวลาไม่นาน ผู้เดิมพันออนไลน์โดยทั่วไปกลับได้เงินคืนไม่ถึง 75 เซนต์ต่อทุก 1 ดอลลาร์ที่ส่งไปยังแพลตฟอร์มเดิมพัน เมื่อผู้บริหารคนหนึ่งบอกนักลงทุนว่าวิทยาศาสตร์ข้อมูลช่วยเพิ่มมาร์จินของการเดิมพันกีฬาที่ขับเคลื่อนด้วยโปรโมชันขึ้น 13% ในปี 2025 และบริษัทใช้ AI เพื่อปรับโปรโมชันให้เป็นส่วนบุคคลสำหรับเงินโปรโมชันหลายร้อยล้านดอลลาร์ เราจึงเห็นชัดว่า business value AI ที่ถูกเน้นคือการบีบกำไรจากคนที่แพ้ ไม่ใช่การคุ้มครองคนที่มีปัญหาการพนัน ดังประโยคจากอดีตนักวิเคราะห์ที่ว่า “การลงทุนที่ดีที่สุดคือผู้มีปัญหาการพนัน”

เมื่อองค์กรวัดแค่การใช้ ไม่วัดคุณค่า การลงทุน AI จึงกลายเป็นเงินจม

ในระดับองค์กรทั่วไป ช่องว่างสำคัญคือความสามารถในการวัด AI ROI measurement อย่างเป็นระบบ แม้การลงทุนด้าน AI ถูกตรวจสอบเหมือนการลงทุนเทคโนโลยีอื่น แต่การวัดผลตอบแทนกลับซับซ้อนผิดปกติ การใช้งานกระจายอยู่หลายแผนก หลายแอป หลายโมเดลและเวิร์กโฟลว์ ขณะที่ประโยชน์มีตั้งแต่เวลาที่ประหยัด คุณภาพที่ดีขึ้น การลดความเสี่ยง ไปจนถึงรายได้ที่เพิ่มขึ้น หากไม่ตกลงกันก่อนว่าความสำเร็จหมายถึงอะไร องค์กรจะลงเอยกับการวัดกิจกรรมแทนที่จะวัดคุณค่า การสำรวจผู้นำสายไอที 851 คนในหลายประเทศพบว่าการมองเห็นต้นทุนเป็นอุปสรรคอันดับหนึ่งต่อการวัด AI ROI โดย 51% ระบุว่าปัญหาคือต้นทุนที่ไม่ชัด และอีก 47% ชี้ว่าความซับซ้อนของการกำกับดูแลคืออีกปัญหาสำคัญ น่าเป็นห่วงยิ่งกว่าคือบางส่วนไม่แน่ใจด้วยซ้ำว่ามีการกำกับดูแลเกิดขึ้นจริงหรือไม่ ซึ่งช่องว่างเหล่านี้สร้างทั้งต้นทุนและความเสี่ยง ปัญหานี้สะท้อนชัดว่า deployment AI ไม่ใช่หลักฐานว่ามี business value AI การกำกับดูแลจึงไม่ใช่แค่เรื่องความเสี่ยง แต่กลายเป็นส่วนหนึ่งของเหตุผลเชิงธุรกิจในการลงทุนด้วย

โลกการเงินสอนบทเรียนสำคัญ เรื่อง machine learning validation และการจัดการความเสี่ยง

ในสายการเงิน เราเห็นอีกมิติของ AI governance failures ที่ซ่อนอยู่ในขั้นตอน machine learning validation งานวิจัยด้านการเงินเตือนว่า AI สำหรับการเทรดอาจแม่นยำแต่ไร้ค่าทางเศรษฐกิจ หรือมี backtest ที่ยอดเยี่ยมแต่ไม่สามารถยืนยันได้ว่าระบบเรียนรู้อะไรที่ทนนานจริงๆ การวัดแต่ตัวเลขความแม่นยำหรือ error จึงไม่พอ เพราะตลาดจริงเต็มไปด้วยต้นทุนธุรกรรม ความผันผวน ผลตอบแทนที่ไม่สมมาตร และข้อจำกัดด้านเวลา โมเดลอาจทำนายทิศทางตลาดถูกบ่อย แต่หากการทำนายที่ผิดเกิดขึ้นก่อนการเคลื่อนไหวใหญ่ ขณะที่การทำนายที่ถูกเกิดก่อนการเคลื่อนไหวน้อย ผลเชิงเศรษฐกิจก็ยังแย่ได้ การทดลองยังพบว่าหากเปลี่ยน pipeline การเทรนที่ต่างกัน โมเดลสามารถมีคะแนนความแม่นยำคล้ายกันแต่สร้างพอร์ตที่มีการสับเปลี่ยนหลักทรัพย์ต่างกันถึงราวสามเท่า แม้ Sharpe ratio คล้ายกัน ซึ่งมีผลต่อค่าธรรมเนียมและความเป็นไปได้ในการใช้งานจริง นั่นทำให้คำถามสำคัญกลายเป็นว่า โมเดลสร้างการตัดสินใจแบบไหนเมื่อเจอตลาดจริง ไม่ใช่แค่คะแนนแม่นยำเท่าไร

อีกปัญหาคือการใช้ข้อมูลเกินจำนวนและการรัน backtest ซ้ำๆ จนสุดท้ายต้องมีบางโมเดลที่ดูดีเป็นพิเศษโดยบังเอิญ งานวิจัยด้าน Spurious Predictability ชี้ว่าการทดลองหลายรูปแบบสามารถสร้าง backtest ที่ดูมีนัยสำคัญทางสถิติแม้ในสภาพแวดล้อมที่ไม่มีความสามารถในการทำนายจริง และแนะให้ทดสอบทั้ง workflow การทำนาย ไม่ใช่แค่โมเดลที่ชนะสุดท้าย ขณะเดียวกัน การรั่วไหลของข้อมูลสามารถทำให้โมเดลดู賢กว่าความจริง และทำให้การตัดสินใจเสี่ยงเกินไปโดยไม่รู้ตัว ประเด็นเหล่านี้สะท้อนว่า AI risk management ในสายการเงินไม่สามารถพึ่งการเพิ่มความซับซ้อนของโมเดลได้ แต่ต้องพึ่งการออกแบบการทดลองที่ดีกว่าและระบบ validation ที่ป้องกัน leakage อย่างจริงจัง

ถ้าไม่แก้วิกฤตการกำกับดูแล การลงทุน AI จะยิ่งห่างไกลจากคุณค่าที่ควรมี

เมื่อมองรวมทั้งเคส Draftkings และประสบการณ์ในโลกการเงิน เราเห็นภาพเดียวกันคือองค์กรขาดกระบวนการตรวจสอบ business value AI ที่ไปไกลกว่าคะแนนทางเทคนิค ทำให้เงินลงทุนจำนวนมากไหลไปสู่โมเดลที่อาจไม่สร้างคุณค่าจริง หรือแย่กว่านั้นคือสร้างคุณค่าทางการเงินจากการทำร้ายกลุ่มเปราะบาง เช่น นักพนันที่มีปัญหา ใน Draftkings เอง เมื่อทีม Responsible Gaming พยายามนำเสนอโมเดลผู้สืบทอดให้ผู้บริหาร รวมถึง Chief Responsible Gaming Officer การประชุมถูกยกเลิกและความพยายามอีกสองครั้งก็ถูกพักไว้ ขณะที่ผู้บริหารระดับสูงประกาศกับสื่อว่าธุรกิจ “กำลังไปได้ดีมาก” ใกล้เคียงช่วงที่รายงานการใช้ AI เพื่อมุ่งเป้านักพนันที่แพ้ถูกเผยแพร่ การลงทุน AI มีแนวโน้มจะดำเนินต่อไป แต่ภายใต้ความคาดหวังใหม่ที่เข้มงวดกว่าเดิม ผู้นำองค์กรจำเป็นต้องเข้าใจว่า AI ใช้ต้นทุนเท่าไร ใครรับผิดชอบผลลัพธ์ ข้อมูลที่รองรับน่าเชื่อถือแค่ไหน และมันสร้างประโยชน์วัดได้อะไรบ้าง หากยังไม่ตั้งคำถามเหล่านี้ การใช้ AI จะกลายเป็นการผลิตความเสี่ยงและความไม่เป็นธรรมอย่างเป็นระบบ เมื่อการกำกับดูแลไม่ทัน การลงทุนที่ดีที่สุดสำหรับบางบริษัทอาจยังคงเป็น “ผู้ที่มีปัญหาการพนัน” แต่สำหรับสังคมแล้ว นั่นคือสัญญาณว่าถึงเวลาทบทวนใหม่ทั้งกรอบจริยธรรม เครื่องมือวัด ROI และระบบตรวจสอบคุณค่าจริงของ AI ก่อนจะทุ่มงบให้โมเดลตัวต่อไป