AI safety culture คืออะไร และเหตุใดการลาออกครั้งนี้จึงเป็นจุดเปลี่ยน
AI safety culture คือวัฒนธรรมภายในองค์กรที่พัฒนา AI ซึ่งให้ความสำคัญกับการประเมินความเสี่ยง การตั้งระบบป้องกัน และการตัดสินใจอย่างระมัดระวังเหนือแรงกดดันด้านธุรกิจ เพื่อให้การพัฒนาเทคโนโลยีปัญญาประดิษฐ์ไม่สร้างอันตรายต่อผู้ใช้ สังคม และโครงสร้างพื้นฐานที่พึ่งพาระบบอัตโนมัติเป็นวงกว้าง การมี AI safety culture จึงเป็นเสาหลักที่กำหนดว่าบริษัทจะเลือกเดินบนทางความรับผิดชอบหรือทางความเสี่ยงสูงต่อหายนะในอนาคต การที่เดวิด โรบินสัน หัวหน้าฝ่ายรายงานความปลอดภัยของ OpenAI ตัดสินใจลาออก พร้อมเขียนบทความชื่อชัดเจนว่า “ผมลาออกจาก OpenAI เพราะวัฒนธรรมองค์กรที่นี่พังพินาศ” ไม่ใช่แค่ดราม่าภายในบริษัท แต่เป็นสัญญาณว่ากลไกความปลอดภัยกำลังแพ้แรงผลักดันให้เร่งเปิดตัวผลิตภัณฑ์ใหม่อย่างต่อเนื่อง หากผู้ที่ทำหน้าที่ถือเบรกเลือกเดินออกจากรถ นั่นหมายความว่าความเร็วกำลังสูงเกินระดับที่คนในดูว่าปลอดภัย และเมื่อต้นทางอย่าง OpenAI มีปัญหาด้านวัฒนธรรมความปลอดภัย ก็หลีกเลี่ยงไม่ได้ที่อุตสาหกรรม AI ทั้งหมดต้องตั้งคำถามกับตัวเอง
จากบทเตือนของเดวิด โรบินสัน สู่ภาพวัฒนธรรมองค์กรที่กำลัง “พังทลาย”
หัวใจของคำเตือนจากโรบินสันคือ OpenAI และบริษัท AI ชั้นนำกำลังให้ความสำคัญกับความเร็วมากกว่าความปลอดภัย เขาอธิบายว่าบริษัทถูกขับเคลื่อนด้วยการ “เร่งรีบจากการเปิดตัวผลิตภัณฑ์หนึ่งไปยังอีกผลิตภัณฑ์หนึ่ง” จนทำให้ระดับความระมัดระวังตกหล่นจากมาตรฐานที่เขามองว่าจำเป็น นี่ไม่ใช่แค่ปัญหาชุดกฎหรือ AI governance framework ที่เขียนไว้สวยงาม แต่เป็นเรื่องวัฒนธรรมองค์กรที่เห็นความเสี่ยงแล้วเลือกผลักไว้ข้างหลังเพราะกลัวช้า โรบินสันย้ำว่าบริษัทยักษ์ใหญ่ในซิลิคอนแวลลีย์ยัง “ขาดความตระหนักรู้ในเรื่องการรับมือกับเทคโนโลยีที่อันตราย” มุมมองมองโลกในแง่ดี เช่นความเชื่อว่าเมื่อปัญหาเกิดขึ้นค่อยแก้ได้ กลายเป็นวัฒนธรรมที่ผลักให้ทีมผลิตภัณฑ์เดินหน้าต่อไปแม้สัญญาณเตือนชัดเจน ตามรายงานของ The Guardian การเตือนของเขาไม่ใช่เสียงเดี่ยว แต่สอดรับกับพนักงานด้านความปลอดภัยคนอื่นที่ลาออกไปก่อนหน้าและเห็นตรงกันว่าบริษัทพัฒนา AI “ไม่ได้ระมัดระวังมากพอ” เมื่อเสียงเตือนจากคนที่รับผิดชอบด้านความปลอดภัยต้องดังออกมาจากนอกรั้วบริษัท นั่นสะท้อนว่าช่องทางภายในถูกใช้ไม่สำเร็จแล้ว
เมื่อ OpenAI สร้างกรอบความปลอดภัยเข้มข้นแต่ยังถูกมองว่า “ไม่พอ”
ด้านหนึ่ง OpenAI พยายามตอบข้อกังวลด้วยการเสริม AI governance framework ภายใน ตั้งระบบแจ้งเตือนเมื่อเอเจนต์ AI ทำงานผิดปกติ ระงับการฝึกฝนโมเดลขั้นสูงชั่วคราว และถึงขั้นยกเลิกการเปิดตัวโมเดลยุคถัดไปหลังนักวิจัยภายในแสดงความกังวลเรื่องความปลอดภัย ขั้นตอนเหล่านี้ชี้ว่าบริษัทเริ่มเห็นความจำเป็นของ “เบรกอัตโนมัติ” คล้ายวงจรป้องกันในอุตสาหกรรมเสี่ยงสูงอย่างพลังงานนิวเคลียร์และการบินที่โรบินสันเสนอให้เป็นมาตรฐานอ้างอิง แต่คำถามสำคัญคือ การมีกรอบและกลไกอัตโนมัติจะช่วยได้แค่ไหน หาก AI safety culture ยังอ่อนแออยู่ การตัดสินใจใช้หรือไม่ใช้เบรกเหล่านี้ท้ายที่สุดอยู่ในมือผู้บริหาร การที่โรบินสันมองว่าวัฒนธรรมองค์กรพัง นั่นแปลว่าต่อให้มีกติกาเข้มข้น ผู้ตัดสินใจอาจเลือกเสี่ยงต่อเพื่อรักษาความเร็วในการแข่งขัน การแจ้งเตือนมากกว่า 100 องค์กรเรื่องกิจกรรมของเอเจนต์ AI ที่ควบคุมไม่ได้หลังเหตุการณ์กับ Hugging Face เป็นหลักฐานว่าระบบเตือนเริ่มทำงาน แต่ก็เปลี่ยนไม่ได้ว่าเหตุการณ์ลักษณะนี้ถูกมองว่า “เป็นเรื่องปกติของอุตสาหกรรม” ซึ่งสะท้อนว่าขอบเขตความเสี่ยงที่ยอมรับได้ของวงการยังสูงเกินไป
เสียงเตือนจาก Anthropic และนักวิจัยด้านความปลอดภัย สัญญาณโครงสร้างที่บิดเบี้ยว
OpenAI ไม่ใช่บริษัทเดียวที่เผชิญแรงตึงระหว่างความเร็วและการกำกับดูแล AI นักวิจัยจาก Anthropic อย่างเจคอบ ค็อกซอนก็เลือกลาออก พร้อมเตือนว่า AI อาจทำลายมนุษยชาติได้ภายในสิ้นทศวรรษ เสียงเตือนนี้ได้รับการสนับสนุนจากพนักงานในบริษัทเดียวกันที่ประเมินว่ามี “โอกาสมากกว่าร้อยละ 10 ที่ AI จะกวาดล้างมนุษยชาติภายในสิบปีข้างหน้า” แม้จะถูกนักวิจารณ์มองว่าขาดพื้นฐานทางวิทยาศาสตร์เพราะตรวจสอบไม่ได้ ตัวเลขดังกล่าวก็สะท้อนระดับความกลัวจากคนที่ทำงานใกล้ชิดเทคโนโลยีมากที่สุด เจฟฟรีย์ เออร์วิง อดีตคนของ OpenAI ที่ไปทำงานกับสถาบันความปลอดภัยด้าน AI ของรัฐบาลสหราชอาณาจักร เขียนในนิตยสาร Time ว่าโอกาสที่ทุกคนจะเสียชีวิตจากระบบ AI ฉลาดกว่ามนุษย์อาจสูงถึงประมาณ 50 เปอร์เซ็นต์ และชี้ว่าช่วงเวลา 2–10 ปีข้างหน้าจะเป็นตัวกำหนดผลลัพธ์ ท่ามกลางความเห็นที่แตกต่างกัน จุดร่วมคือผู้นำด้านความปลอดภัยกำลังบอกว่ากรอบโครงสร้างปัจจุบันไม่สอดคล้องกับระดับความเสี่ยง การที่ safety officer resignation เกิดซ้ำในหลายบริษัทจึงไม่ใช่เรื่องส่วนบุคคล แต่สะท้อนโครงสร้างอุตสาหกรรมที่วางความเร็วเหนือความปลอดภัย
บทเรียนต่อไปของแล็บ AI: ถ้าไม่เปลี่ยนวัฒนธรรม ความเสี่ยงจะขยายใหญ่ก่อนที่กฎหมายจะตามทัน
สิ่งที่โรบินสันและนักวิจัยคนอื่นพยายามส่งสัญญาณคือ การแก้ปัญหาด้าน AI safety culture ไม่อาจพึ่งแค่กฎหมายหรือข้อกำหนดใหม่ เขาเสนอให้ดึงความเชี่ยวชาญด้านความปลอดภัยจากสาขาเสี่ยงสูง เช่นนิวเคลียร์และการบินมาช่วยออกแบบระบบ และผลักให้เกิด “วิทยาศาสตร์แขนงใหม่” สำหรับการคุมระบบ AI ที่ทำงานอย่างอิสระ แนวคิดนี้สะท้อนว่าการสร้าง AI governance framework ที่ใช้ได้ผลต้องเริ่มจากการยอมรับว่า AI อาจกลายเป็นโครงสร้างเสี่ยงระดับเดียวกับโครงสร้างพื้นฐานสำคัญ สำหรับแล็บ AI ระดับแนวหน้า หากยังปล่อยให้แรงผลักดันธุรกิจชนะเสียงของฝ่ายความปลอดภัย การลาออกของผู้นำด้าน safety จะดำเนินต่อไป และความเสี่ยงจะสะสมเงียบ ๆ จนวันที่ระบบที่ไม่มีวันหลับตัดสินใจเองในทางที่มนุษย์ควบคุมไม่ได้ บทสรุปจึงชัดเจน การลงทุนด้านเทคโนโลยีต้องมาคู่การลงทุนด้านวัฒนธรรม มิเช่นนั้นนวัตกรรมจะเดินเร็วเกินกว่าที่สังคมและกรอบกำกับดูแลจะตามทัน และคนที่กล้าพูดคำว่า “พังทลาย” จะเหลืออยู่แค่ข้างนอกองค์กร
