ความโปร่งใสคือจุดเริ่มต้นของการจัดการความเสี่ยง
ความโปร่งใส AI คือการเปิดเผยข้อมูลที่ตรวจสอบได้เกี่ยวกับผู้พัฒนา ขีดความสามารถ และความเสี่ยงของระบบ เพื่อให้รัฐบาลและสังคมประเมินอันตรายและร่วมกันกำหนดมาตรการรับมือได้ โดยไม่ต้องสั่งยุติการพัฒนาเทคโนโลยีทั้งหมด นี่คือบทเรียนสำคัญจากการควบคุมอาวุธนิวเคลียร์: การอยู่ร่วมกับเทคโนโลยีอันตรายไม่เท่ากับการกำจัดภัยคุกคาม แต่การลดความไม่แน่นอนช่วยให้ประเทศต่าง ๆ ประสานงานกันได้มากขึ้น สหรัฐฯ เคยเปิดเผยข้อมูลเกี่ยวกับขนาดและสภาพคลังอาวุธของตน พร้อมสนับสนุนให้ประเทศที่มีอาวุธนิวเคลียร์ทำเช่นเดียวกัน แนวทางนี้ไม่ได้รับประกันว่า AI จะปลอดภัย และไม่อาจหยุดการแข่งขันได้โดยลำพัง แต่เป็นจุดตั้งต้นที่เป็นไปได้มากกว่าการหวังให้ทุกฝ่ายเลิกพัฒนาเทคโนโลยี ความโปร่งใสทำให้การถกเถียงเรื่องมาตรฐานและการกำกับดูแลตั้งอยู่บนข้อมูล ไม่ใช่การคาดเดา
สนธิสัญญานิวเคลียร์ให้บทเรียน แต่ไม่ใช่พิมพ์เขียวสำเร็จรูป
การเปรียบเทียบ AI กับนิวเคลียร์ช่วยชี้ให้เห็นว่าประชาคมโลกพอมีเครื่องมือร่วมกันจัดการเทคโนโลยีที่เสี่ยงต่อความเสียหายร้ายแรง ทว่าไม่ควรเข้าใจว่าสนธิสัญญานิวเคลียร์ทำให้ภัยสงครามหายไป หรือความสำเร็จด้านการไม่แพร่ขยายเกิดจากความสมัครใจเพียงอย่างเดียว มาตรการนิวเคลียร์บางกรณีอาศัยแรงกดดันทางการเมืองและความมั่นคง ขณะที่ข้อตกลงควบคุมอาวุธในอดีตหลายฉบับเสื่อมสลายจากการละเมิด การถอนตัว หรือการสิ้นอายุ บทเรียนจึงไม่ใช่การคัดลอกข้อห้าม แต่คือการสร้างระบบที่ทำให้รัฐเปิดเผยข้อมูลและตรวจสอบการปฏิบัติตามได้อย่างต่อเนื่อง ข้อเสนอให้ตั้งหน่วยงานระหว่างประเทศเพื่อตรวจระบบ AI ตรวจประเมิน และทดสอบการทำตามมาตรฐานความปลอดภัยมีเหตุผล แต่คำถามใหญ่ยังอยู่ที่ใครมีอำนาจบังคับใช้ และจะทำอย่างไรเมื่อรัฐสำคัญไม่ยอมร่วมมือ หากไม่มีคำตอบที่น่าเชื่อถือ กติกาบนกระดาษก็เสี่ยงกลายเป็นเพียงถ้อยแถลง
อาวุธอัตโนมัติทำให้ความเสี่ยงไม่ใช่เรื่องไกลตัว
การพัฒนา AI กำลังผลักดันระบบทางทหาร ตั้งแต่โดรนไปจนถึงยานพาหนะชนิดอื่น ให้สามารถโจมตีได้โดยไม่ต้องมีมนุษย์ควบคุมโดยตรง ขณะเดียวกัน อาวุธกึ่งอัตโนมัติที่ใช้ AI มีรายงานการนำไปใช้ในยูเครน ซูดาน และตะวันออกกลาง ท่ามกลางข้อกังวลด้านจริยธรรมและความรับผิดชอบ ระบบไร้คนขับอาจทำงานอย่างคาดเดาไม่ได้และก่อความผิดพลาดร้ายแรงได้ การควบคุมอาวุธ AI จึงต้องเริ่มจากการกำหนดว่าระบบแบบใดต้องมีมนุษย์กำกับ ข้อมูลใดต้องเปิดเผย และใครรับผิดเมื่อเกิดความเสียหาย การอ้างว่ากฎหมายมนุษยธรรมที่มีอยู่เพียงพอ โดยไม่แสดงวิธีตรวจสอบการทำงานของระบบ ย่อมไม่ตอบโจทย์ความเสี่ยงใหม่ ในเดือนตุลาคม ประเทศสมาชิก 163 ประเทศลงมติเห็นชอบให้มีการเจรจาจัดทำกติกาควบคุมอาวุธไร้คนขับ ขณะที่ห้าประเทศลงคะแนนคัดค้าน ได้แก่ สหรัฐฯ รัสเซีย เบลารุส อิสราเอล และเกาหลีเหนือ ความแตกต่างนี้สะท้อนว่าการมีเสียงสนับสนุนจำนวนมากยังไม่พอ หากประเทศที่มีบทบาททางทหารสูงไม่ยอมรับกระบวนการร่วมกัน

กติกาจะมีความหมายเมื่อทุกฝ่ายตรวจสอบได้
การประชุมที่องค์การสหประชาชาติจัดขึ้น ณ เจนีวาตั้งแต่วันที่ 16 พฤศจิกายน มีเป้าหมายพิจารณาว่าจะเริ่มเจรจาข้อตกลงที่มีผลผูกพันทางกฎหมายเพื่อห้ามหรือควบคุมระบบอาวุธสังหารอัตโนมัติหรือไม่ ตัวเลือกบนโต๊ะมีตั้งแต่ข้อตกลงผูกพัน ไปจนถึงแนวทางที่ไม่มีผลผูกพันหรือผสมผสานทั้งสองแบบ และนักการทูตประเมินว่าการเจรจาจะยากลำบาก แม้อาจหาจุดร่วมได้ก่อนสิ้นสัปดาห์ ความท้าทายนี้ชี้ว่าความโปร่งใสต้องแปลงเป็นข้อปฏิบัติที่วัดผลได้ เช่น การรายงานขีดความสามารถ การตรวจประเมินโดยผู้ตรวจสอบ และช่องทางแจ้งเหตุเมื่อระบบมีความเสี่ยง รายละเอียดเหล่านี้ต้องตกลงร่วมกันโดยไม่เปิดช่องให้รัฐหรือผู้พัฒนาหลีกเลี่ยงความรับผิด การควบคุม AI ไม่ควรตั้งเป้ากำจัดเทคโนโลยี แต่ก็ไม่ควรใช้ประโยชน์ที่คาดหวังเป็นเหตุผลเลื่อนการกำกับดูแล บทเรียนจากสนธิสัญญานิวเคลียร์มีคุณค่าในฐานะจุดเริ่มต้นด้านการเปิดเผยข้อมูลและสร้างความไว้ใจ ไม่ใช่หลักประกันว่าความเสี่ยงจะหมดไป หากประเทศต่าง ๆ ต้องการลดอันตรายจาก AI ก็ต้องยอมให้กติกามีผลกับทุกฝ่ายและตรวจสอบได้จริง






