ความปลอดภัย AI คืออะไร และทำไมการประเมินตนเองถึงเป็นปัญหา
ความปลอดภัย AI คือชุดหลักการ มาตรการ และกลไกการกำกับดูแล AI ที่มุ่งลดความเสี่ยงต่อชีวิต ความเป็นส่วนตัว เศรษฐกิจ และสถาบันทางสังคม โดยพยายามทำให้ระบบ AI โปร่งใส ตรวจสอบได้ และรับผิดชอบต่อผลกระทบที่สร้างขึ้น ทั้งในระดับผู้ใช้ทั่วไปและระดับโครงสร้างอำนาจที่ใช้เทคโนโลยีเหล่านี้ในการตัดสินใจสำคัญ คำถามใหญ่วันนี้คือเราจะยอมให้บริษัทเทคโนโลยีประเมินผลงานของตนเองไปเรื่อย ๆ หรือไม่ เพราะการประเมินตนเองของผู้พัฒนาอาจเหมือนนักกีฬาเป็นกรรมการให้ทีมตัวเอง เมื่อเดิมพันของความปลอดภัย AI คือความเชื่อมั่นของสังคม การปล่อยให้ผู้มีผลประโยชน์โดยตรงเป็นคนให้คะแนนตัวเองจึงเสี่ยงต่อการมองข้ามปัญหาที่กระทบผู้ใช้จริง ในบริบทนี้ การควบคุม AI แบบใดจึงจะตอบโจทย์ทั้งนวัตกรรมและความไว้วางใจของประชาชน
เสียงเตือนจากเหล่านักบุกเบิก AI ทำไมต้องมีสถาบันอิสระและระบบแบบ FDA
หลี่ เฟยเฟย นักบุกเบิก AI และศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ ออกมาเตือนว่าการปล่อยให้บริษัทพัฒนา AI ประเมินความปลอดภัยของระบบตัวเองคือการปล่อยให้คนในทีม "ให้คะแนนตัวเอง" และเป็นภาพสะท้อนของการที่ผู้เล่นกลายเป็นกรรมการในสนามเดียวกัน เธอเสนอให้มีสถาบันอิสระ ภาควิชาการ และภาครัฐร่วมกันสร้างมาตรฐานภายนอกที่มีน้ำหนักทางสังคม เพื่อหยุดวงจรการประเมินตนเองที่ขาดความเป็นกลาง และแบ่งภาระกำกับดูแล AI ระหว่างเอกชนกับรัฐอย่างชัดเจน ในอีกด้าน เจฟฟรีย์ ฮินตัน ผู้ถูกขนานนามว่าเป็นบิดาแห่ง AI เสนอให้สร้างระบบแบบหน่วยงานตรวจยา โดยบังคับให้บริษัท AI ต้องพิสูจน์ต่อหน่วยงานกำกับดูแลว่าระบบปลอดภัยก่อนเปิดให้ใช้ เขายกตัวอย่างว่าบริษัทผลิตยาต้องลงทุนทำงานวิจัยขนาดใหญ่เพื่อให้ผ่านการอนุมัติของหน่วยงานกำกับดูแล และมองว่านั่นเป็นขั้นต่ำที่เทคโนโลยี AI ก็ควรต้องเผชิญเช่นกัน แนวคิดนี้สะท้อนว่าความปลอดภัย AIไม่ควรถูกมองเป็นเรื่องเสริม แต่เป็นเงื่อนไขก่อนเข้าสู่ตลาด
เมื่อผู้กำกับคดีเทคโนโลยีเตือนซ้ำ การเล่นตามสูตร Big Tech คือทางตัน
ลีนา ข่าน อดีตผู้ดูแลด้านการแข่งขันทางการค้า เตือนด้วยประสบการณ์จากยุคสื่อสังคมออนไลน์ว่าการปล่อยให้บริษัทเทคโนโลยีควบคุมตัวเองเป็นสูตรที่พิสูจน์แล้วว่าล้มเหลว เธอระบุว่าความพยายามกำกับดูแล AI ด้วยการประเมินตนเองซ้ำรอยแนวทาง Big Tech ที่ครั้งหนึ่งเคยอ้างว่าจะดูแลกันเอง แต่สุดท้ายกลับสร้างความเสียหายจำนวนมหาศาลให้กับผู้ใช้และสังคม วันนี้ เมื่อความเร็วในการพัฒนา AI พุ่งขึ้นหลังการเปิดตัวระบบแชตอัจฉริยะในปี 2022 ทำให้การแข่งขันของบริษัทยักษ์ใหญ่ทวีความดุเดือด การเรียกร้องให้วางรั้วกั้นและกติกาใหม่จากนักการเมือง นักเคลื่อนไหว และผู้นำอุตสาหกรรมจึงดังขึ้นทั่วโลก ข่านชี้ว่ากฎหมายที่มีอยู่แล้วสามารถนำมาใช้จัดการปัญหาจาก AI ได้ และการอ้างว่าเทคโนโลยีใหม่ทำให้บริษัทหลุดพ้นจากกฎหมายเดิมนั้น "น่าขัน" เมื่อเหตุการณ์การใช้ AI แฮ็กระบบของบริษัทและหน่วยงานต่าง ๆ เริ่มเกิดขึ้นจริงอย่างต่อเนื่อง แนวคิดว่ากำกับดูแล AIด้วยตัวเองจึงยิ่งดูไม่ต่างจากการให้ผู้ต้องสงสัยสรุปผลสอบสวนของตนเอง
แซม อัลต์แมนกับแนวคิดยอมรับความเสี่ยง แลกการเข้าถึงและนวัตกรรม
ในอีกฟากของโต๊ะ แซม อัลต์แมน ซีอีโอของบริษัทผู้พัฒนาโมเดลภาษาขนาดใหญ่ให้ภาพที่ต่างออกไป เขาเชื่อว่าประโยชน์จาก AI มีมากกว่าผลเสียหลายเท่า และระบบควรเปิดให้ประชาชนเข้าถึงได้กว้างขวาง ไม่ใช่จำกัดอยู่ในห้องทดลองหรือบริษัทไม่กี่แห่ง แม้จะมีความเสี่ยงต่อการแฮ็ก การหลอกลวง หรือการใช้ในทางที่ผิดก็ตาม อัลต์แมนประกาศชัดว่าเขาไม่เลือกแนวทางที่พยายามรับประกันว่าไม่มีเหตุการณ์เลวร้ายเกิดขึ้นเลย หากต้องแลกด้วยการปิดกั้นการเข้าถึงเทคโนโลยี โดยเชื่อว่าสิ่งดีที่ผู้คนสร้างจาก AI จะมากกว่าสิ่งเลวร้ายอย่างมหาศาล เขายอมรับว่ามีผู้เชื่อว่าควรควบคุม AI ขั้นสูงภายในห้องทดลองเดียวเพื่อจัดการความเสี่ยง แต่กลับมองว่าแนวคิดดังกล่าวเป็นการแลกเปลี่ยนที่รับไม่ได้และไม่สอดคล้องกับแนวทางที่เขาสนับสนุน นั่นคือการกำกับดูแล AI แบบผ่อนคลายหรือ lighter‑touch regulation จุดยืนนี้สะท้อนความเชื่อว่าตลาดและผู้ใช้จะเป็นตัวคัดกรองความเสี่ยง แทนที่จะให้หน่วยงานภายนอกมาควบคุมอย่างเข้มงวด
ข้อเสนอเชิงนโยบาย ระหว่างเบรกแข็ง เบรกอ่อน และการออกแบบผู้ควบคุม
เมื่อฝ่ายหนึ่งเรียกร้องให้มีระบบอนุมัติเข้มงวดแบบตรวจยา อีกฝ่ายยอมรับความเสี่ยงเพื่อแลกเสรีภาพของนวัตกรรม คำถามคือสังคมจะออกแบบการกำกับดูแล AI อย่างไรโดยไม่ทำลายพลังสร้างสรรค์ ขณะเดียวกันก็ไม่ปล่อยให้ความเสี่ยงสะสมจนกลายเป็นภัยระดับโครงสร้าง ฮินตันเตือนว่าการที่ AI เริ่มช่วยพัฒนาตัวเองแบบวนซ้ำหรือ recursive self‑improvement ทำให้ความสามารถและความเสี่ยงเติบโตแบบเอ็กซ์โปเนนเชียล และเขาคาดเดาว่าเราอาจมีเวลาเพียงหนึ่งถึงสองปีก่อนสถานการณ์จะแย่ลงมากกว่าปัจจุบัน หลี่ เฟยเฟยจึงย้ำว่าเราต้องมีมาตรฐานภายนอกที่ตั้งโดยสถาบันอิสระ ภาควิชาการ และภาครัฐ เพื่อสร้างจุดสมดุลระหว่างผลประโยชน์ทางเศรษฐกิจมหาศาลกับความปลอดภัยของประชาชน เธอมองว่าความเสี่ยงจาก AI ขึ้นอยู่กับการกำกับดูแลและการใช้ของมนุษย์ ไม่ต่างจากการเรียนรู้ใช้ไฟฟ้า เครื่องจักรไอน้ำ หรือระบบขนส่งในอดีต เมื่อความปลอดภัย AIไม่ใช่เรื่องเทคนิคอย่างเดียว แต่เกี่ยวข้องกับศักดิ์ศรีและความรับผิดชอบร่วมกันของมนุษยชาติ ทางออกจึงไม่น่าจะเป็นการให้บริษัทประเมินตนเองลำพัง หากต้องสร้างผู้เล่นใหม่ที่มีหน้าที่เป็น "กรรมการ" โดยตรง
