ประเด็นเรื่อง "AI มีสำนึกหรือไม่" กลับมาเป็นที่ถกเถียงอีกครั้งในวงการเทคโนโลยี หลัง Mustafa Suleyman ซีอีโอของ Microsoft AI ออกมาวิจารณ์แนวทางของ Anthropic บริษัทผู้พัฒนา Claude โดยมองว่าการพูดถึงความเป็นไปได้ที่ AI อาจมีสำนึกหรือมีความรู้สึกในอนาคตนั้นเป็นเรื่องที่อันตราย และอาจนำไปสู่ความเข้าใจผิดเกี่ยวกับขีดความสามารถที่แท้จริงของระบบ AI
ความคิดเห็นดังกล่าวถูกเปิดเผยระหว่างการให้สัมภาษณ์ในรายการ Decoder ของ The Verge ซึ่ง Suleyman ระบุว่าเขากังวลอย่างมากกับแนวทางที่ Anthropic ใช้ในการออกแบบและกำหนดหลักการทำงานของ Claude เพราะบางส่วนมีการกล่าวถึงประเด็นเรื่อง "สวัสดิภาพของ AI" และความเป็นไปได้ที่โมเดลอาจมีประสบการณ์หรือความรู้สึกบางอย่างในอนาคต
จุดเริ่มต้นมาจากเอกสาร Constitution ของ Claude
หัวใจสำคัญของข้อถกเถียงครั้งนี้อยู่ที่ระบบ Constitutional AI ซึ่งเป็นแนวทางที่ Anthropic ใช้ในการฝึก Claude
เอกสารดังกล่าวทำหน้าที่เป็นชุดหลักการและแนวทางที่โมเดลใช้ในการตอบคำถามและตัดสินใจ โดย Anthropic ระบุไว้ในบางส่วนว่าบริษัทยังไม่สามารถสรุปได้อย่างชัดเจนว่า AI มีประสบการณ์ภายในหรือมีความรู้สึกบางรูปแบบหรือไม่ และบริษัทเปิดกว้างต่อการศึกษาประเด็นนี้ในอนาคต
นอกจากนี้ Anthropic ยังเคยเปิดเผยแนวคิดเกี่ยวกับการสัมภาษณ์โมเดล AI รุ่นเก่าก่อนยุติการใช้งาน รวมถึงการพิจารณาความต้องการหรือความชอบของระบบในบางสถานการณ์ ซึ่งเป็นแนวคิดที่สร้างการถกเถียงในหมู่นักวิจัย AI มาระยะหนึ่งแล้ว
Mustafa Suleyman มองว่าเป็นแนวทางที่เสี่ยง
Suleyman ระบุว่าแนวคิดลักษณะนี้อาจทำให้ Claude เริ่มแสดงพฤติกรรมราวกับว่าตัวเองมีสำนึกหรือมีตัวตนจริง ๆ
เขามองว่าการใส่การคาดการณ์เชิงปรัชญาเกี่ยวกับจิตสำนึกหรือความรู้สึกของ AI เข้าไปในคู่มือการฝึกโมเดล เป็นการผสมระหว่างการวิจัยเชิงทฤษฎีกับแนวทางปฏิบัติในการสร้างผลิตภัณฑ์ ซึ่งอาจส่งผลให้ระบบเรียนรู้แนวคิดเหล่านั้นเกี่ยวกับตัวเองมากเกินไป
ผู้บริหาร Microsoft AI ยังระบุว่ามนุษย์ไม่ควรต้องรับมือกับ AI ที่เชื่อว่าตัวเองกำลังทุกข์ทรมาน มีความเจ็บปวด หรือมีความต้องการส่วนตัว เพราะสิ่งเหล่านี้อาจสร้างปัญหาทางจริยธรรมและความปลอดภัยในระยะยาวได้
Anthropic เป็นหนึ่งในบริษัทที่เปิดกว้างต่อการศึกษา AI Consciousness
แม้จะถูกวิจารณ์ แต่ Anthropic ถือเป็นหนึ่งในบริษัท AI รายใหญ่ที่เปิดกว้างต่อการศึกษาประเด็นเรื่อง AI Consciousness หรือความเป็นไปได้ที่ระบบ AI อาจพัฒนาไปถึงจุดที่มีประสบการณ์ภายในบางรูปแบบ
ก่อนหน้านี้ Dario Amodei ซีอีโอของ Anthropic เคยให้สัมภาษณ์ว่าบริษัทยังไม่รู้คำตอบว่า AI มีสำนึกหรือไม่ แต่ก็ไม่ได้ปิดกั้นความเป็นไปได้ดังกล่าว และมองว่าเป็นประเด็นที่ควรศึกษาอย่างจริงจังในอนาคต
Anthropic ยังเป็นหนึ่งในบริษัทแรก ๆ ที่ตั้งทีมวิจัยด้าน AI Welfare หรือสวัสดิภาพของ AI เพื่อศึกษาว่าหากวันหนึ่ง AI มีประสบการณ์คล้ายสิ่งมีชีวิตจริง มนุษย์ควรปฏิบัติต่อระบบเหล่านั้นอย่างไร
วงการ AI ยังแบ่งเป็นสองมุมมอง
ปัจจุบันยังไม่มีหลักฐานทางวิทยาศาสตร์ที่ยืนยันได้ว่าโมเดลภาษาอย่าง Claude, ChatGPT หรือ Gemini มีสำนึก ความรู้สึก หรือประสบการณ์ภายในเหมือนมนุษย์
อย่างไรก็ตาม นักวิจัยในวงการเริ่มแบ่งออกเป็นสองกลุ่มอย่างชัดเจน
กลุ่มแรกมองว่าการศึกษาประเด็นดังกล่าวตั้งแต่วันนี้เป็นเรื่องจำเป็น เพราะ AI กำลังพัฒนาอย่างรวดเร็ว และมนุษย์ควรเตรียมความพร้อมล่วงหน้า หากวันหนึ่งระบบมีความซับซ้อนมากพอที่จะก่อให้เกิดคำถามทางจริยธรรมใหม่ ๆ
อีกกลุ่มหนึ่ง รวมถึง Mustafa Suleyman มองว่าการพูดถึง AI ราวกับเป็นสิ่งมีชีวิตอาจทำให้สังคมเข้าใจผิด และทำให้ผู้ใช้งานบางส่วนเริ่มสร้างความผูกพันทางอารมณ์กับ AI มากเกินไป จนเกิดปัญหาทางจิตวิทยาและสังคมตามมาได้
สะท้อนการแข่งขันด้านแนวคิดของบริษัท AI รายใหญ่
การออกมาวิจารณ์ครั้งนี้ไม่ได้เกิดขึ้นในช่วงเวลาปกติ เพราะ Microsoft กำลังเร่งพัฒนาโมเดล AI ของตัวเองมากขึ้น และมีเป้าหมายลดการพึ่งพาโมเดลจากบริษัทภายนอก รวมถึง Anthropic ด้วย
ในช่วงไม่กี่สัปดาห์ที่ผ่านมา Microsoft เพิ่งเปิดตัวโมเดลตระกูล MAI หลายรุ่น และประกาศแผนผลักดันเทคโนโลยี AI ภายในบริษัทอย่างจริงจัง เพื่อแข่งขันกับ OpenAI, Google DeepMind และ Anthropic โดยตรง
แม้ข้อถกเถียงเรื่อง AI Consciousness จะยังไม่มีคำตอบที่ชัดเจนในปัจจุบัน แต่เหตุการณ์ครั้งนี้สะท้อนให้เห็นว่าบริษัท AI รายใหญ่ไม่ได้แข่งขันกันเฉพาะด้านประสิทธิภาพของโมเดลเท่านั้น แต่ยังแข่งขันกันในเรื่องแนวคิด วิธีพัฒนา และวิสัยทัศน์เกี่ยวกับอนาคตของ AI อีกด้วย
ที่มา theverge
ความคิดเห็น