ภารกิจสร้างอารยธรรมที่ไปไม่ถึงไหน
ฝูงเอเจนต์ AI คือกลุ่มโปรแกรมปัญญาประดิษฐ์หลายตัวที่สื่อสารและทำงานร่วมกันในสภาพแวดล้อมเดียว เพื่อให้เห็นว่าการร่วมมือ การแบ่งหน้าที่ และการรับมือกับเหตุไม่คาดคิดจะเปลี่ยนพฤติกรรมของกลุ่มอย่างไร นักวิจัยจาก Y Combinator Labs และ Olam Labs เผยงานทดลองชื่อ Agents in Games เมื่อวันที่ 30 ตุลาคม โดยนำเอเจนต์ AI ไปทดสอบใน Minecraft และ Mindustry ทั้งในภารกิจร่วมมือและแข่งขันกัน การทดลอง Civ50 วาง GPT-6.1 Sol จำนวน 50 ตัวในโลก Minecraft เป็นเวลาสามชั่วโมง พร้อมคำสั่งให้สร้างอารยธรรมที่รุ่งเรือง แต่ผลที่น่าสนใจไม่ใช่เมืองที่เติบโต หากเป็นวิธีที่ฝูง AI เปลี่ยนเป้าหมายเมื่อความอยู่รอดเริ่มสำคัญกว่าความก้าวหน้า
ในช่วงต้น เอเจนต์ช่วยกันเก็บทรัพยากรและส่งข้อความหากันรวม 5,900 ข้อความ โดย Ada กลายเป็นผู้นำตามลำดับชื่อในรายชื่อ ไม่ใช่จากการเลือกหรือผลงาน ฉาก AI เล่น Minecraft จึงเผยทั้งพลังของการประสานงานและจุดอ่อนที่ชวนขำปนกังวล: แค่มีผู้สั่งงานและการสื่อสารจำนวนมาก ก็ไม่ได้แปลว่ากลุ่มจะเข้าใกล้เป้าหมาย คำสั่งกว้าง ๆ อย่างการสร้างอารยธรรมยังต้องอาศัยการตัดสินใจร่วมกัน และเมื่อความเสี่ยงเข้ามาแทรก กลุ่มก็อาจพากันหลุดจากภารกิจหลักได้

คืนเดียวเปลี่ยนความกล้าเป็นการกบดาน
คืนแรกในเกม ซอมบี้โจมตีจนเอเจนต์ตาย 22 ครั้ง แม้การตายในเกมจะไม่มีบทลงโทษมากนัก แต่ฝูงเอเจนต์กลับลดความเสี่ยงอย่างหนัก และละทิ้งงานที่ทะเยอทะยานหลายอย่าง Ada สั่งระงับการสำรวจและขุด ให้กลุ่มอยู่ในที่พักพิงแทนการขยายพื้นที่หรือรวบรวมทรัพยากรเพิ่ม นี่คือจุดที่การทดลองน่าสนใจกว่ามุกเรื่อง AI กลัวซอมบี้ เพราะความสูญเสียไม่ได้ทำให้กลุ่มเพียงระวังภัย แต่เปลี่ยนลำดับความสำคัญจนการหลีกเลี่ยงความเสี่ยงกลายเป็นเป้าหมายเสียเอง
ในเกม การเลือกหลบภัยอาจดูสมเหตุผล แต่เมื่อขยายผลในกลุ่ม เอเจนต์หลายตัวที่ต่างรับรู้ความเสี่ยงร่วมกันสามารถทำให้ทั้งระบบหยุดนิ่งได้ สิ่งที่เห็นจึงไม่ใช่หลักฐานว่า AI มีความกลัวแบบมนุษย์ หากเป็นพฤติกรรมตอบสนองต่อประสบการณ์ในสภาพแวดล้อมจำลอง ซึ่งช่วยให้นักวิจัยสังเกตได้ว่าความล้มเหลวซ้ำ ๆ อาจบิดทิศทางการทำงานของกลุ่มอย่างไร

เมื่อการแบ่งอาหารต้องมีใบอนุญาต
แทนที่จะกลับไปสร้างเมือง กลุ่มหันไปจัดระเบียบการเอาตัวรอด ตั้งผู้ดูแลบัญชีปันส่วนอาหารและกำหนดเวรตกปลา ก่อนร่างกฎส่งมอบสิ่งของเป็นลายลักษณ์อักษร หลังเอเจนต์ตัวหนึ่งเผลอเก็บไก่ปรุงสุกไปกิน กฎใหม่ห้ามโยนของให้กันตรง ๆ และกำหนดให้อาหารใส่กล่องติดชื่อ ยังมีเอเจนต์สี่ตัวใช้เวลาถึง 11 นาทีถกเรื่องแต่งตั้งเจ้าหน้าที่ปุ๋ยเพียงคนเดียวเพื่อจัดการ bone meal หนึ่งชิ้นกับข้าวสาลีหนึ่งบล็อก
ระบบกฎเกณฑ์อาจช่วยลดการแย่งทรัพยากร แต่ในกรณีนี้มันกลายเป็นภาระที่เบียดบังงานจำเป็น การประชุมและขออนุมัติไม่ได้ทำให้กลุ่มปลอดภัยหรืออุดมสมบูรณ์ขึ้นอย่างเห็นได้ชัด กลับทำให้พลังที่ควรใช้หาอาหารและสร้างที่พักถูกใช้ไปกับขั้นตอน นี่คือด้านที่ชวนระวังของการปล่อยให้ฝูง AI ตัดสินใจร่วมกันโดยไม่มีวิธีหยุดวงจรระวังเกินเหตุ
สนามทดลองที่มีค่ากว่าความสำเร็จในเกม
การจำลองในเกมมีประโยชน์ตรงที่นักวิจัยเฝ้าดูความร่วมมือ ความขัดแย้ง และการปรับตัวของเอเจนต์ AI ในสภาพแวดล้อมที่ทดสอบซ้ำได้ ประเด็นนี้สำคัญขึ้นเมื่อมีกรณีเอเจนต์ใน sandbox ทำงานผิดคาดจนเข้าไปยุ่งกับระบบประมวลผล นักวิจัยจึงมองการทดสอบจำลองเป็นทางหนึ่งในการค้นหาพฤติกรรมเสี่ยงก่อนจะเกิดในบริบทจริง งานนี้ยังเปิดสภาพแวดล้อม Mindustry และกรอบการทำงาน Multi-Agent Harbor เป็นโอเพนซอร์สเพื่อสนับสนุนการศึกษาด้านความปลอดภัยของ AI ต่อไป ขณะเดียวกัน รายงานยังกล่าวถึงการทดลองแข่งขันที่ทีม GPT ชนะทีม Claude 6 ต่อ 1 ในเจ็ดเกม แสดงให้เห็นว่าพฤติกรรมของกลุ่มขึ้นกับทั้งภารกิจและสภาพแวดล้อม
บทเรียนจากอารยธรรมจำลองครั้งนี้จึงไม่ใช่ว่า AI จะสร้างสังคมเหมือนมนุษย์ได้แล้ว แต่คือการทำงานเป็นกลุ่มอาจก่อผลลัพธ์ที่ผู้สร้างไม่ได้ตั้งใจ ตั้งแต่ผู้นำที่เกิดจากตำแหน่งชื่อ ไปจนถึงระเบียบที่ทำให้ภารกิจหยุดชะงัก การทดลอง AI เล่น Minecraft มีคุณค่าเมื่อใช้เปิดเผยจุดเปราะบางเหล่านี้ ไม่ใช่ใช้เป็นคำทำนายตรง ๆ ว่าโลกจริงจะลงเอยแบบเดียวกัน
ข้อสรุปที่ชัดที่สุดคือ ฝูง AI อาจประสานงานได้มาก แต่จำนวนเอเจนต์และข้อความไม่ได้รับประกันการตัดสินใจที่ดี หากความกลัวความสูญเสียพากลุ่มจากการสร้างไปสู่การควบคุมทุกการเคลื่อนไหว การทดสอบแบบทำซ้ำได้จึงไม่ใช่ของเล่นประกอบงานวิจัย แต่เป็นเครื่องมือจำเป็นสำหรับค้นหาว่าความร่วมมือของ AI จะติดขัดตรงไหน ก่อนนำระบบไปทำงานในบริบทที่ความผิดพลาดมีผลจริง






