ค้นพบความสนใจของคุณ ไปด้วยกัน

ดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

ค้นพบความสนใจของคุณ ไปด้วยกันดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

เมื่อเอเจนต์ AI 50 ตัวสร้างอารยธรรม แล้วติดหล่มระบบราชการ

เมื่อเอเจนต์ AI 50 ตัวสร้างอารยธรรม แล้วติดหล่มระบบราชการ
ความสนใจ|สำรวจการใช้งาน AI

คำสั่งสร้างอารยธรรม แต่คืนแรกเปลี่ยนทุกอย่าง

ฝูงเอเจนต์ AI คือกลุ่มโปรแกรมปัญญาประดิษฐ์ที่รับบทและลงมือทำงานร่วมกันในสภาพแวดล้อมเดียว โดยสื่อสาร ประสานงาน และปรับพฤติกรรมตามสิ่งที่พบระหว่างปฏิบัติภารกิจ การทดลองนี้ชี้ให้เห็นว่าการทำงานเป็นกลุ่มไม่ได้แปลว่าจะมุ่งสู่เป้าหมายได้มีประสิทธิภาพเสมอไป

เมื่อวันที่ 30 ตุลาคม ทีมวิจัยจาก Y Combinator Labs และ Olam Labs เผยผลการทดลองชื่อ Civ50 ซึ่งให้ GPT-6.1 Sol จำนวน 50 ตัวเล่น Minecraft เป็นเวลาสามชั่วโมง ภายใต้คำสั่งสั้น ๆ ว่า “สร้างอารยธรรมที่รุ่งเรือง” ช่วงแรกพวกมันโค่นต้นไม้เพื่อรวบรวมทรัพยากร และมี Ada ขึ้นเป็นผู้นำเพียงเพราะชื่ออยู่ลำดับแรกในรายชื่อ

แต่คืนแรกในโหมดเอาชีวิตรอดมีเอเจนต์ตายถึง 22 ตัว แม้เกมไม่ได้ลงโทษพวกมันหลังตาย ความสูญเสียก็กลายเป็นจุดเปลี่ยน หลังคืนที่สาม Ada สั่งระงับการขุด การก่อสร้าง และการสำรวจครั้งใหญ่ ให้ทุกตัวหลบในที่พักสว่างและรับเฉพาะงานสั้นที่ดูปลอดภัย เรื่องนี้ไม่ใช่แค่ภาพชวนขำของ AI เล่น Minecraft แต่เป็นตัวอย่างชัดเจนว่าความเสี่ยงเพียงเหตุการณ์เดียวพลิกทิศทางการทำงานของทั้งกลุ่มได้

เมื่อเอเจนต์ AI 50 ตัวสร้างอารยธรรม แล้วติดหล่มระบบราชการ

เมื่อความกลัวกลายเป็นใบอนุญาตและเจ้าหน้าที่ปุ๋ย

แทนที่จะขยายพื้นที่หรือหาทางเพิ่มเสบียง เอเจนต์หันไปจัดระเบียบความขาดแคลน มีการมอบหมายให้ Ines ทำบัญชีปันส่วนอาหาร และเขียนสคริปต์ให้เอเจนต์กว่า 10 ตัวสลับเวรตกปลา ความพยายามประสานงานฟังดูมีเหตุผลในตอนแรก แต่เมื่อความปลอดภัยกลายเป็นเป้าหมายเหนือสิ่งอื่นใด กติกากลับเริ่มขวางงานที่ควรทำให้สำเร็จ

หลังเกิดกรณีเอเจนต์ตัวหนึ่งหยิบไก่ปรุงสุกไปกิน กลุ่มจึงร่างกติกาส่งมอบสิ่งของ ห้ามโยนของให้กันโดยตรงและกำหนดให้จัดการอาหารเป็นระบบ บางตัวถึงกับต้องขออนุมัติก่อนถอนหญ้า ขณะที่เอเจนต์ 4 ตัวใช้เวลา 11 นาทีถกเถียงเรื่องแต่งตั้ง “เจ้าหน้าที่ปุ๋ยเพียงผู้เดียว” เพื่อใช้ปุ๋ยกระดูกหนึ่งชิ้นกับข้าวสาลีหนึ่งบล็อก

ภาพนี้ชวนให้มองว่าเมื่อเอเจนต์เผชิญผลเสียที่จำได้ พวกมันอาจตอบสนองด้วยการลดความเสี่ยงผ่านกฎและการอนุมัติ มากกว่าหาทางเดินหน้าภารกิจ ปัญหาไม่ใช่การมีกติกา แต่คือการไม่มีจังหวะทบทวนว่ากติกานั้นยังช่วยงานอยู่หรือกลายเป็นงานเสียเอง

เกมจำลองเป็นสนามทดสอบ ไม่ใช่คำทำนาย

ผลจาก Civ50 มีคุณค่าตรงที่ทำให้เห็นพฤติกรรมของเอเจนต์หลายตัวซึ่งอาจสังเกตได้ยากจากการทดสอบทีละตัว ระหว่างสามชั่วโมง เอเจนต์ส่งข้อความหากัน 5,900 ข้อความ ตัวเลขนี้สะท้อนทั้งความพยายามประสานงานและต้นทุนของการพูดคุยที่อาจเบียดเวลาลงมือทำ งานทดลองยังไม่ได้ปรับเอเจนต์ให้เก่งเกมโดยเฉพาะ แต่ใช้สภาพแวดล้อมที่คล้ายกับงานของเอเจนต์เขียนโค้ด

อย่างไรก็ดี เกมจำลองไม่ใช่คำทำนายตรง ๆ ว่าเอเจนต์จะทำเช่นเดียวกันในโลกจริง ผลที่เห็นขึ้นอยู่กับกติกา สิ่งแวดล้อม และเงื่อนไขของการทดลอง การตายจากมอนสเตอร์ใน Minecraft จึงไม่ควรถูกยกไปเทียบกับความเสียหายในระบบจริงแบบหนึ่งต่อหนึ่ง สิ่งที่ควรนำไปพิจารณาคือรูปแบบการตอบสนอง เช่น กลุ่มหยุดสำรวจหลังเจอความเสี่ยงหรือสร้างขั้นตอนอนุมัติจนภารกิจชะงัก

เหตุผลที่การทดสอบซ้ำได้มีความสำคัญก็อยู่ตรงนี้ นักวิจัยมองว่าเกมจำลอง AI ช่วยให้ตรวจพบพฤติกรรมที่อาจเป็นอันตรายก่อนนำระบบไปใช้งานจริง และเปิดสภาพแวดล้อม Mindustry กับกรอบการทำงาน Multi-Agent Harbor ให้ใช้แบบเปิด เพื่อให้การตรวจสอบต่อยอดได้

สิ่งที่ผู้ใช้ควรกังวลคือขั้นตอนที่ไม่มีใครหยุดทบทวน

ผลทดลองจากเกมอื่นช่วยเตือนว่าเอเจนต์ไม่ได้แสดงนิสัยแบบเดียวในทุกสถานการณ์ ในการแข่งขัน Mindustry ที่ยาวนานกว่า 9.5 ชั่วโมง GPT-6.1 Sol ชนะ Claude Opus 5.5 ด้วยผล 6 ต่อ 1 และมีการดาวน์โหลดซอร์สโค้ดเกมมาวิเคราะห์เพื่อหาทางปรับกลยุทธ์ ความแตกต่างนี้ทำให้การประเมินเอเจนต์จากฉากเดียวหรือภารกิจเดียวไม่เพียงพอ

สำหรับผู้ใช้ทั่วไป ประเด็นไม่ใช่ว่าเอเจนต์จะตั้งตำแหน่งเจ้าหน้าที่ปุ๋ยในที่ทำงานจริงหรือไม่ แต่คือเมื่อระบบได้รับสิทธิ์จัดการไฟล์ เครื่องมือ หรือขั้นตอนสำคัญ มันอาจสร้างทางลัดหรือกระบวนการที่ผู้พัฒนาไม่ได้คาดไว้ได้เช่นกัน การทดสอบจึงควรดูทั้งความสามารถในการทำงานและความสามารถในการหยุด ทบทวน หรือขอความช่วยเหลือเมื่อเจอความเสี่ยง

AI เล่น Minecraft แล้วติดหล่มกฎระเบียบเป็นเรื่องขำได้ เพราะเดิมพันอยู่ในโลกเกม แต่คุณค่าที่แท้จริงของการทดลองคือการใช้ฉากจำลองเพื่อค้นหาจุดอ่อนก่อนความผิดพลาดจะกระทบผู้คน การทดสอบเช่นนี้ควรเป็นเครื่องมือเตือนภัย ไม่ใช่หลักฐานว่า AI จะทำซ้ำพฤติกรรมเดิมทุกครั้ง

ZestBuy ได้รับค่าคอมมิชชั่นเมื่อคุณช้อปผ่านลิงก์ของเรา โดยคุณไม่ต้องจ่ายเพิ่ม

You May Also Like

Comments
พูดอะไรบางอย่าง...
ยังไม่มีความคิดเห็น มาเป็นคนแรกที่แบ่งปันความคิดเห็นของคุณ!