Hy4 ขยับจากแชตบอตสู่เอเจนต์ที่ลงมือทำงาน
โมเดล Tencent Hy4 คือโมเดลภาษาขนาดใหญ่ที่ผสานความเข้าใจภาพ การให้เหตุผล และการเรียกใช้เครื่องมือ เพื่อทำงานแบบเอเจนต์ที่ต่อเนื่องได้ พร้อมความสามารถ AI ใช้งานคอมพิวเตอร์ที่เพิ่มเข้ามาเป็นครั้งแรก ความสามารถใหม่นี้ทำให้ Hy4 ไม่ได้หยุดแค่ตอบคำถามจากข้อความ แต่ยังรับข้อมูลภาพและสั่งงานผ่านคอมพิวเตอร์ได้ จึงมีประโยชน์กับงานที่ต้องอ่านเอกสาร ดูหน้าจอ หรือประสานหลายขั้นตอน
Tencent เปิดตัว Hy4 รุ่นใหม่เมื่อวันที่ 4 พฤศจิกายน โดยระบุว่าประสิทธิภาพดีขึ้นจาก Hy4 Preview ซึ่งเปิดตัวเมื่อ 28 สิงหาคม บริษัทปรับกระบวนการฝึกทั้งก่อนและหลังการฝึก หลังพบว่ารุ่นก่อนใช้เหตุผลมากเกินไปและตรวจสอบซ้ำในขั้นตอนคิด การปรับนี้ชี้ว่าความก้าวหน้าไม่ได้อยู่ที่เพิ่มฟังก์ชันเท่านั้น แต่รวมถึงการลดพฤติกรรมที่ทำให้งานเอเจนต์เสียเวลา
ความเข้าใจภาพ AI และการควบคุมคอมพิวเตอร์เปิดทางให้นำโมเดลไปใช้กับการพัฒนาเว็บ การสรุปเอกสาร งานสร้างสรรค์ และการพัฒนาเกม อย่างไรก็ดี ความสามารถเหล่านี้มีค่าก็ต่อเมื่อช่วยลดงานจริง ไม่ใช่เพียงเพิ่มรายการคุณสมบัติบนเอกสารแนะนำผลิตภัณฑ์
บริบทใหญ่ขึ้น แต่ไม่ได้แปลว่าถูกกว่า
Hy4 มีพารามิเตอร์รวม 770 พันล้านตัว และพารามิเตอร์ที่ทำงานจริง 49 พันล้านตัว พร้อมหน้าต่างบริบท 1,048,576 โทเคน ส่วน HY3 มี 295 พันล้านตัวโดยรวม พารามิเตอร์ทำงานจริง 21 พันล้านตัว และบริบท 262,144 โทเคน จุดต่างสำคัญจึงไม่ใช่แค่ขนาดโมเดล แต่คือ Hy4 รับบริบทได้สี่เท่าและรองรับภาพ ขณะที่ HY3 รับข้อความเท่านั้น
| ข้อกำหนด | Hy4 | HY3 |
|---|---|---|
| บริบทสูงสุด | 1,048,576 โทเคน | 262,144 โทเคน |
| อินพุต | ข้อความและภาพ | ข้อความ |
| พารามิเตอร์รวม | 770 พันล้าน | 295 พันล้าน |
| การใช้งาน | เรียกใช้ผ่านบริการและเอพีไอ | ดาวน์โหลดและติดตั้งเองได้ |
ด้านราคาโทเค็น AI ภาพรวมชัดเจนว่า Hy4 มีต้นทุนสูงกว่าสำหรับโทเค็นอินพุตใหม่ โดยสูงกว่า HY3 4.6 เท่า ส่วนเอาต์พุตสูงกว่า 4.2 เท่า แต่ในเซสชันเอเจนต์ที่ใช้แคชได้มาก ช่องว่างลดลงเหลือประมาณ 1.9 เท่า เพราะอัตราโทเค็นอินพุตแบบแคชของ Hy4 ต่ำกว่า HY3 การประเมินจึงควรดูรูปแบบการใช้งานและการแคช ไม่ใช่ดูตัวคูณราคาของอินพุตใหม่อย่างเดียว
เลือกตามงาน ไม่ใช่ตามคำว่าเรือธง
HY3 ยังเป็นตัวเลือกที่สมเหตุสมผลสำหรับงานข้อความทั่วไป งานสั้นที่เกิดซ้ำ และทีมที่ต้องการดาวน์โหลดโมเดลไปติดตั้งเอง ภายใต้สัญญาอนุญาต Apache 2.0 ส่วน Hy4 เหมาะกับงานบริบทยาว งานภาพ และเอเจนต์ที่ต้องโต้ตอบกับคอมพิวเตอร์ ซึ่งเป็นงานที่ HY3 ทำไม่ได้หรือชนข้อจำกัดบริบทก่อน การตัดสินใจจึงเป็นเรื่องข้อจำกัดด้านงานและการติดตั้ง มากกว่าการไล่ตามรุ่นใหม่
สำหรับผู้ใช้ทั่วไป Hy4 พร้อมให้ใช้งานผ่านบริการของ Tencent หลายรายการ รวมถึงผู้ให้บริการภายนอก จึงไม่จำเป็นต้องดูแลโครงสร้างพื้นฐานเองเพื่อทดลองความสามารถใหม่ แนวทางที่คุ้มกว่าการย้ายทุกงานคือแบ่งงานตามความเหมาะสม ใช้ HY3 เป็นค่าเริ่มต้นกับงานข้อความที่ไม่ต้องใช้บริบทมหาศาล แล้วส่งงานที่ต้องอ่านภาพ ใช้บริบทยาว หรือควบคุมคอมพิวเตอร์ไปยัง Hy4
ข้อควรระวังคือ Hy4 ยังมีน้ำหนักโมเดลและรายละเอียดระบบที่บริษัทยังไม่ได้เปิดเผยในข้อมูลที่อ้างถึง ขณะที่ HY3 ดาวน์โหลดและติดตั้งได้แล้ว ทีมที่ต้องควบคุมข้อมูลหรือโฮสต์โมเดลเองจึงมีเหตุผลหนักแน่นที่จะเลือก HY3 ต่อไป แม้ Hy4 จะมีความสามารถกว้างกว่า
คำตัดสิน: Hy4 คุ้มเมื่อความสามารถใหม่แก้ข้อจำกัดเดิม
Hy4 เป็นการอัปเกรดที่มีความหมายสำหรับงานซึ่งต้องเข้าใจภาพ ใช้เครื่องมือ และควบคุมคอมพิวเตอร์ โดยเฉพาะเมื่อบริบทของงานยาวเกินขีดจำกัดของ HY3 แต่ความสามารถเพิ่มขึ้นก็มาพร้อมต้นทุนที่สูงกว่าสำหรับการเรียกใช้โทเค็นใหม่ จึงไม่ควรย้ายงานทั้งหมดเพียงเพราะ Hy4 เป็นรุ่นใหม่กว่า
ข้อสรุปที่ใช้งานได้จริงคือเลือก HY3 สำหรับงานข้อความปริมาณมากที่อยู่ในบริบทจำกัด และเลือก Hy4 เฉพาะงานภาพ งานบริบทยาว หรือเวิร์กโฟลว์เอเจนต์ที่ใช้ประโยชน์จากแคชและการควบคุมคอมพิวเตอร์ได้จริง ควรทดสอบต้นทุนกับรูปแบบคำสั่งของทีมก่อนขยายการใช้งาน เพราะอัตราการแคชขึ้นอยู่กับการจัดโครงสร้างบริบทด้วย ส่วนรุ่น Flash ที่ Tencent ระบุว่าจะตามมาอาจช่วยลดต้นทุนในอนาคต แต่ยังไม่ใช่เหตุผลให้ตั้งงบล่วงหน้า
