จาก GPU ถึงหน่วยประมวลผลเฉพาะทาง: อนุมาน AI ต้องทำงานเป็นทีม

ระบบอนุมาน AI กำลังเปลี่ยนจากชิปเดี่ยวสู่การทำงานร่วมกัน

ระบบอนุมาน AI คือโครงสร้างที่รับคำขอจากผู้ใช้แล้วคำนวณคำตอบจากโมเดล โดยประสิทธิภาพขึ้นกับการจับคู่งานคำนวณ หน่วยความจำ และการจัดเก็บข้อมูลให้เหมาะกับแต่ละขั้นตอน มากกว่าการพึ่งตัวเร่งชนิดเดียว ข้อสรุปสำคัญจากประกาศสามชุดในเดือนพฤศจิกายนคือ ผู้ให้บริการกำลังแก้ปัญหาคนละชั้น ตั้งแต่การเลือกชิปให้ตรงกับงาน การเก็บบริบทที่ใช้ซ้ำ ไปจนถึงการแบ่งตัวเร่งให้โมเดลหลายตัวใช้ร่วมกัน แนวทางเหล่านี้ไม่ใช่คู่แข่งที่ต้องเลือกเพียงหนึ่งเดียว แต่เป็นส่วนประกอบที่อาจอยู่ร่วมกันในโครงสร้างพื้นฐานเดียว ทิศทางนี้มีเหตุผลชัดเจน: โมเดลที่ตอบยาว ใช้บริบทยาว หรือทำงานแบบเอเจนต์สร้างภาระต่างจากงานฝึกโมเดล การปรับระบบอนุมานให้ตรงกับรูปแบบภาระงานจึงสำคัญกว่าการเพิ่ม GPU โดยไม่แยกแยะว่าคอขวดอยู่ตรงไหน

จับคู่ GPU กับ RDU เพื่อเร่งการสร้างคำตอบ

เมื่อวันที่ 3 พฤศจิกายน 2026 SambaNova และ Supermicro ประกาศความร่วมมือ โดย Supermicro จะสร้าง จำหน่าย และสนับสนุนระบบอนุมานที่แบ่งงานระหว่าง GPU NVIDIA กับหน่วยประมวลผล Reconfigurable Dataflow รุ่น SN50 ของ SambaNova ระยะแรกวางแผนใช้ชิป SN50 จำนวน 10,000 ตัว เหตุผลของการแบ่งงานอยู่ที่ธรรมชาติของการประมวลผล ช่วงเติมพรอมป์ต์ใช้กำลังคำนวณสูง จึงให้ GPU NVIDIA รับผิดชอบ ส่วนช่วงถอดรหัสที่สร้างคำตอบทีละโทเค็นและติดข้อจำกัดด้านแบนด์วิดท์หน่วยความจำจะส่งให้ SN50 ทำงาน การแยกเช่นนี้ตอบโจทย์เอเจนต์ AI ซึ่งอาจเรียกโมเดลซ้ำหลายครั้ง และใช้เวลาส่วนใหญ่รอการสร้างโทเค็นก่อนดำเนินขั้นต่อไป จุดแข็งของแนวทางนี้คือการจัดสรรชนิดชิปตามขั้นตอน แทนการบังคับให้ตัวเร่งตัวเดียวทำทุกอย่าง แต่ผลจริงยังขึ้นกับการปรับโมเดลและการติดตั้งให้เข้ากับระบบผสม ซึ่ง SambaNova จะช่วยดำเนินการร่วมกับทีม Supermicro บริษัทคาดว่าความร่วมมือนี้จะเพิ่มขีดความสามารถด้านการอนุมานประสิทธิภาพสูงในปี 2027

ย้าย KV cache ออกจากหน่วยความจำ GPU

เมื่อวันที่ 5 พฤศจิกายน 2026 Supermicro เปิดตัวโซลูชัน KV cache ร่วมกับ IBM และ NVIDIA เพื่อย้ายบริบทการอนุมานที่นำกลับมาใช้ซ้ำไปยังพื้นที่จัดเก็บส่วนกลาง ซึ่งมีความจุมากกว่าหน่วยความจำ GPU นี่เป็นการแก้คอขวดคนละแบบกับการเพิ่มหน่วยประมวลผล: หากคำขอใหม่ใช้บริบทเดิม การคำนวณสถานะเดิมซ้ำย่อมเสียทั้งเวลาและทรัพยากร ระบบรวมเซิร์ฟเวอร์จัดเก็บข้อมูลแฟลชล้วนระดับเพตาสเกล ซอฟต์แวร์ IBM Storage Scale เฟรมเวิร์ก Dynamo ของ NVIDIA และเครือข่าย Spectrum-X โดยเปิดให้โหนด GPU และคลัสเตอร์เข้าถึงแคชร่วมกัน และเพิ่มความจุได้โดยไม่ต้องหยุดระบบ บริษัทระบุว่าการทดสอบกับพรอมป์ต์ 130,000 โทเคนทำให้เวลาจนได้โทเคนแรกเร็วขึ้นสูงสุด 56 เท่า ตัวเลขนี้น่าจับตา แต่ไม่ควรตีความว่าเป็นผลที่ทุกระบบจะได้เท่ากัน ประโยชน์ขึ้นกับการมีบริบทซ้ำและลักษณะคำขอ จุดหมายของ KV cache คือหลีกเลี่ยงงานเดิม ไม่ใช่เร่งการคำนวณทุกชนิด

แบ่ง GPU ให้หลายโมเดล แทนการจองทั้งตัว

เมื่อวันที่ 6 พฤศจิกายน 2026 AWS เพิ่มการรองรับ NVIDIA Multi-Instance GPU บน SageMaker Inference ทำให้โมเดลหลายตัวที่แยกการทำงานด้วยฮาร์ดแวร์ใช้ตัวเร่งประมวลผลเดียวร่วมกันบนเอนด์พอยต์แบบเรียลไทม์ได้ ปัญหาที่ฟีเจอร์นี้แก้คือการจัดสรร GPU ทั้งตัวให้แต่ละโมเดล ทั้งที่บางโมเดลใช้หน่วยความจำและกำลังประมวลผลเพียงบางส่วน MIG แบ่ง GPU เป็นพาร์ทิชันที่มีส่วนแบ่งหน่วยประมวลผลและหน่วยความจำเฉพาะ พร้อมการแยกการทำงานที่ควบคุมด้วยฮาร์ดแวร์ ต่างจากระบบ SN50 ที่จับคู่ชิปกับช่วงงาน และต่างจาก KV cache ที่จัดการบริบท MIG เน้นใช้ทรัพยากรตัวเร่งให้คุ้มขึ้นโดยไม่ต้องโหลดโมเดลลงอุปกรณ์ใหม่ทุกครั้ง AWS รายงานว่าพาร์ทิชัน H100 ทำโทเค็นเอาต์พุตต่อวินาทีได้มากกว่า 53% ถึง 89% เมื่อเทียบกับ A100 แบบเต็มตัว ณ ระดับโหลดที่แต่ละสถานการณ์ให้ประโยชน์ด้านต้นทุนสูงสุด อย่างไรก็ดี การแยกครอบคลุมเฉพาะ GPU ไม่รวม CPU หน่วยความจำโฮสต์ พื้นที่จัดเก็บ หรือเครือข่าย และ Salesforce ยังอยู่ระหว่างตรวจสอบซอฟต์แวร์กับภาระงานจริง

ข้อสรุป: เลือกแก้คอขวด ไม่ใช่เลือกชิปตามกระแส

ทั้งสามแนวทางสะท้อนบทเรียนเดียวกัน: ประสิทธิภาพระบบอนุมานไม่ได้วัดจากจำนวน GPU เพียงอย่างเดียว ระบบที่ติดขัดตอนสร้างโทเค็นอาจได้ประโยชน์จากตัวประมวลผลเฉพาะทาง ขณะที่งานที่ใช้บริบทยาวและซ้ำควรให้ความสำคัญกับ KV cache ส่วนองค์กรที่มีโมเดลขนาดเล็กหลายตัวบนเอนด์พอยต์เดียวอาจได้ประโยชน์จากการแบ่งพาร์ทิชัน สำหรับผู้ใช้ปลายทาง ผลที่ต้องการคือรอคำตอบน้อยลงและให้บริการได้ต่อเนื่องขึ้น ส่วนองค์กรควรเริ่มจากวัดว่าคอขวดอยู่ที่การคำนวณ การเข้าถึงหน่วยความจำ การคำนวณบริบทซ้ำ หรือการจัดสรรตัวเร่ง แล้วค่อยเลือกสถาปัตยกรรมให้ตรงโจทย์ การนำทุกเทคโนโลยีมาใช้พร้อมกันโดยไม่ตรวจรูปแบบงานอาจเพิ่มความซับซ้อนโดยไม่ได้ผลตอบแทน ทิศทางที่น่าเชื่อถือที่สุดจึงไม่ใช่การประกาศผู้ชนะระหว่าง GPU กับชิปเฉพาะทาง แต่คือการออกแบบระบบให้แต่ละส่วนรับงานที่ถนัด พร้อมทดสอบกับภาระงานจริงก่อนขยายใช้งาน