ปัญหาขาด GPU และคอขวดโครงสร้างพื้นฐาน กำแพงใหม่ขององค์กรที่อยากทำ AI

จากโมเดลสู่ฮาร์ดแวร์ ทำไมโครงสร้าง AI ขนาดใหญ่ถึงติดเพดาน

โครงสร้าง AI ขนาดใหญ่คือระบบดาต้าเซ็นเตอร์และสถาปัตยกรรมคอมพิวต์ที่ออกแบบเฉพาะสำหรับรองรับเวิร์กโหลดปัญญาประดิษฐ์ ตั้งแต่เซิร์ฟเวอร์ที่มี GPU หน่วยความจำความเร็วสูง สตอเรจประสิทธิภาพสูง ไปจนถึงระบบเครือข่ายที่ทำให้ข้อมูลวิ่งได้ต่อเนื่องและเข้าถึงได้ตลอดเวลา ทั้งหมดต้องทำงานร่วมกันอย่างสมดุลเพื่อให้การ Training และ Inference มีประสิทธิภาพและคุ้มค่าการลงทุน

องค์กรจำนวนมากคิดว่าอุปสรรคของ AI คือการหาโมเดลที่เก่งหรือทีมวิจัยที่เก่งพอ แต่ในสนามจริงคอขวดกลับขยับลงมาที่ชั้นฮาร์ดแวร์และสถาปัตยกรรมดาต้าเซ็นเตอร์ การออกแบบโครงสร้าง AI ขนาดใหญ่ต้องเป็นสถาปัตยกรรมแบบแยกส่วนที่ทำให้ข้อมูลเข้าถึงได้และเคลื่อนที่ได้ตลอดระหว่าง compute สตอเรจ และเน็ตเวิร์ก งาน AI ระดับองค์กรจึงไม่ใช่การเอาเซิร์ฟเวอร์กับ GPU มาต่อรวมกันแบบง่ายๆ แต่ต้องอาศัยวิศวกรรม การออกแบบ และทักษะการติดตั้งระดับสูงเพื่อบาลานซ์ประสิทธิภาพ พลังงาน และการระบายความร้อนให้ไปด้วยกันได้

แบ็กล็อก AI มหาศาลคือสัญญาณเตือน ว่าดาต้าเซ็นเตอร์สร้างไม่ทัน

การที่สินค้าที่เกี่ยวกับ AI กลายเป็นสินค้าขายดีแต่ส่งมอบช้าไม่ใช่เรื่องบังเอิญ แบ็กล็อกคำสั่งซื้อด้าน AI ขนาดมหาศาลของผู้ผลิตโครงสร้างพื้นฐานรายใหญ่ สะท้อนว่าความต้องการเซิร์ฟเวอร์ที่มีซีพียูหลายคอร์ DRAM ปริมาณสูง และสตอเรจระดับเพตะไบต์นั้นพุ่งแซงกำลังผลิตไปไกล จุดที่น่าเป็นห่วงคือคอขวดไม่ได้อยู่แค่แผงวงจรหรือชิปตัวเดียว แต่กระจายไปทั้งห่วงโซ่อุปทาน ตั้งแต่ DRAM และ NAND ไปจนถึงไมโครคอนโทรลเลอร์และดิสก์ไดรฟ์

ผู้บริหารของผู้ผลิตรายหนึ่งระบุอย่างชัดเจนว่าองค์กรข้ามชาติทั่วโลกหลายรายอยากได้โครงสร้างพื้นฐาน AI ใช้งานทันที หากมีของให้ส่ง พร้อมย้ำว่าทีมของเขายังถูกจำกัดด้วยจำนวนที่สามารถประกอบและส่งมอบได้ในแต่ละไตรมาส นี่ยืนยันว่าความฝันด้าน AI ขององค์กรไม่ได้ติดอยู่ที่สไลด์พรีเซนต์หรือบอร์ดอนุมัติงบ แต่ติดอยู่ที่พื้นที่โรงงานและแบ็กล็อกการผลิตที่ล้นมือ การรอเพียงแค่ซัพพลาย GPU หรือชิปเพิ่มจึงไม่พอ แต่ต้องคิดใหม่ทั้งสถาปัตยกรรม การออกแบบเวิร์กโหลด และกลยุทธ์การใช้ฮาร์ดแวร์ที่มีอยู่ให้คุ้มที่สุด

เมื่อการปรับปรุง ROCm กลายเป็นอาวุธสู้คอขวด GPU

ท่ามกลางแรงกดดันจากปัญหาขาด GPU ผู้เล่นอย่าง AMD เริ่มย้ายสมรภูมิจากการผลิตชิปเพิ่ม ไปสู่การรีดประสิทธิภาพจากชิปที่มีอยู่ให้มากที่สุด การเปิดตัว ROCm 10 พร้อมแพลตฟอร์ม ROCm.AI แบบ AI-native และ Agentic AI คือคำตอบเชิงซอฟต์แวร์ที่ตั้งใจให้ช่วยนักพัฒนาสร้าง รัน และปรับแต่งเวิร์กโหลด AI บนฮาร์ดแวร์ของ AMD ได้มีประสิทธิภาพมากกว่าเดิม จุดเด่นคือไม่ได้เน้นโมเดลใหม่ แต่เน้นให้โครงสร้างพื้นฐานเดิมรองรับโหลดที่หนักขึ้น

ตามข้อมูลที่ AMD เผย ระบบที่ตั้งค่าด้วย ROCm.AI สามารถเพิ่มประสิทธิภาพ Inference เฉลี่ยได้ 3.3 เท่า และ Training 2.4 เท่า เมื่อเทียบกับ ROCm 7 บนฮาร์ดแวร์เดียวกัน โดยทดสอบบนระบบ AMD Instinct MI355X แบบ 8 GPU คำอธิบายคือ ROCm 10 ปรับ Kernel การจัดการหน่วยความจำ และการจัดตารางประมวลผลด้วย AI ให้ฉลาดขึ้น ทำให้เวิร์กโหลดที่เคยต้องใช้ GPU จำนวนหนึ่ง สามารถยัดลงในโหนดเดิมแล้วรันได้เร็วกว่า การปรับปรุง ROCm แบบนี้จึงเป็นช่องทางหนึ่งในการชดเชยข้อจำกัดด้านซัพพลายฮาร์ดแวร์

โครงสร้าง AI ขนาดใหญ่ยุคใหม่ คือการออกแบบให้ซอฟต์แวร์ปรับฮาร์ดแวร์ได้เอง

หัวใจของ ROCm.AI คือการทำให้โครงสร้างพื้นฐาน AI ปรับตัวตามเวิร์กโหลดแบบไดนามิกมากขึ้น เครื่องมืออย่าง ROCm Hyperloom ถูกออกแบบเป็นระบบ Agentic AI สำหรับปรับแต่งงาน Inference ตั้งแต่โค้ดฝั่งโฮสต์ไปจนถึง GPU Kernel สามารถวิเคราะห์เวิร์กโหลด ค้นหาคอขวด ทดลองแนวทางปรับปรุง แก้ไขโค้ด ทดสอบประสิทธิภาพ และตรวจสอบความถูกต้องได้อัตโนมัติ ที่สำคัญ Hyperloom ยังรองรับ AMD Instinct GPU และเฟรมเวิร์กอย่าง vLLM และ SGLang ครอบคลุมเป้าหมายการปรับแต่งตั้งแต่ HIP Triton ไปจนถึง FlyDSL และสร้างรายงานให้เห็นทั้งการเปลี่ยนโค้ดและตัวเลขประสิทธิภาพที่ได้

การปรับปรุง ROCm ไม่ได้หยุดแค่เอเจนต์ปรับจูน แต่ยังกระทบถึงโครงสร้างหลักของแพลตฟอร์ม ROCm 10 ปรับโครงสร้าง ROCm Core SDK ให้เป็นโมดูลมากขึ้น พร้อมอัปเดตไลบรารี คอมไพเลอร์ เฟรมเวิร์ก เครื่องมือ โมเดล และแพลตฟอร์มฮาร์ดแวร์ ด้าน ROCm CLI ทำหน้าที่เป็นอินเทอร์เฟซคำสั่งกลางสำหรับติดตั้งและจัดการสภาพแวดล้อม ROCm รันโมเดล ตรวจสอบระบบ และควบคุม Runtime รองรับทั้ง Windows และ Linux โดยไม่ต้องติดตั้ง ROCm ไว้ล่วงหน้า และเริ่มรองรับประสบการณ์ข้ามเวอร์ชันตั้งแต่ ROCm 7.13 โดยการรองรับ ROCm 10 อย่างเป็นทางการจะตามมาในภายหลัง ทั้งหมดนี้ชี้ชัดว่าการจูนโครงสร้างพื้นฐานจริงจังพอๆ กับการจูนโมเดล

บทสรุปสำหรับองค์กร: เลิกคิดว่าเพิ่ม GPU คือคำตอบเดียว

ภาพรวมของตลาดวันนี้บอกตรงกันว่า โครงสร้างพื้นฐานคือกำแพงตัวจริงของการนำ AI ระดับองค์กรไปใช้ในทางปฏิบัติ การออกแบบโครงสร้าง AI ขนาดใหญ่ต้องคิดเรื่องสถาปัตยกรรมแบบแยกส่วน ดาต้าที่เข้าถึงได้ตลอดเวลา และคอขวดตั้งแต่ DRAM NAND ไปจนถึงสายส่งพลังงาน ไม่ใช่แค่จำนวน GPU ในขณะเดียวกัน การพัฒนาซอฟต์แวร์อย่าง ROCm 10 และ ROCm.AI แสดงให้เห็นว่าการเพิ่มประสิทธิภาพ Inference และ Training บนฮาร์ดแวร์ชุดเดิม สามารถยืดอายุการลงทุนออกไปได้อีกหลายรอบ

สำหรับผู้นำองค์กร บทเรียนคือกลยุทธ์ AI ต้องวางคู่กันสองเส้นทาง เส้นทางหนึ่งคือการเลือกโมเดลและกรณีใช้งานที่แก้โจทย์ธุรกิจจริง อีกเส้นคือการลงทุนด้านสถาปัตยกรรมและเครื่องมือปรับจูนโครงสร้างพื้นฐาน ตั้งแต่ระดับดาต้าเซ็นเตอร์จนถึงระดับ Kernel ถ้าองค์กรยังมอง AI เป็นแค่โปรเจกต์ซอฟต์แวร์โดยไม่มีกลยุทธ์ฮาร์ดแวร์และโครงสร้างพื้นฐานที่แข็งแรง ต่อให้โมเดลเก่งแค่ไหนก็จะสะดุดอยู่กับคอขวดเดิม และเสียโอกาสในสนามแข่งขันที่กำลังขับเคี่ยวด้วยความเร็วและประสิทธิภาพ Inference เป็นหลัก