โครงสร้างพื้นฐาน AI ยุคใหม่: จากกำแพงปิดสู่แพลตฟอร์มร่วม
โครงสร้างพื้นฐาน AI ยุคใหม่คือการเชื่อมต่อฮาร์ดแวร์อย่าง GPU และ TPU เข้ากับระบบจัดเก็บข้อมูลและซอฟต์แวร์ผ่าน API แบบเปิดและมาตรฐานร่วม เพื่อให้หลายผู้ผลิตสามารถทำงานร่วมกันได้อย่างไร้รอยต่อ ลดความซับซ้อนของการพัฒนา และทำให้การประมวลผลโมเดลขนาดใหญ่มีประสิทธิภาพมากขึ้นทั้งด้านความเร็ว ต้นทุน และความยืดหยุ่นในการเลือกเทคโนโลยีที่เหมาะสมที่สุดต่อเวิร์กโหลดขององค์กร.
ประเด็นสำคัญคือยักษ์ฮาร์ดแวร์ไม่ได้แข่งขันด้วยกำแพงปิดอีกต่อไป แต่หันมาเปิด API และไลบรารีระดับแกนหลักเพื่อสร้างภาษาเดียวกันของโครงสร้างพื้นฐาน AI ทั้งระบบ นี่คือความหมายเชิงกลยุทธ์ของการที่ Nvidia เดินหน้านำ Storage-Next ซึ่งเป็นโครงการรวมผู้ขายกว่า 40 รายเพื่อกำหนดพฤติกรรมของ GPU-driven storage และแปลงเป็นมาตรฐานอุตสาหกรรมแบบเปิด. ในเวลาใกล้กัน Google ก็เปิดโค้ด TPU Raiden ซึ่งเป็น TPU inference library สำหรับการเคลื่อนย้าย KV-cache ระหว่างชิประหว่างการ infer โมเดลภาษาขนาดใหญ่. ทิศทางเช่นนี้ไม่ใช่เพียงรายละเอียดเชิงเทคนิค แต่คือสัญญาณว่าพลังการแข่งขันกำลังเคลื่อนไปที่ระบบนิเวศไม่ใช่กำแพงล็อกอิน.
Storage-Next, SCADA และการเร่ง AI storage: มาตรฐานใหม่ของข้อมูลสำหรับ GPU
ในอดีต bottleneck ของโครงสร้างพื้นฐาน AI ไม่ได้อยู่ที่พลัง GPU เพียงอย่างเดียว แต่มักติดอยู่ตรงทางเดินของข้อมูลที่ช้าและกระจัดกระจาย การที่ Nvidia ประกาศเป็นผู้นำโครงการ Storage-Next เพื่อรวมผู้ผลิตสตอเรจ ผู้ผลิตคอนโทรลเลอร์ ผู้ออกแบบระบบระบายความร้อน ผู้ให้บริการ orchestration และองค์กรกำหนดมาตรฐานกว่า 40 รายให้มาออกแบบพฤติกรรมของ GPU-driven storage ร่วมกัน แล้วแปลงเป็นมาตรฐานแบบเปิด จึงเป็นการยอมรับอย่างชัดเจนว่าโลก AI ต้องการ infrastructure standardization มากกว่าการขายระบบปิดแพ็กเดียว.
หัวใจของแนวทางนี้คือ AI storage acceleration ผ่านเฟรมเวิร์กที่ Nvidia เรียกว่า SCADA หรือ scaled, accelerated data access ซึ่งเปิดทางให้ GPU จำนวนมากดึงเฉพาะข้อมูลที่จำเป็นจากสตอเรจเข้าสู่หน่วยความจำความเร็วสูงของตนโดยตรง. แนวคิด GPU API เปิดโค้ดในระดับนี้หมายถึงนักพัฒนาและผู้ผลิตสตอเรจสามารถเขียนซอฟต์แวร์ที่พูดภาษาเดียวกับ GPU ได้ สร้างโอกาสใหม่ให้กับ vendor partnership ecosystem ที่ไม่ถูกล็อกด้วยไดรเวอร์ proprietary รายเดียว.
DDN–Nvidia: ตัวอย่างรูปธรรมของการเชื่อม GPU กับข้อมูลแบบเปิด
คำว่ามาตรฐานจะไม่มีความหมายหากไม่มีตัวอย่างใช้จริง และความร่วมมือระหว่าง DDN กับ Nvidia เป็นกรณีศึกษาที่ชัดเจนว่าการเปิดสเป็กและ API ทำให้ vendor partnership ecosystem เดินหน้าจริงได้อย่างไร. DDN ผู้เชี่ยวชาญด้านโซลูชัน AI และ data intelligence ประกาศความร่วมมือกับ Nvidia ภายใต้ Storage-Next โดยเน้นการช่วยองค์กรสร้างมูลค่าทางธุรกิจจากการลงทุน AI ให้สูงขึ้น.
ในทางเทคนิค DDN กำลังผสาน SCADA เข้ากับแพลตฟอร์ม Infinia ซึ่งเป็นซอฟต์แวร์กำหนดสตอเรจที่เน้น AI เพื่อให้ GPU เข้าถึงข้อมูลที่ต้องการได้โดยตรงมากขึ้น. ผลลัพธ์คือการลด latency รักษาทรัพยากร GPU ให้ทำงานอย่างเต็มประสิทธิภาพ และเร่งการส่งมอบผลลัพธ์จากงาน AI. สำหรับลูกค้าที่สร้างสภาพแวดล้อม AI ขนาดใหญ่ การเพิ่ม utilization ของ GPU เพียงเล็กน้อยก็แปลเป็นผลลัพธ์ที่เร็วขึ้น ต้นทุนการดำเนินการที่ลดลง และผลตอบแทนจากการลงทุนที่ดีขึ้น. DDN และ Nvidia ระบุว่าจะเดินหน้าพัฒนาร่วมกันต่อไปและเผยแพร่ข้อมูลด้านประสิทธิภาพและประโยชน์ของลูกค้าเมื่อการพัฒนาก้าวหน้า.
Google TPU Raiden: วาง TPU เป็นคู่แข่งตรงของ GPU ด้วยการเปิดโค้ด
ขณะที่ฝั่ง GPU เคลื่อนสู่มาตรฐานร่วม ฝั่ง TPU ก็เริ่มเปลี่ยนทิศทางจากระบบปิดสู่โครงสร้างพื้นฐานเปิดเช่นกัน Google เปิดโค้ด TPU Raiden ซึ่งเป็น TPU inference library สำหรับเพิ่มประสิทธิภาพเฟสการ infer โดยเฉพาะการย้าย KV-cache ระหว่างชิปต่างๆ ระหว่างการตอบคำถามของโมเดลภาษาขนาดใหญ่. นี่คือเลเยอร์เดียวกับที่ NIXL ทำในสแตกของ Nvidia และเป็นการส่งสัญญาณตรงๆ ว่า Google ต้องการให้ TPU เป็นคู่แข่งโดยตรงกับ GPU ของ Nvidia.
สิ่งที่ TPU Raiden ทำ คือจัดการการส่งต่อ KV-cache จากฮาร์ดแวร์ที่ทำงานเฟส prefill ไปยังฮาร์ดแวร์ที่ทำเฟส decode เพื่อให้การให้บริการแบบ disaggregated serving มีประสิทธิภาพ โดยมีโมดูลรองรับทั้งการส่งข้อมูลภายในเครื่อง การส่งข้าม TPU VMs ผ่านเครือข่าย รวมทั้งการ offload KV-cache จากหน่วยความจำ TPU ลงสู่ host RAM เมื่อยังไม่ถูกใช้งาน. Google ระบุอย่างตรงไปตรงมาว่าโครงการยังอยู่ระหว่างการพัฒนาและยังไม่พร้อมสำหรับการใช้งาน production ในวงกว้าง. แต่หาก Raiden ได้รับการผนวกเข้ากับเฟรมเวิร์กอย่างแพร่หลายเช่นเดียวกับ NIXL การย้ายเวิร์กโหลดจากระบบที่ใช้ GPU ไปสู่ TPU จะทำได้ด้วยภาระวิศวกรรมลดลงอย่างมีนัยสำคัญ ซึ่งตอบโจทย์ความต้องการให้ ecosystem ของ TPU มีความสมบูรณ์ระดับเดียวกับ GPU ที่เติบโตมากว่าทศวรรษ.
ผลต่อผู้ใช้งานและอนาคตของมาตรฐานโครงสร้างพื้นฐาน AI
คำถามสำคัญคือสิ่งเหล่านี้แปลว่าอะไรสำหรับผู้ใช้งานทั่วไปที่กำลังสร้างหรือวางแผนโครงสร้างพื้นฐาน AI ของตน. เมื่อโครงการ AI หลายแห่งเริ่มขยับจากการทดลองไปสู่ระบบผลิตที่เป็นหัวใจของธุรกิจ องค์กรย่อมถูกกดดันให้ควบคุมต้นทุนโครงสร้างพื้นฐานพร้อมเพิ่มประสิทธิภาพและสเกลให้สูงขึ้น. การมีมาตรฐานร่วมสำหรับ GPU-driven storage และ TPU inference library ที่เปิดโค้ดทำให้การสลับหรือผสมผู้ผลิตฮาร์ดแวร์หลายรายเป็นเรื่องที่ทำได้จริง ไม่ต้องเริ่มเขียนสแตกใหม่ทุกครั้ง.
ในมุมปฏิบัติ การเปิดโค้ดและมาตรฐานที่จับต้องได้ เช่น Storage-Next ที่รวมผู้ขายกว่า 40 รายเพื่อสร้างมาตรฐาน GPU-driven storage แบบ interoperable ร่วมกับความร่วมมือ DDN–Nvidia ที่แสดงให้เห็นว่า GPU-initiated data access สามารถใช้งานจริงในสภาพแวดล้อมขนาดใหญ่, และ TPU Raiden ที่เริ่มเปิดสแตก TPU ให้สาธารณะ, ต่างช่วยลดความเสี่ยงของ vendor lock-in และลด barrier ของการนำ AI มาใช้ในองค์กร. อนาคตของโครงสร้างพื้นฐาน AI จึงไม่น่าจะเป็นการผูกขาดของรายเดียว แต่จะเป็นสนามที่มาตรฐานเปิดกำหนดเกม ผู้ชนะจะไม่ใช่คนที่สร้างกำแพงสูงที่สุด แต่คือคนที่สร้างสะพานเชื่อม ecosystem ให้ทำงานร่วมกันได้ดีที่สุด.
