AI Inference Storage ไม่ใช่แค่ที่เก็บข้อมูล แต่คือกลไกเร่งความคิดของโมเดล
AI Inference Storage คือโครงสร้างการจัดเก็บและเข้าถึงข้อมูลที่ออกแบบเฉพาะสำหรับการประมวลผลผลลัพธ์ของโมเดล AI แบบต่อเนื่อง โดยเน้นการอ่านข้อมูลจำนวนมหาศาลอย่างรวดเร็ว การรองรับโมเดลที่มีขนาดใหญ่และหน้าต่างบริบทที่ยาวขึ้น ตลอดจนการรักษาความหน่วงต่ำและประสิทธิภาพการใช้พลังงาน เพื่อให้ระบบสามารถตอบสนองผู้ใช้และแอปพลิเคชันอัตโนมัติในระดับสเกลดาต้าเซ็นเตอร์ได้อย่างสม่ำเสมอและเชื่อถือได้ หัวใจของบทความนี้คือมุมมองที่ว่า โครงสร้างพื้นฐาน AI รุ่นต่อไปจะล้มเหลวทันที หากองค์กรยังคิดว่า NAND เก็บข้อมูล AI เป็นเพียงพื้นที่เก็บไฟล์ธรรมดา เทคโนโลยี NAND ใหม่ที่ Sandisk นำเสนอในงาน FMS 26 แสดงให้เห็นชัดว่า การออกแบบสตอเรจสำหรับเวิร์กโหลด AI inference ต้องให้ความสำคัญกับความจุ แบนด์วิดท์ และการใช้พลังงานในระดับเดียวกับหน่วยประมวลผล การมองข้ามด้านสตอเรจเท่ากับการผูกมัดโมเดล AI ให้วิ่งอยู่บนถนนที่แคบเกินไปสำหรับขนาดของข้อมูลยุคใหม่.
จากโมเดลขนาดยักษ์สู่ความจริงในดาต้าเซ็นเตอร์: ทำไม NAND ต้องวิวัฒน์
วันนี้โมเดล AI ไม่ได้ใหญ่ขึ้นแค่นิดเดียว แต่เติบโตจนทำให้ข้อจำกัดด้านโครงสร้างพื้นฐาน AI เปลี่ยนจุดศูนย์กลางจากซีพียูและจีพียูไปสู่หน่วยความจำและสตอเรจโดยตรง การมีโมเดลขนาดใหญ่ หน้าต่างบริบทที่ยาว และแอปพลิเคชันแบบ agentic หมายถึงระบบต้องอ่านและเขียนโทเคนจำนวนมหาศาลอย่างต่อเนื่อง เมื่อข้อจำกัดไม่ได้อยู่ที่การคำนวณเพียงอย่างเดียวอีกต่อไป แต่รวมถึงความจุ แบนด์วิดท์ ประสิทธิภาพการใช้พลังงาน และต้นทุนต่อโทเคน องค์กรที่ยังใช้สตอเรจทั่วไปจึงเสี่ยงต่อการเกิด “คอขวดข้อมูล” อย่างหลีกเลี่ยงไม่ได้. จุดยืนที่น่าสนใจคือ Sandisk ไม่พยายามผลักภาระทั้งหมดให้ซีพียูหรือจีพียู แต่หันมาออกแบบ NAND เก็บข้อมูล AI และหน่วยความจำ SSD ให้รับภาระด้านความเร็วและสเกลของข้อมูลอย่างเป็นระบบ แนวคิดนี้สะท้อนมุมมองว่าการแก้ปัญหา AI ขนาดใหญ่ต้องคิดแบบระบบ (system-level) ไม่ใช่เพิ่มเฉพาะพลังประมวลผล.
BiCS10 QLC และ HBF: เมื่อ NAND กลายเป็นหน่วยความจำสมรรถนะสูงสำหรับ AI
สิ่งที่ทำให้เทคโนโลยี NAND ใหม่ของ Sandisk น่าสนใจคือการออกแบบให้ตอบโจทย์ AI inference โดยตรง ไม่ใช่แค่ปรับปรุงความจุไว้ทำเอกสารเพิ่มเท่านั้น BiCS10 QLC NAND คือเทคโนโลยี 3D NAND เจเนอเรชันใหม่ ที่ถูกออกแบบเพื่อเพิ่มความหนาแน่นของข้อมูล ประสิทธิภาพ และการใช้พลังงานอย่างมีประสิทธิภาพสำหรับงาน AI ระบบคลาวด์ และดาต้าเซ็นเตอร์ แนวทางนี้ตอกย้ำว่า NAND เก็บข้อมูล AI ต้องกลายเป็นชั้นหน่วยความจำที่ฉลาดขึ้น ไม่ใช่เพียงดิสก์ราคาถูกความจุสูง. ในอีกด้าน HBF (High Bandwidth Flash) แสดงแนวคิดที่กล้าหาญกว่า คือการยกระดับ NAND ให้เข้าใกล้บทบาทของหน่วยความจำแบนด์วิดท์สูงสำหรับ AI inference ที่ต้องการการเข้าถึงข้อมูลรวดเร็วในสเกลใหญ่ การพัฒนา HBF และ NAND เจเนอเรชันใหม่ช่วยให้เวิร์กโหลดอย่าง fast data lakes, model storage, RAG และ KV cache workloads สามารถทำงานได้โดยไม่ถูกหน่วงด้วยการอ่านเขียนข้อมูลแบบเดิม. ในมุมมองเชิงยุทธศาสตร์ การลงทุนในเทคโนโลยีเหล่านี้เท่ากับการยอมรับว่าอนาคตของ AI จะถูกกำหนดโดยความเร็วของการเคลื่อนย้ายข้อมูลพอๆ กับอัลกอริทึม.
Enterprise SSD และสถาปัตยกรรมหน่วยความจำเฉพาะทาง: AI ต้องการมากกว่าดิสก์เร็วๆ
หลายองค์กรยังคิดว่าการใช้หน่วยความจำ SSD รุ่นใดก็ได้ที่มีค่า IOPS สูงพอคือคำตอบสำหรับ AI แต่สายงาน AI inference ที่ต้องใช้ KV cache ขนาดใหญ่และการเข้าถึงข้อมูลแบบสุ่มจำนวนมหาศาลทำให้แนวคิดนี้ไม่เพียงพอ เทคโนโลยี enterprise SSD ของ Sandisk ถูกออกแบบมาพร้อมความทนทานสูงสำหรับ KV cache workloads รองรับเทคโนโลยี PCIe Gen 6 ในอนาคต และใช้การออกแบบ E3.S ความจุสูงเพื่อช่วยลดการใช้ DRAM นี่ไม่ใช่แค่การเพิ่มตัวเลขสเปก แต่คือสถาปัตยกรรมหน่วยความจำที่ปรับจูนให้สอดคล้องกับรูปแบบการทำงานของ AI สมัยใหม่. เมื่อ AI Data Cycle framework มองภาพตั้งแต่คลังข้อมูลดิบ ไปจนถึง training, inference และคลังคอนเทนต์ที่สร้างโดย AI การจับคู่สตอเรจกับเวิร์กโหลดเฉพาะกลายเป็นข้อจำเป็นมากกว่าทางเลือก ในมุมวิจารณ์ โครงสร้างพื้นฐาน AI ที่ยังใช้แนวคิด “หนึ่งสตอเรจสำหรับทุกงาน” กำลังขัดกับธรรมชาติของเวิร์กโหลด AI รุ่นใหม่ที่ต้องการสถาปัตยกรรมหน่วยความจำเฉพาะสำหรับแต่ละช่วงของวงจรข้อมูล.
ข้อสรุป: หากไม่ออกแบบ NAND สำหรับ AI โดยเฉพาะ เรากำลังหน่วงวิวัฒนาการของโมเดลเอง
สารหลักจากนวัตกรรมที่นำเสนอในงาน FMS 26 ชัดเจนมาก: โครงสร้างพื้นฐาน AI ที่ยังมอง NAND และหน่วยความจำ SSD เป็นเพียงอุปกรณ์เสริมกำลังคำนวณ กำลังกลายเป็นคอขวดตัวใหม่ของอุตสาหกรรม Sandisk ชี้ให้เห็นผ่านเทคโนโลยี BiCS10 QLC NAND, HBF และ enterprise SSD ว่า การออกแบบ NAND เก็บข้อมูล AI ให้มีทั้งความจุ แบนด์วิดท์ และประสิทธิภาพการใช้พลังงานที่สมดุล คือสิ่งจำเป็นสำหรับการขยาย AI inference ในระดับสเกลจริง. ในมุมมองเชิงนโยบายสำหรับองค์กร การลงทุนในโครงสร้างพื้นฐาน AI ควรเริ่มจากคำถามว่า “เราต้องการสถาปัตยกรรมหน่วยความจำแบบไหนให้โมเดลเดินเต็มศักยภาพ” มากกว่าคำถามเดิมว่า “จะซื้อจีพียูเพิ่มอีกกี่ชุด” หากไม่ยอมออกแบบสตอเรจและหน่วยความจำให้สอดคล้องกับเวิร์กโหลด AI รุ่นใหม่ เราไม่ได้แค่ใช้พลังคำนวณได้ไม่คุ้ม แต่กำลังจำกัดวิวัฒนาการของโมเดลเอง.
