AI inference storage กำลังกลายเป็นสนามรบใหม่ของโครงสร้างพื้นฐาน
นวัตกรรมด้าน AI inference storage คือชุดเทคโนโลยีหน่วยความจำ NAND memory technology สตอเรจ และโครงสร้าง data center infrastructure ที่ถูกออกแบบเฉพาะเพื่อรองรับเวิร์กโหลด AI ขนาดใหญ่ ที่ต้องอ่านและเขียนข้อมูลจำนวนมากด้วยแบนด์วิดท์สูง ระยะหน่วงต่ำ และประสิทธิภาพพลังงานที่ดีกว่าเดิม เพื่อให้โมเดลที่มี context window ยาวขึ้นและแอปพลิเคชันแบบ agentic ทำงานได้อย่างลื่นไหลในระดับองค์กรและดาต้าเซ็นเตอร์ขนาดใหญ่ โดยไม่ติดคอขวดด้านความจุและการรับส่งข้อมูล.
วันนี้ ปัญหาของ AI inference ไม่ใช่แค่ “มี GPU มากพอหรือไม่” แต่คือระเบียบสถาปัตยกรรมข้อมูลทั้งระบบ ที่ต้องตอบทั้งความจุ แบนด์วิดท์ ความหน่วง และต้นทุนต่อโทเคน ให้สมดุลกัน ความต้องการโมเดลที่ใหญ่ขึ้น หน้าต่างบริบทที่ยาวขึ้น และการใช้ agentic workflow ที่เน้นการเข้าถึงข้อมูลอย่างต่อเนื่อง กำลังผลักให้ผู้เล่นในตลาดต้องคิดใหม่ ตั้งแต่ระดับชิปหน่วยความจำ ไปจนถึงดีไซน์ของดาต้าเซ็นเตอร์. องค์กรที่ยังคิดว่าปัญหาหลักอยู่ที่การเพิ่มจำนวน GPU มีแนวโน้มจะใช้เงินกับจุดที่ไม่ได้แก้คอขวดที่แท้จริง.
Sandisk กับ NAND เจเนอเรชันใหม่: ย้ายคอขวดออกจากสตอเรจ
ทางออกแรกของคอขวด AI inference storage กำลังมาจากฝั่ง NAND memory technology ที่กลายเป็นฐานของยุค AI อย่างแท้จริง Sandisk เปิดตัว BiCS10 QLC NAND และเทคโนโลยี HBF ในงาน FMS 2026 เพื่อรับมือความต้องการแบนด์วิดท์และความจุระดับดาต้าเซ็นเตอร์ที่สูงขึ้นอย่างมาก. BiCS10 QLC NAND เป็น 3D NAND รุ่นใหม่ที่เน้นความหนาแน่นข้อมูลและการใช้พลังงานอย่างมีประสิทธิภาพสำหรับระบบ AI คลาวด์และดาต้าเซ็นเตอร์ ในขณะที่ HBF หรือ High Bandwidth Flash ถูกออกแบบมาเพื่อรองรับเวิร์กโหลด AI inference ที่ต้องอ่านข้อมูลจากแฟลชอย่างต่อเนื่องในสเกลใหญ่.
จุดยืนที่น่าสนใจคือมุมมองของ Khurram Ismail ที่ย้ำว่า “ความสามารถในการจัดเก็บ เคลื่อนย้าย และเข้าถึงข้อมูลอย่างมีประสิทธิภาพ มีความสำคัญไม่ยิ่งหย่อนไปกว่าศักยภาพด้านการประมวลผล”. นี่คือการบอกตรงๆ ว่าองค์กรที่ลงทุนแต่ GPU แต่ละเลยชั้นสตอเรจกำลังเดินเข้าสู่กับดักคอขวดของตัวเอง เทคโนโลยี enterprise SSD รุ่นใหม่ที่รองรับ KV cache workloads พร้อม PCIe Gen 6 และดีไซน์ E3.S ความจุสูงที่ช่วยลดการใช้ DRAM ก็สะท้อนแนวคิดเดียวกัน คือย้ายภาระบางส่วนออกจากหน่วยความจำราคาแพง ให้แฟลชกลายเป็นชั้นความจำที่ “ฉลาด” กว่าเดิม.
CXL memory pooling: จากเซิร์ฟเวอร์แยกส่วนสู่หน่วยความจำรวมศูนย์ที่ยืดหยุ่น
แม้สตอเรจจะแรงขึ้น แต่ถ้า DRAM ยังเป็นกำแพง ความสามารถของโมเดลก็ยังถูกล็อกอยู่ดี นี่คือจุดที่ CXL memory pooling เข้ามาเปลี่ยนเกม Liqid จับมือกับระบบ Abaco เพื่อสร้างสถาปัตยกรรมการรวมและแชร์หน่วยความจำที่ทำลายขีดจำกัดของเซิร์ฟเวอร์เดี่ยวลงอย่างสิ้นเชิง. ในคอนฟิกระดับแร็กของ Liqid หน่วยความจำ DRAM สูงสุดถึง 160TB สามารถถูกจัดสรรให้โฮสต์เดียว หรือแบ่งแบบไดนามิกให้กับเซิร์ฟเวอร์ได้สูงสุด 16 โหนดในเวลาใกล้เคียงเรียลไทม์ เพื่อให้ไม่มีความจุที่ถูกทิ้งร้างเปล่าประโยชน์.
แพลตฟอร์ม Liqid EX-5410C รองรับ CXL 2.0 และขยาย DRAM ได้ถึง 40TB ต่อแชสซี ก่อนจะรวมเป็นพูลมากกว่า 160TB สำหรับเวิร์กโหลด AI, HPC และฐานข้อมูล. ด้านซอฟต์แวร์ Liqid Matrix ทำให้พูลหน่วยความจำ กลายเป็นทรัพยากรที่โปรแกรมได้ เชื่อมรวมกับ GPU และสตอเรจในอินเทอร์เฟซเดียว พร้อมรองรับเครื่องมือในโลกวิทยาศาสตร์ข้อมูลอย่าง Kubernetes และ Slurm. ผลทดสอบที่ได้ความเร็วเพิ่มขึ้นหลายสิบเท่าสำหรับ graph analytics และโทเคนต่อวินาทีมากขึ้นใน KV cache workloads เป็นหลักฐานชัดว่า การดัดแปลงสถาปัตยกรรมความจำมีผลต่อประสิทธิภาพมากกว่าการเพิ่มสเปกเซิร์ฟเวอร์ทีละเครื่องเพียงอย่างเดียว.
Optical interconnect AI และ Sonic Inference Pod: โจทย์ใหม่ของ data center infrastructure
เมื่อองค์กรเร่งเพิ่ม GPU เข้าไปในดาต้าเซ็นเตอร์ การรับส่งข้อมูลระหว่างชิปประมวลผลจึงกลายเป็นคอขวดระดับโครงสร้างพื้นฐาน. การใช้สายทองแดงแม้จะมีต้นทุนต่ำและเชื่อถือได้ แต่เริ่มรับโหลดข้อมูลมหาศาลบนระยะทางยาวไม่ไหวแล้ว ตลาดจึงหันมามอง optical interconnect AI อย่างจริงจัง Lumilens พัฒนาระบบส่งข้อมูลด้วยแสงเพื่อเชื่อมต่อทั้งระหว่างแร็ก (Scale Out) และภายในแร็กเดียวกัน (Scale Up) โดยโปรดักต์แรกคือ optical transceiver ขนาดเล็กที่แปลงสัญญาณไฟฟ้าเป็นแสง ก่อนส่งผ่านสายไฟเบอร์ออปติกไปยังชิป AI ของผู้ให้บริการรายใหญ่. เป้าหมายของบริษัทคือการลดช่องว่างต้นทุนเมื่อเทียบกับสายทองแดง เพื่อให้ประสิทธิภาพที่เพิ่มขึ้นเข้าถึงได้ในระดับตลาดกว้าง.
ในขณะเดียวกัน โมเดลการสร้าง data center infrastructure ก็ถูกตั้งคำถาม Runware เปิดตัว Sonic Inference Pod ศูนย์ข้อมูลแบบ modular ที่เคลื่อนย้ายได้ พร้อมถูกออกแบบให้เป็นทางเลือกใหม่แทนการสร้างดาต้าเซ็นเตอร์ขนาดมหึมาแบบ hyperscaler. ระบบนี้ติดตั้งได้ทุกที่ที่มีแหล่งจ่ายไฟ ไม่ต้องใช้น้ำในการระบายความร้อน และสร้างเสร็จในไม่กี่วัน เทียบกับดาต้าเซ็นเตอร์ดั้งเดิมที่ต้องใช้เวลานานนับเดือนหรือหลายปี. Flaviu Radulescu เชื่อว่าการประมวลผลแบบกระจายศูนย์ที่เข้าใกล้ผู้ใช้มากขึ้นคือผู้ชนะระยะยาว เพราะไม่เพียงตอบโจทย์ latency ของ AI inference แต่ยังลดผลกระทบด้านค่าสาธารณูปโภคแก่ชุมชนที่เคยแบกภาระจากโครงการขนาดใหญ่ด้วย.
ผู้ผลิตชิปหน่วยความจำเร่งลงทุน และสิ่งที่องค์กรควรทำต่อไป
ความเปลี่ยนแปลงเหล่านี้จะไม่เกิดขึ้น ถ้าต้นน้ำฝั่งผู้ผลิตชิปไม่ขยับ SK hynix ได้รับอนุมัติให้ลงทุนสร้างโรงงานผลิตชิปใหม่ 2 แห่ง มูลค่ารวม 54 ล้านล้านวอน เพื่อเพิ่มกำลังผลิตหน่วยความจำสำหรับโครงสร้างพื้นฐาน AI ทั้ง DRAM ความเร็วสูงและ NAND flash สำหรับ SSD ระดับองค์กร. โรงงาน Y2 ที่ Yongin Semiconductor Cluster มีกำหนดเริ่มสร้างในเดือนกรกฎาคม 2027 และคาดว่าจะผลิตชิป HBM และ DRAM รุ่นต่อไปได้ในเดือนมิถุนายน 2029 ขณะที่โรงงาน M17 ที่ Cheongju จะเริ่มสร้างในเดือนกุมภาพันธ์ 2027 และผลิต NAND ได้ในเดือนธันวาคม 2028. บริษัทมองว่าความต้องการ DRAM และ NAND จะเติบโตเฉลี่ย 19% ต่อปีระหว่าง 2025–2030 และต้องเพิ่มความสามารถผลิตเพื่อไม่ให้คอขวดเกิดซ้ำตั้งแต่โรงงาน.
สำหรับองค์กร มุมมองแบบข่าวดีคือโครงสร้างพื้นฐาน AI inference กำลังมีตัวเลือกมากขึ้น ทั้งในระดับชิป (BiCS10 QLC, HBF) ระดับสถาปัตยกรรมความจำ (CXL memory pooling) และระดับ data center infrastructure (optical interconnect AI, Sonic Inference Pod). แต่มุมมองเชิงวิจารณ์คือ ถ้ายังออกแบบสถาปัตยกรรมจากมุมมอง “เพิ่ม GPU” เป็นหลัก ก็จะพลาดโอกาสในเกม token economics ที่ Sandisk เน้นย้ำ. องค์กรที่ต้องการใช้ AI อย่างคุ้มค่าในระยะยาวควรเริ่มจากคำถามว่า คอขวดของระบบอยู่ที่ไหน ระหว่างสตอเรจ หน่วยความจำ หรือเครือข่าย แล้ววางโรดแมปลงทุนให้สอดคล้องกับนวัตกรรมใหม่เหล่านี้ มากกว่าการทุ่มงบไปที่จุดเดียวแบบเดิม.
