จากยุค GPU ครองโลก สู่ยุคโครงสร้างพื้นฐานจัดเก็บข้อมูลขับเคลื่อน AI
โครงสร้างพื้นฐานจัดเก็บข้อมูลสำหรับ AI คือชุดเทคโนโลยีหน่วยความจำและสตอเรจที่ออกแบบมาเฉพาะเพื่อรองรับการไหลของข้อมูลมหาศาลระหว่างดาต้าเซ็ตระยะยาว หน่วยความจำความเร็วสูง และ GPU โดยมุ่งลดคอขวดของ data pipeline ตั้งแต่การฝึกสอนโมเดลไปจนถึงการอนุมาน ให้ศูนย์ข้อมูล AI ใช้ทรัพยากรได้เต็มประสิทธิภาพ ปรับขยายได้ และรักษาค่าใช้จ่ายกับพลังงานให้อยู่ในระดับที่ธุรกิจรับได้ในระยะยาว
สิ่งที่ปรากฏบนเวที Future of Memory and Storage ครั้งล่าสุดคือสัญญาณชัดเจนว่า AI กำลังเข้าสู่ยุคที่พลังประมวลผลเพียงอย่างเดียวไม่พออีกต่อไป ฝั่ง GPU สามารถเรียกใช้งานสตอเรจโดยตรงและสร้างคำร้องขอแบบขนานนับพันรายการ ทำให้ระบบจัดเก็บข้อมูลต้องรับภาระการเข้ารหัส การบีบอัด การตรวจสอบ และการกู้คืนข้อมูลแบบต่อเนื่อง หากสตอเรจไม่ทัน เกมก็จบก่อนโมเดลจะได้โชว์ศักยภาพเต็มที่ นี่คือจุดพลิกที่บังคับให้อุตสาหกรรมต้องคิดใหม่ทั้งสถาปัตยกรรมหน่วยความจำและการจัดเก็บข้อมูล
Edge AI Storage Fusion และการย้ายข้อมูลเข้าใกล้หน่วยประมวลผล
ในฝั่งขอบเครือข่าย แนวคิด Edge AI Storage Fusion ของ Longsys แสดงให้เห็นว่าการออกแบบสตอเรจสำหรับ AI ต้องเริ่มที่การเชื่อมสตอเรจกับหน่วยประมวลผลอย่างแนบแน่นแทนที่จะมองเป็นองค์ประกอบแยกกัน สถาปัตยกรรมใหม่ของบริษัทนี้ผสานชิป สตอเรจ หน่วยความจำ และอัลกอริทึมจัดสรรทรัพยากรเข้าด้วยกัน เพื่อให้ AI Box, AI PC และอุปกรณ์โมบายไม่ติดปัญหาการปรับจูนกำลังประมวลผล การแบ่งทรัพยากรไม่สมดุล ต้นทุนการปรับปรุงระบบสูง หรือปัญหาความเสถียร แนวทางนี้คือการออกแบบ AI storage infrastructure ตั้งแต่ปลายทางของข้อมูล ไม่ใช่เริ่มที่ศูนย์ข้อมูลอย่างเดียว
ในศูนย์ข้อมูลขนาดใหญ่ Marvell แสดงให้เห็นว่าการย้ายข้อมูลเข้าใกล้หน่วยประมวลผลคือหัวใจของการลด latency และเพิ่มประสิทธิภาพโทเคน บริษัทนำเสนอชุดโซลูชันหน่วยความจำและสตอเรจสำหรับงานอนุมานแบบ agentic ที่เน้นทั้งปริมาณหน่วยความจำ แบนด์วิดท์ และการเชื่อมต่อให้สำคัญพอๆ กับพลังประมวลผล ผ่านคอนโทรลเลอร์ PCIe 6.0 สำหรับ enterprise SSD, การเร่งใกล้หน่วยความจำด้วย CXL, การขยายและบีบอัดหน่วยความจำ รวมถึงสวิตช์ CXL สำหรับ memory pooling และเทคโนโลยี Photonic Fabric เพื่อการขยายแบบออปติคัล ทั้งหมดนี้สะท้อนว่าการลดเวลาเดินทางของข้อมูลกำลังกลายเป็นกลยุทธ์หลัก ไม่ใช่แค่การเพิ่มความแรงของ GPU
การปรับแต่ง data pipeline ด้วยแฟลชและ SSD สำหรับ AI โดยเฉพาะ
ถ้าคอขวดของ AI อยู่ที่ data pipeline การใช้แฟลชเป็นชั้นหน่วยความจำใหม่จึงเป็นการพลิกเกมที่สำคัญ ScaleFlux และพันธมิตรแสดงให้เห็นแนวคิดนี้ผ่านการบรรยายร่วมกับ Nvidia ที่เน้นให้แฟลชกลายเป็น memory tier สำหรับงานอนุมาน ทำให้สามารถรองรับโมเดลขนาดใหญ่ขึ้น ใช้ GPU ได้เต็มประสิทธิภาพ ลดต้นทุนโครงสร้างพื้นฐาน และปรับขยายระบบ AI ได้ง่ายขึ้น นี่คือการออกแบบ data pipeline optimization บนพื้นฐานของสื่อบันทึกข้อมูล ไม่ใช่แค่สถาปัตยกรรมซอฟต์แวร์
จุดเด่นอีกข้อคือการปรับปรุง enterprise SSD innovation ให้ตรงกับลักษณะงานอนุมาน AI ที่หลากหลาย ScaleFlux พูดถึงการออกแบบคอนโทรลเลอร์ SSD ใหม่เพื่อรองรับแพทเทิร์นการเข้าถึงข้อมูลที่ซับซ้อนและหลากหลายมากขึ้นของสถานะอนุมาน พร้อมแนวทางจัดการ write amplification โดยไม่ต้องพึ่งวิธีการจัดวางข้อมูลแบบดั้งเดิม เพื่อลดการสึกหรอและเพิ่มประสิทธิภาพของ SSD เมื่อรวมกับการแก้ปัญหาการขยายหน่วยความจำ ความเชื่อถือได้ และความปลอดภัย โซลูชันเหล่านี้ช่วยให้ศูนย์ข้อมูล AI ขนาดใหญ่ไม่ต้องแลกความเร็วกับอายุการใช้งานหรือค่าใช้จ่ายระยะยาว
“ในท่อการบีบอัดและเข้ารหัสสองขั้นตอน NVIDIA Vera CPU ซึ่งเป็นส่วนหนึ่งของแพลตฟอร์ม BlueField-4 STX สามารถให้ปริมาณงานสูงสุดมากกว่า x86 CPU ถึง 3.21 เท่า” ข้อมูลนี้ตอกย้ำว่าการเร่งการประมวลผลบนเส้นทางข้อมูลของสตอเรจช่วยให้ระบบรองรับปริมาณคำร้องขอของ AI ได้มากขึ้นโดยไม่ต้องเพิ่มจำนวนเซิร์ฟเวอร์แบบตรงไปตรงมา
ชั้นสตอเรจใหม่เพื่อการเก็บข้อมูลระยะยาวของ AI และผลต่อผู้ใช้
เมื่อองค์กรเก็บข้อมูลมากขึ้นและยาวนานขึ้น เทคโนโลยีสตอเรจดั้งเดิมเริ่มตามไม่ทัน ทำให้การใช้พลังงานสูงขึ้นและการจัดการข้อมูลระยะยาวมีราคาแพงขึ้น Cerabyte จึงเสนอแนวคิด The Missing Tier เป็นชั้นสตอเรจใหม่บนพื้นฐานวัสดุเซรามิกบนแผ่นแก้ว เพื่อให้ตอบโจทย์การเก็บข้อมูลหลายชั่วคนทั้งสำหรับการฝึกโมเดลและการอนุมานในอนาคต เทคโนโลยีนี้ผสมผสานการเขียน–อ่านแบบขนานจำนวนมหาศาลเข้ากับการเข้าถึงข้อมูลแบบสุ่มที่รวดเร็ว โดยสามารถเก็บแผ่นเซรามิกจำนวนหลายร้อยแผ่นในตลับเดียว ขณะที่ระบบเขียน–อ่านแบบออปติคัลสามารถประมวลบิตได้หลายล้านบิตพร้อมกัน ให้ปริมาณงานระดับกิกะไบต์ต่อวินาทีและดึงข้อมูลขึ้นมาได้ภายในไม่กี่วินาที
สำหรับผู้ใช้ทั่วไป ผลกระทบอาจดูเหมือนห่างไกล แต่ในทางปฏิบัติแล้วโครงสร้างพื้นฐานเหล่านี้มีผลโดยตรงต่อคุณภาพและราคาของบริการ AI ที่ใช้อยู่ทุกวัน ยิ่ง data pipeline ของศูนย์ข้อมูลถูกออกแบบให้มีประสิทธิภาพและเชื่อถือได้มากเท่าไร ผู้ใช้ก็จะได้รับประสบการณ์ตอบสนองไวขึ้น โมเดลฉลาดขึ้น และมีบริการใหม่ๆ ที่วิเคราะห์ข้อมูลย้อนหลังเป็นสิบปีได้ โดยไม่ต้องแลกกับค่าบริการหรือผลกระทบด้านพลังงานที่พุ่งสูงเกินควบคุม
อนาคตของ AI storage infrastructure: จากงานวิจัยสู่มาตรฐานและการใช้งานจริง
สิ่งที่ชัดเจนจากงาน FMS ครั้งนี้คือโครงสร้างพื้นฐานจัดเก็บข้อมูลกำลังถูกยกระดับเป็นองค์ประกอบหลักของสมรรถนะ AI ไม่ใช่เพียงส่วนเสริมของพลังประมวลผลอีกต่อไป การที่บริษัทต่างๆ จากสาย edge AI ไปจนถึงหน่วยความจำระดับศูนย์ข้อมูลพุ่งเป้าไปที่การผสานหน่วยความจำและสตอเรจ การลด latency และการสร้างชั้นสตอเรจใหม่สำหรับการเก็บข้อมูลระยะยาว แปลว่าภาคอุตสาหกรรมกำลังสร้างฐานรองรับ AI รุ่นถัดไปตั้งแต่วันนี้
ในทางปฏิบัติ Longsys เปิดเชิญพันธมิตรทั่วโลกเข้าร่วมสำรวจโอกาสใหม่ที่จุดตัดของ edge AI และสตอเรจ เพื่อผลักดันให้โซลูชันปลายทางจากระดับต้นแบบไปสู่การใช้เชิงพาณิชย์ในวงกว้าง ขณะเดียวกัน ผู้เข้าร่วมงานถูกเชิญให้พูดคุยกับทีมของ ScaleFlux เพื่อแลกเปลี่ยนปัญหาโครงสร้างพื้นฐาน AI และโซลูชันด้านหน่วยความจำและสตอเรจที่กำลังเกิดขึ้น รวมถึงแนวทางสร้างระบบ AI ที่มีประสิทธิภาพและปรับขยายได้มากขึ้น การผลักดันแบบร่วมมือระหว่างผู้ผลิตสตอเรจ ผู้ผลิตชิป และผู้พัฒนาซอฟต์แวร์ที่เริ่มเห็นได้ในโครงการต่างๆ จึงเป็นสัญญาณว่า AI storage infrastructure กำลังเดินจากเวทีงานสัมมนาไปสู่การฝังตัวในมาตรฐานและระบบจริงอย่างรวดเร็ว
