ระบบเก็บข้อมูลองค์กรกำลังเปลี่ยนหน้าตาเพื่อรองรับงาน AI ขนาดใหญ่

จากระบบเก็บข้อมูลเดิมสู่กระดูกสันหลังใหม่ของโครงสร้างพื้นฐาน AI

การวิวัฒนาการของระบบเก็บข้อมูลองค์กรเพื่อรองรับงาน AI ขนาดใหญ่คือการปรับโครงสร้างพื้นฐานการจัดเก็บและเข้าถึงข้อมูลให้สอดคล้องกับภาระงานโมเดลภาษาและเอเจนต์อัตโนมัติที่ต้องใช้ข้อมูลจำนวนมากและหน่วยความจำระดับสูง โดยผสานสตอเรจแฟลชความหน่วงต่ำ ระบบ GPU inference และตัวควบคุมหน่วยความจำอัจฉริยะเข้ากับสถาปัตยกรรมคลาวด์และดาต้าเลคเพื่อให้ส่งมอบข้อมูลที่เชื่อถือได้และรวดเร็วต่อเนื่องในระดับองค์กรขนาดใหญ่

สัญญาณชัดเจนคือโครงสร้างพื้นฐาน AI ไม่ใช่ส่วนต่อเติมของดาต้าเซ็นเตอร์อีกต่อไป แต่มันกำลังกลายเป็นแกนหลักที่บังคับให้ระบบเก็บข้อมูลออกแบบใหม่ทั้งสถาปัตยกรรมและวิธีการบริหารจัดการข้อมูล ต้องตอบสนองทั้งโมเดลสร้างภาษาและเอเจนต์ที่ทำงานเสมือนพนักงานดิจิทัล ต้องการเข้าถึงข้อมูลที่เชื่อถือได้ด้วยความเร็วระดับหน่วยความจำ พร้อมความทนทานต่อภัยไซเบอร์และการล่มของระบบ IDC ระบุว่า ตลาดระบบเก็บข้อมูลองค์กรกำลังเติบโตจากสองแรงส่งคือการรีเฟรชโครงสร้างพื้นฐานที่เลื่อนมาช่วงก่อน และดีมานด์ใหม่จากงานเทรนนิ่ง อินเฟอเรนซ์ และการกระตุ้นใช้งานข้อมูลที่ไม่มีโครงสร้าง สิ่งที่น่าสนใจคือการเติบโตนี้เกิดขึ้นแม้จะมีข้อจำกัดด้านซัพพลายของ NAND และ DRAM ที่ผลักให้ราคาระดับระบบสูงขึ้น

ตัวควบคุมหน่วยความจำอัจฉริยะ ขยายขอบเขตระบบเก็บข้อมูลเข้าหา GPU

ถ้าสมัยก่อนงานสตอเรจเน้นดิสก์และแฟลช ทุกวันนี้ศูนย์ถ่วงกำลังก้าวขึ้นไปอยู่ที่ตัวควบคุมหน่วยความจำที่เข้าใจภาระงาน AI โดยตรง ตระกูล Leo Smart Memory Controller ของ Astera Labs เป็นตัวอย่างชัดว่าระบบเก็บข้อมูลไม่ได้หยุดอยู่ที่บล็อกไฟล์และออบเจ็กต์ แต่กำลังขยายเข้าสู่โลกของหน่วยความจำที่แนบกับผ้าเชื่อมต่อ GPU เพื่อรองรับงานเอเจนต์ AI ที่ใช้คอนเท็กซ์ยาวและ KV cache มหาศาล

ซีรีส์ Leo X ถูกออกแบบให้เป็นตัวควบคุมหน่วยความจำแบบ fabric attached ที่ต่อเข้ากับผ้า Scorpio ผ่าน PCIe เพื่อรองรับดีมานด์หน่วยความจำฝั่งตัวเร่ง AI โดยตรง ชุดฟีเจอร์เฉพาะแพลตฟอร์มช่วยเพิ่มประสิทธิภาพอินเฟอเรนซ์จนได้เวลาโทเคนแรกเร็วขึ้นถึง 62 เปอร์เซ็นต์และจำนวนโทเคนต่อวินาทีเพิ่มขึ้นถึง 22 เปอร์เซ็นต์ เมื่อมองจากมุมโครงสร้างพื้นฐาน AI นี่คือการย้ายสมองของระบบเก็บข้อมูลเข้าไปนั่งใกล้ GPU มากที่สุดเท่าที่สถาปัตยกรรมจะอนุญาต ส่วนตระกูล Leo 2 E และ P ขยายหน่วยความจำ DDR4 และ DDR5 ผ่าน PCIe 6 และรองรับ CXL 3.2 ช่วยให้ดาต้าเซ็นเตอร์สามารถรีไซเคิล DIMM เก่าใช้งานร่วมกับหน่วยความจำใหม่ได้อย่างเชื่อถือ ลดค่าใช้จ่ายรวมของโครงสร้างพื้นฐานลงโดยไม่ต้องลดศักยภาพงาน AI

ระบบเก็บข้อมูลองค์กรแบบแฟลชและสเกลเอาต์ กลายเป็นฐานข้อมูลให้โมเดลและเอเจนต์

เมื่อมองจากฝั่งสตอเรจคลาสสิก ผู้เล่นรายใหญ่กำลังรีดีไซน์ผลิตภัณฑ์ให้สอดรับภาระงาน AI อย่างจริงจัง กรณีของ Huawei แสดงให้เห็นว่าอาร์เรย์แฟลช OceanStor Dorado และสเกลเอาต์ OceanStor Pacific ถูกผลักขึ้นมาเป็นโครงสร้างหลักของโครงสร้างพื้นฐาน AI สำหรับองค์กรที่ต้องเทรนโมเดลภาษาและโมเดลพยาธิวิทยาเชิงภาพบนดาต้าเลคขนาดใหญ่

ในงานสร้างโมเดลภาษาเฉพาะภาษาหนึ่ง ไลบรารีแห่งชาติรายหนึ่งใช้แฟลชมากกว่า 2 เพตะไบต์บนหลายอาร์เรย์ OceanStor Dorado เพื่อให้ได้สตอเรจความหน่วงต่ำรองรับสายงานเตรียมข้อมูลและเทรนนิ่งโมเดลอย่างต่อเนื่อง ขณะที่โรงพยาบาลขนาดใหญ่ใช้ OceanStor Pacific เป็นแพลตฟอร์มสเกลเอาต์สำหรับดาต้าเลคพยาธิวิทยาดิจิทัล เก็บภาพสไลด์มากกว่าล้านชิ้นต่อปีเพื่อป้อนให้โมเดล AI แบบมัลติโหมดทำงานร่วมกับเครื่องมือ ModelEngine ในการเตรียมข้อมูล เทรนนิ่ง และอินเฟอเรนซ์ Gartner จัดให้ Huawei อยู่ในกลุ่มผู้นำตลาดระบบเก็บข้อมูลองค์กรมากว่าทศวรรษ สิ่งนี้สะท้อนว่าตลาดไม่ได้แค่เพิ่มความเร็วสตอเรจ แต่กำลังสร้างระบบเก็บข้อมูลที่เข้าใจงาน AI อย่างลึกซึ้งตั้งแต่ระดับแฟลชจนถึงการจัดการข้อมูลระยะยาว

การสังเกตการณ์ข้อมูลและโรงงานซอฟต์แวร์ AI ส่วนตัวคือชั้นควบคุมใหม่ของดาต้า

โครงสร้างพื้นฐาน AI จะทรงพลังไม่ได้เลยถ้าชั้นจัดการข้อมูลยังเป็นเครื่องมือยุคก่อน AI ที่ออกแบบมาให้มนุษย์เข้าถึงข้อมูลแบบเป็นช่วง Acceldata จึงผลักดันแนวคิดโรงงานซอฟต์แวร์ AI ส่วนตัวผ่าน xFactory ที่ตั้งอยู่บนแพลตฟอร์ม xLake เพื่อรวมภาระงานดาต้าและเอเจนต์ AI เข้าด้วยกันในหนึ่งผืนทรัพยากร ช่วยให้ข้อมูลบนออนพรีม คลาวด์ ซอฟเวอร์ริน และเอดจ์ถูกมองเป็นอสังหาริมทรัพย์เดียวกัน

สาระสำคัญคือการสังเกตการณ์ข้อมูลและการกำกับดูแลที่วางเป็นผิวเดียว ทำให้บริษัทประกาศความต้องการเชิงธุรกิจเป็นคำสั่ง โดยให้ xFactory แปลงเป็นเอเจนต์ แอป และงานวิเคราะห์ที่ถูกทดสอบและควบคุมอยู่บนข้อมูลเดิมโดยไม่ต้องย้ายเข้าไปศูนย์กลาง เครื่องยนต์รองรับทั้ง Spark Trino Kafka และเชื่อมต่อ Snowflake กับ Databricks ให้เอเจนต์ทำงานบนเอนจินเปิดแต่เข้าถึงข้อมูลแบบ federated ที่ยังอยู่ที่เดิม แนวทางนี้ตั้งคำถามต่อสแตกดาต้าเดิมที่ต้องเดินสายเครื่องมือแคตตาล็อก คุณภาพข้อมูล เลเยอร์กำกับดูแล และออร์เคสเตรเตอร์เข้าด้วยกันด้วยมือ ซึ่งไม่ทันต่อเอเจนต์ที่เข้าถึงข้อมูลด้วยความเร็วระดับเครื่องจักร การรวมชั้นเหล่านี้เข้าด้วยกันจึงเป็นหัวใจของการสังเกตการณ์ข้อมูลยุคใหม่

ระบบ GPU inference แบบรับรู้สถานะและการจับมือกับผู้ให้บริการโครงสร้างพื้นฐานเดิม

จุดเปลี่ยนเชิงปฏิบัติการของโครงสร้างพื้นฐาน AI อยู่ที่ระบบ GPU inference ซึ่งต้องฉลาดกว่าการกระจายโหลดปกติ Amazon SageMaker HyperPod Inference Gateway แสดงให้เห็นว่าการกำหนดเส้นทางที่รับรู้ GPU กลายเป็นเงื่อนไขสำคัญในการปรับแต่งอินเฟอเรนซ์โมเดลภาษาใหญ่ให้มีความหน่วงต่ำและใช้ทรัพยากรอย่างมีประสิทธิภาพ โดยให้ระบบเป็นส่วนเสริมแบบจัดการเดียวสำหรับคลัสเตอร์ EKS บน HyperPod

ปัญหาของอัลกอริทึมกระจายโหลดเดิมเช่น round robin หรือ least connections คือไม่เห็นสถานะ GPU เลยว่า pod ใดมี KV cache เต็ม มีงานบริบทยาวค้างอยู่ หรือมี LoRA adapter ที่ต้องใช้โหลดอยู่แล้ว ผลคือคำขอไปสะสมหลัง pod ที่ทำงานหนัก ขณะที่ความจุว่างถูกทิ้งให้ว่างเปล่า AWS จึงใช้สถาปัตยกรรมสองชั้นบน primitive แบบ Kubernetes native ชั้นแรกติดตั้งบนทุก HyperPod มี Envoy Gateway สำหรับรับทราฟฟิก HTTPS ตัว Body Based Router แยกฟิลด์ model เพื่อส่งเข้ากลุ่มโมเดลที่ถูกต้อง และ Endpoint Picker ที่ใช้เมตริก Prometheus แบบเรียลไทม์ผสมคะแนนจากการใช้ KV cache ความลึกคิว การมี LoRA adapter และอัตราการฮิตแคชพรีฟิกซ์ การออกแบบนี้ทำให้เวลาโทเคนแรกลดลงได้ถึง 82 เปอร์เซ็นต์ เปลี่ยนประสบการณ์ผู้ใช้จากการรอ 4.4 วินาทีเหลือไม่ถึง 800 มิลลิวินาที และลดภาวะต้องจัดสรรทรัพยากรมากเกินไป การที่ผู้ให้บริการโครงสร้างพื้นฐานรายใหญ่จับมือผู้ผลิตฮาร์ดแวร์ดั้งเดิมอย่าง Dell และ Supermicro เพื่อสร้างชุดโซลูชันร่วมกันจึงเป็นแนวทางหลีกเลี่ยงไม่ได้ เพราะองค์กรต้องการทั้งความล้ำของโครงสร้างพื้นฐาน AI และความเชื่อมั่นระดับเอนเทอร์ไพรส์ในชุดเดียว