จากทดลองสู่ระบบจริง: ทำไมองค์กรหันมาประมวลผลเอง
แพลตฟอร์ม inference ขององค์กร คือชุดซอฟต์แวร์และบริการที่จัดการการให้โมเดล AI ตอบคำขอ ตั้งแต่การเลือกโมเดลและจัดสรร GPU ไปจนถึงการควบคุมข้อมูลและวัดการใช้งาน โดยติดตั้งบนระบบที่องค์กรดูแลเองหรือเชื่อมต่อกับคลาวด์ เมื่อ AI ก้าวจากการทดลองไปสู่งานประจำ องค์กรต้องการต้นทุนที่คาดการณ์ได้ ควบคุมวงจรชีวิตโมเดล และกำหนดได้ว่าข้อมูลสำคัญจะอยู่ที่ใด การคิดค่าบริการตามโทเคนทำให้ค่าใช้จ่ายเพิ่มตามการใช้งาน และยากต่อการคาดการณ์ ขณะที่ข้อมูลที่อยู่ภายใต้ข้อกำกับก็มีประเด็นเรื่องเขตอำนาจและผู้มีสิทธิ์เข้าถึง การทำงาน AI บน-ไซต์จึงไม่ใช่การปฏิเสธคลาวด์ แต่เป็นการเลือกเก็บงานสำคัญไว้ในระบบที่องค์กรควบคุม โดยรูปแบบที่เหมาะกับหลายแห่งคือการทำงานแบบผสม เมื่อวันที่ 27 ตุลาคม 2026 Scality ประกาศ Scality AI Inference Factory ซึ่งเป็นชุดซอฟต์แวร์แบบเปิดสำหรับติดตั้งและดำเนินงาน inference บนโครงสร้างพื้นฐานขององค์กร แพลตฟอร์มรวมโมเดล open-weight ที่ผ่านการตรวจสอบ ชั้นให้บริการ inference ระนาบควบคุมสำหรับยืนยันตัวตน วัดปริมาณงาน กำหนดเส้นทางและตารางงาน ตลอดจนระบบจัดเก็บข้อมูล ADI จุดแข็งคือองค์กรไม่ต้องประกอบทุกส่วนเอง แต่ยังเลือกและควบคุมการปรับใช้โมเดล AI ได้
ฮาร์ดแวร์และบริการกำลังทำให้การขยายระบบเป็นไปได้
การย้าย inference มาไว้ใกล้ข้อมูลจะมีประโยชน์ก็ต่อเมื่อระบบรับโหลดได้จริง จึงต้องมองทั้ง GPU การจัดเก็บข้อมูล และการให้บริการโมเดล ไม่ใช่ซื้อเครื่องเร่งความเร็วอย่างเดียว Scality แยกงาน prefill ออกจาก decode เพื่อให้แต่ละส่วนขยายได้อิสระ และใช้ ADI เป็นพื้นที่เก็บข้อมูลร่วมสำหรับโมเดล ข้อมูล และสถานะการประมวลผล โดยชั้นจัดเก็บยังช่วยเก็บ KV cache ที่ใหญ่กว่าหน่วยความจำของ GPU เดี่ยวมากกว่า 80 เท่า และทำให้กลับมาทำงานต่อได้ถึง 1,000 เซสชันพร้อมกันโดยไม่ต้องคำนวณบริบทใหม่ ซอฟต์แวร์รองรับเซิร์ฟเวอร์มาตรฐานจาก Dell, HPE, Lenovo และ Supermicro จึงไม่จำเป็นต้องผูกแผนกับเครื่องเฉพาะรายเดียว อีกด้านหนึ่ง Akamai ขยายกลุ่ม GPU ให้รองรับ NVIDIA Blackwell Ultra ทั้งสำหรับการโฮสต์และปรับแต่งโมเดลบนโครงสร้างพื้นฐานที่ควบคุมเอง โดยแต่ละโหนดมี 8 GPU และหน่วยความจำ HBM3e ขนาด 288 GB ต่อ GPU รวม 2.3 TB รองรับโมเดลขนาดใหญ่และงาน agentic ที่ใช้บริบทยาว Akamai Inference เปิดให้เรียกโมเดลผ่าน API ที่เข้ากันได้กับ OpenAI มีโมเดล open-weight 12 รุ่น ตั้งแต่ 8 พันล้านถึง 2.8 ล้านล้านพารามิเตอร์ และเลือกได้ทั้ง serverless หรือ dedicated deployment บริการและ Agent Sandbox ผ่าน Spin SDK เปิดให้ใช้งานแบบเบตาแล้ว ส่วนการเตรียมศูนย์ข้อมูลเพื่อรองรับ NVIDIA Vera Rubin อยู่ในแผนปี 2027
ทางเลือกที่ดีคือระบบผสม ไม่ใช่ย้ายทุกอย่างออกจากคลาวด์
สิ่งที่องค์กรควรวางแผนจึงไม่ใช่การย้ายทุกโมเดลเข้าดาต้าเซ็นเตอร์ แต่คือการจับคู่งานกับตำแหน่งประมวลผล งานที่มีข้อมูลอ่อนไหว ต้องตอบสนองเร็ว หรือมีปริมาณใช้งานสม่ำเสมอ อาจคุ้มค่ากับการลงทุนในโครงสร้างพื้นฐาน GPU ขององค์กร ส่วนงานที่ผันผวนหรือยังอยู่ในช่วงทดลองอาจเหมาะกับบริการคลาวด์ที่คิดตามการใช้งาน การแยก prefill กับ decode และการเก็บบริบทเพื่อลดการคำนวณซ้ำช่วยเพิ่มประสิทธิภาพ แต่ก็เพิ่มความสำคัญให้กับการวางแผนพื้นที่จัดเก็บและการจัดการระบบ Akamai Agent Sandbox แสดงอีกแนวทางหนึ่ง โดยแยกสภาพแวดล้อมที่รันโค้ดซึ่งเอเจนต์สร้างออกจากเวลาทำงานของเอเจนต์ และใช้การแยกแบบ WebAssembly เพื่อกำหนดขอบเขตทรัพยากรและการเชื่อมต่อ อย่างไรก็ดี บริการนี้อยู่บน Akamai Cloud จึงไม่ควรเหมารวมว่าเป็นการรันเอเจนต์ภายในระบบขององค์กรเอง ข้อสรุปสำหรับผู้ดูแลดาต้าเซ็นเตอร์คือเลือกสถาปัตยกรรมตามข้อกำกับ ต้นทุน และรูปแบบโหลด พร้อมรักษาทางเลือกข้ามฮาร์ดแวร์และโมเดล การประมวลผลในองค์กรช่วยลดการพึ่งพาคลาวด์ได้ แต่ระบบผสมที่ออกแบบชัดเจนมักตอบโจทย์กว่าแนวคิดย้ายทุกอย่างกลับมา






