ลดต้นทุน AI 60% ด้วยการออกแบบโครงสร้างพื้นฐานให้ฉลาดขึ้น

ยุค Agentic AI ไม่ได้วัดกันที่งบ แต่ที่โครงสร้างพื้นฐาน AI

การลดต้นทุน AI คือแนวทางวางแผนและออกแบบโครงสร้างพื้นฐาน AI ให้ใช้ทรัพยากรซีพียู จีพียู เซิร์ฟเวอร์ และเครื่องลูกข่ายอย่างมีประสิทธิภาพ โดยมองตั้งแต่สถาปัตยกรรมระบบ การเข้าถึงเครื่องมือ การกระจายเวิร์กโหลด ไปจนถึงการยุบรวมเซิร์ฟเวอร์ เพื่อให้รองรับงาน Agentic AI และโมเดลสร้างข้อความขนาดใหญ่ได้โดยไม่ต้องเพิ่มจำนวนเครื่องและค่าใช้จ่ายอย่างไม่จำเป็น พร้อมรักษาประสิทธิภาพพลังงานและความปลอดภัยในระดับองค์กร

มุมมองนี้กำลังเขย่าวิธีคิดของฝ่ายไอทีที่เคยเชื่อว่าทางรอดคือการทุ่มซื้อคลาวด์และจีพียูระดับสูงที่สุดเท่าที่งบประมาณจะรับไหว ในวิสัยทัศน์ Agentic AI ของผู้บริหารฝั่งชิปเซ็ต เป้าหมายถูกขยับจากคำถามว่าจะใช้เงินกับ AI เท่าไร ไปเป็นคำถามว่าจะจ่ายอย่างไรให้แต่ละบาทสร้างผลตอบแทนจากงานของ Agent และเวิร์กโหลดอัตโนมัติให้มากที่สุด องค์กรจึงต้องเริ่มมอง AI เป็นทั้งสินทรัพย์โครงสร้างพื้นฐานและค่าใช้จ่ายดำเนินงานต่อเนื่อง ไม่ใช่โครงการลงทุนครั้งเดียว การคิดแบบนี้บังคับให้ทุกคนต้องกล้าแตะโครงสร้างพื้นฐาน AI ตั้งแต่ระดับสถาปัตยกรรม ไม่ใช่แค่เลือกโมเดลแพงหรือถูก

บทเรียนจาก Uber เมื่อโครงสร้างการเข้าถึงเครื่องมือกลายเป็นตัวคูณต้นทุน

กรณีของ Uber เป็นตัวอย่างสดว่าโครงสร้างพื้นฐาน AI ที่ออกแบบไม่ดีสามารถเผางบได้เร็วแค่ไหน เมื่อประธานเจ้าหน้าที่เทคโนโลยีออกมายอมรับว่าบริษัทใช้จ่ายงบ AI ประจำปีหมดภายในเวลาไม่กี่เดือน จุดเปลี่ยนเกิดขึ้นเมื่อทีมวิศวกรเริ่มโจมตี “คันโยกต้นทุน” ทีละจุด ตั้งแต่การจัดการ Agent แบบ vendor neutral การแคชพรอมป์ การทำให้การใช้เครื่องมือและเซิร์ฟเวอร์ MCP มีประสิทธิภาพมากขึ้น ไปจนถึงการให้วิศวกรเห็นต้นทุนแบบเรียลไทม์ ผลที่ได้ไม่ใช่แค่การเอาตัวรอด แต่คือการขยายการใช้งาน AI แบบก้าวกระโดดควบคู่กับการคุมค่าใช้จ่าย

หัวใจของบทเรียนเหล่านี้คือสถาปัตยกรรมการเข้าถึงเครื่องมือและเซิร์ฟเวอร์ MCP ซึ่งกลายเป็นตัวแปรต้นทุนสำคัญก่อนจะถึงขั้นตอนเลือกโมเดลเสียอีก Uber มี Agent ทำงานด้านโค้ดจำนวนมากตั้งแต่ตรวจสอบโค้ด แก้ปัญหา CI ด้วยตัวเอง ทำงาน Pull Request แบบครบวงจร พร้อมตรวจสอบภาพ ช่วยไตรยางเหตุแจ้งเตือน on call ดีบักบั๊ก ไปจนถึงงานบำรุงรักษาโค้ดหลากหลายประเภท แต่การเชื่อม Agent จำนวนมากเข้ากับเซิร์ฟเวอร์ MCP ของ SaaS ที่ออกแบบมาให้เปิดทุกความสามารถ ส่งผลให้ทุกการสนทนาแบกโทเคนสคีมาจำนวนมหาศาลตั้งแต่ก่อนเริ่มทำงานจริง ทำให้ต้นทุนต่อเซสชันพุ่งขึ้นโดยไม่สร้างมูลค่าเพิ่มให้ผู้ใช้ปลายทางมากนัก

ลดโทเคนบLOAT ก่อนแตะโมเดล: สถาปัตยกรรมที่ช่วยลดต้นทุน AI แบบเห็นตัวเลข

รายละเอียดในบล็อกวิศวกรรมของ Uber แสดงให้เห็นว่าเพียงการติดตั้งเครื่องมือในเซิร์ฟเวอร์ MCP แบบไม่คิดหน้าคิดหลัง ก็สามารถสร้างภาระสคีมาได้ระดับหลายหมื่นโทเคนต่อพรอมป์เริ่มต้น เมื่อมีเครื่องมือมากกว่า 100 รายการ ภาระนี้พุ่งไปที่ราว 50,000–70,000 โทเคนต่อการสนทนาก่อน Agent จะเริ่มทำงานจริง และทุกครั้งที่มีการโต้ตอบ สคีมาเหล่านี้ต้องถูกส่งซ้ำ ทำให้ต้นทุนสะสมขึ้นอย่างรวดเร็วโดยที่ผู้ใช้ไม่ได้รับประโยชน์เพิ่มเติม สถานการณ์นี้ยืนยันว่าการลดต้นทุน AI เริ่มต้นที่การออกแบบวิธีเข้าถึงเครื่องมือ ไม่ใช่การบีบค่าบริการโมเดลอย่างเดียว

Uber ตอบโจทย์ด้วยการออกแบบให้โมเดลใช้คำสั่งเชลล์เพื่อแก้และเรียกเครื่องมือเฉพาะเมื่อจำเป็น แทนที่จะโหลดสคีมาเครื่องมือทั้งหมดเข้า context ตั้งแต่ต้น พร้อมสร้างทักษะ Agent แบบสำเร็จรูปกว่า 25 รายการให้วิศวกรเรียกใช้เป็นค่าเริ่มต้น ไม่ต้องออกแบบใหม่ทุกครั้ง แนวคิดอีกข้อคือการส่งงาน “ช่วยเหลือ” ไปยังโมเดลขนาดเล็กเป็นค่าเริ่มต้น แล้วให้เฉพาะงานที่ต้องใช้การให้เหตุผลระดับสูงเท่านั้นที่ไปใช้โมเดลชั้นนำ แนวทางนี้ช่วยให้จำนวนผู้ใช้เครื่องมือ AI coding รายสัปดาห์เพิ่มขึ้น 7 เท่า และคำขอ Agent เพิ่ม 9.4 เท่า ระหว่างเดือนกุมภาพันธ์ถึงสิงหาคม ขณะที่ยอดใช้จ่ายรวมคงที่ตั้งแต่เมษายน และเมื่อตัดเฉพาะส่วนของการปรับแต่ง Uber ระบุว่าสามารถลดต้นทุนต่อ 1,000 คำขอราว 34% และต่อต่อเซสชันราว 52% จากจุดสูงสุด

ยุบรวมเซิร์ฟเวอร์ด้วย AMD EPYC ลดจำนวนเครื่องแต่เพิ่มประสิทธิภาพพลังงาน

อีกคันโยกสำคัญที่องค์กรมักมองข้ามคือการยุบรวมเซิร์ฟเวอร์ในดาต้าเซ็นเตอร์ แนวคิดคือการนำเวิร์กโหลดจากเซิร์ฟเวอร์รุ่นเก่าที่ใช้ทรัพยากรมาก มารวมบนเซิร์ฟเวอร์รุ่นใหม่ที่มีคอร์สูงและประสิทธิภาพต่อคอร์ดีกว่า เพื่อให้ใช้จำนวนเครื่องน้อยลง รักษาประสิทธิภาพของแอปพลิเคชันสำคัญ และคืนพื้นที่ตู้แร็คกับงบพลังงานให้ระบบอื่น โปรเซสเซอร์ AMD EPYC ถูกออกแบบมารองรับงานนี้ด้วยจำนวนคอร์ต่อซ็อกเก็ตที่สูงและสถาปัตยกรรม x86 ที่ทีมไอทีคุ้นเคย ทำให้สามารถรองรับทั้งแอปพลิเคชันธุรกิจ งานวิเคราะห์ข้อมูล และเวิร์กโหลด AI บนเครื่องจำนวนน้อยลงโดยไม่ต้องเสี่ยงกับการหยุดชะงักของระบบ

ตัวเลขจากกรณีศึกษาของ AMD ชี้ให้เห็นว่าการยุบรวมเซิร์ฟเวอร์ Intel Xeon Platinum 8280 แบบ Dual CPU อายุการใช้งาน 5–7 ปี จำนวน 100 เครื่อง สามารถแทนที่ด้วยเซิร์ฟเวอร์ที่ใช้ AMD EPYC 9965 เพียง 14 เครื่องเท่านั้น ลดจำนวนเครื่องได้ถึง 86% คงประสิทธิภาพรวมในระดับเดิม ลดการใช้พลังงานสูงสุด 69% และลดต้นทุนรวมตลอด 3 ปีได้สูงสุด 41% ขึ้นอยู่กับรูปแบบลิขสิทธิ์ซอฟต์แวร์ ผลลัพธ์นี้ไม่ได้เป็นแค่ตัวเลขในเอกสาร ตัวอย่างจริงจากบริษัทหลักทรัพย์ DNSE ในเวียดนามที่ย้ายไปใช้ AMD EPYC Gen 3 และ Gen 4 หลังทดสอบเทียบกับแพลตฟอร์มเดิม สามารถลดจำนวนตู้แร็คลงครึ่งหนึ่ง และลดการใช้พลังงานต่อตู้แร็คจาก 16–17 กิโลวัตต์เหลือเพียง 7–9 กิโลวัตต์ ขณะที่กว่า 90% ของเวิร์กโหลดย้ายมาทำงานบน EPYC ทั้งงานซื้อขายหุ้นที่ต้องความถี่สูงและเวิร์กโหลดคอนเทนเนอร์

วางแผนโครงสร้างพื้นฐาน AI ให้ฉลาด: ทางไปสู่การลดต้นทุน 40–60%

เมื่อองค์กรเดินหน้าสู่ยุค Agentic AI บทสนทนาเรื่องงบประมาณต้องเปลี่ยนจากการจัดซื้อครั้งเดียวไปสู่การบริหารค่าใช้จ่ายดำเนินงานอย่างต่อเนื่อง Vinay Awasthi ระบุว่าองค์กรจำเป็นต้องมอง AI เป็นทั้งการลงทุนด้านโครงสร้างพื้นฐานและค่าใช้จ่ายที่ต้องจัดการเมื่อก้าวจาก AI Assistant ไปสู่ Autonomous Agent ข้อมูลจาก AMD ยังยืนยันว่าการวางโครงสร้างพื้นฐานให้ถูกจุดสามารถลดต้นทุนได้จริง เช่นการติดตั้ง AMD AI PC จำนวน 500 เครื่องแบบไฮบริด โดยรันเวิร์กโหลดระดับปานกลางแบบโลคอลครึ่งหนึ่งและบนคลาวด์อีกครึ่งหนึ่ง สามารถประหยัดต้นทุนตลอดสามปีได้ถึง 40–60 เปอร์เซ็นต์

ทางเลือกที่ฉลาดจึงไม่ใช่การสั่งเพิ่มจีพียูและเซิร์ฟเวอร์ทุกครั้งที่งาน AI เติบโต แต่คือการวางแผนโครงสร้างพื้นฐาน AI รอบใหม่ตั้งแต่ระดับสถาปัตยกรรมการเข้าถึงเครื่องมือ การจัดการ MCP การยุบรวมเซิร์ฟเวอร์ และการกระจายเวิร์กโหลดระหว่างเครื่องลูกข่าย AI PC กับคลาวด์องค์กร องค์กรที่ยอมก้าวออกจากความเคยชินนี้จะได้สองสิ่งพร้อมกัน คือประสิทธิภาพการทำงานของ Agentic AI ที่สูงขึ้น และโครงสร้างต้นทุนที่ยั่งยืนกว่าในระยะยาว ในทางกลับกัน ผู้ที่ยังเชื่อว่าการทุ่มงบซื้อโมเดลแพงคือทางออกเดียว มีแนวโน้มจะพบกับ “บทลงโทษ” ของการตกขบวน เมื่อ AI กลายเป็นรายการใช้จ่ายระดับหัวตารางในงบกำไรขาดทุน แต่ไม่เคยถูกวางโครงสร้างพื้นฐานให้ทำงานได้คุ้มค่าจริง