การฝังโมเดลลงในซิลิคอน: สัญญาณยุคใหม่ของชิป AI inference
การที่ AMD เข้าซื้อกิจการ Taalas ซึ่งออกแบบชิป AI inference ที่ฝังโมเดลลงในซิลิคอนโดยตรงคือจุดเปลี่ยนสำคัญของเทคโนโลยี AMD ในตลาดฮาร์ดแวร์เฉพาะทาง เพราะมันบ่งชี้ว่าการแข่งขันไม่ได้อยู่ที่การเร่งการประมวลผลทั่วไปอีกต่อไป แต่ย้ายไปสู่การสร้างชิปที่ออกแบบมาเพื่อโมเดลที่มีปริมาณงานมหาศาลและคาดเดาได้ ทำให้ประสิทธิภาพ AI และต้นทุนต่อคำตอบกลายเป็นอาวุธเชิงกลยุทธ์ขององค์กร มากกว่าความยืดหยุ่นของแพลตฟอร์มเพียงอย่างเดียว.
ดีลนี้เกิดขึ้นไม่นานหลัง AMD ทำข้อตกลงกับ Cerebras เพื่อเสริมความสามารถด้าน inference ให้ระบบ Helios ระดับ rack-scale และตามประกาศของบริษัท ดีล Taalas ถูกออกแบบมาเพื่อเสริมความแข็งแรงให้โรดแมป AI ระยะยาวในช่วงที่งาน inference เติบโตเร็วที่สุดในตลาด AI การขยับพร้อมกันทั้งระดับระบบขนาดใหญ่และระดับชิป AI inference เฉพาะโมเดลจึงไม่ใช่เรื่องบังเอิญ แต่สะท้อนมุมมองว่าอนาคตของ AI ในองค์กรจะถูกตัดสินที่ชั้นฮาร์ดแวร์มากพอๆ กับที่ชั้นซอฟต์แวร์.
เทคโนโลยี Taalas: เมื่อวงจรกลายเป็นทั้งสมองและหน่วยความจำ
หัวใจของ Taalas คือการออกแบบชิป AI inference ที่ไม่พึ่งพาสถาปัตยกรรมทั่วไป แต่ฝังโมเดลลงในทรานซิสเตอร์โดยตรง ชิป HC1 ของ Taalasใช้โครงสร้างฮาร์ดแวร์ร่วมกันที่คำนวณล่วงหน้าผลคูณทั้งหมด 16 ค่า สำหรับน้ำหนักโมเดลแบบ quantized 4-bit ผลลัพธ์คือทรานซิสเตอร์แต่ละตัวไม่ได้ทำคณิตศาสตร์เอง แต่ทำตัวเป็นตัวนำทางข้อมูลไปยังช่องผลลัพธ์ที่ถูกต้อง แนวคิดนี้ล้ม "กำแพงหน่วยความจำ" ที่มักทำให้ชิปกราฟิกต้องรอข้อมูลก่อนคำนวณ เพราะในชิปนี้วงจรคือทั้งหน่วยความจำและสมองในตัวเดียว.
ชิป AI inference ของ Taalas จึงสร้างความเร็วระดับที่แพลตฟอร์มทั่วไปยากจะตามทัน โดยชิป HC1 สามารถสร้าง 16,000–17,000 token ต่อวินาทีต่อผู้ใช้โดยไม่ต้องใช้หน่วยความจำ HBM นี่เป็นคำอธิบายเชิงตัวเลขที่ชัดเจนว่าทำไม AMD ถึงมองเทคโนโลยีนี้ว่ามีศักยภาพในการพลิกโฉมประสิทธิภาพ AI ในงานจริง เมื่อค่าคำนวณของโมเดลไม่ต้องเก็บในหน่วยความจำแยกต่างหาก แต่ถูกเดินสายเป็นโลหะจิ๋วตั้งแต่ขั้นตอนผลิต ความหน่วงจึงลดลงเหลือน้อยที่สุด แต่ต้องแลกกับการที่ชิปทำงานได้กับโมเดลที่ออกแบบมาด้วยเท่านั้น.
ยุทธศาสตร์ AMD: ต่อจิ๊กซอว์จาก Helios, Instinct และฮาร์ดแวร์เฉพาะทาง
AMD ไม่ได้ซื้อ Taalas มาเป็นชิ้นส่วนโดดเดี่ยว แต่ตั้งใจผูกเทคโนโลยีนี้เข้ากับแพลตฟอร์ม AI แบบเต็มสแตกที่กำลังสร้างอยู่ ดีลนี้จะนำเทคโนโลยีของ Taalas เข้าไปอยู่ในโรดแมปตัวเร่งความเร็ว และพัฒนาระบบระดับระบบร่วมกับ GPU AMD Instinct พร้อมเชื่อมกับโซลูชัน Helios ระดับ rackscale, CPU AMD EPYC, ซอฟต์แวร์ ROCm และระบบนิเวศ AI ที่ขยายตัวต่อเนื่อง ภาพที่ AMD วาดจึงไม่ใช่การมีชิป AI inference แปลกใหม่เพียงตัวเดียว แต่เป็นการสร้างชั้นฮาร์ดแวร์ที่มีทั้งความยืดหยุ่นจาก GPU และความคุ้มค่าจากฮาร์ดแวร์เฉพาะทาง.
ในมุมการแข่งขัน การมีชิป AI inference ที่แตกต่างอย่าง Taalasช่วยให้ AMD มีเรื่องเล่าใหม่ไปต่อกรกับผู้เล่นที่ครองตลาดตัวเร่ง AI อยู่แล้ว การผสาน Wafer-Scale Engine ของ Cerebras ที่รวมหน่วยความจำและการคำนวณทั้งระบบไว้บนแผ่นซิลิคอนขนาดใหญ่ กับชิปเฉพาะโมเดลของ Taalas ทำให้เทคโนโลยี AMD มีทางเลือกมากกว่าแค่การไล่ตามสเปก GPU ของคู่แข่ง แทนที่จะยอมรับเกมที่อีกฝ่ายเป็นคนตั้งกติกา AMD กำลังตั้งเวทีใหม่ที่วัดกันที่ประสิทธิภาพในงาน inference ปริมาณสูง และการออกแบบตั้งแต่ระดับชิปไปจนถึงระดับระบบ.
ชิปเฉพาะโมเดล: จากความยืดหยุ่นสู่ยุคเน้นประสิทธิภาพ AI ในงานองค์กรขนาดใหญ่
ชิปเฉพาะโมเดลของ Taalasเป็นตัวอย่างชัดเจนของการหันไปใช้ฮาร์ดแวร์เฉพาะทางสำหรับงานที่สุกงอมแล้วในองค์กร นักวิเคราะห์บางรายมองว่าเทคโนโลยีเช่นนี้เหมาะที่สุดกับงาน inference ที่มีรูปแบบคงที่และขนาดมหาศาล เช่น ระบบตอบลูกค้าอัตโนมัติ การตรวจจับการทุจริต วิสัยทัศน์คอมพิวเตอร์ในอุตสาหกรรม การปฏิบัติการเครือข่าย Edge AI และ embedded copilot ต่างๆ เพราะในบริบทเหล่านี้ โมเดลไม่ได้เปลี่ยนทุกวัน ความยืดหยุ่นจึงสำคัญน้อยกว่าการลดต้นทุนและเพิ่มความเร็วอย่างสุดทาง.
กระนั้นก็ตาม เทคโนโลยีแบบชิปเฉพาะโมเดลไม่ได้เข้ามาแทน GPUทั้งหมด เนื่องจากองค์กรส่วนใหญ่ยังให้คุณค่ากับความยืดหยุ่น การรองรับหลายผู้ใช้ และการพัฒนาโมเดลอย่างรวดเร็วมากกว่าประสิทธิภาพสูงสุดแบบจำกัดงาน สำหรับ CIO นั่นหมายความว่าชิปเฉพาะโมเดลเหมาะกับเพียงส่วนหนึ่งของงาน AI ในองค์กร ไม่ใช่คำตอบครอบจักรวาล การตัดสินใจของ AMD จึงเป็นการมองข้ามความฝันเรื่องแพลตฟอร์มเดียวจบ ไปสู่ยุคที่ระบบ AI ระดับองค์กรประกอบด้วยหลายชั้นของฮาร์ดแวร์ที่ถูกออกแบบให้เหมาะกับงานแต่ละประเภทโดยเฉพาะ.
มิติองค์กรและสิ่งที่จะเกิดขึ้นต่อไป
จากมุมมององค์กร ดีลนี้ชี้ให้เห็นว่าการแข่งขันกำลังก้าวจากการฝึกโมเดลไปสู่การทำให้ AI inference มีประสิทธิภาพสูงและคุ้มค่าที่สุด AMD ระบุว่าการนำเทคโนโลยีของ Taalasเข้าไปอยู่ในแพลตฟอร์ม AI เต็มสแตกจะช่วยมอบประสิทธิภาพและความคุ้มค่าด้าน inference ที่แตกต่าง ในช่วงที่ AI เคลื่อนเข้าสู่แอปพลิเคชันเรียลไทม์ปริมาณสูง กล่าวอีกแบบคือ ใครควบคุมต้นทุนและความเร็วในการตอบโต้ของโมเดลได้ดีกว่า จะได้เปรียบทั้งด้านประสบการณ์ลูกค้าและการใช้ทรัพยากรโครงสร้างพื้นฐาน.
ด้านการดำเนินการ ดีลนี้ยังอยู่ระหว่างการรอตรวจสอบและเงื่อนไขการปิดดีลตามปกติ พร้อมกับการตั้งใจรักษาและพัฒนาบุคลากรด้านเซมิคอนดักเตอร์และ AI ที่มีอยู่แล้วในเครือของ AMD Taalasซึ่งก่อตั้งขึ้นเพื่อ "ออกแบบ inference โดยเริ่มจากโมเดล" จะได้ใช้ทรัพยากรวิศวกรรมและการเข้าถึงตลาดระดับโลกของ AMD เพื่อเร่งนวัตกรรมต่อไป เมื่อดีลปิดลงและเทคโนโลยีถูกหลอมเข้ากับ Helios, Instinct และสแตกซอฟต์แวร์ของ AMD เต็มรูปแบบ เรามีโอกาสเห็นยุคใหม่ที่องค์กรไม่ได้วัดความสำเร็จ AI จากจำนวนโมเดลที่รันได้ แต่จากความคุ้มค่าและความเร็วที่แต่ละโมเดลสร้างให้ธุรกิจ.
