ค้นพบความสนใจของคุณ ไปด้วยกัน

ดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

ค้นพบความสนใจของคุณ ไปด้วยกันดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

หน่วยความจำ AI ลดโทเค็นและพลังงานได้แค่ไหน

หน่วยความจำ AI ลดโทเค็นและพลังงานได้แค่ไหน
ความสนใจ|สำรวจการใช้งาน AI

หน่วยความจำ AI ไม่ได้มีคอขวดเดียว

หน่วยความจำ AI คือระบบที่ช่วยให้โมเดลเก็บและเรียกคืนข้อมูลจากบทสนทนาหรือจัดการค่าน้ำหนักระหว่างการคำนวณ โดยมีเป้าหมายลดทรัพยากรที่ใช้กับบริบทและการเคลื่อนย้ายข้อมูลในฮาร์ดแวร์ หน่วยความจำจึงไม่ใช่แค่พื้นที่เก็บ แต่เป็นจุดที่กำหนดทั้งความเร็วและพลังงานของงาน AI

ประเด็นนี้สำคัญขึ้นเมื่อ AI ต้องจำบริบทสนทนาที่ยาวและคำนวณกับค่าน้ำหนักของโมเดลซ้ำ ๆ สถาปัตยกรรมแบบเดิมอาจเสียแบนด์วิดท์และพลังงานไปกับการย้ายข้อมูลระหว่างหน่วยความจำกับหน่วยประมวลผล ขณะที่การบีบประวัติสนทนาให้เล็กลงช่วยลดภาระอีกแบบหนึ่ง ทั้งสองแนวทางจึงตอบโจทย์คนละชั้น ไม่ควรนำตัวเลขมารวมเป็นคำสัญญาว่า AI จะประหยัดพลังงานได้เท่ากันทุกงาน

ใช้ 16 โทเค็นเพื่อเรียกคืนบทสนทนา

งานจากมหาวิทยาลัยสแตนฟอร์ดที่ถูกเผยแพร่ต่อในแวดวงออนไลน์นำเสนอระบบหน่วยความจำ AI ซึ่งใช้โทเค็นหน่วยความจำเพียง 16 ตัวเพื่อดึงข้อมูลย้อนหลังจากบทสนทนา และระบุว่าลดการใช้โทเค็นเอกสารได้สูงสุด 4,212 เท่า พร้อมทำงานเร็วขึ้น 27 เท่าในการทดสอบเอกสาร 512 ชุด ตัวเลขนี้ชวนสนใจ เพราะการประหยัดโทเค็นอาจลดภาระการป้อนบริบทและการเรียกข้อมูลซ้ำ

แต่การบีบอัดแบบสูญเสียรายละเอียดทำให้ต้องถามต่อว่า ระบบจำอะไรได้และตกหล่นอะไร ผลทดสอบชนะมาตรฐานเดิม 5 จาก 8 รายการ จึงยังไม่ใช่ชัยชนะรอบด้าน อีกทั้งขั้นตอนบีบอัดในการทดสอบต้องใช้หน่วยประมวลผลกราฟิกสำหรับงานคำนวณขนาดใหญ่ ซึ่งทำให้ความคุ้มค่าเมื่อนำไปใช้กับอุปกรณ์ทั่วไปยังไม่ชัดเจน ข้อสรุปที่เหมาะสมจึงไม่ใช่ว่าโทเค็นจะหายไป แต่คือการทดลองหาวิธีเก็บเฉพาะข้อมูลที่ช่วยตอบคำถามถัดไป

ประมวลผล ReRAM ใกล้จุดเก็บข้อมูล

Weebit Nano เปิดโครงการวิจัย Matrix In-Memory Compute เพื่อให้นักวิจัยภาควิชาการและอุตสาหกรรมทดลองฮาร์ดแวร์ ReRAM สำหรับประมวลผล AI ณ จุดที่เก็บข้อมูล โดยชุดทดลองใช้อาร์เรย์ครอสบาร์ขนาด 32 คูณ 32 หน่วยความจำชนิดนี้เก็บข้อมูลด้วยค่าความต้านทานไฟฟ้าที่ตั้งโปรแกรมได้ และแนวคิดคือเก็บค่าน้ำหนักไว้ในเซลล์แล้วใช้การตอบสนองทางไฟฟ้าช่วยคำนวณ

นี่เป็นการเปิดแพลตฟอร์มวิจัย ไม่ใช่การเปิดตัวตัวเร่ง AI เชิงพาณิชย์ การย้ายงานคำนวณเข้าใกล้หน่วยความจำมุ่งลดการถ่ายโอนข้อมูลระหว่างชิปประมวลผลกับหน่วยเก็บ ซึ่งอาจเป็นประโยชน์กับเซ็นเซอร์และอุปกรณ์ปลายทางที่มีข้อจำกัดด้านพลังงานและความร้อน อย่างไรก็ดี ผลที่ได้จากอาร์เรย์ยังต้องผ่านการทดสอบทั้งระบบ รวมถึงการแปลงข้อมูล การควบคุม และการสื่อสาร โครงการนี้จึงมีคุณค่าตรงที่เปิดให้ตรวจสอบฮาร์ดแวร์จริง แทนการพึ่งการจำลองเพียงอย่างเดียว

การวิเคราะห์ที่อ้างถึงในเอกสารโครงการคาดการณ์การใช้พลังงานต่ำกว่าหน่วยประมวลผลกราฟิกประมาณ 80 เท่า และต่ำกว่าแพลตฟอร์มวงจรลอจิกแบบตั้งโปรแกรมได้ 13 เท่า สำหรับงานจำแนกภาพเฉพาะ ไม่ใช่ผลวัดอิสระของผลิตภัณฑ์เชิงพาณิชย์หรือหลักฐานว่าเหนือกว่าในทุกงาน Weebit วางแผนสาธิต Matrix ในงานอิเล็กทรอนิกส์ที่มิวนิกระหว่างวันที่ 10 ถึง 13 พฤศจิกายน 2026 และเปิดให้ผู้วิจัยที่มีคุณสมบัติยื่นขอชุดอุปกรณ์ได้

ตัวเลขประหยัดพลังงานต้องมีบริบท

แนวทางลดโทเค็นลดข้อมูลบริบทที่ต้องจัดเก็บและค้นคืน ส่วนการประมวลผลในหน่วยความจำพยายามลดการเดินทางของข้อมูลระหว่างส่วนต่าง ๆ ในระบบ ขณะที่การเปลี่ยนชนิดหน่วยความจำของชิปมุ่งลดพลังงานที่ใช้ในระดับฮาร์ดแวร์ ตัวเลขจากแต่ละแนวทางจึงวัดคนละสิ่ง และยังเปรียบเทียบตรง ๆ ไม่ได้หากไม่มีเงื่อนไขการทดสอบที่เทียบกัน

มีการนำเสนอแนวคิดชิปที่ใช้หน่วยความจำแม่เหล็กแทนหน่วยความจำแบบไดนามิกว่ามีโอกาสลดพลังงานได้ 98 เปอร์เซ็นต์ แต่ตัวเลขดังกล่าวยังเป็นคำกล่าวอ้างเกี่ยวกับแนวทางชิป ไม่ใช่หลักฐานว่าการใช้โทเค็นน้อยลงหรือประมวลผล ReRAM จะให้ผลประหยัดเท่ากัน สิ่งที่ผู้ใช้ควรจับตาจึงไม่ใช่ตัวเลขใหญ่เพียงตัวเดียว แต่เป็นพลังงานรวม ความแม่นยำ และความเร็วเมื่อระบบทำงานจริง

ข้อสรุปคือ หน่วยความจำ AI กำลังถูกปรับปรุงทั้งฝั่งการเก็บความหมายของบทสนทนาและฝั่งวงจรคำนวณ แต่แต่ละวิธีแก้ปัญหาคนละจุด ระบบ 16 โทเค็นยังต้องพิสูจน์ว่าจำได้แม่นพอ ส่วน Matrix ReRAM ยังต้องผ่านการทดลองและพัฒนาสู่ระบบครบชุด ข่าวเรื่องพลังงานชิปก็ต้องอ่านตามขอบเขตของคำกล่าวอ้าง ทางเลือกที่น่าเชื่อถือที่สุดไม่ใช่เทคโนโลยีที่มีตัวเลขหวือหวาที่สุด แต่คือวิธีที่รักษาคุณภาพงานพร้อมลดทรัพยากรได้เมื่อใช้งานจริง

ZestBuy ได้รับค่าคอมมิชชั่นเมื่อคุณช้อปผ่านลิงก์ของเรา โดยคุณไม่ต้องจ่ายเพิ่ม

You May Also Like

Comments
พูดอะไรบางอย่าง...
ยังไม่มีความคิดเห็น มาเป็นคนแรกที่แบ่งปันความคิดเห็นของคุณ!