ค้นพบความสนใจของคุณ ไปด้วยกัน

ดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

ค้นพบความสนใจของคุณ ไปด้วยกันดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

Meta ดัน e-means เร่งการจัดกลุ่มข้อมูลขนาดใหญ่บน CPU และ GPU

Meta ดัน e-means เร่งการจัดกลุ่มข้อมูลขนาดใหญ่บน CPU และ GPU
ความสนใจ|วิเคราะห์ข้อมูลด้วย AI

e-means ลดรอบฝึก โดยไม่ต้องเริ่มจากการเดาค่าพารามิเตอร์

อัลกอริทึม e-means คือวิธีจัดกลุ่มข้อมูลแบบมินิแบตช์ที่ปรับจุดศูนย์กลางคลัสเตอร์ด้วยค่าเฉลี่ยเคลื่อนที่แบบเอ็กซ์โพเนนเชียล โดยลดน้ำหนักสถิติจากข้อมูลเก่าและใช้ข้อมูลชุดย่อยเพื่อให้จุดศูนย์กลางปรับตามข้อมูลใหม่ได้เร็วขึ้น แทนการคำนวณจากข้อมูลทั้งหมดซ้ำในทุกช่วงฝึก

ประเด็นที่ทำให้วิธีนี้น่าสนใจไม่ใช่แค่ความเร็ว แต่คือการลดภาระตั้งค่าก่อนเริ่มงานด้วย นักวิจัยรายงานว่า e-means ทำค่า loss ได้ต่ำกว่าหรือใกล้เคียง Lloyd k-means ที่ฝึก 25 รอบ ภายในเพียง 1.4 ถึง 2.6 รอบ โดยกฎปรับขนาดจะเลือกขนาดชุดข้อมูลย่อยและขนาดขั้นเริ่มต้นจากจำนวนข้อมูล จำนวนคลัสเตอร์ และงบประมาณรอบฝึก จึงไม่ต้องกวาดค้นหาค่าพารามิเตอร์แยกต่างหากเหมือนวิธีมินิแบตช์บางแบบ

สำหรับการจัดกลุ่มข้อมูลขนาดใหญ่ การลดรอบฝึกมีความหมายตรงไปตรงมา: ลดเวลาที่ต้องรอให้ไปป์ไลน์สร้างดัชนีเวกเตอร์ การควอนไทซ์ หรือการคัดกรองข้อมูลเสร็จ โดยเฉพาะเมื่องานเหล่านี้เป็นขั้นตอนออฟไลน์ที่กินเวลามาก อย่างไรก็ตาม ผลที่ได้ยังเป็นผลการทดลองที่นักวิจัยรายงาน ไม่ใช่คำรับประกันว่าจะเร็วขึ้นเท่ากันในทุกชุดข้อมูลหรือทุกเครื่อง

Faiss 1.16.0 ขยายทางเลือกจากเครื่องเดียวสู่ระบบกระจาย

เมื่อวันที่ 10 พฤศจิกายน 2026 ผู้ดูแล Faiss ของ Meta เผยแพร่รุ่น 1.16.0 ซึ่งเพิ่ม e-means สำหรับ CPU, GPU และการฝึกแบบกระจาย ผลงานพัฒนามาจากนักวิจัยของ FAIR at Meta และ École Nationale des Ponts et Chaussées หลังจากมีการเผยแพร่บทความวิจัยฉบับก่อนตีพิมพ์เมื่อวันที่ 6 พฤศจิกายน การอัปเดตนี้จึงไม่ใช่การเปิดเผยแนวคิดต่อสาธารณะครั้งแรก แต่เป็นการนำเครื่องมือมาไว้ในไลบรารีที่ใช้งานได้จริง

รุ่นใหม่นี้มีทั้งการใช้งานอ้างอิง การแบ่งชาร์ดตามจุดศูนย์กลางคลัสเตอร์ แบ็กเอนด์ Triton และ CuTe ตลอดจนตัวเลือกกำหนดกลุ่มแบบลดความแม่นยำและชุดทดสอบประสิทธิภาพ คู่มือระบุว่า NumpyEmeans ใช้กับข้อมูล NumPy ส่วน Emeans ใช้กับเทนเซอร์ PyTorch การทำงานบน GPU ต้องใช้ PyTorch ที่เปิด CUDA โดยมี CuTe สำหรับ H100 และ H200 และ Triton สำหรับ GPU NVIDIA รุ่นใหม่อื่นที่รองรับ

นี่เป็นจุดแข็งเชิงปฏิบัติของ Faiss 1.16.0: ทีมที่มีโครงสร้างพื้นฐานต่างกันไม่จำเป็นต้องมอง e-means เป็นวิธีที่ใช้ได้เฉพาะเครื่อง GPU รุ่นใหญ่ แต่การรองรับระบบกระจายก็ไม่ได้ทำให้ข้อจำกัดด้านหน่วยความจำหายไป การรันจุดศูนย์กลาง 16 ล้านคลัสเตอร์ต้องใช้ตัวสะสม float32 ขนาด 64 GiB จึงต้องแบ่งข้อมูลจุดศูนย์กลางกระจายไปตาม GPU

ตัวเลขเร็วสูงสุด 45 เท่าต้องอ่านควบคู่กับขนาดงาน

ในการเปรียบเทียบ k-means นักวิจัยรายงานว่า e-means ทำงานตามเวลาจริงบน GPU เร็วกว่า Flash-KMeans สูงสุด 45 เท่าที่ระดับ loss ใกล้เคียงกัน ขณะที่การทดสอบชุดเวกเตอร์แบบฝังตัว VIBE ทั้ง 11 ชุดระบุว่าต้องใช้ 1.6 ถึง 2.6 รอบเพื่อให้ได้ข้อผิดพลาดเท่ากับ Lloyd ที่ 25 รอบ และทำงานเร็วกว่า Flash-KMeans บน H100 หนึ่งตัว 8.0 ถึง 22.8 เท่า ตัวเลขสูงสุดจึงเป็นผลในกรอบการทดลอง ไม่ควรตีความเป็นความเร็วที่ทุกคนจะได้

การทดสอบขนาดใหญ่สุดใช้ DINO10B ซึ่งมีเวกเตอร์ฝังตัว 10,000 ล้านรายการ มิติละ 1,024 และจัดเป็นราว 16.7 ล้านคลัสเตอร์ใน 2.5 รอบด้วยการกำหนดกลุ่มแบบแม่นยำ ผลข้อผิดพลาดบนชุดทดสอบต่ำกว่าค่าฐานของ Lloyd ที่ 25 รอบเล็กน้อย ผู้เขียนยังรายงานว่าการกำหนดกลุ่มแบบประมาณด้วยดัชนี IVF ใช้ทรัพยากรน้อยกว่าวิธีแม่นยำ 34 เท่าสำหรับงานขนาดนี้ แต่ไม่ช่วยให้ผลดีขึ้นเมื่อมีข้อมูล 100 ล้านรายการ

ข้อสรุปสำหรับผู้ใช้จึงควรอยู่บนขนาดและลักษณะงาน ไม่ใช่ตัวเลขพาดหัวเพียงอย่างเดียว การลดรอบฝึกอาจช่วยลดเวลารอและเปิดทางให้ทดลองคลัสเตอร์ขนาดใหญ่ขึ้น ส่วนการประหยัด GPU มากที่สุดขึ้นกับฮาร์ดแวร์และการยอมรับการกำหนดกลุ่มแบบประมาณด้วย คู่มือยังเตือนว่าป้ายกำกับจากรอบสุดท้ายอาจไม่ตรงกับการกำหนดกลุ่มของจุดศูนย์กลางชุดสุดท้าย และเส้นทาง GPU ไม่ตรวจจับค่า NaN หรือค่าอนันต์ในข้อมูลนำเข้า

ทางเลือกที่น่าจับตา แต่ไม่ใช่คำตอบเดียวสำหรับทุกคลัสเตอร์

จุดต่างจาก Lloyd คือวิธีจัดการสถิติของคลัสเตอร์ Lloyd คำนวณผลรวมและจำนวนจุดใหม่จากข้อมูลทั้งหมดในแต่ละรอบ ส่วน e-means ลดอิทธิพลของสถิติเก่าด้วยค่าเฉลี่ยเคลื่อนที่ แล้วปรับจากข้อมูลชุดย่อย วิธีนี้ช่วยให้หลีกเลี่ยงการคำนวณเต็มชุดซ้ำหลายครั้ง และกฎกำหนดค่าที่ติดมากับระบบช่วยลดงานลองผิดลองถูกซึ่งมักกินเวลาพอ ๆ กับการฝึก

ในมุมวิเคราะห์ e-means ทำให้การจัดกลุ่มข้อมูลขนาดใหญ่มีทางเลือกที่ใช้งานง่ายขึ้น โดยเฉพาะทีมที่สร้างดัชนีค้นคืนหรือจัดระเบียบเวกเตอร์เป็นประจำ แต่ก่อนย้ายงานจริงควรทดสอบกับข้อมูลและฮาร์ดแวร์ของตนเอง ตรวจสอบการใช้หน่วยความจำ และเลือกวิธีแม่นยำหรือแบบประมาณให้เหมาะกับความคลาดเคลื่อนที่ยอมรับได้ ความเร็วที่เพิ่มขึ้นมีค่าเมื่อผลลัพธ์ยังตอบโจทย์ปลายทาง

โดยรวม Faiss 1.16.0 ทำให้ e-means เปลี่ยนจากผลวิจัยไปสู่เครื่องมือสำหรับ CPU, GPU และระบบกระจาย จุดขายที่แข็งแรงที่สุดคือการได้คุณภาพใกล้เคียง Lloyd ด้วยรอบฝึกน้อยลง โดยไม่ต้องจูนพารามิเตอร์แยกอย่างหนัก ส่วนคำกล่าวว่าเร็วกว่าได้ถึง 45 เท่าควรอ่านเป็นผลสูงสุดจากการทดสอบ ไม่ใช่สัญญาครอบจักรวาล สำหรับงานใหญ่ที่เสียเวลารอการจัดกลุ่ม นี่คือความก้าวหน้าที่ควรทดลองใช้ แต่การวัดผลกับภาระงานจริงยังเป็นขั้นตอนที่ข้ามไม่ได้

ZestBuy ได้รับค่าคอมมิชชั่นเมื่อคุณช้อปผ่านลิงก์ของเรา โดยคุณไม่ต้องจ่ายเพิ่ม บทความนี้สร้างขึ้นด้วย AI จากแหล่งข้อมูลที่เผยแพร่และข้อมูลสินค้า

Related Products

You May Also Like

Comments
พูดอะไรบางอย่าง...
ยังไม่มีความคิดเห็น มาเป็นคนแรกที่แบ่งปันความคิดเห็นของคุณ!