คำตอบสั้น ๆ ก่อนเลือก
โมเดล AI เบา คือโมเดลปัญญาประดิษฐ์ที่ลดภาระด้านหน่วยความจำและการประมวลผล เพื่อให้ทำงานบนโทรศัพท์ แล็ปท็อป หรืออุปกรณ์ส่วนตัวได้ โดยยังรับข้อมูลได้มากกว่าข้อความอย่างเดียว เช่น ภาพหรือเสียง หากต้องการทั้งเสียงพูด AI และวิชั่นในโมเดลเดียว ให้เริ่มพิจารณา LFM3-Omni-2B แต่ถ้างานหลักคืออ่านเอกสาร แผนภูมิ ภาพหน้าจอ หรือวิดีโอ และยอมรับคำตอบแบบข้อความได้ MiniCPM-V 4.7 35B-A3B เป็นตัวเลือกที่น่าสนใจกว่า จุดตัดสินใจจึงไม่ใช่แค่จำนวนพารามิเตอร์ แต่คือคุณต้องการให้โมเดลฟังและพูดได้หรือไม่ รวมถึงฮาร์ดแวร์และเงื่อนไขใบอนุญาตที่ใช้งานได้จริง
| สเปก | LFM3-Omni-2B | MiniCPM-V 4.7 35B-A3B |
|---|---|---|
| โครงสร้างและขนาด | Dense 2.17 พันล้านพารามิเตอร์ ใช้ความแม่นยำ 16 บิต และมีขนาดรวมเพียงไม่กี่กิกะไบต์ | จัดเก็บ 35.2 พันล้านพารามิเตอร์ แต่เลือกใช้งานราว 3 พันล้านต่อโทเคน |
| ข้อมูลขาเข้า | ข้อความ ภาพ วิดีโอ และเสียง 16 kHz | ข้อความ ภาพ ภาพหลายภาพ และวิดีโอ |
| คำตอบ | ข้อความ เสียงพูด 24 kHz หรือข้อความสลับเสียงพูด | ข้อความเท่านั้น ไม่มีเส้นทางเสียง |
| ไฟล์และรูปแบบ | ขนาดไม่กี่กิกะไบต์ โดยรุ่นเสียงแยกมีไฟล์ดาวน์โหลด 2.1 GB บน Ollama | น้ำหนัก 70.4 GB มีรุ่น GGUF, AWQ, GPTQ, FP8, INT4 และ BitsAndBytes |
| ใบอนุญาต | LFM Open License v1.0 มีเงื่อนไขด้านรายได้สำหรับการใช้เชิงพาณิชย์ | Apache 2.0 ไม่มีเงื่อนไขรายได้ |
| ตัวเลขความเร็วที่มีรายงาน | รุ่นเสียงระบุเวลาเริ่มสร้างโทเคนได้ต่ำสุด 50 มิลลิวินาที และทำงานเร็ว 87 เท่าของเวลาจริงบนซีพียู Apple M4 Max หนึ่งเธรด | มีการกล่าวอ้างว่าทำได้มากกว่า 13 โทเคนต่อวินาทีบน iPhone 17 Pro Max โดยใช้หน่วยความจำราว 3 GB |
งานภาพหรือเสียง: เลือกตามงานหลัก
MiniCPM-V 4.7 เหมาะกับคนที่ต้องการให้โมเดลอ่านภาพเป็นงานหลัก เช่น ทำความเข้าใจเอกสาร แผนภูมิ ภาพหน้าจอ หรือเฟรมวิดีโอ จุดแข็งคือสถาปัตยกรรมภาพที่ใหญ่กว่า มีตัวเลือกควอนไทซ์หลายแบบ และมีเครื่องมือสำหรับนำไปติดตั้งกับฮาร์ดแวร์หลากหลาย การกำหนดเส้นทางให้ใช้ผู้เชี่ยวชาญเพียงส่วนหนึ่งช่วยลดภาระที่ต้องประมวลผลต่อโทเคน แต่ขนาดน้ำหนักที่จัดเก็บยังสูง และไม่มีความสามารถด้านเสียงในตัว[LFM3-Omni-2B] มีข้อได้เปรียบตรงที่เป็นโมเดลขนาดเล็กจริง รับเสียงและภาพได้ พร้อมสร้างเสียงพูดตอบกลับได้ 19 ภาษาพูดและรองรับข้อความ 16 ภาษา จึงเหมาะกับผู้ช่วยบนอุปกรณ์หรือแอปที่ต้องคุยด้วยเสียง อย่างไรก็ตาม รุ่นนี้ไม่ใช่ตัวเลือกแรกหากคะแนนด้านภาพเป็นเงื่อนไขสำคัญ ทั้งสองโมเดลยังขาดการประเมินจากผู้ทดสอบอิสระ จึงควรทดลองกับข้อมูลจริงของงานก่อนผูกเป็นคำมั่นด้านคุณภาพ
ฮาร์ดแวร์ ใบอนุญาต และต้นทุนการรัน
หากต้องการรันบนเครื่องส่วนตัว LFM3-Omni-2B ใช้หน่วยความจำน้อยกว่าอย่างชัดเจน และออกแบบโดยคำนึงถึงโทรศัพท์ แล็ปท็อป และอุปกรณ์ขอบเครือข่าย ส่วน MiniCPM-V มีรุ่นควอนไทซ์ให้เลือกมากกว่า แต่การรองรับรูปแบบเหล่านั้นไม่ได้ทำให้น้ำหนักตั้งต้นขนาด 70.4 GB หายไป ตัวเลขความเร็วก็เทียบกันตรง ๆ ไม่ได้ เพราะตัวเลขของ MiniCPM เป็นอัตราโทเคนบนโทรศัพท์ ส่วน 50 มิลลิวินาทีและ 87 เท่าของเวลาจริงเป็นผลที่ผู้พัฒนารายงานสำหรับงานเสียง จึงควรทดสอบบนอุปกรณ์และเวิร์กโหลดของตัวเอง MiniCPM ใช้ Apache 2.0 ขณะที่ LFM3 ใช้ใบอนุญาตที่มีเงื่อนไขรายได้สำหรับการใช้งานเชิงพาณิชย์ การโฮสต์เองมีต้นทุนคงที่จากเครื่องและการติดตั้ง ส่วนบริการโฮสต์คิดต้นทุนตามการใช้งานและลดภาระดูแลระบบ โดยไม่มีข้อมูลราคาที่ใช้เทียบกันได้
ถ้าต้องการประมวลผลเสียงพูดโดยเฉพาะ ให้แยก LFM3-Audio-2B ออกจากรุ่น Omni เพราะเป็นโมเดลเสียงอีกตัวหนึ่ง คำสั่ง ollama run lfm3-audio ดาวน์โหลดไฟล์ 2.1 GB และโมเดลรับข้อความหรือเสียง ก่อนตอบเป็นข้อความ เสียงพูด 24 kHz หรือทั้งสองอย่าง[LFM3-Audio-2B] แต่ข้อมูลหน้าโมเดลกับรายละเอียดของ Ollama ยังไม่สอดคล้องกันทั้งหมด โดยเฉพาะการรับไฟล์เสียงผ่านคำสั่งโดยตรง จึงควรทดสอบเส้นทางรับเสียงก่อนสร้างระบบจริง อีกทั้งข้อมูลระบุว่า Live ASR รองรับภาษาอังกฤษเท่านั้น และตัวเลขประสิทธิภาพที่เผยแพร่ยังเป็นข้อมูลจากผู้พัฒนา ไม่ใช่ผลทดสอบอิสระ รุ่นนี้จึงเหมาะกับการทดลองเสียงในเครื่อง แต่ไม่ควรถือว่าพร้อมแทนระบบเสียงทุกภาษาโดยไม่ตรวจสอบ
Buy if / Skip if
เลือกจากสิ่งที่ผู้ใช้ปลายทางต้องทำ ไม่ใช่จากจำนวนพารามิเตอร์เพียงอย่างเดียว หากเสียงเป็นส่วนหนึ่งของประสบการณ์หลัก ให้ความสำคัญกับโมเดลที่รับและสร้างเสียงได้ หากแอปต้องอ่านภาพเป็นหลัก ให้เลือกคุณภาพภาพและรูปแบบติดตั้งที่เหมาะกับฮาร์ดแวร์ พร้อมตรวจใบอนุญาตก่อนนำไปใช้เชิงพาณิชย์
- Buy the LFM3-Omni-2B if ต้องการโมเดลเดียวที่รับภาพและเสียง พร้อมตอบกลับด้วยเสียงพูด และให้ความสำคัญกับการรันบนเครื่องส่วนตัว
- Skip the LFM3-Omni-2B if งานต้องการคุณภาพด้านวิชั่นเป็นหลัก หรือไม่ยอมรับเงื่อนไขรายได้ในใบอนุญาตเชิงพาณิชย์
- Buy the MiniCPM-V 4.7 35B-A3B if งานหลักคือเอกสาร แผนภูมิ ภาพหน้าจอ หรือวิดีโอ และต้องการ Apache 2.0 กับตัวเลือกควอนไทซ์หลายรูปแบบ
- Skip the MiniCPM-V 4.7 35B-A3B if ผลิตภัณฑ์ต้องฟังเสียงหรือสร้างเสียงพูด เพราะโมเดลนี้ตอบเป็นข้อความเท่านั้น
- Buy the LFM3-Audio-2B if ต้องการทดลองประมวลผลเสียงในเครื่องผ่าน Ollama และตรวจสอบเส้นทางรับเสียงให้เข้ากับงานแล้ว
- Skip the LFM3-Audio-2B if ต้องใช้ ASR หลายภาษาโดยไม่ทดสอบ เพราะข้อมูลที่ระบุรองรับ Live ASR เฉพาะภาษาอังกฤษ
