AI บนอุปกรณ์คืออะไร และทำไมเราควรสนใจตอนนี้
AI บนอุปกรณ์ คือแนวทางที่โมเดลปัญญาประดิษฐ์ทำงานโดยตรงบนสมาร์ตโฟน แล็ปท็อป หรือบอร์ดอย่าง Raspberry Pi แทนการส่งข้อมูลไปประมวลผลบนคลาวด์ ทำให้การตอบสนองเร็วขึ้น ลดความเสี่ยงด้านความเป็นส่วนตัว และลดต้นทุนโครงสร้างพื้นฐานลงอย่างชัดเจนสำหรับทั้งผู้ใช้ทั่วไปและองค์กรขนาดใหญ่
โมเดล LFM2.5-2.6B ของ Liquid AI คือหลักฐานชัดเจนว่า on-device inference ไม่ใช่แค่แนวคิดทดลอง แต่ทำได้จริงบนฮาร์ดแวร์เล็กๆ โดยไม่ต้องใช้ GPU หรือโครงสร้างคลาวด์เลย การออกแบบสถาปัตยกรรมให้ทำงาน “ดีมาก” บน CPU แทนการวิ่งตามคะแนน benchmark บน GPU แสดงท่าทีที่สวนกระแส แต่ตอบโจทย์โลก edge computing AI ที่ต้องการความกระทัดรัด ใช้ไฟน้อย และพร้อมทำงานตลอดเวลา ใครที่ยังคิดว่า AI แรงๆ ต้องอยู่ในดาต้าเซ็นเตอร์ คงต้องเริ่มทบทวนมุมมองใหม่เสียที
LFM2.5-2.6B: โมเดล AI ขนาดเล็กที่รันได้แม้บน Raspberry Pi
หัวใจของการผลักดัน AI บนอุปกรณ์คือการทำให้โมเดลเล็กพอ แต่ยังเก่งพอ และ LFM2.5-2.6B ก็ออกแบบมาเพื่อตรงจุดนั้น โมเดลภาษา 2.6 พันล้านพารามิเตอร์นี้รองรับ context window ขนาดใหญ่และมีความสามารถเรียกใช้เครื่องมือภายนอกในตัว ทำให้เหมาะกับ “เอเจนต์” ที่ต้องทำงานต่อเนื่อง เช่น จัดการเอกสาร ปฏิทิน เวิร์กโฟลว์ และรูทีนเบื้องหลังที่ทำงานบนเครื่องของผู้ใช้เอง
สิ่งที่น่าสนใจคือ Liquid AI ยืนยันว่าตัวโมเดลทำงานได้ “เร็วมาก” บน CPU ทั่วไป และถูกออกแบบโดยยึดประสิทธิภาพจริงบน CPU ไม่ใช่ตัวเลขสวยๆ บน GPU ที่สำคัญ มันสามารถรันได้ตั้งแต่สมาร์ตโฟน แล็ปท็อป ไปจนถึง Raspberry Pi โดยไม่ต้องพึ่งคลาวด์หรือ GPU เลย ซึ่งหมายความว่า edge computing AI ไม่ได้จำกัดอยู่แค่เครื่องเซิร์ฟเวอร์ราคาแพงอีกต่อไป แต่ขยับลงมาสู่บอร์ดเล็กในราคาย่อมเยาในระดับผู้ใช้ทั่วไป
เร็วกว่า ใหญ่กว่าเสมอไปหรือไม่: เมื่อโมเดลเล็กวิ่งแซงโมเดลยักษ์
คำถามสำคัญคือ โมเดล AI ขนาดเล็กทำงานได้จริงแค่ไหนเมื่อเทียบกับโมเดลยักษ์บนคลาวด์ ผลทดสอบจากแพลตฟอร์มไคลเอนต์ AI รายหนึ่งชี้ว่า LFM2.5-2.6B สามารถทำ tool call 35 ครั้งเพื่อทำ 3 งาน (เช็คสภาพอากาศและเวลาท้องถิ่นหลายเมือง แปลงงบประมาณหลายสกุล และค้นหาโรงแรมพร้อมจอง) ได้เร็วกว่าโมเดล DeepSeek-V4-Flash ซึ่งมีพารามิเตอร์สูงถึง 284 พันล้าน ถึง 3.7 เท่า
เมื่อมองผ่านเลนส์ edge computing AI เราจะเห็นว่าปัญหาไม่ได้อยู่ที่ “โมเดลต้องใหญ่ที่สุด” แต่คือ “โมเดลต้องตอบสนองทันที” บนฮาร์ดแวร์ที่มีข้อจำกัด บริษัทระบุว่า LFM2.5-2.6B ทำความเร็วได้ประมาณ 220 token ต่อวินาทีบน Apple M5 Max และ 113 token ต่อวินาทีบน AMD Ryzen AI Max+ 395 โดยใช้หน่วยความจำน้อยกว่า 2.5 GB และราว 30 token ต่อวินาทีบนสมาร์ตโฟน ประโยคนี้ควรค่าแก่การหยิบไปอ้าง: “โมเดลขนาด 2.6 พันล้านพารามิเตอร์สามารถตอบสนองบนมือถือได้ในระดับเรียลไทม์โดยไม่ต้องแตะคลาวด์เลย”
ข้อได้เปรียบของ on-device inference: เมื่อความเร็ว ความเป็นส่วนตัว และต้นทุนมาบรรจบกัน
การให้โมเดลทำงานแบบ on-device inference มีข้อดีเชิงโครงสร้างที่โมเดลบนคลาวด์ให้ไม่ได้ สิ่งแรกคือดีเลย์ที่ลดลงอย่างมาก เพราะไม่ต้องส่งข้อมูลขึ้นเซิร์ฟเวอร์แล้วรอคำตอบกลับมา ทุกอย่างเกิดบนอุปกรณ์ ทำให้ประสบการณ์ผู้ใช้ในงานโต้ตอบเร็ว เช่น ผู้ช่วยส่วนตัวหรือระบบแจ้งเตือนแบบเรียลไทม์ ลื่นไหลกว่าชัดเจน
ข้อสองคือความเป็นส่วนตัว ข้อมูลที่อ่อนไหวไม่ต้องออกจากอุปกรณ์ เหมาะกับองค์กรที่ทำงานภายใต้กฎระเบียบเข้มงวดหรือไม่ต้องการส่งข้อมูลขึ้นคลาวด์เลย และข้อสามคือต้นทุน เมื่อ inference รันบน CPU ที่มีอยู่แล้ว ค่าใช้จ่ายหลักแทบเหลือเพียงค่าไฟ ซึ่งแหล่งข่าวหนึ่งชี้ว่า “การรันเอเจนต์เฉพาะงานที่มีประสิทธิภาพบนอุปกรณ์อาจคุ้มค่าเพียงแค่ค่าไฟ” นี่คือเหตุผลว่าทำไม edge AI inference จึงเริ่มดึงองค์กรให้ลดการพึ่งพาโครงสร้าง GPU หนักๆ ลง และหันมาออกแบบระบบที่สมาร์ตโฟนก็ทำงานได้เต็มที่
อนาคตของ AI บนอุปกรณ์: จากของเล่นนักพัฒนา สู่โครงสร้างพื้นฐานใหม่
เมื่อโมเดลอย่าง LFM2.5-2.6B รันบนโทรศัพท์และ Raspberry Pi ได้โดยไม่ต้องพึ่งคลาวด์ เราควรถามตัวเองใหม่ว่า “AI ที่แท้จริง” อยู่ที่ไหนกันแน่ ระหว่างดาต้าเซ็นเตอร์หรืออุปกรณ์ในมือผู้ใช้ ในมุมมองหนึ่ง โมเดลใหญ่บนคลาวด์ยังจำเป็นสำหรับงานซับซ้อน เช่น การเขียนโค้ดหรือวิเคราะห์ข้อมูลเชิงลึก แต่การทำงานประจำที่ต้องตอบสนองเร็วและใช้ข้อมูลส่วนตัว กลับเหมาะกับโมเดลเล็กที่อยู่ข้างผู้ใช้ตลอดเวลา
การที่ผู้ใช้สามารถลองโมเดลบนมือถือผ่านแอป Apollo ของ Liquid AI แสดงให้เห็นว่าบริษัทไม่ได้มอง on-device inference เป็นแค่เดโม แต่คือประสบการณ์จริงสำหรับผู้ใช้ปลายทาง หากแนวโน้มนี้เดินต่อไป เราอาจเห็น AI บนอุปกรณ์กลายเป็น “ระบบปฏิบัติการชั้นที่สอง” ที่ทำงานคู่กับ OS เดิม คอยจัดการปฏิทิน เอกสาร งานบ้าน ไปจนถึงหุ่นยนต์และยานยนต์ที่ทำงานในสภาพแวดล้อมเชื่อมต่อจำกัด เมื่อถึงวันนั้น คำถามจะไม่ใช่ “เราจะใช้คลาวด์หรือออนดีไวซ์” แต่คือ “เราจะผสมทั้งสองอย่างอย่างไรให้ผู้ใช้ได้ประโยชน์สูงสุด”
