AI บนอุปกรณ์: เมื่อโมเดล LLM ขนาดเล็กแปลงมือถือให้กลายเป็นสมองกล

AI บนอุปกรณ์คืออะไร และทำไมถึงเป็นจุดเปลี่ยนสำคัญ

AI บนอุปกรณ์คือการนำโมเดลปัญญาประดิษฐ์ไปทำงานโดยตรงบนฮาร์ดแวร์ส่วนตัวของเรา ตั้งแต่มือถือ โน้ตบุ๊ก ไปจนถึงบอร์ดขนาดเล็ก โดยไม่ต้องพึ่งการประมวลผลบนคลาวด์หรือเซิร์ฟเวอร์ระยะไกล ทำให้การตอบสนองเร็วขึ้น ใช้งานได้แม้ไม่มีอินเทอร์เน็ต และลดความเสี่ยงด้านความเป็นส่วนตัวเพราะข้อมูลไม่ต้องออกจากเครื่องเลย นี่ไม่ใช่แค่การย้ายโมเดลจากศูนย์ข้อมูลมาสู่ขอบเครือข่าย แต่คือการเปลี่ยนวิธีคิดว่าปัญญาประดิษฐ์ควรอยู่ที่ไหน และควรรับใช้ผู้ใช้ในชีวิตประจำวันอย่างไร

โมเดล LLM ขนาดเล็กจึงกลายเป็นหัวใจของ AI ท้องถิ่นที่ใช้งานได้จริง โดยช่วง 2.6B ถึง 9B พารามิเตอร์กำลังพิสูจน์ว่าความฉลาดไม่จำเป็นต้องแลกด้วยฮาร์ดแวร์ระดับศูนย์ข้อมูลอีกต่อไป โมเดลอย่าง LFM2.5-2.6B ถูกออกแบบให้ทำงานบนสมาร์ทโฟน โน้ตบุ๊ก และแม้กระทั่ง Raspberry Pi ได้โดยไม่ต้องใช้คลาวด์หรือ GPU เลย แสดงให้เห็นชัดว่าการประมวลผลแบบ edge computing AI ไม่ใช่แค่คำสวยหรู แต่คือแนวทางใช้งานจริงที่จับต้องได้สำหรับผู้ใช้ทั่วไปและองค์กรที่ห่วงข้อมูล

จาก Raspberry Pi ถึงไมโครคอนโทรลเลอร์: โมเดล LLM ขนาดเล็กกำลังไหลลงสู่ขอบเครือข่าย

กระแส AI บนอุปกรณ์ไม่ได้หยุดอยู่แค่มือถือและโน้ตบุ๊ก แต่กำลังไหลลงไปถึงฮาร์ดแวร์ระดับบอร์ดเล็กและไมโครคอนโทรลเลอร์ด้วย โมเดล LFM2.5-2.6B ที่มี 2.6 พันล้านพารามิเตอร์สามารถทำงานได้ดีบน CPU และถูกออกแบบรอบประสิทธิภาพบน CPU แทนที่จะไล่ตามคะแนนบน GPU นี่คือการประกาศอย่างไม่เป็นทางการว่า AI ท้องถิ่นสามารถอยู่ในอุปกรณ์ราคาย่อมเยาได้จริง ไม่ใช่ของเล่นเฉพาะคนมีเครื่องแรงอีกต่อไป

ในอีกด้าน นักพัฒนาอิสระยังแสดงให้เห็นว่าขอบเขตสามารถถูกดันไกลกว่านั้น เมื่อมีโมเดลราว 28.9 ล้านพารามิเตอร์ทำงานบน ESP32-S3 ซึ่งเป็นไมโครคอนโทรลเลอร์สำหรับโหนดเซ็นเซอร์และปลั๊กอัจฉริยะ โดยสร้างข้อความได้ราว 9.88 โทเคนต่อวินาทีแบบออฟไลน์ทั้งหมด โดยไม่มีข้อมูลใดออกจากชิปเลย นี่คือคำพูดที่ควรค่าแก่การหยิบไปอ้างว่า “การประมวลผล 9.88 tokens per second บนอุปกรณ์ระดับนี้เร็วกว่าอัตราการอ่านของคนส่วนใหญ่” และมันสะท้อนว่า edge computing AI ไม่ได้เป็นแนวคิดในห้องวิจัยอีกแล้ว แต่กำลังแทรกตัวเข้าทุกมุมของอุปกรณ์อัจฉริยะในบ้าน

เมื่อโน้ตบุ๊กธรรมดาได้คำตอบระดับโมเดลยักษ์: Ornith 9B และศักยภาพใหม่ของ AI ท้องถิ่น

บนฝั่งโน้ตบุ๊ก โมเดล 9B อย่าง Ornith 9B กำลังแสดงให้เห็นว่าการออกแบบและการเทรนสำคัญกว่าจำนวนพารามิเตอร์เพียงอย่างเดียว โมเดลนี้เป็นสมาชิกที่เล็กที่สุดในตระกูล Ornith 1.0 ซึ่งมีรุ่น 31B, 35B และ 397B แต่กลับให้คำตอบบนโน้ตบุ๊กที่ใกล้เคียงกับโมเดลระดับ 35B และรองรับการอ่านรูปภาพด้วยเมื่อใช้บิลด์ที่เหมาะสม การที่โมเดลได้รับการเทรนด้วยแนวทาง reinforcement learning ที่ให้มันสร้างและปรับโครงงานแก้ปัญหาของตัวเอง แทนที่จะใช้ลูปเอเจนต์ที่คนเขียนไว้ตายตัวคือการขยับขอบเขตความสามารถของ AI ท้องถิ่นอย่างแท้จริง

น่าสนใจที่ Ornith 9B ถูกสร้างมาสำหรับงานเฉพาะอย่าง agentic coding และกลับเอาชนะโมเดลที่ใหญ่กว่าถึงสามเท่าในการทดสอบโค้ดจริง พร้อมทั้งยังทำงานได้บนฮาร์ดแวร์ที่คำแนะนำ AI ท้องถิ่นส่วนใหญ่เรียกว่าล้าสมัย นี่คือบทเรียนสำหรับผู้ใช้และองค์กร: แทนที่จะยึดติดกับตัวเลขพารามิเตอร์ เราควรถามว่าโมเดลนั้นถูกออกแบบเพื่อแก้ปัญหาอะไร และมันสามารถทำงานบนอุปกรณ์ที่เรามีอยู่แล้วได้หรือไม่ โมเดล LLM ขนาดเล็กที่ดีจึงไม่ใช่เวอร์ชันด้อยคุณภาพของโมเดลใหญ่ แต่เป็นสมองกลเฉพาะทางที่เหมาะกับการอยู่ใกล้ผู้ใช้มากกว่าบนคลาวด์ห่างไกล

จากเอเจนต์ท้องถิ่นสู่การจดจำภาพ: ใช้ AI บนมือถือและอุปกรณ์ส่วนตัวให้คุ้มค่า

กำลังของ AI ท้องถิ่นไม่ได้อยู่แค่ตัวโมเดล แต่อยู่ที่งานที่มันช่วยเราทำได้โดยไม่ต้องส่งข้อมูลออกนอกเครื่อง โมเดลอย่าง LFM2.5-2.6B ถูกออกแบบมาสำหรับงานเอเจนต์ที่ชัดเจน เช่น การเรียกใช้เครื่องมือ จัดการเอกสาร ดูแลปฏิทินและเวิร์กโฟลว์อัตโนมัติ รวมถึงรันรูทีนเบื้องหลังที่ทำงานอยู่ตลอดเวลา แนวคิดคือการมีผู้ช่วยดิจิทัลที่ “เช็คว่าคุณกำลังทำอะไร เช็คปฏิทิน แล้วใช้บริบทนั้นไปทำงานให้คุณ” โดยไม่ต้องส่งข้อมูลส่วนตัวขึ้นคลาวด์เลย นี่ต่างหากคือภาพของ AI บนมือถือที่เคารพความเป็นส่วนตัวของผู้ใช้

เมื่อรวมกับความสามารถด้านการอ่านภาพและอัตโนมัติซอฟต์แวร์ เราเริ่มเห็นเคสใช้งานที่น่าสนใจบนอุปกรณ์ส่วนตัว เช่น แอปผู้ช่วยท้องถิ่นที่สามารถอ่านภาพหน้าจอแล้วช่วยกรอกแบบฟอร์มอัตโนมัติ, ระบบจดจำภาพเพื่อจัดหมวดหมู่รูปในเครื่อง, หรือเอเจนต์ที่จัดการงานและเอกสารให้แบบออฟไลน์ Edge AI จึงลดเวลาในการตอบสนองและเปิดทางให้ฟังก์ชันออฟไลน์สำหรับแอปผู้บริโภคทั่วไป ตั้งแต่รถยนต์ หุ่นยนต์ ไปจนถึงบริการอัตโนมัติในบ้าน ถ้าเรายอมให้ AI เข้ามาอยู่ในอุปกรณ์ประจำตัวอย่างแท้จริง มันก็สามารถเป็นผู้ช่วยส่วนตัวที่น่าเชื่อถือกว่าระบบคลาวด์ที่เห็นหน้าเราแค่ผ่านอินเทอร์เน็ต

บทสรุป: อนาคตของ AI อยู่ในมือถือของคุณ ไม่ใช่ศูนย์ข้อมูลห่างไกล

เมื่อมองภาพรวม แนวโน้มชัดเจนมาก: โมเดล LLM ขนาดเล็กกำลังดัน AI จากศูนย์ข้อมูลลงสู่มือผู้ใช้ โดยใช้ข้อได้เปรียบด้านความเร็ว ความเป็นส่วนตัว และความยืดหยุ่นในการดีพลอยบนฮาร์ดแวร์ธรรมดา การที่ LFM2.5-2.6B ทำงานได้ตั้งแต่มือถือถึง Raspberry Pi โดยไม่ต้องพึ่งคลาวด์หรือ GPU การที่ไมโครคอนโทรลเลอร์ระดับ ESP32-S3 ยังรันโมเดลข้อความแบบออฟไลน์ได้ และการที่ Ornith 9B ให้คำตอบใกล้เคียงโมเดล 35B พร้อมรองรับภาพบนโน้ตบุ๊กธรรมดา ล้วนชี้ไปในทิศทางเดียวกันว่า ขอบเขตของ AI ท้องถิ่นกำลังขยายตัวเร็วกว่าที่คนส่วนใหญ่คิด

เราควรหยุดคิดว่า AI ที่ดีต้องอยู่บนคลาวด์เสมอ และเริ่มถามว่าปัญหาของเราต้องการของใหญ่แค่ไหนกันแน่ สำหรับงานจำนวนมาก ตั้งแต่เอเจนต์บนมือถือ การจำภาพบนเครื่อง ไปจนถึงอัตโนมัติซอฟต์แวร์ในโน้ตบุ๊ก โมเดล LLM ขนาดเล็กที่ออกแบบดีบน AI บนอุปกรณ์ให้ประสิทธิภาพคุ้มค่าโดยแทบไม่มีค่าใช้จ่ายด้านอินฟราสตรักเจอร์เพิ่มเลย อนาคตของ AI ที่เป็นมิตรกับผู้ใช้จึงน่าจะไม่ใช่ซูเปอร์คอมพิวเตอร์ที่เราไม่มีวันเห็น แต่เป็นสมองกลขนาดกะทัดรัดที่นั่งอยู่เงียบ ๆ ในมือถือและแกดเจ็ตรอบตัวเรา