ยุคใหม่ของ AI models edge devices: พลังระดับคลาวด์บนอุปกรณ์ไซส์เล็ก
AI models edge devices คือแนวทางการนำโมเดลปัญญาประดิษฐ์ไปทำงานโดยตรงบนอุปกรณ์ปลายทาง เช่น สมาร์ทโฟน Raspberry Pi หรือไมโครคอนโทรลเลอร์ โดยไม่ต้องพึ่งการประมวลผลผ่านคลาวด์ เปิดโอกาสให้งานอัตโนมัติและผู้ช่วยอัจฉริยะทำงานได้แบบออฟไลน์ มีความเป็นส่วนตัวสูงขึ้น ลดค่าใช้จ่ายด้านโครงสร้างพื้นฐาน และเหมาะกับสภาพแวดล้อมที่ขาดการเชื่อมต่ออินเทอร์เน็ตหรือมีข้อกำกับด้านข้อมูลเข้มงวด. หัวใจสำคัญไม่ใช่แค่ “รันได้” แต่คือ “รันได้ดี” บนฮาร์ดแวร์ราคาย่อมเยา ปัจจุบันโมเดลอย่าง LFM2.5-2.6B สามารถทำงานบนฮาร์ดแวร์ท้องถิ่น ตั้งแต่สมาร์ทโฟน แล็ปท็อป ไปจนถึง Raspberry Pi โดยไม่ต้องพึ่งคลาวด์หรือ GPU ทำให้การทำ offline AI inference กลายเป็นทางเลือกจริงจังขององค์กรที่ต้องการปกป้องข้อมูลภายในและลดความเสี่ยงด้านความเป็นส่วนตัวพร้อมกัน.
Raspberry Pi AI: LFM2.5-2.6B แสดงให้เห็นว่าขนาดเล็กไม่ได้แปลว่าเชื่องช้า
Liquid เปิดตัว LFM2.5-2.6B โมเดลภาษา 2.6 พันล้านพารามิเตอร์ที่ออกแบบมาเพื่อภาระงานแบบเอเจนต์โดยเฉพาะ และสามารถรันได้เต็มรูปแบบบนฮาร์ดแวร์ท้องถิ่น ตั้งแต่สมาร์ทโฟน แล็ปท็อป ไปจนถึง Raspberry Pi โดยไม่ต้องใช้คลาวด์หรือ GPU นั่นทำให้แนวคิด Raspberry Pi AI ไม่ใช่ของเล่นทดลองอีกต่อไป แต่เป็นแพลตฟอร์มเอเจนต์อัตโนมัติที่ใช้ทำงานจริงได้. Maxime Labonne ระบุว่า Raspberry Pi คือ “ตัวอย่างที่ดีที่สุด” เพราะมีเดโมมากมายที่แสดงว่ามันทำงานได้เร็วบนบอร์ดเล็กนี้ ตัวเลขสมรรถนะที่รายงานก็น่าสนใจ: โมเดลถอดรหัสได้ราว 220 โทเคนต่อวินาทีบน Apple M5 Max และ 113 โทเคนต่อวินาทีบน AMD Ryzen AI Max+ 395 โดยใช้หน่วยความจำน้อยกว่า 2.5GB และประมาณ 30 โทเคนต่อวินาทีบนสมาร์ทโฟน เมื่อเทียบกับความเร็วระดับ 15,000 โทเคนต่อวินาทีบน GPU รุ่นใหญ่ โมเดลเดียวกันสามารถรองรับทั้งการใช้งาน edge และศูนย์ข้อมูลได้ในสเกลที่ต่างกันชัดเจน.
จากสมาร์ทโฟนถึงไมโครคอนโทรลเลอร์: local LLM microcontroller และเอเจนต์ออฟไลน์
จุดเปลี่ยนสำคัญคือเมื่อ local LLM microcontroller ไม่ใช่แนวคิดในงานวิจัยอีกต่อไป นักพัฒนาที่ใช้ชื่อ slvDev ทำให้โมเดลภาษา 28.9 ล้านพารามิเตอร์สร้างข้อความบน ESP32-S3 ซึ่งเป็นไมโครคอนโทรลเลอร์สำหรับงานเซ็นเซอร์และสมาร์ตปลั๊ก ได้ที่ประมาณ 9.88 โทเคนต่อวินาที โดยไม่มีข้อมูลใดออกจากชิปเลย โปรเจ็กต์นี้ถูกปล่อยบน GitHub ภายใต้ไลเซนส์ MIT แสดงให้เห็นว่าการทำ offline AI inference ระดับพื้นฐานสามารถลงไปอยู่ในบอร์ดราคาประหยัดได้แล้ว. ในฝั่งมือถือ LFM2.5-2.6B มีแอป Apollo ให้ผู้ใช้ทดลองโมเดลบนโทรศัพท์ของตัวเอง และทีมผู้พัฒนาได้สร้าง agent harness ที่รันบนโทรศัพท์เพื่อให้โมเดลวางแผนและเรียกใช้เครื่องมือได้ทั้งหมดบนอุปกรณ์เดียว เมื่อเอเจนต์ทำงานในเครื่องโดยตรง มันสามารถตรวจสอบกิจกรรมของผู้ใช้ ปฏิทิน และบริบทต่างๆ เพื่อดำเนินงานตามนั้นได้ในพื้นหลังโดยไม่ต้องไปแตะคลาวด์เลย.
เอเจนต์อัตโนมัติบนอุปกรณ์ปลายทาง: ใช้งานจริงได้แค่ไหน
จุดแข็งของ LFM2.5-2.6B ไม่ใช่การแชททั่วไป แต่คือการเป็น “คนทำงานในเครื่อง” ที่เก่งเอเจนต์ งานที่เหมาะจึงเป็นงานปริมาณมาก กรอบชัด และรันซ้ำได้บนอุปกรณ์ปลายทาง เช่น การเรียกใช้เครื่องมือ การจัดการเอกสาร ปฏิทิน ระบบอัตโนมัติเวิร์กโฟลว์ และรูทีนที่ต้องทำงานเบื้องหลังตลอดเวลา รวมถึงสภาพแวดล้อมที่เชื่อมต่อยากอย่างยานยนต์และหุ่นยนต์ ในขณะที่งานเขียนโค้ดหนักๆ ยังควรมอบให้โมเดลใหญ่ในคลาวด์. สำหรับองค์กร แม้จะไม่มีข้อกำกับเรื่องข้อมูล ข้อเท็จจริงที่ว่าเอเจนต์เฉพาะงานที่มีสมรรถนะดีสามารถรันในราคาค่าไฟเท่านั้นก็เพียงพอให้โมเดลนี้น่าสนใจ เพราะ edge deployment ตัดการพึ่งพาคลาวด์และ GPU ออกไป ขณะที่ยังรักษาประสิทธิภาพงานเอเจนต์ไว้ได้ คุณจึงได้ผู้ช่วยที่ตรวจเช็กสิ่งที่คุณทำ ดูปฏิทิน และลงมือทำงานตามบริบทให้โดยอัตโนมัติในเครื่องของคุณเอง ไม่ต้องห่วงเรื่องข้อมูลหลุดออกไปไหน.
ประสิทธิภาพเทียบคลาวด์: ทำไม edge AI กำลังกลายเป็นตัวเลือกหลัก
คำถามใหญ่คือ โมเดลเล็กที่รันบนอุปกรณ์ท้องถิ่น จะสู้โมเดลใหญ่บนคลาวด์ได้หรือไม่ในงานจริง ผลทดสอบจากแพลตฟอร์มไคลเอนต์ AI รายหนึ่งพบว่า LFM2.5-2.6B ทำการเรียกเครื่องมือ 35 ครั้งเพื่อทำ 3 ภารกิจ เช่น ตรวจสภาพอากาศและเวลาท้องถิ่นใน 6 เมือง แปลงงบประมาณหนึ่งก้อนเป็น 6 สกุลเงิน ตรวจ 4 โรงแรมและจองตามวันที่ ได้เร็วกว่าโมเดลขนาด 284 พันล้านพารามิเตอร์ถึง 3.7 เท่า นี่คือข้อพิสูจน์ว่าในงานเอเจนต์ที่ต้องโต้ตอบกับเครื่องมือจำนวนมาก ความเร็ว ต้นทุน และการตอบสนองทันทีสำคัญกว่าคะแนนเบนช์มาร์กบนกระดาษ. เมื่อรวมความเร็วระดับหลายร้อยโทเคนต่อวินาทีบนซีพียูทั่วไปกับการรันได้หลายหมื่นโทเคนต่อวินาทีบน GPU ชั้นนำ เราเริ่มเห็นภูมิทัศน์ใหม่ที่โมเดลเดียวกันใช้ได้ทั้งในศูนย์ข้อมูลและบนอุปกรณ์ปลายทางอย่างยืดหยุ่น แนวโน้มนี้ชี้ชัดว่าทั้งนักพัฒนาและองค์กรควรเริ่มออกแบบระบบโดยคิดถึง edge AI เป็นตัวเลือกหลัก ไม่ใช่แค่ภาคเสริม. ในมุมมองของผู้เขียน เมื่อ local LLMs เริ่มครอบคลุมตั้งแต่มือถือไปจนถึงไมโครคอนโทรลเลอร์ เราไม่ได้ถามแล้วว่า “ทำได้ไหม” แต่ควรถามว่า “จะออกแบบงานและธุรกิจให้ฉลาดขึ้นอย่างไร เมื่อ AI อยู่ในทุกอุปกรณ์รอบตัวเรา”.
