Edge AI คืออะไร และทำไมต้องเริ่มจากบอร์ดเล็กก่อนคลาวด์
Edge AI คือการนำโมเดลปัญญาประดิษฐ์ โดยเฉพาะ local machine learning และ LLM ขนาดเล็ก ไปรันใกล้กับอุปกรณ์และข้อมูลหน้างาน เพื่อลดการพึ่งพาอินเทอร์เน็ต เพิ่มความเป็นส่วนตัว และตอบสนองแบบเรียลไทม์บนฮาร์ดแวร์ที่มีทรัพยากรจำกัด เช่น บอร์ดไมโครคอนโทรลเลอร์หรือเกตเวย์ฝังตัว แนวคิดนี้ตรงข้ามกับภาพที่หลายคนคุ้นจาก LLM บนคลาวด์ที่ตอบได้ทุกเรื่อง แต่ในโลกระบบฝังตัว งานมักแคบและชัดเจน หุ่นยนต์โรงงานไม่ต้องคุยเรื่องการเมือง ระบบอินสเปกชันไม่ต้องรู้เรื่องท่องเที่ยว งานของมันคือเข้าใจเครื่อง งาน คำสั่ง และข้อมูลท้องถิ่นเพื่อทำงานได้เองใกล้จุดเกิดข้อมูล การให้ edge device มีภาษาพอสมควรทำให้อุปกรณ์ฉลาดขึ้น เข้าใจง่ายขึ้น และไม่ต้องพึ่งเครือข่ายตลอดเวลา
รัน LLM บน Arduino UNO Q ให้รอดด้วยโมเดล quantization และการจัดการหน่วยความจำ
การรัน LLM บน Arduino UNO Q ไม่ใช่การยัดโมเดลใหญ่ที่สุดลงบอร์ด แต่คือการออกแบบให้เข้ากับข้อจำกัดหน่วยความจำและงานเฉพาะ การเริ่มจากบทความสอน Local LLM AI Chatbot on UNO Q ช่วยให้เห็นโครงของแอป LLM แบบออฟไลน์จริง ตั้งแต่ติดตั้งโมเดลเล็กไปจนถึงเชื่อมกับส่วนควบคุม หัวใจคือเข้าใจว่าทุกพารามิเตอร์ของโมเดลกินที่ทั้งสตอเรจและ RAM ระหว่าง inference ยังต้องกันพื้นที่ให้ prompt การคำนวณกลางทาง และ KV cache ของทรานส์ฟอร์เมอร์ ยิ่ง context ยาว การใช้หน่วยความจำยิ่งพุ่งขึ้น ตรงนี้โมเดล quantization เข้ามาช่วย แทนที่จะเก็บน้ำหนักด้วยค่าละเอียดสูง เราลดความละเอียดลงเพื่อลดขนาดและ RAM A 1B-parameter model in 4-bit quantization เช่น Llama 3.2 1B Q4 ใช้พื้นที่บนดิสก์ประมาณ 600–700 MB และต้องการ RAM ราว 1 GB ขณะรัน ส่วนโมเดล 3B ที่ความละเอียดเท่ากันจะทะลุ 2 GB ในทางปฏิบัติ quantization ทำให้โมเดลที่เดิมใหญ่เกินไปกลายเป็น “พอรันโลคัลได้” แลกกับความแม่นยำและความลื่นไหลบางส่วนตามสถาปัตยกรรมและ runtime ที่ใช้
กลยุทธ์ใช้งานกับ UNO Q จึงควรเป็น เลือกโมเดลให้เล็กก่อน แล้วค่อยเพิ่ม ไม่ใช่เริ่มจากใหญ่สุด ใช้ quantization ระดับ 4 บิตหรือต่ำกว่าถ้า runtime รองรับ จำกัดความยาว context ตามงานจริงเพื่อลด KV cache เพราะเมื่อ context โต หน่วยความจำก็โตตาม ทดลองทีละโมเดล รันบนบอร์ดจริง วัดการใช้หน่วยความจำและเวลาโต้ตอบกับ prompt ของงานเรา ข้อมูลหน้างานนี้จะให้คำตอบชัดกว่าตาราง benchmark และจะบอกได้ว่าการรัน LLM บน Arduino เหมาะหรือไม่ในโปรเจกต์ถัดไปของคุณ ด้วยสภาพที่ UNO Q ผสม Debian Linux กับฝั่ง Arduino ที่คุยกับเซนเซอร์และแอ็กชูเอเตอร์ได้ การรัน local LLM หรือแม้แต่ VLM ผ่านเครื่องมืออย่าง yzma และ llama สามารถยกระดับจากแค่แชตบอตลอยตัวไปเป็นส่วนหนึ่งของเวิร์กโฟลว์ฝังตัวเต็มรูปแบบที่ผสานข้อความ ภาพ ข้อมูลเฉพาะอุปกรณ์ และสถานะหน้างานเดียวกัน
ออกแบบ AI edge deployment ที่ไม่ง้อคลาวด์ตลอดเวลา
การเอา local machine learning ไปวางหน้างานไม่ใช่เรื่องพลังประมวลผลล้วน แต่คือการเลือกให้ฉลาดพอเหมาะกับบริบท Edge AI จึงต้องตอบคำถามว่า “ปัญญาแบบไหนที่ควรอยู่ใกล้ข้อมูล ใกล้อุปกรณ์ และใกล้การลงมือ” ไม่ใช่ “จะยัดโมเดลใหญ่แค่ไหน” เมื่อ UNO Q รัน Linux ฝั่งหนึ่งและเชื่อมโลก Arduino อีกฝั่ง เราจึงทดลองได้ทั้งเครื่องมือบรรทัดคำสั่ง Python web service และ runtime inferencing แล้วส่งผลไปขยับเซนเซอร์ แอ็กชูเอเตอร์ หรือโหนด Modulino ในโลกจริงได้ทันที ทำให้ local LLM ไม่ใช่แค่บอทตอบคำถาม แต่กลายเป็นขั้นตอนในเวิร์กโฟลว์ฝังตัวของเรา ประโยคที่ควรจำคือ Edge AI ไม่ได้เกี่ยวกับพลังมากขึ้น แต่เกี่ยวกับการเลือกให้ชาญฉลาดขึ้น การใช้โมเดลที่เหมาะกับงาน สถาปัตยกรรมที่สอดคล้องกับฮาร์ดแวร์ และความยืดหยุ่นของ UNO Q ทำให้เราทดสอบ local AI บนฮาร์ดแวร์จริง ในโปรเจกต์จริง ตัวอย่างกรณีใช้งานที่ไม่ต้องพึ่งคลาวด์หรือเน็ตตลอดเวลาได้แก่ ผู้ช่วยบำรุงรักษาเครื่องจักรที่อ่าน log ท้องถิ่นและแนะนำขั้นตอนอย่างปลอดภัย ระบบอินสเปกชันที่วิเคราะห์ภาพและข้อความบนสายการผลิต อุปกรณ์บ้านอัจฉริยะที่โต้ตอบด้วยภาษาโดยไม่ส่งเสียงหรือข้อมูลส่วนตัวขึ้นคลาวด์ เมื่อรวม LLM เข้ากับเวิร์กโฟลว์ edge อื่น เครื่องมือเหล่านี้จะมีประโยชน์ยิ่งขึ้น โดยโค้ดและโมเดลถูกติดตั้งครั้งเดียวแล้วทำงานออฟไลน์ได้ยาวนาน
จาก LLM เดี่ยวสู่ AI agent systems ด้วย LangChain DeepAgents
สำหรับระบบธุรกิจ LLM เดี่ยวไม่พอให้ทำงานยาวและซับซ้อนได้ แม้มันจะเก่งวิเคราะห์และให้เหตุผลจากข้อมูลใน prompt แต่ LLM เองไม่ได้ถูกออกแบบมาเป็นระบบอิสระ มันจำบทสนทนาเดิมไม่เป็นระเบียบ จัดการกระบวนการต่อเนื่องไม่ได้ รันโค้ดเองไม่ได้ ดูแลไฟล์ไม่ได้ ไม่รู้จะประสานผู้เชี่ยวชาญหลายบทบาทอย่างไร และไม่รู้ด้วยซ้ำว่าควรถามมนุษย์เมื่อใด วิธีแก้ปัญหาที่ถูกต้องคือสร้าง agent harness หรือโครงควบคุมรอบ LLM ให้ทำหน้าที่เหมือนระบบปฏิบัติการของเอเจนต์ AI ทำให้โมเดลคุยกับโลกภายนอกได้อย่างตรวจสอบและวางใจได้ โดยเชื่อมเข้ากับหน่วยความจำ ไฟล์ เครื่องมือ และกระบวนการอนุมัติ LangChain DeepAgents คือเฟรมเวิร์กใหม่ที่ตอบโจทย์นี้ มันให้ระบบพร้อมใช้ระดับโปรดักชันบนฐาน LangGraph รวมความสามารถด้านการวางแผน การรันงาน การจัดการหน่วยความจำ การดูแล context ทักษะที่ใช้ซ้ำได้ การมอบหมายให้ซับเอเจนต์ และกติกาการกำกับในเฟรมเดียว ผลคือเราเลิกมอง LLM เป็นทั้งแอป แต่ให้มันเป็น “กลไกการให้เหตุผล” ส่วน agent harness ทำหน้าที่เป็นระบบปฏิบัติการที่เปลี่ยน LLM ให้กลายเป็นซอฟต์แวร์ทำงานเองได้อย่างปลอดภัยและตรวจสอบได้
ต่อยอดสู่ multi-agent ที่คุยกันได้ข้ามช่องทาง พร้อมข้อจำกัดที่ต้องรับมือ
เมื่อมี DeepAgents เราไม่ต้องคิดถึงเอเจนต์ตัวเดียวอีกต่อไป แต่คิดเป็น multi-agent systems ที่แต่ละตัวมีบทบาทเฉพาะและทำงานร่วมกันได้ ตัวอย่างเช่น Alert Triage DeepAgent notebook ที่แสดงให้เห็นว่า execution environment หน่วยความจำ ทักษะ context handling ซับเอเจนต์ และ human oversight ประกอบกันอย่างไรเพื่อแก้ปัญหาจริงในองค์กร เอเจนต์เหล่านี้ทำงานร่วมกันผ่านเครื่องมือแบบ virtual filesystem sandbox ตัวแปลโค้ด โปรโตคอลอย่าง MCP และทรัพยากรภายนอกเช่น GitHub Jira ฐานข้อมูล API และบริการคลาวด์อื่น ทำให้เอเจนต์หลายตัวแลกเปลี่ยนข้อมูลและประสานงานได้แม้อยู่คนละช่องทางสื่อสาร แน่นอน ระบบแบบนี้มีข้อจำกัดที่ต้องจัดการ LLM แต่ละตัวยังติดเพดาน context เมื่อบทสนทนาหรือกระบวนการยาว หน่วยความจำจะถูกใช้มากขึ้นและเสี่ยงหลุดตรรกะกลางทาง อีกด้าน LLM เดียวไม่สามารถจัดไฟล์ รันโค้ด หรือขออนุมัติได้เองโดยไม่มีกรอบรอบตัว ดังนั้นสถาปนิกระบบควรใช้บทเรียนจากทั้งโลก embedded และ enterprise มาจัดการ บนฮาร์ดแวร์เบา เน้นโมเดล quantization เล็ก context สั้น และเวิร์กโฟลว์ชัด บนฝั่งเซิร์ฟเวอร์ ใช้ DeepAgents ออกแบบโครงควบคุมหลายเอเจนต์ ให้รันงานยาว เชื่อมไฟล์ เครื่องมือ และมนุษย์ได้ เมื่อสองโลกนี้เชื่อมกัน เราจะได้ตั้งแต่เซนเซอร์ราคาจับต้องได้ที่มี LLM เล็กๆ ประจำการ ไปจนถึงระบบ AI agent ระดับโปรดักชันที่วิเคราะห์ ตัดสินใจ และสั่งงานกลับมาที่ edge โดยไม่ต้องใช้คลาวด์ตลอดเวลา
