ทำงาน AI ในเครื่องคืออะไร และทำไมถึงกำลังกลับมา
ทำงาน AI ในเครื่อง คือการให้โมเดลปัญญาประดิษฐ์ประมวลผลบนคอมพิวเตอร์หรือโทรศัพท์ของเราเองโดยไม่ต้องส่งคำสั่งไปยังเซิร์ฟเวอร์ระยะไกล ช่วยลดการพึ่งพาอินเทอร์เน็ต ลด cost API ที่คิดตามการเรียกใช้งาน และให้การตอบสนองที่รวดเร็วขึ้นในงานประจำวัน เช่น การเขียนอีเมล สรุปเอกสาร หรือแปลงเสียงเป็นข้อความ พร้อมเพิ่มความเป็นส่วนตัวเพราะข้อมูลไม่ออกจากอุปกรณ์ ทำให้ผู้ใช้ควบคุมเวิร์กโฟลว์และทรัพยากรเครื่องได้ละเอียดกว่าเมื่อใช้บริการ Cloud แบบเต็มตัว มุมมองที่น่าสนใจคือ เมื่อทบทวนการใช้งาน AI บนมือถือ หลายคนใช้แค่ให้ช่วยแก้คำอีเมลหรืออธิบายศัพท์ใหม่ ซึ่งงานเหล่านี้ไม่จำเป็นต้องใช้โมเดลขนาดใหญ่ในดาต้าเซ็นเตอร์เลย จุดเปลี่ยนสำคัญคือการ ทดลอง offline AI จนพบว่า cloud AI ไม่ได้จำเป็นสำหรับทุกงาน และ Claude หรือ ChatGPT จึงไม่ใช่ตัวเลือกอัตโนมัติอีกต่อไปเมื่อมีเอกสารส่วนตัวหรือสถานการณ์ที่ขาดการเชื่อมต่อ
ลด cost API และดีเลย์ด้วยการรันโมเดลบนอุปกรณ์
ข้อได้เปรียบเชิงธุรกิจสำคัญของการทำงาน AI ในเครื่องคือการลด cost API เพราะการทดสอบเวิร์กโฟลว์หรือแพลตฟอร์มที่ต้องเรียกโมเดลวันละหลายสิบครั้ง หากใช้ API แบบจ่ายตามการเรียก จะเท่ากับเสียค่าใช้จ่ายเพิ่มขึ้นตามจำนวนข้อผิดพลาดของเราเองแทนที่จะเป็นตามการใช้งานที่มีคุณค่า เมื่อย้ายการประมวลผลมาอยู่บนอุปกรณ์ การลองผิดลองถูกเหล่านี้แทบไม่เพิ่มต้นทุนด้านบริการภายนอกเลย นอกจากค่าใช้จ่ายแล้ว ดีเลย์จากการส่งคำสั่งขึ้น Cloud ก็หายไป เพราะการตอบกลับเกิดขึ้นในเครื่องทันทีที่โมเดลพร้อมใช้งาน การ ทดลอง offline AI จึงเหมาะมากในพื้นที่ที่สัญญาณไม่เสถียร หรือมีปัญหาไฟตกที่กระทบสัญญาณมือถือ ทำให้ยังใช้งาน AI ได้ต่อเนื่องแม้ไม่มีการเชื่อมต่อ ผลคือประสบการณ์ Local LLM productivity ที่ลื่นไหลกว่าในงานประจำ เช่น แก้ข้อความ สรุปเนื้อหา หรืออธิบายแนวคิดสั้น ๆ
ตั้งค่าระบบ Local LLM ให้ใช้ได้จริงในงานประจำวัน
การเปลี่ยนมาใช้ Local LLM productivity ไม่ใช่แค่ดาวน์โหลดโมเดล แต่ต้องเลือกเครื่องมือและปรับฮาร์ดแวร์ให้เหมาะสม ตัวอย่างหนึ่งคือการตั้งระบบสามขั้นตอนสำหรับแอปจดบันทึกจากเสียง เริ่มจากใช้ whisper.cpp ติดตั้งผ่านเครื่องมือจัดการแพ็กเกจและโหลดโมเดลขนาดเล็ก base.en จาก Hugging Face ก่อนนำมารันผ่าน whisper-server เป็น HTTP endpoint ให้ส่งไฟล์เสียงและรับข้อความถอดเสียงกลับมาได้ในเครื่อง ขั้นถัดไปคือชั้นเขียนพรอมต์ โดยใช้ Ollama รันโมเดล Qwen2.5 ขนาด 3B บนเครื่องให้ช่วยแปลงข้อความจากเสียงเป็นคำอธิบายภาพสั้น ๆ ที่ชัดเจน ขั้นสุดท้ายคือสร้างภาพ ซึ่งต้องระวังเรื่องเครื่องมือและการดูแลโปรเจ็กต์ เริ่มใช้ระบบหนึ่งแล้วเจอปัญหา repository ไม่ได้รับการดูแล โมดูลย่อยเสีย และความไม่เข้ากันของเวอร์ชันไลบรารี Python ส่งผลให้เสียเวลามากแม้ไม่ใช่ทางตันเชิงเทคนิค การเปลี่ยนไปใช้โมเดลภาพที่ขนาดเล็กกว่า ใบอนุญาตชัดเจน และดูแลสม่ำเสมอจึงช่วยให้ทำงาน AI ในเครื่องได้ต่อเนื่อง ไม่สะดุดกลางทาง
ข้อจำกัดด้านคุณภาพ ความสะดวก และพลังงานของโมเดลในเครื่อง
แม้ทำงาน AI ในเครื่องจะน่าสนใจ แต่ก็มีจุดอ่อนที่ต้องยอมรับ คุณภาพผลลัพธ์จากโมเดลท้องถิ่นอาจยังไม่ถึงระดับโปรดักชันสำหรับงานที่ต้องมาตรฐานสูง เช่น ภาพประกอบที่เป็นหัวใจของผลิตภัณฑ์ จึงมีกรณีที่ต้องทดสอบเวิร์กโฟลว์กับ API ของผู้ให้บริการรายใหญ่เป็นระยะ เพื่อยืนยันว่าระบบทำงานได้ถูกต้องแม้ตัวภาพจริงจะใช้โมเดลบน Cloud บนมือถือ ข้อจำกัดหลักคือหน่วยความจำและแบตเตอรี่ หน่วยความจำ 8GB ทำให้การเลือกโมเดลต้องอยู่ในช่วง 2B ถึง 4B แบบ quant และยังต้องลด context length ให้เหลือราว 4k ถึง 8k เพื่อไม่ให้แอปแครช ด้านพลังงาน มีการวิเคราะห์พบว่า การรัน inference 20 ครั้งอาจทำให้แบตเตอรี่บน iPhone รุ่นใหม่ลดลงราว 10 เปอร์เซ็นต์ ซึ่งบางครั้งผู้ใช้ต้องการเก็บแบตไว้ให้แอปอื่นและงานที่สำคัญกว่า อีกเรื่องคือความสะดวก การสนทนากับโมเดลในเครื่องไม่ตามผู้ใช้ไปยังเดสก์ท็อป หากต้องการต่อบทสนทนาข้ามอุปกรณ์จึงต้องกลับไปใช้บอตบน Cloud
กลยุทธ์ Hybrid ใช้ Local LLM คู่กับ Cloud ให้คุ้มและปลอดภัย
คำตอบที่สมดุลไม่ใช่การเลือกข้าง แต่คือกลยุทธ์ Hybrid ใช้ Local LLM สำหรับงานที่ทำบ่อยและไม่ซับซ้อน แล้วค่อยส่งขึ้น Cloud เมื่อเจอคำถามที่ต้องใช้เหตุผลลึกหรือเนื้อหาที่ต้องคุณภาพสูงมาก ผู้พัฒนาระบบภาพจากบันทึกเสียงใช้โมเดลในเครื่องเพื่อทดสอบ pipeline ว่าการจัดสรรเครดิต การจัดการงานล้มเหลว และการรวมผลลัพธ์ทำงานถูกต้อง ก่อนจะวัดคุณภาพภาพจริงด้วย API ภายนอกที่แม่นกว่าในขั้นสุดท้าย บนมือถือ แนวคิดเหมือนกัน Claude และ ChatGPT ยังมีบทบาท เพียงแต่ไม่ใช่ตัวเลือกแรกอีกต่อไป โดยจะกลับมามีงานเมื่อผู้ใช้ต้องการสนทนาที่ตามไปยังอุปกรณ์อื่น หรือเมื่อแบตเตอรี่และทรัพยากรเครื่องไม่พอสำหรับการรันโมเดลในเครื่อง ในทางกลับกัน Local LLM productivity เหมาะกับเอกสารส่วนตัวที่ไม่อยากออกจากอุปกรณ์ หรือช่วงทดลอง offline AI เมื่อไม่มีการเชื่อมต่อเลย การรู้เท่าทันข้อดีข้อเสียด้านความสะดวกและการควบคุมจึงช่วยให้จัดเวิร์กโฟลว์ AI ได้คุ้มค่าที่สุด
