ค้นพบความสนใจของคุณ ไปด้วยกัน

ดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

ค้นพบความสนใจของคุณ ไปด้วยกันดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

ลดต้นทุนเอเจนต์ AI ด้วยการส่งงานให้ถูกโมเดลและกรองเหตุการณ์

ลดต้นทุนเอเจนต์ AI ด้วยการส่งงานให้ถูกโมเดลและกรองเหตุการณ์
ความสนใจ|เพิ่มประสิทธิภาพงานด้วย AI

ต้นทุนที่แท้จริงซ่อนอยู่ในงานซ้ำ

การลดต้นทุนเอเจนต์ AI คือการลดโทเค็นและการเรียกใช้โมเดลที่ไม่จำเป็น ด้วยการจัดบริบทและคัดกรองงานก่อนประมวลผล โดยยังคงความสามารถและคุณภาพคำตอบที่องค์กรต้องการไว้ เอเจนต์เขียนโค้ดอาจใช้เวลาค้นหาไฟล์ก่อนเริ่มแก้ไข และผลค้นหาแต่ละครั้งอาจกลายเป็นบริบทที่ถูกส่งซ้ำไปยังโมเดลในรอบถัดไป งานที่ดูเล็กจึงสะสมเป็นภาระการประมวลผลได้ ส่วนระบบแจ้งเตือนความปลอดภัยก็มีปัญหาคล้ายกัน เมื่อมีรายการจำนวนมากที่ท้ายที่สุดไม่ต้องดำเนินการ องค์กรจึงไม่ได้จ่ายเพียงเพื่อคำตอบ แต่จ่ายให้การค้นหาและการตรวจซ้ำที่ไม่สร้างคุณค่าเพิ่มด้วย การจัดการบริบท AI และการลดคำขอที่ไม่จำเป็นน่าจะเป็นทางเลือกที่ดีกว่าการลดคุณภาพโมเดลแบบเหมารวม

Bito ระบุว่า Governor อาจลดค่าใช้จ่ายเอเจนต์ได้ 40% ถึง 70% โดยลดบริบทจากการค้นหาที่ไม่จำเป็นและเลือกโมเดลกับระดับการให้เหตุผลให้เหมาะกับงาน อย่างไรก็ตาม ตัวเลขนี้เป็นผลที่บริษัทแจ้ง ไม่ใช่คำรับประกันสำหรับทุกทีม ความสำคัญอยู่ที่หลักคิดมากกว่าตัวเลขพาดหัว: จัดการงานซ้ำก่อน แล้วค่อยพิจารณาว่าควรจ่ายให้โมเดลระดับใด

Governor เลือกโมเดลจากบริบท ไม่ใช่จากความเคยชิน

Bito เปิดตัว Governor เมื่อวันที่ 27 ตุลาคม โดยวางเราเตอร์ไว้ระหว่างเอเจนต์เขียนโค้ดกับโมเดลที่เอเจนต์เรียกใช้ เพื่อใช้บริบทของโค้ดเบสตัดสินใจว่าจะส่งงานให้โมเดลใด แทนที่ทุกคำถามจะถูกส่งตรงไปยังโมเดลราคาแพง ระบบสามารถใช้โมเดลขนาดเล็กช่วยค้นข้อมูล แล้วส่งสรุปพร้อมบริบทโค้ดที่เกี่ยวข้องกลับไปยังเอเจนต์หลัก วิธีนี้ช่วยลดทั้งการสำรวจซ้ำและข้อมูลส่วนเกินที่อาจติดไปกับคำขอครั้งต่อ ๆ ไป

Governor สร้างกราฟโค้ดของบริษัทที่อัปเดตต่อเนื่อง และเชื่อมโยงข้อมูลอย่างโครงสร้างบริการ ความสัมพันธ์ระหว่างส่วนต่าง ๆ และเอกสารประกอบ เพื่อให้คำตอบมีจุดอ้างอิงจากไฟล์และบรรทัดจริง จุดนี้ทำให้การจัดการบริบท AI เป็นมากกว่าการย่อข้อความ เพราะเป้าหมายคือส่งเฉพาะข้อมูลที่ช่วยให้งานถัดไปเดินหน้าได้ Bito ยังระบุว่าทีมใช้กับเวิร์กโฟลว์ Claude Code, Cursor และ Codex ได้ โดยเชื่อมต่อเอเจนต์เข้ากับจุดปลายทางเดียวกัน ไม่ต้องเปลี่ยนสภาพแวดล้อมการทำงานของนักพัฒนา บริษัทวางแผนขยาย Governor ให้รองรับเอเจนต์มากกว่างานเขียนโค้ด

Deep Hat Sift ตัดรายการที่ไม่ควรเรียกเอเจนต์

Kindo เปิดตัว Deep Hat Sift เมื่อวันที่ 28 ตุลาคม เป็นโมเดลคัดกรองที่ประเมินว่าเหตุการณ์ขาเข้าใดควรเรียกเอเจนต์ ก่อนส่งต่อให้โมเดลขนาดใหญ่ประมวลผล แทนการทำให้การตรวจทุกครั้งมีราคาถูกลง Sift มุ่งตัดการตรวจที่ไม่น่าต้องดำเนินการออกไป ระบบเรียนรู้จากคำตัดสินที่เอเจนต์เป้าหมายส่งกลับ เพื่อจำแนกเหตุการณ์ที่เอเจนต์มักปัดทิ้ง จึงเป็นตัวกรองเอเจนต์อัจฉริยะที่ออกแบบให้เหมาะกับแหล่งข้อมูลและงานเฉพาะ ไม่ใช่กฎกรองแบบเดียวที่ใช้กับทุกทีม

การเริ่มต้นอย่างระมัดระวังเป็นส่วนที่ควรเอาอย่าง: Sift ทำงานในโหมดเงา ให้คะแนนเหตุการณ์ แต่ยังส่งทุกรายการให้เอเจนต์ตรวจสอบ จากนั้นผู้รับผิดชอบต้องดูตัวอย่างสิ่งที่จะถูกกรอง อนุมัติเกณฑ์ และบันทึกเหตุผลเป็นลายลักษณ์อักษรก่อนเปิดใช้จริง ระบบยังสุ่มส่งตัวอย่างรายการที่ถูกกรองไปให้เอเจนต์เพื่อติดตามคุณภาพ และเมื่อคุณภาพลดลงจะกลับไปส่งเหตุการณ์ทั้งหมดให้โมเดลตรวจแทนการกรองต่อ แนวทางนี้ยอมประหยัดน้อยลงเพื่อป้องกันการพลาด ซึ่งเหมาะกับงานความปลอดภัยมากกว่าการตั้งเป้าลดจำนวนคำขอให้ได้มากที่สุด

องค์กรควรวัดความคุ้มค่า พร้อมคุมความเสี่ยง

เมื่อมีงานนับพันรายการต่อวัน การค้นบริบทซ้ำและการส่งสัญญาณเตือนที่ไม่ต้องดำเนินการไปให้เอเจนต์ย่อมรวมกันเป็นภาระใหญ่ โดยเฉพาะงานขาเข้าปริมาณสูงที่มีเพียงส่วนน้อยต้องลงมือจริง แต่การลดค่าใช้จ่าย AI agent ไม่ควรนับแค่จำนวนครั้งที่เรียกโมเดลน้อยลง การเปลี่ยนโมเดลอาจกระทบแคชที่มีประโยชน์ และค่าใช้จ่ายรวมยังขึ้นกับบริบทที่เอเจนต์เก็บไว้กับวิธีทำงานของมัน ฝั่ง Sift เองก็ต้องวัดคุณภาพการคัดกรองและมีมาตรการรองรับสิ่งที่อาจถูกข้าม ไม่ใช่ดูเพียงจำนวนเหตุการณ์ที่ไม่ส่งต่อ

ข้อสรุปสำหรับผู้บริหารจึงชัดเจนว่า ประสิทธิภาพต้นทุน AI ควรเริ่มจากลดข้อมูลซ้ำและคำขอที่ไร้ผล มากกว่าบังคับให้ทุกงานใช้โมเดลที่ด้อยลง Governor เหมาะกับการเลือกโมเดลและจัดบริบท ส่วน Sift เหมาะกับการคัดเหตุการณ์ก่อนเรียกเอเจนต์ ทั้งสองแนวทางต้องเริ่มจากการทดสอบ วัดผล และกำหนดผู้อนุมัติให้ชัด โดยเฉพาะงานที่การพลาดเหตุการณ์สำคัญมีต้นทุนสูง การประหยัดที่ยั่งยืนไม่ใช่การทำให้เอเจนต์รู้น้อยลง แต่คือการส่งสิ่งที่จำเป็นไปให้ถูกขั้นตอน

ZestBuy ได้รับค่าคอมมิชชั่นเมื่อคุณช้อปผ่านลิงก์ของเรา โดยคุณไม่ต้องจ่ายเพิ่ม

You May Also Like

Comments
พูดอะไรบางอย่าง...
ยังไม่มีความคิดเห็น มาเป็นคนแรกที่แบ่งปันความคิดเห็นของคุณ!