AI เอเจนต์ส่วนตัวของ Meta ชนกำแพงแอปจริงและกำแพงความปลอดภัย

Muse คืออะไร และทำไม AI เอเจนต์ส่วนตัวถึงไม่ใช่เวทมนตร์

AI เอเจนต์ส่วนตัว คือซอฟต์แวร์ปัญญาประดิษฐ์ที่ออกแบบให้เชื่อมต่อกับหลายแอปและบริการเพื่อทำงานแทนผู้ใช้แบบอัตโนมัติ ตั้งแต่จัดการอีเมล ปฏิทิน การชำระเงิน ไปจนถึงการซื้อสินค้าและควบคุมอุปกรณ์สมาร์ตโฮม โดยเป้าหมายคือให้ผู้ใช้มอบงานประจำและงานจุกจิกให้ AI ดูแลอย่างต่อเนื่องแทนการสั่งงานทีละคำสั่งเหมือนแชตบอตทั่วไป Muse ของ Meta ถูกวางตัวเป็นหัวใจของวิสัยทัศน์ซูเปอร์ปัญญาประดิษฐ์ส่วนบุคคล ที่จะทำงานให้ผู้ใช้จำนวนหลายพันล้านคนต่อวัน

Meta เปิดตัว Muse เมื่อวันที่ 8 กันยายนในฐานะ AI เอเจนต์ส่วนตัวที่สามารถส่งอีเมล ประกาศขายรถยนต์ และจองตั๋วเดินทางแทนผู้ใช้ได้อัตโนมัติ พร้อมเชื่อมต่ออีเมล ปฏิทิน ระบบชำระเงิน ข้อมูลสุขภาพ แอปซื้อสินค้า และระบบบ้านอัจฉริยะ เพื่อเป็นเหมือนผู้ช่วยที่อยู่ทุกที่ในชีวิตดิจิทัลของเรา บริษัททุ่มลงทุนด้านชิปและโครงสร้างพื้นฐาน AI มหาศาลเพื่อผลักดันวิสัยทัศน์นี้ และภายในไม่กี่วันหลังเปิดตัวแอปก็ขึ้นอันดับต้นของชาร์ตดาวน์โหลด มียอดติดตั้งมากกว่า 2.5 ล้านครั้ง และดันราคาหุ้นบริษัทเพิ่มมูลค่าตลาดมากกว่า 2 แสนล้านดอลลาร์สหรัฐตามข้อมูลการวิเคราะห์แอป

ในเชิงฟังก์ชัน Muse ไม่ได้ขายแค่ความฉลาด แต่ขายภาพฝันว่าชีวิตดิจิทัลจะถูกจัดการแบบอัตโนมัติหมดจด ทว่าเมื่อภาพฝันนั้นชนเข้ากับแอปจริง นโยบายความปลอดภัยจริง และประวัติความน่าเชื่อถือของผู้พัฒนา ภาพสวยงามก็เริ่มแตกออก กลายเป็นบทเรียนสำคัญว่าปัญหา AI automation ไม่ได้อยู่ที่ทำไม่ได้ แต่คือทำได้แค่ไหนโดยไม่ทำร้ายความเป็นส่วนตัวและอำนาจควบคุมของผู้ใช้

กำแพงแพลตฟอร์ม: Amazon ปิดประตู Muse สะท้อนสงครามสนามช้อปปิง

หัวใจเชิงพาณิชย์ของ Muse คือการเป็น AI เอเจนต์ส่วนตัวที่ซื้อของออนไลน์ให้เราได้เอง Muse ถูกใช้สาธิตซื้อรถเข็นเด็กบนแพลตฟอร์มค้าปลีกรายใหญ่ แสดงภาพอนาคตที่เราพูดหรือพิมพ์แค่ว่าอยากได้อะไร แล้วเอเจนต์ไปหาสินค้า ใส่ตะกร้า และจ่ายเงินแทน อย่างไรก็ตาม ความฝันนี้ชนกำแพงทันทีเมื่อผู้ใช้ที่ลองให้ Muse ช้อปปิงกลับเจอหน้าต่างเตือนว่าการเข้าถึงของ AI ที่ไม่ได้รับอนุญาตขัดกับเงื่อนไขการใช้งานที่ลูกค้าตกลงไว้

ฝ่ายแพลตฟอร์มค้าปลีกรายนี้อธิบายว่า แอปของบุคคลที่สามที่ซื้อของแทนลูกค้าควรทำงานอย่างเปิดเผยและเคารพการตัดสินใจของผู้ให้บริการว่าจะเข้าร่วมหรือไม่ และย้ำว่าแอป AI agentic อย่าง Muse อยู่ภายใต้ข้อกำหนดเดียวกัน ขณะเดียวกันบริษัทระบุว่าการบล็อก Muse มีเป้าหมายเพื่อรักษาประสบการณ์ออนไลน์ที่ปลอดภัยและมั่นคงให้ผู้ใช้ ด้าน Meta โต้ในบล็อกของบริษัทว่า Muse ไม่มีสิทธิ์เห็นรหัสผ่านหรือวิธีการชำระเงินของผู้ใช้ และจะแสดงประวัติการทำงานของเอเจนต์ให้ตรวจสอบได้เต็มรูปแบบ

เบื้องหลังข้อโต้แย้งด้านการรักษาความปลอดภัย AI ครั้งนี้คือสงครามแย่งเจ้าของความสัมพันธ์กับลูกค้าในโลกช้อปปิงดิจิทัล ผู้ให้บริการค้าปลีกรายดังกล่าวมี AI agent สำหรับการช้อปของตัวเองชื่อ Buy for Me ซึ่งสามารถหาและซื้อสินค้าแม้ไม่ใช่ของที่อยู่บนแพลตฟอร์มของตน และให้ลูกค้าซื้อสินค้าจากเว็บของแบรนด์โดยไม่ต้องออกจากแอปได้ ในมุมนี้ Muse จึงไม่ได้ถูกบล็อกเพราะความสามารถมากเกินไป แต่เพราะกำลังพยายามแทรกตัวเป็นตัวกลางใหม่เหนือแพลตฟอร์มเดิม และนี่คือสัญญาณชัดเจนว่าพื้นที่ช้อปปิงอัตโนมัติด้วย AI กำลังกลายเป็นสนามรบใหญ่ ไม่ใช่แค่สนามทดลองเทคโนโลยี

กำแพงความปลอดภัย: ช่องโหว่ Muse และความเสี่ยงข้อมูล AI ที่ผู้ใช้ไม่ได้เซ็นยินยอม

Meta โปรโมต Muse ว่าให้ผู้ใช้ควบคุมสิทธิ์ได้เต็มที่และทำงานในสภาพแวดล้อมแยกเฉพาะเพื่อเพิ่มการรักษาความปลอดภัย AI แต่การค้นพบของนักวิจัยด้านความปลอดภัยกลับบอกอีกเรื่องหนึ่ง นักวิจัยรายหนึ่งสร้างโค้ดตัวอย่างชื่อ not-a-mused แสดงช่องโหว่แบบศูนย์วันในแอป Muse บน macOS ที่เปิดโอกาสให้โพรเซสท้องถิ่นที่ไม่มีสิทธิ์พิเศษสามารถเปลี่ยนปลายทางการส่งข้อมูลเสียงที่ผู้ใช้สั่งให้ Muse พิมพ์ได้

Muse มีการตั้งค่าที่ไม่ถูกเปิดเผยชื่อ endo_voyager_dictation_endpoint ซึ่งโค้ดที่รันอยู่ในเครื่องสามารถแก้ไขได้โดยไม่ต้องขอสิทธิ์ระดับสูง ทำให้สามารถเปลี่ยนให้คำสั่งเสียงและพรอมต์ถูกส่งไปยังเซิร์ฟเวอร์ที่ผู้โจมตีควบคุมได้ ช่องโหว่นี้เปิดประตูให้เกิดทั้งการฉีดพรอมต์ การขโมยข้อมูลยืนยันตัวตน และการใช้สิทธิ์การเข้าถึงแอปต่างๆ ที่ผู้ใช้เคยมอบให้กับ Muse ไปในทางที่ผู้ใช้ไม่คาดคิด ถึงแม้จะต้องมีมัลแวร์รันอยู่ในเครื่องก่อน แต่ปัญหานี้เท่ากับเป็นการยกระดับสิทธิ์ของมัลแวร์ให้เข้าไปนั่งตรงกลางระหว่างผู้ใช้กับ AI เอเจนต์ส่วนตัวโดยตรง

เมื่อนำช่องโหว่นี้ไปประกอบกับข้อเท็จจริงว่า Muse ถูกออกแบบให้เชื่อมต่อกับอีเมล ปฏิทิน ระบบชำระเงิน ข้อมูลสุขภาพ แอปซื้อสินค้า และระบบบ้านอัจฉริยะ ความเสี่ยงข้อมูล AI จึงไม่ได้จำกัดอยู่ที่คำสั่งเสียง แต่ครอบคลุมทุกสิทธิ์ที่ผู้ใช้มอบให้ ในโลกที่ผู้ใช้จำนวนมากอาจไม่เข้าใจรายละเอียดการตั้งค่าความปลอดภัย การบอกว่า ผู้ใช้ควบคุมได้เอง จึงไม่เพียงพอ การออกแบบ AI automation ต้องถือว่าผู้ใช้จะพลาด ต้องกดผิด ต้องมอบสิทธิ์มากเกินไป แล้วออกแบบระบบให้ความเสียหายที่ตามมาน้อยที่สุด ไม่ใช่ผลักความรับผิดชอบกลับไปที่ผู้ใช้เพียงฝ่ายเดียว

กำแพงความเป็นมนุษย์: Human Concierge และความฝัน 98% ที่ต้องพึ่งคอลเซ็นเตอร์

ถ้า Muse คืออนาคตของ AI เอเจนต์ส่วนตัวในสายตา Meta ระบบ Human Concierge ก็คือการยอมรับว่าเอเจนต์เพียงอย่างเดียวไปไม่ถึงเป้าหมาย Meta ทดสอบให้พนักงานสัญญาจ้างมนุษย์เข้ามารับช่วงโทรศัพท์บางสายแทน AI Muse เพื่อดันอัตราความสำเร็จของการทำงานให้ขึ้นไปอยู่ราว 95 ถึง 98 เปอร์เซ็นต์ ซึ่งดีกว่าการปล่อยให้ AI โทรเองทั้งหมด ฟีเจอร์โทรศัพท์นี้อนุญาตให้ผู้ใช้สั่งให้ Muse โทรหาธุรกิจต่างๆ เพื่อจองบริการ ตรวจสอบสินค้าคงคลัง หรือขอใบเสนอราคาแทนผู้ใช้

ปัญหาคือการดึงมนุษย์เข้ามาหลังฉากแบบเงียบๆ ทำให้พนักงานบางส่วนในบริษัทเองตั้งคำถามด้านความเป็นส่วนตัว ข้อมูลอ่อนไหวของผู้ใช้อาจถูกเปิดเผยให้คอลเซ็นเตอร์โดยที่เจ้าของข้อมูลไม่รู้ตัวและไม่ได้ยินยอมอย่างชัดเจน พนักงานคนหนึ่งเตือนว่าความผิดพลาดเพียงครั้งเดียวก็เพียงพอให้ข้อมูลที่ไม่จำเป็นไหลไปอยู่ในมือที่ไม่ควรเข้าถึง แถมยังมีกรณีที่พนักงานสัญญาจ้างมีการพูดเชิงเหยียดเชื้อชาติระหว่างการโทรแทน Muse ซึ่งถูกบันทึกไว้ในประวัติการสนทนา

กรณี Human Concierge จึงชี้ให้เห็นสองอย่าง หนึ่ง เทคโนโลยี AI automation ยังไปไม่ถึงจุดที่บริการทุกอย่างทำงานอัตโนมัติได้เชื่อถือในระดับ 95 ถึง 98 เปอร์เซ็นต์โดยไม่ต้องใช้คนช่วย สอง การผสมคนกับ AI โดยปิดบังไม่ให้ผู้ใช้รู้ว่าปลายสายคือมนุษย์ ไม่ใช่แค่ปัญหาเชิงจริยธรรม แต่บ่อนทำลายความเชื่อใจระยะยาว ถ้าผู้ใช้ไม่รู้ว่าในอีกฝั่งคือใคร ก็ยากที่จะมั่นใจว่าการรักษาความปลอดภัย AI และการจัดการข้อมูลถูกสำรวจและควบคุมได้

กำแพงความเชื่อใจ: เมื่อผู้ใช้ตื่นเต้นกับ Muse แต่ไม่ไว้ใจบริษัท

กระแสตอบรับต่อ Muse แสดงภาพซับซ้อนมากกว่าคำว่า ฮิต หรือ แป้ก การสำรวจความคิดเห็นของคนในสายเทคโนโลยีร้อยคนซึ่งรวมทั้งนักพัฒนา พนักงานบริษัท ผู้สื่อข่าว นักวิจัยด้านความปลอดภัย ผู้บริหาร และผู้ใช้ทั่วไป สะท้อนทั้งความประทับใจในความสามารถของ AI เอเจนต์ส่วนตัวนี้และความไม่ไว้วางใจรากลึกต่อผู้พัฒนา มีรีวิวหนึ่งเรียก Muse ว่าเป็นเหมือนพนักงาน AI ที่ขัดเกลามาอย่างดีและแนะนำให้ปิดการนำข้อมูลไปฝึกโมเดลตั้งแต่วันแรก ขณะที่อีกเสียงโจมตีแรงว่าผลิตภัณฑ์นี้ให้ความสำคัญกับการเก็บข้อมูลผู้ใช้มากกว่าการทำงานให้สำเร็จ โดยเล่าว่า Muse พยายามผลักให้เชื่อมต่อแหล่งข้อมูลเพิ่ม เช่น อีเมลและข้อมูลธนาคาร

คำประกาศภายในบริษัทที่ว่า Muse จะส่งมอบซูเปอร์ปัญญาประดิษฐ์ส่วนบุคคลให้ผู้ใช้หลายพันล้านคนต่อวัน และคำกล่าวของผู้บริหารด้าน AI ว่า Muse ทำงานในสภาพแวดล้อมแยกและไม่เห็นรหัสผ่านหรือข้อมูลชำระเงินของผู้ใช้ อาจฟังดูมั่นใจ แต่ไม่ได้ลบข้อสงสัยที่สะสมมาจากประวัติการจัดการข้อมูลของบริษัทเดิม เสียงวิจารณ์ที่ว่า ผู้ใช้จะต้องยอมมอบข้อมูลส่วนตัวให้มากกว่าที่เคย ถ้าต้องการใช้ Muse อย่างเต็มศักยภาพ ยิ่งขับเน้นความกังวลเรื่องความเสี่ยงข้อมูล AI ว่าจะถูกใช้เพื่อเก็บและใช้ประโยชน์ทางการค้าเกินกว่าที่ผู้ใช้ตั้งใจ

ในแง่นี้ Muse กลายเป็นตัวอย่างคลาสสิกของช่องว่างระหว่างภาพฝันของ AI เอเจนต์ส่วนตัวที่ทำให้ชีวิตง่าย กับความจริงของโลกแพลตฟอร์มและข้อจำกัดด้านความปลอดภัย Muse ทำให้เห็นว่าต่อให้มีโมเดลที่มีความสามารถและการออกแบบใช้งานที่น่าประทับใจ ถ้ากำแพงแพลตฟอร์ม กำแพงความปลอดภัย และกำแพงความเชื่อใจยังไม่ถูกแก้ไข AI automation ก็มักจะติดอยู่ในสถานะกึ่งทดลองกึ่งผลิตจริง ผู้ใช้จึงควรเริ่มจากการให้สิทธิ์ Muse แบบแคบ จำกัดแอปที่เชื่อมต่อ และปิดสิทธิ์เมื่อไม่ใช้งาน ตามคำเตือนของผู้เชี่ยวชาญด้านความปลอดภัยที่แนะนำว่า อย่าปล่อยให้เอเจนต์ตัวใดตัวหนึ่งแขวนสิทธิ์เข้าถึงข้อมูลเราไว้ตลอดเวลา