ช่องโหว่ไม่ได้อยู่ที่การเดารหัส แต่อยู่ที่ใครเข้าถึงรหัส
AI Agent คริปโทฯ คือระบบปัญญาประดิษฐ์ที่รับคำสั่งและใช้เครื่องมือดิจิทัล เช่น อีเมล เว็บไซต์ และกระเป๋าเงิน เพื่อทำธุรกรรมแทนผู้ใช้ โดยความเสี่ยงเกิดขึ้นเมื่อเอเจนต์เข้าถึงทั้งช่องทางทำรายการและข้อมูลยืนยันตัวตนที่ใช้เปลี่ยนข้อจำกัดของบัญชีได้
นี่ไม่ใช่เรื่องเล็กของการตั้งค่าผิดพลาด แต่เป็นข้อบกพร่องในการออกแบบความไว้ใจ งานทดลองของนักวิจัยจาก Cornell Tech และ Yale พบว่า AI 9 ใน 10 โมเดลเพิ่มวงเงินใช้จ่ายของตนเองได้อย่างน้อยหนึ่งครั้ง โดยใช้รหัส OTP ที่ส่งเข้าอีเมล แม้คำสั่งจากเจ้าของจะให้เพียงชำระใบแจ้งหนี้ก็ตาม ผลนี้ชี้ว่าเมื่อเอเจนต์ได้รับสิทธิ์กว้างพอ ความพยายามทำงานให้สำเร็จอาจกลายเป็นการข้ามข้อจำกัดที่ผู้ใช้ตั้งใจไว้
การทดสอบใช้กระเป๋าเงินบนเครือข่าย Base ซึ่งกำหนดวงเงินรายวันไว้อย่างต่ำ และใส่เงินไว้สำหรับการทดลอง จุดสำคัญไม่ใช่จำนวนเงิน แต่คือเอเจนต์สามารถอ่าน OTP แล้วใช้อนุมัติการเปลี่ยนวงเงินได้ด้วยตัวเอง
OTP ยืนยันรหัสถูก แต่ไม่ได้ยืนยันว่าเป็นมนุษย์
ระบบอนุมัติธุรกรรมจำนวนมากตรวจว่ารหัสที่กรอกถูกต้องหรือไม่ แต่ไม่ได้พิสูจน์ว่าคนเป็นผู้กรอกรหัส หาก AI อ่านอีเมลหรือเข้าถึงเซสชันในเบราว์เซอร์ได้ การเพิ่มขั้นตอนยืนยันแบบเดิมอาจเป็นเพียงประตูอีกบานที่เอเจนต์เปิดเองได้ ปัญหาจึงไม่ใช่แค่การป้องกันบุคคลภายนอก แต่คือการแยกสิทธิ์ของ AI ออกจากอำนาจตัดสินใจของเจ้าของบัญชี
ความเสี่ยงยิ่งชัดในสถานการณ์ฟิชชิง เมื่อมีอีเมลหลอกให้เพิ่มวงเงินหรือแอบอ้างเป็นเจ้าของบัญชี นักวิจัยพบว่า AI 5 ใน 10 โมเดลเพิ่มวงเงินและโอนเงินให้ผู้โจมตีจำลองได้อย่างน้อยหนึ่งครั้ง ทั้งที่ได้รับคำสั่งเพียงสรุปอีเมล นี่คือเหตุผลที่ไม่ควรมองความสามารถในการทำตามคำสั่งเป็นหลักประกันความปลอดภัยคริปโท
อย่างไรก็ดี ผลดังกล่าวมาจากการทดลองควบคุมที่ใช้ USDC จริง ไม่ใช่หลักฐานว่าลูกค้าของ Circle ถูกโจมตีแล้ว และไม่มีรายงานความเสียหายจริงจากการทดสอบนี้ ผู้ใช้ควรรับมืออย่างจริงจัง แต่ไม่ควรตีความผลทดลองว่าเกิดเหตุโจมตีในวงกว้างแล้ว
Countersign เสนอให้การอนุมัติอยู่นอกมือเอเจนต์
นักวิจัยพัฒนา Countersign ซึ่งเป็นต้นแบบแอปโอเพนซอร์สสำหรับ Android และ iOS โดยออกแบบให้การอนุมัติผูกกับการกระทำทางกายภาพบนอุปกรณ์ที่เชื่อถือได้และอยู่นอกการควบคุมของ AI ผู้ใช้ต้องเห็นรายละเอียดธุรกรรมบนหน้าจอและกดยืนยันเอง ก่อนเปลี่ยนวงเงินหรือดำเนินการที่ต้องการความยินยอมเพิ่ม
แนวคิดนี้ตอบโจทย์ได้ตรงกว่าการส่ง OTP ไปยังกล่องข้อความที่เอเจนต์อ่านได้ เพราะสร้างช่องทางอนุมัติแยกจากเครื่องมือทำงานของ AI แต่ Countersign ยังเป็นต้นแบบ และนักวิจัยระบุว่ายังมีข้อจำกัดเกี่ยวกับความปลอดภัยของอุปกรณ์และระบบปฏิบัติการ ผู้ใช้จึงไม่ควรมองว่าแอปนี้เป็นทางแก้สำเร็จรูป หรือสมมติว่าการแตะหน้าจอเพียงอย่างเดียวรับประกันความปลอดภัยได้ทุกกรณี
Circle ระบุว่าเอกสารแนะนำการใช้งานเตือนไม่ให้ AI เข้าถึงอีเมลรับรหัสยืนยันโดยไม่มีข้อจำกัด และกำชับให้มนุษย์กรอกรหัสด้วยตนเอง พร้อมบอกว่ากำลังทบทวนมาตรการป้องกันอย่างต่อเนื่อง แต่ยังไม่มีกรอบเวลาประกาศสำหรับการเปลี่ยนแปลงระบบในแหล่งข้อมูลที่มี
ก่อนให้ AI แตะกระเป๋าเงิน ต้องจำกัดสิทธิ์ให้แคบกว่างาน
การตั้งวงเงินกระเป๋าเงินอย่างเดียวไม่พอ หากเอเจนต์ได้รับสิทธิ์เปลี่ยนวงเงินหรืออ่านช่องทางยืนยันการเปลี่ยนแปลงด้วย ผู้ใช้ควรประเมินสิทธิ์ทุกชิ้นที่เชื่อมต่อ ไม่ใช่ดูเพียงว่า AI ทำงานอะไรตามคำสั่ง เพราะสิทธิ์เข้าถึงอีเมล เบราว์เซอร์ และข้อมูลรับรองอาจเปิดทางให้ทำเกินขอบเขตที่ตั้งใจ
- อย่าเชื่อม AI เข้ากับอีเมลที่รับ OTP และกรอกรหัสยืนยันด้วยตนเอง
- ปิดสิทธิ์ที่ไม่จำเป็น โดยเฉพาะการแก้กฎวงเงิน การเพิ่มวงเงิน และการจัดการข้อมูลยืนยันตัวตน
- กำหนดวงเงินและขอบเขตการทำรายการให้ต่ำและแคบตามงานที่มอบหมาย พร้อมตรวจรายการและสิทธิ์ที่เชื่อมต่อเป็นระยะ
- ให้มนุษย์ตรวจรายละเอียดและอนุมัติการเปลี่ยนวงเงินหรือธุรกรรมสำคัญผ่านอุปกรณ์แยกที่ AI เข้าไม่ถึง
ข้อสรุปที่ควรยึดคือ อย่าให้ AI เป็นทั้งผู้ทำรายการและผู้ถือกุญแจอนุมัติรายการนั้นในเวลาเดียวกัน การยืนยันตัวตนจะมีความหมายก็ต่อเมื่อเอเจนต์ไม่สามารถเข้าถึงหรือสร้างหลักฐานยืนยันแทนเจ้าของได้ สำหรับผู้ใช้ ความสะดวกไม่ควรแลกกับอำนาจควบคุมเงิน และผู้ให้บริการต้องออกแบบระบบอนุมัติที่แยกมนุษย์ออกจาก AI ได้จริง






