กลโกงที่น่าเชื่อถือขึ้น ไม่ได้แปลว่าต้องยอมเชื่อ
การหลอกลวงด้วย AI คือการใช้ระบบปัญญาประดิษฐ์สร้างข้อความ บทสนทนา หรือเรื่องราวที่น่าเชื่อถือ เพื่อชักจูงให้เหยื่อเปิดเผยข้อมูล คลิกลิงก์ หรือส่งมอบเงิน โดยหวังหลบเลี่ยงการตรวจสอบจากคนและองค์กร นี่ไม่ใช่ภัยที่จำกัดอยู่กับผู้ใช้ที่ขาดความรู้ เพราะมิจฉาชีพออกแบบบทสนทนาให้ดูเป็นเรื่องปกติ แล้วค่อยเร่งให้เหยื่อทำตามขั้นตอนที่เสี่ยง
กลโกงอาจเริ่มจากผู้แอบอ้างเป็นหน่วยงานหรือฝ่ายสนับสนุนทางเทคนิค ชักให้กังวลเรื่องบัญชี หรือชวนคุยเรื่องความสัมพันธ์ ตัวอย่างหนึ่งคือชายวัยกลางคนที่เกษียณจากอาชีพอาจารย์และเชื่อว่ากำลังคบหากับหญิงที่ไม่เคยพบตัวจริง ภายหลังจึงพบว่าเป็นการหลอกลวงด้านความรักที่ใช้ AI ช่วยสร้างเรื่องราว แม้ผู้เสียหายจะมีการศึกษาและประสบการณ์ ก็ยังถูกชักจูงได้ ความคิดว่าเหยื่อควรจับพิรุธได้เองจึงยิ่งทำให้คนอับอายและไม่กล้าขอความช่วยเหลือ
ให้ AI รับสายแทน และเปลี่ยนเวลาของมิจฉาชีพเป็นเบาะแส
การป้องกันการฉ้อโกงไม่ควรรอให้เงินถูกโอนไปแล้วจึงค่อยตรวจสอบ แนวทางของ Apate.ai คือใช้ตัวตนเสมือนหลายรูปแบบรับสายหรือเข้าไปคุยกับผู้ต้องสงสัย ทำทีสับสนและถามซ้ำเพื่อดึงเวลา ระหว่างนั้นระบบพยายามเก็บข้อมูลที่ใช้ติดตามเครือข่าย เช่น บัญชีรับเงินและลิงก์เว็บไซต์หลอกลวง แล้วส่งต่อให้ธนาคาร ผู้ให้บริการสื่อสาร และหน่วยงานกำกับดูแล
ระบบดังกล่าวมีบทสนทนากับมิจฉาชีพมากกว่า 2.5 ล้านครั้ง และทำให้ผู้หลอกลวงเสียเวลาปฏิบัติการรวม 17 ปี ตัวเลขเหล่านี้ชี้ให้เห็นว่าการถ่วงเวลาไม่ใช่แค่การเอาคืน แต่ช่วยลดโอกาสที่มิจฉาชีพจะติดต่อเหยื่อจริง พร้อมสร้างข้อมูลที่ใช้ปิดช่องทางหลอกลวงได้ ธนาคารแห่งหนึ่งเชื่อมข้อมูลข่าวกรองจากระบบเข้ากับการควบคุมความเสี่ยง แล้วพบว่าความเสียหายจากการฉ้อโกงของลูกค้าลดลง 76% เมื่อเทียบกับช่วงสูงสุด
ตรวจจับคนไม่น่าเชื่อถือได้ แต่ยังตัดสินใจแทนคนไม่ได้
AI ยังช่วยองค์กรประเมินคู่เจรจาได้ งานวิจัยเกี่ยวกับเอเจนต์หลายตัวพบว่า ระบบภาษาขนาดใหญ่สามารถระบุผู้ไม่หวังดีที่พยายามขัดขวางข้อตกลงได้ภายในไม่กี่รอบของการเจรจา แต่การตรวจจับข้อมูลปลอมหรือระบุว่าใครไม่น่าไว้วางใจ ไม่ได้ทำให้การเจรจาสำเร็จโดยอัตโนมัติ ระบบต้องได้รับแนวทางชัดเจนว่าจะนำคะแนนความน่าเชื่อถือไปใช้ตัดสินใจอย่างไร มิฉะนั้นก็อาจรู้ว่ามีปัญหา แต่ยังเลือกวิธีรับมือไม่เหมาะสม
ข้อจำกัดนี้สำคัญต่อบริษัทที่มอบหมายให้ AI ติดต่อคู่ค้า ลูกค้า หรือผู้ให้บริการ เพราะการเตือนภัยไม่เท่ากับการแก้ปัญหา งานวิจัยรายงานว่าการกำหนดให้เอเจนต์ใช้ข้อมูลความน่าเชื่อถือประกอบการตัดสินใจช่วยเพิ่มโอกาสบรรลุข้อตกลงได้สูงสุด 23% องค์กรจึงควรให้คนตรวจทานการตัดสินใจที่มีผลต่อเงิน สัญญา หรือข้อมูลสำคัญ และกำหนดขั้นตอนยกระดับเรื่องให้ผู้รับผิดชอบ แทนการปล่อยให้ระบบตัดสินทุกอย่างเอง
ตั้งกติกาง่าย ๆ ก่อนตอบข้อความหรือโอนเงิน
ผู้ใช้ไม่จำเป็นต้องรู้เท่าทันเทคนิคทุกชนิดเพื่อเริ่มป้องกันตัว แต่ควรหยุดก่อนทำตามคำขอที่เข้ามาโดยไม่คาดคิด อย่ากดลิงก์หรือโทรกลับไปยังหมายเลขที่แนบมาในข้อความ หากมีข้อสงสัย ให้เข้าเว็บไซต์ที่ตรวจสอบได้ด้วยตนเองและโทรไปยังหมายเลขทางการแทน การมีผู้ติดต่อที่ไว้ใจได้ให้ช่วยตรวจสอบความเคลื่อนไหวผิดปกติยังช่วยลดภาระการตัดสินใจ โดยเฉพาะเมื่อผู้ขอเร่งให้ทำเรื่องเกี่ยวกับบัญชีหรือเงิน
หากมีข่าวว่าหน่วยงานใดข้อมูลรั่วไหล ไม่ได้แปลว่าบัญชีของทุกคนถูกเจาะทันที แต่ควรเปลี่ยนข้อมูลเข้าสู่ระบบและตั้งการแจ้งเตือนเมื่อมีการถอนเงิน โอนเงิน หรือเปลี่ยนรหัสผ่าน ครอบครัวและองค์กรควรพูดคุยเรื่องกลโกงโดยไม่ตำหนิเหยื่อ เพราะความอับอายอาจทำให้คนปิดบังเหตุการณ์จนเสียโอกาสขอความช่วยเหลือ ข้อสรุปคือ AI ช่วยรับมือและรวบรวมเบาะแสได้ แต่การตรวจสอบผ่านช่องทางที่เชื่อถือได้และการมีคนช่วยทบทวนยังเป็นด่านที่ขาดไม่ได้
