AI deepfake และการโคลนเสียง กำลังเปลี่ยนเกมโกงออนไลน์ให้จับได้ยากกว่าเดิม

AI deepfake คืออะไร และทำไมจึงเป็นความเสี่ยงใหม่ของโลกออนไลน์

AI deepfake คือเทคโนโลยีปัญญาประดิษฐ์ที่ใช้เรียนรู้ใบหน้า เสียง และท่าทางของมนุษย์จากข้อมูลจำนวนมาก แล้วสร้างภาพ วิดีโอ หรือเสียงปลอมที่มีความสมจริงสูงจนยากต่อการแยกแยะ ทำให้ผู้รับสารเข้าใจผิดว่าเป็นบุคคลหรือเหตุการณ์จริง เทคโนโลยีนี้ถูกนำไปใช้ทั้งในด้านสร้างสรรค์และด้านมืด โดยเฉพาะการหลอกลวงออนไลน์ที่ผูกกับการเงินและข้อมูลส่วนตัวของผู้ใช้ดิจิทัล

ประเด็นที่น่ากังวลคือ AI deepfake ความเสี่ยง ไม่ได้จำกัดอยู่แค่ภาพตัดต่อขำขันอีกต่อไป แต่กำลังกลายเป็นโครงสร้างพื้นฐานของการโจมตีฟิชชิ่ง AI ยุคใหม่ เมื่อภาพใบหน้าผู้บริหาร วิดีโอประชุม หรือเสียงหัวหน้าสามารถถูกสร้างใหม่ด้วยการโคลนเสียง ปลอมแปลง ระดับความน่าเชื่อถือของข้อความหลอกจึงสูงขึ้นอย่างน่าตกใจ รายงานหนึ่งชี้ว่าเทคโนโลยี AI รวมถึงดีพเฟคและการปลอมแปลงเสียงกำลังทำให้การโจมตีทางไซเบอร์มีความซับซ้อนมากขึ้น และทำให้ทั้งบุคคลและองค์กรแยกไม่ออกว่าการสื่อสารใดเป็นของจริง

ตัวเลขที่น่าตกใจ: เมื่อเกือบครึ่งของคดีโกงออนไลน์ยังปิดไม่ได้

หากคิดว่าเรื่องโกงออนไลน์เป็นแค่เหตุการณ์ไกลตัว ตัวเลขล่าสุดกำลังบอกอีกเรื่อง รายงานหนึ่งระบุว่า ประมาณ 45% ของคดีฉ้อโกงที่ถูกรายงานในหลายประเทศยังคงไม่ได้รับการแก้ไขแม้ผู้บริโภคจะพยายามปกป้องตัวเองมากขึ้น นี่คือสัญญาณชัดว่าระบบความยุติธรรมและกลไกป้องกันกำลังไล่ไม่ทันภัยคุกคามที่ขับเคลื่อนด้วย AI

ที่น่าหนักกว่านั้นคือ ผู้บริโภคราว 8% ยอมรับว่าตนเองตกเป็นเหยื่อการฉ้อโกงในช่วง 12 เดือนที่ผ่านมา และถึง 68% จากกลุ่มนี้ต้องเผชิญความสูญเสียทางการเงิน ขณะที่ 82% ไม่สามารถกู้คืนเงินที่สูญเสียไปได้เลย ตัวเลขเหล่านี้สะท้อนตรงๆ ว่า การโจมตีฟิชชิ่ง AI และสแกมรูปแบบใหม่ไม่ใช่เรื่องทดลอง แต่กำลังถูกใช้จริงและสร้างความเสียหายจริงต่อชีวิตผู้คน

จากข้อความสแปมสู่เสียงหัวหน้าปลอม: ยุคใหม่ของการโจมตีฟิชชิ่ง AI

ในอดีต ฟิชชิ่งคืออีเมลภาษาแปลกๆ หรือข้อความน่าสงสัย วันนี้ การโจมตีฟิชชิ่ง AI กำลังก้าวข้ามจุดนั้นไปแล้ว AI สามารถสร้างข้อความที่ใช้ภาษาและสำนวนเหมือนมนุษย์ เรียงลำดับเหตุผลได้เนียน และเมื่อรวมกับ AI deepfake ความเสี่ยง จึงไม่ใช่แค่ตัวหนังสือที่หลอกเรา แต่เป็นทั้งเสียงและภาพที่เคยเป็นหลักฐานความน่าเชื่อถือ

อีกความท้าทายคือ การหลอกลวงออนไลน์ Scams และภาพหรือเสียงปลอมแปลงจาก AI Deepfakes ที่ถูกพูดถึงอย่างชัดเจนว่าเป็นภัยใหม่ การโคลนเสียง ปลอมแปลง ทำให้มิจฉาชีพสามารถโทรหาเหยื่อด้วยเสียงที่เหมือนคนใกล้ชิด หรือหัวหน้างาน ขอให้โอนเงินหรือเปิดเผยรหัสผ่าน ในโลกที่แอปส่งข้อความเป็นช่องทางที่พบการหลอกลวงมากที่สุดคิดเป็น 41% ของกรณีทั้งหมด เรากำลังเผชิญกับฟิชชิ่งที่ไม่เพียงเขียนเหมือน แต่พูดและแสดงตัวเหมือนอีกด้วย

ความไว้วางใจทางดิจิทัลกำลังสึกกร่อน และเราอาจต้องคิดใหม่ทั้งระบบ

เมื่อ AI ถูกใช้สร้างการปลอมแปลงระดับสูง ความไว้วางใจทางดิจิทัลเริ่มกลายเป็นทรัพยากรหายาก รายงานหนึ่งชี้ว่า การฉ้อโกงและการหลอกลวงในสภาพแวดล้อมดิจิทัลกำลังเป็นอุปสรรคสำคัญต่อความไว้วางใจ และอาจชะลอการเปลี่ยนผ่านสู่เศรษฐกิจดิจิทัลและโครงการรัฐบาลดิจิทัล หากผู้ใช้ไม่มั่นใจว่าบริการออนไลน์ปลอดภัย ต่อให้เทคโนโลยีก้าวหน้าเพียงใดก็อาจไม่มีคนกล้าใช้งาน

ในอีกด้าน หนึ่งในผู้พัฒนาเทคโนโลยีรายใหญ่ยอมรับว่า ช่องว่างทางเทคโนโลยีและความเสี่ยงจากการใช้งาน AI กำลังขยายตัว จึงเสนอแนวทางกำกับดูแลแบบหลายชั้นทั้งการยกระดับความปลอดภัยตลอดวงจรชีวิตของเทคโนโลยี และการสร้างเครื่องมือที่ผู้ใช้เข้าถึงได้จริง หากไม่มีระบบนิเวศที่ให้ความสำคัญกับการตรวจสอบที่มาเนื้อหาและการป้องกัน deepfake อย่างจริงจัง ความปลอดภัยออนไลน์ AI จะยังเป็นคำสวยหรูที่ใช้ในสไลด์พรีเซนต์มากกว่าจะกลายเป็นความปลอดภัยในชีวิตประจำวัน

จากการกำกับดูแลถึงความรู้เท่าทัน: ใครต้องรับผิดชอบต่อภัย deepfake และเสียงปลอม

คำถามสำคัญไม่ใช่แค่ว่า AI ทำอะไรได้บ้าง แต่คือใครจะรับผิดชอบเมื่อ AI ถูกใช้เพื่อโกงคนอื่น รายงานหนึ่งระบุว่า ความไว้วางใจในโลกดิจิทัลขึ้นอยู่กับความสามารถของระบบนิเวศในการตรวจสอบตัวตน ยืนยันการสื่อสาร และแบ่งปันข้อมูลที่เชื่อถือได้เพื่อป้องกันความเสี่ยงก่อนเกิดความเสียหาย นี่คือการส่งสัญญาณตรงไปยังผู้ให้บริการเครือข่าย แพลตฟอร์มออนไลน์ และสถาบันการเงินว่าไม่อาจปัดความรับผิดชอบให้ผู้ใช้เพียงฝ่ายเดียว

ในระดับผู้พัฒนา มีการพูดถึงการกำกับดูแลแบบ Adaptive Governance และการป้องกันแบบหลายชั้นเพื่อรับมือการหลอกลวงออนไลน์และ deepfakes เช่น การใช้ลายน้ำดิจิทัลและมาตรฐาน Content Credentials เพื่อบันทึกที่มาเนื้อหา และการทำงานร่วมกับภาคประชาสังคมเพื่อสอนผู้สูงอายุให้รู้เท่าทันภัยโกงจาก AI ท่าทีนี้สะท้อนชัดว่า การทำความเข้าใจภัยคุกคามเหล่านี้ไม่ใช่ทางเลือก แต่เป็นเงื่อนไขขั้นต่ำทั้งสำหรับผู้บริโภคและองค์กร หากไม่อยากตกเป็นเพียงตัวเลขอีกหนึ่งรายในสถิติการโกงออนไลน์