เมื่อแอปแต่งรูปกลายเป็นอาวุธ deepfake
ปัญหาแอป AI ปลอมบน App Store คือการที่แอปพลิเคชันแสดงตัวเป็นเครื่องมือแต่งภาพหรือแก้ไขรูปทั่วไป แต่ซ่อนฟีเจอร์สร้างภาพลามกหรือ deepfake จากใบหน้าคนจริงเอาไว้ ทำให้ผู้ใช้ทั่วไป นักการเมือง หรือบุคคลสาธารณะเสี่ยงถูกละเมิดสิทธิในภาพลักษณ์และความเป็นส่วนตัวอย่างรุนแรง โดยที่แพลตฟอร์มขนาดใหญ่ตรวจจับไม่ทันตั้งแต่แรกเริ่ม.
กรณีของ Kromix คือภาพสะท้อนที่ชัดเจน แอปนี้ผ่านระบบตรวจสอบ App Store ในฐานะแอปแต่งภาพด้วยปัญญาประดิษฐ์ แต่ถูกใช้สร้างภาพและวิดีโอโป๊ปลอมโดยใช้คนจริงเป็นสื่อปลอม. นั่นหมายความว่าปัญหาไม่ได้อยู่เพียงที่นักพัฒนาที่จงใจละเมิด แต่รวมถึงระบบตรวจสอบ App Store ที่ยังไม่ทันกับรูปแบบการหลบเลี่ยงใหม่ๆ ของแอป AI ปลอมในยุคนี้ด้วย.
Kromix และ MaskAI: หลุดผ่านด่าน App Store ได้อย่างไร
Kromix ถูกวางตัวว่าเป็นแอปปรับแต่งภาพด้วย AI แต่ข้อเท็จจริงคือมีฟีเจอร์ให้สร้างเนื้อหาอนาจารจากภาพบุคคลจริงได้. แอปนี้อยู่ใน App Store และผ่านการควบคุมตามปกติ ก่อนที่จะมีการตั้งข้อสงสัยว่าฟีเจอร์ที่ถูกห้ามอาจถูกเพิ่มเข้ามาภายหลังจากได้รับอนุมัติแล้ว ซึ่งแสดงให้เห็นว่าระบบตรวจสอบ App Store ยังพึ่งพาการรีวิวครั้งแรกมากเกินไป และแทบไม่มีการติดตามพฤติกรรมแอปหลังปล่อยจริง.
นี่ไม่ใช่ครั้งแรกที่เกิดเหตุลักษณะนี้ แอป MaskAI ก็อนุญาตให้ผู้ใช้ อัปโหลดรูป แล้วใช้ AI แทรกคนเข้าไปในสถานการณ์ทางเพศอย่าง露骨 และถูกลบออกจาก App Store ก็หลังจากที่นักข่าวเริ่มตรวจสอบเช่นกัน. คำกล่าวแบบอ้างอิงได้คือ "แอปเหล่านี้ถูกลบออกหลังจากนักข่าวแจ้งเตือน ไม่ใช่จากระบบตรวจสอบอัตโนมัติ". ความล่าช้าเช่นนี้ทำให้ความปลอดภัยแอปพลิเคชันบนแพลตฟอร์มใหญ่ดูน่าเชื่อถือน้อยลงทุกวัน.
เมื่อแพลตฟอร์มโฆษณาช่วยโปรโมตแอปที่เป็นอันตราย
ปัญหานี้ไม่ได้หยุดอยู่ที่ App Store เพราะ Kromix ยังได้ช่องทางโปรโมตผ่านแพลตฟอร์มโฆษณาของ Meta ด้วย โฆษณาชุดหนึ่งใช้ภาพผู้หญิงที่หน้าตาคล้ายกับนักการเมืองชื่อดัง ก่อนจะเปลี่ยนเป็นวิดีโอโป๊ที่ใช้ภาพเหมือนของเธอเพื่อโปรโมตแอป nudify ที่อ้างว่าเป็นเครื่องมือ AI แบบไม่มีข้อจำกัด. นี่คือ deepfake บนแอป ที่ถูกยกขึ้นมาโฆษณาอย่างเปิดเผย และยิงโฆษณา 32 ชิ้นที่เล็งกลุ่มเป้าหมายเป็นผู้ชายเท่านั้น.
แม้ Meta จะลบโฆษณา เพจ และบล็อก URL ที่เกี่ยวข้องหลังได้รับการแจ้งเตือน แต่นั่นยิ่งตอกย้ำว่าระบบตรวจเนื้อหาโฆษณายังไม่สามารถกรองการโปรโมตแอปที่เป็นอันตรายได้ทันเวลา การโปรโมตแอป AI ปลอมผ่านโฆษณาแบบนี้ ทำให้ความปลอดภัยแอปพลิเคชันกลายเป็นเรื่องภาพลวงตา ผู้ใช้จำนวนมากอาจเข้าใจผิดว่าแอปที่ผ่านทั้ง App Store และโฆษณาจากแพลตฟอร์มใหญ่ต้องปลอดภัย ทั้งที่ความจริงคือเนื้อหาข้างในละเมิดกฎอย่างชัดเจน.
กฎเข้มแต่บังคับใช้ช้า: ช่องโหว่ที่คนจริงต้องจ่ายราคา
Apple ย้ำว่ากฎของตนห้ามแอปสร้าง เผยแพร่ หรือบริโภคสื่อลามก และห้ามแอปแปลงภาพเปลือยที่ใช้ AI ถอดเสื้อผ้าจากรูปคนจริง. ปัญหาไม่ใช่การมีกฎไม่ชัด แต่เป็นการบังคับใช้ที่เกิดขึ้นช้าและพึ่งพาการแจ้งเตือนจากภายนอกเป็นหลัก แอป Kromix ถูกลบออกจาก App Store หลังจากนักข่าวแจ้งเตือนเท่านั้น และ Apple ต้องตามลบทั้งแอปและบัญชีนักพัฒนาที่พยายามหลบกฎในลักษณะเดียวกัน.
คำถามสำคัญจึงไม่ใช่ว่าแพลตฟอร์มมีนโยบายหรือไม่ แต่คือเหตุใดระบบตรวจสอบ App Store ยังปล่อยให้เนื้อหาอันตรายใช้งานจริงก่อนจะถูกตรวจพบ เมื่อการคัดกรองล้มเหลว ความเสียหายตกอยู่กับคนจริงที่ถูกนำภาพไปทำ deepfake บนแอป และต้องเผชิญการคุกคามในโลกออนไลน์โดยไร้การป้องกันทันเวลา.
ปัญหาที่จะเกิดซ้ำในยุค AI ถ้าไม่ยอมรับว่า “ระบบปัจจุบันไม่พอแล้ว”
กรณี Kromix และ MaskAI ไม่ใช่เหตุการณ์โดดเดี่ยว แต่เป็นสัญญาณเตือนว่าการกลั่นกรองเนื้อหาที่สร้างด้วย AI กำลังกลายเป็นปัญหาที่เกิดซ้ำบนหลายแพลตฟอร์ม พร้อมกับการเติบโตของเทคโนโลยีสร้างภาพและวิดีโอสมจริง. เมื่อเครื่องมือสร้าง deepfake ถูกทำให้ใช้งานง่ายผ่านแอปพลิเคชันทั่วไป ความเสี่ยงต่อผู้ใช้ทุกคนย่อมเพิ่มขึ้นแบบทวีคูณ.
ในมุมมองผู้เขียน การยึดติดกับระบบรีวิวแอปแบบเดิมคือการปิดตาในยุค AI เพราะนักพัฒนาที่ไม่หวังดีสามารถเพิ่มฟีเจอร์อันตรายหลังผ่านการอนุมัติ หรือปลอมตัวเป็นแอปแต่งรูปธรรมดาเพื่อหลบคำว่า แอป AI ปลอม ในสายตาผู้ใช้ การยอมรับอย่างตรงไปตรงมาว่า “ระบบตรวจสอบ App Store ในปัจจุบันไม่เพียงพอ” คือจุดเริ่มต้นเดียวที่จะนำไปสู่การออกแบบกลไกป้องกันใหม่ ที่จริงจังกับความปลอดภัยแอปพลิเคชันมากกว่าการรักษาภาพลักษณ์ของแพลตฟอร์ม.
