แอป AI สร้างภาพโป๊: ภัยจริงที่หลุดรอดการคัดกรอง
แอป AI สร้างภาพโป๊ คือแอปพลิเคชันที่ใช้ปัญญาประดิษฐ์สร้างหรือดัดแปลงภาพและวิดีโอให้บุคคลที่มีตัวตนจริงกลายเป็นเนื้อหาลามกหรือเปลือย โดยมักอาศัยเทคนิคการปลอมแปลง deepfake และการลบเสื้อผ้าแบบดิจิทัล เปิดช่องให้เกิดการคุกคามทางเพศ การละเมิดสิทธิส่วนบุคคล และการทำลายชื่อเสียงของเหยื่อ โดยเฉพาะเมื่อภาพปลอมเหล่านี้ถูกแชร์หรือโปรโมตผ่านแพลตฟอร์มโฆษณาขนาดใหญ่ซึ่งผู้ใช้ไม่รู้ตัวว่ากำลังถูกนำไปใช้เป็นวัตถุดิบของระบบ AI. ประเด็นสำคัญคือ แอปประเภทนี้ไม่ได้เกิดขึ้นในมุมมืดของอินเทอร์เน็ตเท่านั้น แต่ทะลุเข้ามาอยู่ใน App Store อย่างเปิดเผย แอปหนึ่งถูกนำเสนอว่าเป็นเครื่องมือปรับแต่งภาพด้วย AI ทว่าถูกใช้สร้างภาพโป๊ปลอมของคนจริงผ่านโฆษณาที่แสดงผู้หญิงคล้ายนักการเมืองดังในวิดีโอลามก นี่คือหลักฐานว่ากลไก App Store moderation ยังตามไม่ทันความเร็วของ AI เชิงสร้างสรรค์และความเจ้าเล่ห์ของผู้พัฒนา.
เมื่อโฆษณา AI เปลือยหลุดไปถึงแพลตฟอร์มใหญ่แล้ว Apple ค่อยลบ
กรณี Kromix คือภาพสะท้อนชัดเจนว่าแอป AI สร้างภาพโป๊สามารถอาศัยช่องโหว่ของการตรวจสอบเพื่อเข้าไปอยู่ใน App Store ก่อนจะเปิดฟีเจอร์ที่ต้องห้ามในภายหลัง แอปถูกโปรโมตผ่านโฆษณาบนแพลตฟอร์มโซเชียลขนาดใหญ่ โดยอนุญาตให้ผู้ใช้สร้างภาพโป๊ปลอมของบุคคลจริงหรือ Nudify ซึ่งเข้าข่ายการปลอมแปลง deepfake อย่างชัดเจน. รายงานระบุว่าแคมเปญโฆษณาของแอปนี้มีอย่างน้อย 32 ชิ้นที่เจาะกลุ่มผู้ชายเท่านั้น ก่อนที่แพลตฟอร์มโฆษณาจะถอดออกภายหลังได้รับการแจ้งเตือนจากสื่อ จากนั้น Apple จึงลบ Kromix ออกจาก App Store ตามมา พร้อมระบุว่าฟีเจอร์ที่ต้องห้ามถูกเพิ่มหลังผ่านการตรวจสอบเบื้องต้น. กรณีนี้ชี้ให้เห็นอย่างน่าเป็นห่วงว่า การตอบสนองของ App Store moderation อาศัยแรงกดดันจากภายนอกมากกว่าการพบปัญหาด้วยตัวเอง.
MaskAI และรูปแบบการพึ่งพาสื่อมากกว่าการตรวจจับเชิงรุก
Kromix ไม่ใช่กรณีเดียวที่แสดงให้เห็นการหลุดรอดของเนื้อหาอันตรายด้วย AI แอปอีกตัวคือ MaskAI ซึ่งเปิดให้ผู้ใช้อัปโหลดรูปภาพและใช้ AI สลับใบหน้าคนเข้าไปในสถานการณ์ทางเพศอย่างโจ่งแจ้งได้ในลักษณะเดียวกัน. นั่นคือการปลอมแปลง deepfake ในระดับที่ทำให้ผู้เสียหายถูกใส่เข้าไปในฉากลามกโดยไม่ยินยอม ซึ่งเป็นการทำร้ายทั้งด้านจิตใจและสังคม. ที่น่าตั้งคำถามคือ แอปนี้ก็อยู่ใน App Store เช่นกัน และถูกลบออกก็เมื่อสื่อเริ่มตรวจสอบและถามคำถามต่อบริษัทเท่านั้น. เส้นเรื่องจึงเหมือนกันทุกครั้ง: แอปผ่านการตรวจเบื้องต้น เพิ่มฟีเจอร์อันตราย หรือใช้คำโฆษณาเชิงลามก จากนั้นอยู่บนแพลตฟอร์มจนสื่อจับได้และเผยแพร่การสอบสวน แล้วค่อยถูกลบ นี่ไม่ใช่การป้องกันเชิงรุก แต่เป็นการดับไฟหลังเกิดเพลิงไหม้แล้ว.
นโยบายเข้มแต่การบังคับใช้ล่าช้า: ช่องว่างของ App Store moderation
ในคำชี้แจงต่อสื่อ Apple ย้ำว่าได้สั่งห้ามแอปที่ออกแบบมาเพื่อสร้าง เผยแพร่ หรือบริโภคสื่อลามกมาโดยตลอด และระบุชัดว่าแอปประเภท Nudification ซึ่งใช้ AI ถอดเสื้อผ้าจากรูปบุคคลจริง ขัดต่อแนวทางการตรวจสอบแอปของบริษัท. บนกระดาษ นโยบาย ความปลอดภัยแอปพลิเคชัน ดูเข้มข้นและคมชัด ทว่ากรณี Kromix และ MaskAI กลับชี้ให้เห็นว่ากระบวนการ App Store moderation มีช่องว่างใหญ่ระหว่าง “สิ่งที่ห้าม” กับ “สิ่งที่ตรวจพบทันเวลา”. เมื่อบริษัทเองยอมรับว่าแอปอาจเพิ่มฟีเจอร์ต้องห้ามหลังผ่านการอนุมัติ ก็เท่ากับยอมรับว่าไม่มีระบบติดตามพฤติกรรมแอปหลังปล่อยจริงอย่างเพียงพอ ขณะเดียวกัน สื่อพบว่ามีโฆษณาปัญหาจำนวนมากเชื่อมโยงไปยังแอปที่มีฟังก์ชันสลับใบหน้าในสถานการณ์ทางเพศ นี่คือการย้ำว่า AI เชิงสร้างสรรค์กำลังใช้ช่องว่างของการตรวจสอบแอปเพื่อขยายการกระทำผิดอย่างต่อเนื่อง.
ผู้ใช้ควรทำอย่างไรท่ามกลางคลื่นเนื้อหา AI อันตราย
เมื่อช่องโหว่ของ App Store moderation ยังชัดเจน ผู้ใช้ไม่อาจฝากความปลอดภัยไว้กับระบบตรวจสอบของแพลตฟอร์มเพียงอย่างเดียวได้อีกต่อไป การระบาดของแอป AI สร้างภาพโป๊และการปลอมแปลง deepfake ผ่านการโฆษณาและการปล่อยฟีเจอร์แอบแฝง แปลว่าเราต้องเพิ่มชั้นป้องกันของตัวเองให้มากขึ้นกว่าคนรุ่นก่อน. ขั้นแรก ควรตรวจสอบมาตรการความปลอดภัยของ App Store อยู่เสมอ และใช้ช่องทางอย่างเป็นทางการ เช่น เว็บไซต์หรือศูนย์ช่วยเหลือของแพลตฟอร์ม ก่อนดาวน์โหลดแอปพลิเคชันใดๆ เพื่อช่วยลดความเสี่ยง. หลีกเลี่ยงแอปที่ใช้คำโฆษณาแนว “ไม่มีข้อจำกัด” หรือเน้นการดัดแปลงภาพคนจริงในบริบทส่วนตัว เพราะมักเป็นสัญญาณของการละเมิดสิทธิผู้อื่น นอกจากนี้ เราควรตั้งค่าความเป็นส่วนตัวให้เข้มขึ้น ไม่อัปโหลดรูปที่อ่อนไหว และรายงานแอปต้องสงสัยทันทีเมื่อพบ เพื่อกดดันให้แพลตฟอร์มเร่งปรับปรุงกระบวนการตรวจสอบให้ทันกับภัยยุค AI.
