AI nudify apps กับรูรั่วของ App Store moderation
AI nudify apps คือแอปที่ใช้ปัญญาประดิษฐ์สร้างหรือดัดแปลงภาพบุคคลจริงให้กลายเป็นภาพโป๊ปลอม โดยมักอาศัยเทคนิคคล้ายดีปเฟกเพื่อสลับใบหน้าและเปลี่ยนสภาพร่างกาย ทำให้ข้ามเส้นจากความบันเทิงไปสู่การละเมิดสิทธิ ความเป็นส่วนตัว และศักดิ์ศรีของผู้ถูกนำภาพไปใช้อย่างชัดเจน ซึ่งสร้างความท้าทายอย่างหนักต่อการกำกับดูแลของแพลตฟอร์มแอปและโฆษณาออนไลน์ในปัจจุบัน. กรณีล่าสุดที่แอปประเภท nudification ปรากฏบน App Store แล้วถูกโปรโมตด้วยโฆษณาแบบเจาะกลุ่มบนแพลตฟอร์มโซเชียล เผยให้เห็นว่า App Store moderation ยังพึ่งการตรวจสอบแบบจุดเดียวก่อนปล่อยแอปมากเกินไป ทั้งที่เครื่องมือเหล่านี้ออกแบบมาเพื่อสร้างสื่อโป๊ปลอมของบุคคลจริงโดยตรง นี่ไม่ใช่เพียงการพลาดเชิงเทคนิค แต่เป็นการสะท้อนว่ากระบวนการกลั่นกรองยังตามไม่ทันธรรมชาติของแอป AI ยุคใหม่ที่สามารถซ่อนฟีเจอร์ต้องห้ามแล้วค่อยปลดล็อกภายหลังผ่านอัปเดตหรือคอนเทนต์ในเซิร์ฟเวอร์.
เมื่อโฆษณาของแพลตฟอร์มผลักแอปละเมิดนโยบายให้ดัง
สิ่งที่น่าขันขื่นที่สุดในกรณีนี้คือการที่ Meta รันโฆษณาให้กับแอปบน App Store ที่อนุญาตให้ผู้ใช้สร้างภาพโป๊ปลอมด้วย AI ของบุคคลจริง โฆษณาเหล่านี้ไม่ได้พูดอ้อมค้อม แต่สื่อสารตรงๆ ว่าเป็นเครื่องมือที่ “ไม่มีข้อจำกัด” และระบุว่าตัวละครทั้งหมดคือคนจริง นั่นหมายความว่าเครือข่ายโฆษณาของแพลตฟอร์มใหญ่กำลังช่วยขยายการเข้าถึงเครื่องมือที่ออกแบบมาเพื่อการละเมิดอย่างชัดเจน. รายงานเผยว่าแคมเปญนี้มีโฆษณาถึง 32 ชิ้น เจาะกลุ่มผู้ใช้เพศชายเท่านั้น นี่คือดีลธุรกิจแบบจ่ายเงินโปรโมตที่ขัดกับนโยบายของ App Store อย่างตรงไปตรงมา แต่กลับผ่านการอนุมัติบนฝั่งโฆษณาโดยไม่มีเบรก ระบบโฆษณาไม่เพียงล้มเหลวในการบังคับใช้ deepfake enforcement แต่ยังกลายเป็นเครื่องมือผลักดันแอปละเมิดนโยบายให้ได้รับการติดตั้งและรายได้ก่อนที่ฝ่ายร้านแอปจะรู้ตัวเสียอีก.
Kromix และ MaskAI: ตัวอย่างชัดของ app review process ที่ตามไม่ทัน
จุดเปลี่ยนของเรื่องนี้เกิดขึ้นเมื่อมีรายงานว่า Meta รันโฆษณาให้แอปจาก App Store ที่สร้างภาพโป๊ปลอมด้วย AI โดยใช้ภาพคล้ายนักการเมืองหญิงชื่อดังของสหรัฐฯ จน Apple ลบแอป AI สร้างภาพโป๊ดังกล่าวทันที แอปนั้นคือ Kromix ที่อ้างตัวเป็นเครื่องมือปรับสไตล์ภาพด้วย AI แต่โฆษณากลับแสดงการเปลี่ยนภาพผู้หญิงหน้าตาคล้ายนักการเมือง ให้กลายเป็นฉากวิดีโอโป๊โดยตรง. Apple ชี้แจงว่า Kromix ดูเหมือนจะเพิ่มเนื้อหาและฟีเจอร์ที่ต้องห้ามหลังผ่านการตรวจสอบเบื้องต้นของ App Store แล้ว และย้ำว่าแอปประเภท Nudification ขัดต่อแนวทางการตรวจสอบแอปของบริษัท คำพูดนี้สะท้อนข้อจำกัดสำคัญของ app review process แบบดั้งเดิม ที่ตรวจจับเฉพาะสิ่งที่มองเห็นในเวอร์ชันแรก แต่ไม่สามารถติดตามฟีเจอร์ที่ค่อยๆ ถูกปลดล็อกหรือเปลี่ยนพฤติกรรมผ่านการอัปเดตฝั่งเซิร์ฟเวอร์ ซึ่งเป็นรูปแบบมาตรฐานของแอป AI สร้างคอนเทนต์สมัยนี้.
การตอบสนองแบบ reactive ของ Apple และเงื่อนไขที่กลบปัญหาจริง
หลังถูกตั้งคำถาม Apple ได้ลบทั้ง Kromix และ MaskAI ออกจาก App Store พร้อมระบุว่าทำงานอย่างจริงจังเพื่อระบุและลบแอป รวมถึงบัญชีผู้พัฒนาที่พยายามหลีกเลี่ยงกระบวนการและนโยบายของบริษัท แต่รูปแบบการตอบสนองที่เกิดขึ้น “หลังจากมีรายงานและการติดต่อสอบถาม” บ่งชี้ว่าการบังคับใช้ยังเป็นแบบ reactive คือรอให้สื่อหรือหน่วยงานภายนอกชี้จุดปัญหาแล้วค่อยจัดการ มากกว่าจะสแกนเชิงรุกตั้งแต่ก่อนแอปจะถูกเผยแพร่หรือก่อนโฆษณาจะรัน. กรณีนี้ยังสะท้อนพื้นฐานที่สั่นคลอนมาก่อนหน้า เมื่อมีการเรียกร้องให้ลบแอป Nudify ราว 8 แอปออกจาก App Store เมื่อเดือนก่อน แสดงให้เห็นว่าปัญหาไม่ได้จำกัดแค่ Kromix กับ MaskAI แต่เป็นกลุ่มแอป nudification ทั้งคลัสเตอร์ที่หลุดผ่าน App Store moderation และ deepfake enforcement ไปแล้ว จากนั้นค่อยถูกไล่ลบทีละตัวตามแรงกดดันสาธารณะ.
ข้อสรุป: ถ้า App Store ยังไม่กลั่นกรองเชิงรุก ผู้ใช้คือคนรับความเสี่ยง
เมื่อมองภาพรวม กรณี Kromix และ MaskAI คือสัญญาณเตือนว่า ecosystem แอปมือถือกำลังอยู่ในวิกฤต moderation ที่สร้างโดยเทคโนโลยี AI nudify apps และดีปเฟกที่โตเร็วกว่าระบบตรวจสอบ แนวทางที่ Apple ยืนยันว่าห้ามแอปที่ออกแบบมาเพื่อสร้าง เผยแพร่ หรือบริโภคสื่อลามกนั้นฟังดูเข้มแข็งในเอกสาร แต่ในทางปฏิบัติ แอปเหล่านี้ยังหลุดผ่าน app review process และไปโตบนแพลตฟอร์มโฆษณาก่อนโดนลบอยู่ดี. ถึงเวลาแล้วที่ทั้งร้านแอปและแพลตฟอร์มโฆษณาต้องผูกนโยบายให้สอดคล้องกัน และลงทุนกับการสแกนเชิงรุกทั้งฝั่งแอปและแคมเปญโฆษณา ไม่ใช่ปล่อยให้การเปิดโปงจากภายนอกเป็นตัวขับเคลื่อนหลักของ deepfake enforcement เมื่อเครื่องมือสร้างภาพโป๊ปลอมถูกปล่อยให้หมุนเงินโฆษณาและสร้างฐานผู้ใช้ก่อนถูกลบ คนที่เสียหายที่สุดไม่ใช่บริษัท แต่คือบุคคลที่ถูกแปลงร่างในภาพโดยไม่ยินยอม.
