กรณี Kromix–MaskAI: สัญญาณเตือนใหญ่ของยุคแอป AI สร้างภาพโป๊
แอป AI สร้างภาพโป๊คือแอปพลิเคชันที่ใช้ปัญญาประดิษฐ์ดัดแปลงรูปหรือใบหน้าคนจริงให้กลายเป็นภาพหรือวิดีโอเปลือยปลอม โดยมักเน้นให้ผู้ใช้สามารถนำภาพบุคคลที่มีตัวตนอยู่แล้วมาแปลงเป็นสื่อโป๊แบบล่วงละเมิด ซึ่งเสี่ยงต่อการละเมิดสิทธิ ความเป็นส่วนตัว และถูกใช้เป็นเครื่องมือทำร้ายทางดิจิทัลในวงกว้างได้อย่างรุนแรงมากกว่าสื่อลามกทั่วไปที่มีการสร้างเพื่อการแสดงโดยสมัครใจของผู้เกี่ยวข้องทุกคนในเนื้อหานั้นๆ. กรณีล่าสุดที่แอปบน App Store ที่มีฟังก์ชัน “nudify” อย่าง Kromix ถูกโปรโมตผ่านโฆษณาบนแพลตฟอร์มโซเชียล พร้อมภาพคล้ายนักการเมืองสหรัฐฯ ในบริบททางเพศปลอม และนำไปสู่การลบแอป AI สร้างภาพโป๊ออกจาก App Store ทันทีหลังมีการสอบถามจากสื่อ ไม่ใช่แค่เรื่องโฆษณาแรงเกินเหตุ แต่เป็นหลักฐานชัดว่า App Store moderation และนโยบาย AI content ยังตามไม่ทันความเร็วของนักพัฒนาแอปประเภทนี้.
App Store moderation สะดุดตรงไหนเมื่อแอป nudify หลุดรอด
คำชี้แจงของผู้ให้บริการแพลตฟอร์มยืนยันว่าแอป Kromix ผ่านการตรวจสอบเบื้องต้นของ App Store ไปแล้ว ก่อนจะ “เพิ่มเนื้อหา และฟีเจอร์ที่ต้องห้าม” ภายหลัง ตรงนี้คือหัวใจของปัญหา App Store moderation ในยุค AI: ระบบรีวิวแบบครั้งเดียวตอนส่งขึ้นสโตร์ไม่เพียงพออีกต่อไป เมื่อแอปสามารถอัปเดตคอนเทนต์และพฤติกรรมผ่านเซิร์ฟเวอร์ของตัวเองโดยไม่ต้องส่งเวอร์ชันใหม่ให้ตรวจทุกครั้ง. แม้แนวทางจะระบุชัดว่า “เราสั่งห้ามแอปที่ออกแบบมาเพื่อสร้าง เผยแพร่ หรือบริโภคสื่อลามกอย่างเคร่งครัดเสมอมา แอปประเภท Nudification ขัดต่อแนวทางการตรวจสอบแอปของเรา” แต่ความเคร่งครัดบนกระดาษไม่ได้แปลว่ามีเครื่องมือและคนตรวจจับได้ทันเวลา เมื่อแอปดูเหมือนเป็น “เครื่องมือปรับสไตล์ภาพด้วย AI” ตอนรีวิว แต่กลับกลายเป็นเครื่องผลิต deepfake โป๊หลังเปิดให้บริการจริง การอ้างว่าตรวจเข้มจึงฟังดูเป็นแค่คำประกาศ ไม่ใช่หลักประกันความปลอดภัย App Store สำหรับผู้ใช้.
โฆษณา Meta กับช่องโหว่นโยบาย AI content
รายงานระบุว่าแพลตฟอร์มโซเชียลรายใหญ่ได้รันโฆษณาให้แอปบน App Store ที่อนุญาตให้ผู้ใช้สร้างภาพโป๊ปลอมด้วย AI ของบุคคลจริง โดยมีอย่างน้อยหนึ่งชิ้นใช้ภาพผู้หญิงคล้ายนักการเมืองหญิงชื่อดังยืนหน้าธง พร้อมข้อความ “จะเป็นอย่างไรถ้าเธอเปลี่ยนไป?” ก่อนตัดไปเป็นวิดีโอโป๊ที่ใช้ใบหน้าเดียวกัน นี่คือการฝ่าฝืนนโยบายเกี่ยวกับ synthetic adult content แบบเต็มหน้า และยังถูกกำหนดกลุ่มเป้าหมายเป็นผู้ใช้เพศชายเท่านั้นใน 32 ชิ้นโฆษณา. เมื่อโฆษณาเหล่านี้วิ่งได้จริง แปลว่านโยบาย AI content ของแพลตฟอร์มโฆษณายังไม่ถูกแปลงเป็นระบบตรวจจับที่ดีพอเช่นกัน การที่ทั้ง Apple และฝั่งโฆษณาต้องรอให้สื่อรายงานก่อนถึงจะ “ลบแอปจาก App Store” และหยุดแคมเปญ บอกตรงๆ ว่าโลกออนไลน์ตอนนี้ขับเคลื่อนด้วยการตามแก้หลังบ้าน ไม่ใช่การป้องกันตั้งแต่หน้าประตู.
กระแสแอป NSFW AI เติบโตเร็วกว่าความปลอดภัย App Store
คำชี้แจงของแพลตฟอร์มสอดคล้องกับกรณีเมื่อเดือนก่อนที่ David Chiu อัยการเมืองซานฟรานซิสโกเรียกร้องให้บริษัทลบแอป Nudify ราว 8 แอปออกจาก App Store นั่นแสดงว่ากรณี Kromix กับ MaskAI ไม่ใช่เหตุการณ์โดดเดี่ยว แต่เป็นส่วนหนึ่งของแนวโน้มใหญ่ที่แอป NSFW AI แทรกตัวเข้ามาในระบบนิเวศแอปหลักอย่างต่อเนื่อง. แพลตฟอร์มย้ำว่าทำงานอย่างจริงจังเพื่อระบุและลบแอป รวมถึงบัญชีผู้พัฒนาที่พยายามหลีกเลี่ยงกระบวนการและนโยบายของ App Store moderation แต่เมื่อสื่อยังต้องเป็นคนแจ้งเตือนทุกครั้ง คำถามคือการป้องกันเชิงระบบอยู่ตรงไหน การ “ลบแอปจาก App Store” หลังเกิดดราม่าอาจช่วยลดแรงต้านระยะสั้น แต่ไม่หยุดวงจรการทดลองแอปใหม่ๆ ที่แค่เปลี่ยนชื่อ เปลี่ยนสกิน ก็สามารถส่งขึ้นได้อีก.
บทสรุป: ต้องรีเซ็ตนโยบาย AI content ก่อนความเสียหายจะลุกลาม
กรณี Kromix และ MaskAI แสดงภาพชัดว่า นโยบายเขียนไว้ว่าเข้มงวดไม่พอถ้าระบบจริงปล่อยให้แอป AI สร้างภาพโป๊และโฆษณา deepfake ของบุคคลจริงวิ่งอยู่บนแพลตฟอร์มหลักได้เป็นระยะเวลาหนึ่ง โดยไม่มีการหยุดชะงักจนกว่ามีการติดต่อสอบถามจากสื่อ. หากผู้เล่นรายใหญ่ยังยึดโมเดลตรวจสอบแบบ “ผ่านครั้งเดียวแล้วค่อยตามลบทีหลัง” ความปลอดภัย App Store จะกลายเป็นภาพลวงตาในยุคที่แอปสามารถเปลี่ยนพฤติกรรมผ่านเซิร์ฟเวอร์และใช้ AI สร้างสื่อที่ละเมิดสิทธิได้ภายในไม่กี่คลิก การรีเซ็ตนโยบาย AI content จึงต้องเริ่มจากการยอมรับว่าการตรวจแบบเดิมไม่พอ แล้วลงทุนในการตรวจสอบต่อเนื่อง เครื่องมือระบุแอป Nudification และช่องทางแจ้งเตือนที่เปิดเผย โปร่งใส ระหว่างแพลตฟอร์มต่างๆ มิฉะนั้น เราจะเห็นแอปโป๊ปลอมหน้าใหม่ผลัดกันหลุดรอด App Store moderation ไปเรื่อยๆ โดยไม่มีใครรับผิดชอบความเสียหายที่เกิดกับตัวบุคคลจริงเลย.
