เมื่อ App Store moderation แพ้ความเร็วของ AI
ปัญหา App Store moderation ต่อแอป AI คือสถานการณ์ที่แพลตฟอร์มศูนย์รวมแอปไม่สามารถกลั่นกรอง หยุดยั้ง หรือเฝ้าระวังแอปที่ใช้ AI สร้างเนื้อหาผิดนโยบายได้ทันเวลา ทั้งที่มีแนวทางความปลอดภัยเข้มงวด ส่งผลให้แอปล่อแหลมและละเมิดสิทธิผู้ใช้หลุดรอดจนได้รับความนิยม และกว่าจะถูกถอดถอนก็มักเกิดความเสียหายไปแล้วในระดับหนึ่ง การลบแอป Kromix ออกจาก App Store คือสัญญาณชัดว่า AI ทำให้การตรวจแอปแบบเดิมเริ่มใช้ไม่ได้ แอปนี้ผ่านการอนุมัติในฐานะเครื่องมือแต่งภาพด้วย AI แต่ถูกใช้สร้างภาพและวิดีโอโป๊ปลอมของคนจริงในภายหลัง แถมยังถูกโปรโมตผ่านโฆษณาบนแพลตฟอร์มโซเชียลที่กำหนดกลุ่มเป้าหมายเป็นผู้ชายเท่านั้น จุดที่น่าเป็นห่วงคือ Apple ยอมรับเองว่าแอปน่าจะเพิ่มฟีเจอร์ที่ต้องห้ามหลังพ้นด่านตรวจ App Store แล้ว แปลว่าระบบไม่พร้อมรับมือแอปที่เปลี่ยนพฤติกรรมได้ตลอดเวลา
ดีปเฟคนู้ดและแอป Nudify: เมื่อ AI กลายเป็นโรงงานผลิตการละเมิด
หัวใจของเรื่องนี้คือ AI-generated content ที่ออกแบบมาเพื่อเปลี่ยนภาพคนจริงให้กลายเป็นสื่ออนาจารหรือดีปเฟค แอป Kromix นำเสนอตัวเองว่าเป็นเครื่องมือปรับสไตล์ภาพด้วย AI แต่ถูกพบว่ามีฟีเจอร์สร้างเนื้อหาอนาจารจากภาพบุคคลจริง โฆษณาบางชิ้นใช้ภาพหญิงสาวที่คล้ายนักการเมืองสหรัฐ พร้อมข้อความชวนคิด ก่อนตัดเข้าสู่ฉากวิดีโอโป๊ที่ใช้ใบหน้าเดียวกัน นี่คือดีปเฟคในรูปแบบที่เจาะจงเป้าหมายชัดเจน ที่น่ากังวลกว่านั้นคือกรณี MaskAI แอปที่เปิดให้ผู้ใช้สลับใบหน้าคนเข้าไปในสถานการณ์ทางเพศอย่างโจ่งแจ้ง ซึ่งก็ถูกลบออกจาก App Store หลังถูกสื่อรายงานเช่นกัน รูปแบบซ้ำๆ นี้ชี้ว่าแพลตฟอร์มกำลังรอให้เกิดเสียงร้องเรียนจากภายนอก แทนที่จะตรวจจับ deepfake apps และแอป Nudify ให้ได้ด้วยตัวเองตั้งแต่ต้น ทั้งที่นโยบายของ Apple ระบุชัดว่า “สั่งห้ามแอปที่ออกแบบมาเพื่อสร้าง เผยแพร่ หรือบริโภคสื่อลามกอย่างเคร่งครัดเสมอมา” และแอป Nudification ขัดต่อแนวทาง App Store โดยตรง
เมื่อแพลตฟอร์มโฆษณากลายเป็นทางด่วนให้แอป AI ฝ่าด่านตรวจ
ปัญหาไม่ได้อยู่ที่ App Store moderation ฝั่งเดียว เพราะแอปเหล่านี้อาศัยแพลตฟอร์มโฆษณาเป็นทางด่วนเข้าถึงผู้ใช้ กรณี Kromix แสดงให้เห็นว่าโฆษณาในเครือโซเชียลช่วยขยายการเข้าถึงเนื้อหาโป๊ปลอมของบุคคลจริงอย่างกว้างขวาง ก่อนที่ทีมตรวจสอบของร้านแอปจะขยับทัน แม้ภายหลังจะมีการลบโฆษณาออกหลายสิบชิ้น และดึงแอปออกจากสโตร์ทันทีที่ถูกสอบถาม แต่รูปแบบนี้ตอกย้ำว่ากระบวนการ “ก่อนเผยแพร่” แทบไม่ทำงาน พร้อมกันนั้น งานศึกษาหนึ่งชี้ว่าแอปของแพลตฟอร์มโซเชียลรายนี้ใน App Store เก็บชนิดข้อมูลผู้ใช้เฉลี่ย 25 จาก 35 ประเภท มากกว่าบริษัทใหญ่อื่นหลายเท่า และมากกว่าบริษัทแพลตฟอร์มอุปกรณ์และซอฟต์แวร์รายสำคัญกว่า 3 เท่า เมื่อแพลตฟอร์มที่หิวข้อมูลเช่นนี้เปิดประตูโฆษณาให้ deepfake apps ผลคือส่วนผสมอันตรายระหว่าง app privacy violations กับเนื้อหา AI ที่โจมตีศักดิ์ศรีบุคคลโดยตรง
ตัวเลขที่ไม่อาจมองข้าม: ความหิวข้อมูลของแอปกับความเสี่ยงผู้ใช้
เบื้องหลังปัญหาคือโมเดลธุรกิจที่ขับเคลื่อนด้วยข้อมูล งานศึกษาที่ตรวจแอป 171 ตัวใน App Store พบว่าแอปของผู้พัฒนาในเครือโซเชียลรายหนึ่งเก็บข้อมูลเฉลี่ย 25 ประเภท จาก 35 ประเภทที่มีได้ มากกว่า Google ที่ 17 และมากกว่าผู้เล่นรายอื่นอย่าง Amazon ที่ 12 รวมถึงคู่แข่งสายซอฟต์แวร์องค์กรและผู้ผลิตอุปกรณ์ที่ 8 และ 7 ตามลำดับ “แอปของ Meta เก็บชนิดข้อมูลผู้ใช้เฉลี่ย 25 จาก 35 ประเภท มากกว่าบริษัทใหญ่อื่นในกลุ่มเดียวกันอย่างเห็นได้ชัด” เมื่อรวมข้อมูลพฤติกรรมจำนวนมากเข้ากับ deepfake apps และ AI-generated content ที่ละเมิดสิทธิภาพบุคคล ผลลัพธ์คือความเสี่ยงทับซ้อนทั้งด้านภาพลักษณ์และความเป็นส่วนตัว การที่แอปถูกลบออกทีละตัวหลังมีคนจับได้ แสดงให้เห็นช่องโหว่เชิงระบบไม่ใช่แค่ “เหตุการณ์หลุดรอดเป็นครั้งคราว” อีกต่อไป
แพลตฟอร์มต้องรับผิดชอบแบบใหม่ ไม่ใช่แค่ลบแอปเมื่อสายเกินไป
สิ่งที่ภาพรวมนี้บอกเราคือ ระบบตรวจสอบแอปและโฆษณายังคิดแบบยุคที่ซอฟต์แวร์มีฟีเจอร์ตายตัว แต่แอป AI เปลี่ยนพฤติกรรมได้หลังผ่านด่านตรวจ เพิ่มฟีเจอร์ต้องห้ามทีหลัง และใช้แพลตฟอร์มโฆษณาพาเนื้อหาล่อแหลมไปหาผู้ใช้ ก่อนที่ใครจะรู้ตัว App Store moderation ที่ทำงานเป็นรอบๆ และอาศัยการแจ้งเตือนจากสื่อภายนอกจึงตามไม่ทัน Apple ประกาศว่าจะลบไม่เพียงตัวแอปแต่รวมถึงบัญชีนักพัฒนาที่พยายามหลบเลี่ยงกฎด้วย นี่เป็นก้าวแรกที่ดี แต่ยังไม่พอ หากไม่เปลี่ยนวิธีคิดไปสู่การเฝ้าระวังต่อเนื่อง การตรวจจับความเปลี่ยนแปลงของฟีเจอร์ และการผูกนโยบายความเป็นส่วนตัวเข้ากับพฤติกรรมที่แท้จริงของแอป แพลตฟอร์มต่างๆ จะยังปล่อยให้ AI กลายเป็นเครื่องมือทำร้ายผู้ใช้มากกว่าช่วยเหลืออย่างที่ตั้งใจ
