แอปหน้าตาปกติ แต่ซ่อนเครื่องมือทำร้ายคน
แอป AI ที่ซ่อนฟังก์ชันดีปเฟก คือแอปซึ่งแสดงบริการทั่วไปในตอนแรก แต่สามารถเปิดเครื่องมือสร้างภาพหรือวิดีโอปลอมจากรูปที่ผู้ใช้อัปโหลดได้เมื่อเข้าเงื่อนไขบางอย่าง โดยผลลัพธ์อาจเป็นเนื้อหาลามกหรือรุนแรงที่ใช้คุกคามผู้อื่น รายงานการสืบสวนพบแอปเชื่อมโยงกันกว่า 400 รายการ และระบุว่าเครือข่ายดังกล่าวดูเหมือนสร้างโดยองค์กรเดียว แอปเหล่านี้ปรากฏทั้งบน App Store และ Google Play Store ทั้งที่มีนโยบายห้ามเนื้อหาดีปเฟกที่ก่ออันตราย จุดน่ากังวลจึงไม่ใช่แค่การมีเครื่องมือสร้างภาพ แต่คือการใช้หน้าตาที่ดูปลอดภัยบังการใช้งานจริง การตรวจพบแอปเช่นนี้ควรเตือนผู้ใช้ว่า การมีแอปในสโตร์ไม่ได้รับประกันว่าทุกฟังก์ชันหรือเนื้อหาที่แอปเรียกจากภายนอกจะปลอดภัย
ความเสี่ยงตกอยู่กับคนในภาพโดยตรง เพราะเมื่อมีการนำรูปไปสร้างดีปเฟกภาพเชิงลามกหรือความรุนแรง เจ้าตัวอาจถูกทำให้อับอาย ข่มขู่ หรือคุกคามโดยไม่ยินยอม แอปสร้างภาพจึงไม่ใช่เครื่องมือแต่งภาพธรรมดาเสมอไป โดยเฉพาะเมื่อเปิดให้ใช้รูปของผู้อื่นและเลือกฉากที่สื่อถึงการล่วงละเมิดหรือการข่มขู่

กลยุทธ์สับขาหลอกทำให้การตรวจจับไม่ทัน
เครือข่ายนี้พรางตัวด้วยคำอธิบายบริการที่ไม่มีพิษภัย เช่น แอปสอนภาษา โค้ชออกกำลังกายด้วย AI หรือเครื่องมือแต่งรูปสัตว์เลี้ยง แต่เมื่อเข้าใช้งานภายใต้เงื่อนไขที่กำหนด แอปอาจโหลดหน้าเว็บซึ่งเปิดฟังก์ชันสร้างภาพและวิดีโอโจ่งแจ้งจากรูปที่อัปโหลด การตรวจสอบผ่านเซิร์ฟเวอร์เป็นหัวใจของกลโกง: ตอนส่งให้ตรวจ แอปแสดงเนื้อหาปกติ แต่ผู้พัฒนาสามารถเปลี่ยนเนื้อหาที่แอปดึงมาแสดงหลังได้รับอนุมัติได้ รายงานระบุด้วยว่าการติดตั้งหลังแตะโฆษณาที่โปรโมตฟังก์ชันดีปเฟกบนแพลตฟอร์มของ Meta อาจเป็นหนึ่งในเงื่อนไขเปิดใช้ฟีเจอร์ซ่อนอยู่ นี่เป็นช่องโหว่เชิงกระบวนการที่ผู้ใช้มองไม่เห็นจากหน้ารายการแอปเพียงอย่างเดียว
แอปบางรายการอยู่บนสโตร์มานานถึงหนึ่งปี และเครือข่ายยังโฆษณาผ่านวิดีโอจำนวนมากบน Facebook และ Instagram รายงานระบุว่าหลังได้รับข้อมูลรายละเอียด Apple ได้นำแอปออก 19 รายการ ส่วนบริษัทกล่าวว่าแอปผ่านกฎในช่วงตรวจสอบ ก่อนที่ผู้พัฒนาจะเปลี่ยนเว็บไซต์ที่ใช้แสดงเนื้อหา ต่อมา Apple เพิ่มมาตรการรับมือแนวทางนี้ ขณะที่ Meta ระบุว่าดำเนินการกับบัญชีโฆษณาที่เชื่อมโยงกับโดเมนที่เกี่ยวข้องแล้วมากกว่า 10,000 บัญชี การจัดการเหล่านี้เป็นความคืบหน้า แต่ไม่ควรตีความว่าความเสี่ยงหมดไป
ตรวจให้พ้นชื่อแอป ก่อนฝากรูปไว้กับ AI
กรณีนี้ทำให้คำว่าแอปผ่านการตรวจสอบมีน้ำหนักน้อยลง หากแอปพึ่งหน้าเว็บหรือเนื้อหาจากเซิร์ฟเวอร์ภายนอก เพราะสิ่งที่เห็นในวันติดตั้งอาจไม่ตรงกับสิ่งที่ปรากฏภายหลัง สำหรับความปลอดภัยแอป ผู้ใช้ควรพิจารณาวัตถุประสงค์ของแอปให้สอดคล้องกับฟังก์ชันที่โฆษณา ตรวจชื่อผู้พัฒนาและข้อมูลความเป็นส่วนตัว อ่านรีวิวหลายช่วงเวลา และระวังโฆษณาที่ชวนให้ติดตั้งเพื่อสร้างภาพโจ่งแจ้งหรือภาพรุนแรง ก่อนอัปโหลดรูป ควรคิดให้รอบคอบว่ารูปนั้นเป็นของใครและยินยอมหรือไม่ รวมถึงหลีกเลี่ยงการส่งภาพส่วนตัวหรือภาพที่ระบุตัวบุคคลได้ให้บริการที่ไม่ชัดเจน หากพบฟีเจอร์หรือโฆษณาที่ชวนทำดีปเฟกโดยไม่ได้รับความยินยอม ควรหยุดใช้และรายงานผ่านช่องทางของสโตร์หรือแพลตฟอร์มที่พบ
ข้อควรระวังเหล่านี้ไม่ได้รับประกันว่าจะตรวจพบแอปอันตรายทุกตัว แต่ช่วยลดโอกาสที่รูปของเราหรือผู้อื่นจะถูกนำไปใช้โดยไม่ยินยอม การดาวน์โหลดจากสโตร์ทางการยังเป็นแนวทางพื้นฐานที่ควรทำ ทว่าเหตุการณ์นี้ยืนยันชัดว่าไม่ใช่หลักประกันเพียงพอ ผู้ใช้ต้องตรวจทั้งผู้พัฒนา พฤติกรรมของแอป และสิ่งที่แอปขอให้ส่งเข้าไปด้วย
บทสรุป: อย่าฝากความไว้ใจไว้กับตราผ่านตรวจ
กรณีแอป AI กว่า 400 รายการที่ซ่อนฟังก์ชันดีปเฟกอนาจารและรุนแรงสะท้อนว่า ระบบคัดกรองของสโตร์และแพลตฟอร์มโฆษณายังตามการเปลี่ยนแปลงของเนื้อหาจากเซิร์ฟเวอร์ไม่ทัน แม้มีการลบแอปและจัดการบัญชีโฆษณาแล้ว ผู้ใช้ก็ไม่ควรถือว่าปัญหาสิ้นสุด ทางเลือกที่รอบคอบคือจำกัดการอัปโหลดรูป ตรวจสอบแอปและผู้พัฒนาอย่างมีวิจารณญาณ และไม่ใช้ภาพของใครสร้างเนื้อหาที่เจ้าตัวไม่ได้ยินยอม เพราะความเสียหายจากดีปเฟกอาจเกิดกับคนในภาพ แม้คนสร้างจะเป็นอีกคนก็ตาม






