สาระสำคัญของปัญหา: AI content moderation ที่เข้ามาคุมอัลบั้มส่วนตัว
ปัญหาใหญ่ของ AI content moderation ในยุคปัจจุบันคือการที่ระบบซึ่งออกแบบมาเพื่อกรองเนื้อหาสาธารณะถูกดึงเข้าไปควบคุมคลังภาพส่วนตัวของผู้ใช้ ทำให้การค้นหาและจัดการความทรงจำของตัวเองถูกจำกัดด้วยกฎด้านความปลอดภัยที่ไม่ยืดหยุ่น และมักสะท้อนอคติจากการฝึกสอนของโมเดลมากกว่าบริบทการใช้งานจริงของแต่ละคน. เมื่อฟีเจอร์ Ask Photos ใน Google Photos ถูกขับเคลื่อนด้วยโมเดล Gemini ระบบไม่ได้ทำหน้าที่เป็นเพียงตัวช่วยจัดทำดัชนีภาพอีกต่อไป แต่เริ่มนำตัวกรองความปลอดภัยเข้ามาใช้โดยตรงกับแกลเลอรีส่วนตัวของผู้ใช้ ส่งผลให้การค้นหารูปภาพที่เกี่ยวข้องกับสารควบคุมบางประเภทถูกปฏิเสธทันที แม้รูปเหล่านั้นจะถูกถ่ายและเก็บไว้โดยชอบด้วยกฎหมายก็ตาม แนวโน้มนี้สะท้อนชัดว่าบริษัทเทคโนโลยีกำลังเลือกยืนข้างตรรกะของระบบมากกว่าสิทธิในการควบคุมข้อมูลส่วนบุคคลของผู้ใช้เอง.
ตัวอย่างชัดเจน: รูปเบียร์หาได้ รูปกัญชาหาไม่ได้
กรณีศึกษาที่ทำให้ความไม่สอดคล้องของ Google Photos filter โดดเด่นขึ้นมาคือฟีเจอร์ Ask Photos ที่ปฏิเสธคำค้นหาที่เกี่ยวกับกัญชาโดยสิ้นเชิง ผู้ใช้รายหนึ่งเล่าว่าเมื่อพิมพ์คำว่า “weed”, “cannabis”, “marijuana” หรือ “joints” เพื่อค้นหารูปในคลังของตัวเอง ระบบ Ask Photos จะไม่ยอมแสดงผลใดๆ เลย และแม้แต่การค้นหาปกติที่ไม่ผ่าน AI ก็ยังล้มเหลวด้วย นี่คือ AI content moderation ที่ถูกออกแบบให้ตีความทุกคำค้นหาว่าเป็นคำสั่งสร้างภาพสาธารณะ เมื่อเจอคำที่เกี่ยวกับสารควบคุม ระบบล็อกนิรภัยจึงบล็อกไว้ทันที. สิ่งที่ขัดใจยิ่งกว่าคือความไม่ต่อเนื่องของกฎเดียวกัน เมื่อเปลี่ยนมาค้นหาคำว่า “เบียร์”, “แอลกอฮอล์” หรือ “บุหรี่” ระบบกลับยอมให้ค้นหาและแสดงรูปได้ตามปกติทั้งใน Ask Photos และการค้นหาแบบทั่วไป ทำให้เห็นชัดว่ามาตรฐานของ content filtering inconsistency ไม่ได้ตั้งอยู่บนตรรกะที่โปร่งใส แต่เป็นการเลือกปฏิบัติตามรายการคำต้องห้ามที่ฝังมากับโมเดล.
เมื่อกฎความปลอดภัยกลายเป็นเซ็นเซอร์ในกระเป๋าเราเอง
เหตุผลเบื้องหลังการปิดกั้นคำค้นหาที่เกี่ยวกับกัญชา คือการที่ Google ตั้งค่าตัวกรองความปลอดภัยให้โมเดล Gemini ประเมินคำค้นหาในคลังภาพส่วนตัวเหมือนเป็นคำใบ้เพื่อสร้างภาพสาธารณะสำหรับแชต AI ทันทีที่ตรวจพบคำที่เชื่อมโยงกับสารควบคุมหรือสารผิดกฎหมาย ระบบล็อกนิรภัยจะเข้ามาบล็อกการค้นหาโดยอัตโนมัติ. ปัญหาคือแอป Photos ไม่ใช่เครื่องมือสร้างภาพเพื่อเผยแพร่ต่อสาธารณะ แต่คืออัลบั้มส่วนตัวของผู้ใช้ ซึ่งเต็มไปด้วยรูปที่ถ่ายในบริบทที่หลากหลาย ทั้งท่องเที่ยว งานเลี้ยง หรือกิจกรรมที่ถูกกฎหมายในพื้นที่ของเขาเอง การที่ AI ตีความทุกบริบทด้วยกฎเดียวกัน ทำให้มันกลายเป็น “ตำรวจศีลธรรมดิจิทัล” ที่คอยจำกัดการเข้าถึงความทรงจำของเราโดยตรง ทั้งที่การมีรูปเหล่านั้นในโทรศัพท์ไม่ถือว่าผิดกฎหมายแต่อย่างใด. ในทางปฏิบัติผู้ใช้ยังสามารถหลบเลี่ยงได้ด้วยการเล่นคำ เช่น เปลี่ยนไปใช้คำว่า “hemp” เพื่อดึงรูปดอกกัญชาออกมาได้อยู่ดี ทำให้คำถามสำคัญไม่ใช่ว่า AI ปลอดภัยแค่ไหน แต่คือมันกำลังปิดกั้นใคร และเพื่ออะไร.
อัลกอริทึมรู้จำภาพที่ยังสับสน: จากเนื้อหาต้องห้ามถึงใบหน้าคนแปลกหน้า
นอกจากปัญหาเนื้อหาต้องห้ามแล้ว ความไม่แม่นยำของระบบรู้จำภาพยังโผล่มาในรูปแบบที่น่ารำคาญ เช่น การจัดกลุ่มใบหน้าคนผิดคนใน Google Photos ผู้ใช้หลายคนพบว่าฟีเจอร์ Face Groups ที่ออกแบบมาเพื่อช่วยจัดระเบียบภาพ กลับกลายเป็นแหล่งรวมใบหน้าคนแปลกหน้าที่โผล่ขึ้นมาทั้งในส่วน Group similar faces และ Memories ทำให้ไทม์ไลน์ความทรงจำส่วนตัวดูแปลกและรบกวนอารมณ์การใช้งาน. ยิ่งปล่อยให้ระบบทำงานเองไปนานโดยไม่ดูแล กลุ่มใบหน้าก็ยิ่งปนกันไปหมด แม้แต่คนใกล้ตัวอย่างคู่สมรสยังถูกแบ่งออกเป็นหลายกลุ่ม ที่ไม่ได้ผูกกับโปรไฟล์หลักของเขา ทำให้ภาพจากทริปสำคัญบางส่วนไม่ปรากฏในอัลบั้มที่ควรอยู่. ภาพนี้สะท้อนให้เห็นว่าอัลกอริทึมรู้จำภาพไม่ได้แค่เข้มงวดเกินไปกับบางคำค้นหา แต่ยังผิดพลาดในเรื่องพื้นฐานอย่างการแยกแยะว่าใบหน้าไหนสำคัญกับเรา.
ผู้ใช้ต้องเป็นคนปรับเอง: ช่องโหว่ การแก้มือ และบทสรุปต่ออนาคต
ท่ามกลางความไม่สอดคล้องของ AI content moderation และอคติในระบบรู้จำภาพ ผู้ใช้เริ่มค้นพบทั้งช่องโหว่และวิธีแก้ด้วยตัวเอง ด้านคำค้นหาที่โดนบล็อก คนหันไปเล่นคำอย่าง “hemp” เพื่อหลบตัวกรองและดึงรูปออกมาได้อยู่ดี ด้านการรู้จำใบหน้า ผู้ใช้ต้องลงแรง “เทรน” ระบบเองผ่านเครื่องมือในเมนู People & pets โดยการรวมกลุ่มใบหน้าที่ซ้ำกัน แก้ไขกลุ่มที่ติดป้ายผิดคน และลบกลุ่มใบหน้าที่ไม่ต้องการ เมื่อกำจัดรูปออกจากกลุ่มนั้นจนหมด โมเดลใบหน้าก็จะถูกลบจากระบบ. ผู้เขียนประสบการณ์หนึ่งบอกชัดเจนว่า “การเทรนระบบด้วยมือเป็นขั้นตอนที่น่าเบื่อ แต่มีประสิทธิภาพในการลดความรกและป้องกันไม่ให้ Photos สร้างกลุ่มคนแปลกหน้ามาอีก”. บทเรียนจากทั้งหมดนี้คือ เราไม่ควรปล่อยให้ AI ตัดสินทุกอย่างลำพัง การตั้งคำถามกับกฎที่ไม่สอดคล้อง และใช้เครื่องมือควบคุมที่มีอยู่เท่าที่ทำได้ คือการทวงอำนาจจัดการความทรงจำดิจิทัลกลับคืนมา.
