AI content moderation คืออะไร และปัญหาใหญ่ของมันเริ่มตรงไหน
AI content moderation คือระบบที่ใช้ปัญญาประดิษฐ์ตรวจจับ คัดกรอง และบล็อกเนื้อหาที่ถูกมองว่าเสี่ยงหรือผิดนโยบาย โดยประเมินจากคำค้น รูปภาพ วิดีโอ และบริบทที่ผู้ใช้ส่งเข้ามา เพื่อบังคับใช้กฎของแพลตฟอร์มแบบอัตโนมัติแทบทั้งหมด แทนที่จะให้มนุษย์ตรวจสอบทีละเคสเพียงอย่างเดียว ซึ่งช่วยลดภาระงานแต่ก็สร้างความผิดพลาดและความไม่แน่นอนในชีวิตประจำวันของผู้ใช้ไปพร้อมกัน
กรณีล่าสุดของ Google แสดงภาพปัญหานี้ได้ชัดเจน ฟากหนึ่งคือฟีเจอร์ค้นหารูปด้วย AI ใน Google Photos ที่เริ่มกลายเป็น “ตำรวจศีลธรรม” ในอัลบั้มส่วนตัวของเรา อีกฟากคือฟีเจอร์สร้างภาพด้วยโมเดล Nano Banana 2 บน Google Earth ที่ถูกเปิดตัวและถูกระงับภายในเวลาอันสั้น เพราะภาพที่สร้างขึ้นถูกมองว่าละเมิดนโยบายของบริษัทเมื่อวันที่ 31 กรกฎาคม Google ซึ่งเป็นบริษัทในเครือ Alphabet ประกาศว่าจะระงับการใช้งานฟีเจอร์สร้างภาพด้วย AI บน Google Earth ชั่วคราว หลังจากที่ผู้ใช้ได้แชร์ภาพจำนวนมากที่ถูกมองว่าละเมิดกฎของแพลตฟอร์ม
Google Photos: AI ที่ยอมให้ค้นหาเบียร์ แต่ปฏิเสธกัญชา
กรณี Google Photos สะท้อนปัญหา content filter inconsistency ได้ตรงที่สุด ผู้ใช้คนหนึ่งบนแพลตฟอร์มกระดานสนทนาเล่าว่า เมื่อเขาลองค้นหาคำว่า “weed”, “cannabis”, “marijuana” หรือ “joints” ในคลังภาพของตัวเอง ฟีเจอร์ Ask Photos ซึ่งขับเคลื่อนด้วยโมเดล Gemini กลับปฏิเสธการค้นหาโดยสิ้นเชิง สิ่งที่น่าตกใจคือข้อจำกัดนี้ไม่ได้หยุดอยู่แค่โหมด AI แต่ขยายไปถึงการค้นหาแบบปกติที่ควรจะเป็นแค่ตัวจัดทำดัชนีรูปภาพเท่านั้น
กรณีนี้ไม่ได้เกี่ยวกับการกระทำผิดกฎหมายโดยตรง เพราะผู้ใช้ยืนยันว่าพื้นที่ที่เขาอยู่การครอบครองรูปภาพดังกล่าวไม่ผิดกฎหมาย และเพียงต้องการค้นหารูปในคลังส่วนตัวของตนเองเท่านั้น อย่างไรก็ตาม ระบบกลับปฏิบัติต่อคำค้นเหล่านี้ราวกับเป็นคำสั่งให้สร้างภาพสาธารณะ แล้วใช้ AI policy enforcement ชุดเดียวกันบล็อกคำเหล่านั้นโดยอัตโนมัติ ซึ่งสะท้อนว่าตัวกรองถูกออกแบบด้วยมุมมอง “ความเสี่ยงกลางโลก” มากกว่าบริบทจริงของผู้ใช้แต่ละคน
ในทางกลับกัน คำอย่าง “beer”, “alcohol” หรือ “cigarette” กลับไม่ถูกเซ็นเซอร์ ผู้ใช้ยังสามารถค้นหารูปเครื่องดื่มแอลกอฮอล์หรือบุหรี่ในคลังรูปได้ตามปกติทั้งใน Ask Photos และการค้นหาแบบทั่วไป จุดนี้เองที่ทำให้ผู้ใช้จำนวนมากรู้สึกว่า AI content moderation กำลังเลือกปฏิบัติบนเส้นแบ่งที่ไม่มีใครอธิบายได้ชัดเจน ว่าทำไมสิ่งเสพติดบางประเภทจึงถูกบล็อก ขณะที่อีกประเภทกลับถูกมองข้าม
ช่องโหว่ของตัวกรอง: “hemp” ผ่าน แต่ “cannabis” ติดด่าน
สิ่งที่ทำให้เรื่องนี้ดูไร้เหตุผลยิ่งขึ้นคือ ตัวกรองเนื้อหาที่เข้มงวดกลับถูกหลบเลี่ยงได้ด้วยการเล่นคำอย่างง่ายดาย ผู้ใช้คนเดิมพบว่า เพียงเปลี่ยนคำค้นจาก “weed” หรือ “cannabis” เป็น “hemp” ระบบก็แสดงรูปดอกกัญชาทั้งหมดที่เขาต้องการได้อย่างไม่มีปัญหา กล่าวอีกแบบคือ AI policy enforcement แยกแยะไม่ออกว่าคำเหล่านี้เชื่อมโยงกับสิ่งเดียวกัน แต่กลับใช้กฎคนละชุดกับคำที่ใกล้เคียงกันมาก
ประโยคที่ควรจดจำจากกรณีนี้คือ “ระบบประเมินคำค้นในอัลบั้มส่วนตัวราวกับเป็นคำสั่งสร้างภาพสาธารณะ แล้วใช้ตัวกรองเนื้อหาเคร่งครัดกับชีวิตส่วนตัวของผู้ใช้เอง” การออกแบบแบบเดียวกันนี้ทำให้ตัวกรองกลายเป็นสิ่งที่ผู้ใช้มองว่าไม่สอดคล้องกับความเป็นจริง เพราะมันไม่ได้ป้องกันการใช้ผิดจุดอย่างแท้จริง แต่กลับสร้างอุปสรรคให้การใช้งานพื้นฐาน
content filter inconsistency ในกรณีนี้จึงไม่ใช่แค่เรื่องความน่ารำคาญ แต่เป็นสัญญาณว่าระบบ AI content moderation ถูกออกแบบแบบ “กวาดทีเดียวทั่วโลก” โดยไม่สนใจความหมายซ้ำซ้อนของภาษาหรือเจตนาของผู้ใช้ ผลลัพธ์คือผู้ใช้คนเดียวกัน ทำสิ่งเดียวกัน แต่ได้ประสบการณ์ที่ต่างกันเพียงเพราะเปลี่ยนคำคนละตัวอักษร
จาก Nano Banana บน Google Earth ถึงภาพใหญ่ของการบังคับใช้นโยบายด้วย AI
ฝั่ง Google Earth ก็เผชิญปัญหา AI policy enforcement ในอีกรูปแบบหนึ่ง ฟีเจอร์สร้างภาพด้วย AI ที่ขับเคลื่อนด้วยโมเดล Nano Banana 2 ถูกเปิดตัวเพื่อให้ผู้ใช้ป้อนคำสั่งข้อความแล้วสร้างภาพสมจริงจากข้อมูลดาวเทียม ภาพทางอากาศ และแผนที่ 3 มิติของสถานที่ต่างๆ ทั่วโลก แต่เพียงไม่ถึง 24 ชั่วโมงหลังการอัปเดต ฟีเจอร์นี้ก็ถูกระงับชั่วคราว เพราะผู้ใช้จำนวนหนึ่งแชร์ภาพที่ถูกมองว่าละเมิดกฎของแพลตฟอร์ม
กรณีนี้ชี้ให้เห็นปัญหาอีกด้าน นั่นคือเมื่อ AI content moderation ทำงานไม่ทันกับความคิดสร้างสรรค์ของผู้ใช้ เครื่องมือใหม่จึงต้องถูกถอยออกทั้งระบบ แทนที่จะปรับปรุงเฉพาะกรณีที่มีปัญหา บริษัทระบุว่าจะเพิ่มมาตรการป้องกันที่เข้มงวดขึ้น แต่ไม่ได้อธิบายว่าภาพแบบไหนที่ถูกมองว่าละเมิดนโยบาย ผู้ใช้จึงรับรู้เพียงว่าระบบ “ผิดกฎ” บางอย่างที่ตัวเองไม่เคยเห็น ทำให้เกิดช่องว่างของความไว้วางใจต่อการบังคับใช้นโยบายอัตโนมัติ
สองกรณีนี้สะท้อนประเด็นเดียวกัน: เมื่อ AI ถูกใช้ทั้งในการสร้างและกรองเนื้อหา แพลตฟอร์มจะเข้าโหมด “ระวังภัยสูงสุด” และกลายเป็นว่าความปลอดภัยเชิงนโยบายถูกให้ความสำคัญมากกว่าความโปร่งใสและความสามารถใช้งานจริงของผู้ใช้ การปิดฟีเจอร์ทั้งชุดจึงเป็นการยอมรับโดยปริยายว่า AI ยังรับมือกับความซับซ้อนของโลกจริงไม่ไหว
บทเรียนจากความย้อนแย้ง: AI ยังไม่เข้าใจโลกที่มันพยายามควบคุม
เมื่อดูภาพรวม Google Photos search blocking และการระงับฟีเจอร์ Nano Banana 2 บน Earth ทำให้เห็นชัดว่า AI content moderation ในปัจจุบันยังอยู่ในช่วงทดลองมากกว่าพร้อมใช้งานอย่างเต็มรูปแบบ ระบบตัวกรองถูกสร้างขึ้นเพื่อแก้ปัญหาเชิงนโยบายในระดับโลก แต่กลับสร้างประสบการณ์ผู้ใช้ที่คาดเดาไม่ได้ โดยที่ผู้ใช้ไม่รู้ว่าเส้นแบ่งของ “ได้” กับ “ไม่ได้” ถูกวางไว้ตรงไหน
เมื่อเครื่องมือค้นหารูปภาพส่วนตัวปฏิบัติต่อคำค้นเหมือนคำสั่งสร้างภาพสาธารณะ และเมื่อฟีเจอร์สร้างภาพต้องถูกดึงออกทั้งชุดเพราะความเสี่ยงด้านนโยบาย ช่องว่างระหว่างความสามารถของ AI กับความซับซ้อนของโลกจริงก็ยิ่งชัด ผู้ใช้ถูกดันให้อยู่ในโลกที่กฎของ AI เปลี่ยนไปมาโดยไม่มีการอธิบาย เทคโนโลยีจึงไม่เพียงทำหน้าที่ค้นหาและสร้างเนื้อหา แต่ยังแอบสวมบทเป็นผู้พิพากษาเงียบๆ ในชีวิตดิจิทัลของเรา
คำถามสำคัญจึงไม่ใช่ว่า AI สามารถบล็อกอะไรได้บ้าง แต่คือ “ใคร” เป็นคนกำหนดกฎ และกฎเหล่านั้นจะชัดเจน โปร่งใส และสอดคล้องกับชีวิตจริงแค่ไหน หากคำตอบยังเป็นชุดตัวกรองที่เปลี่ยนไปตามรุ่นโมเดลมากกว่าตามเหตุผลมนุษย์ content filter inconsistency แบบวันนี้ก็จะยังคงอยู่ และความเชื่อมั่นใน AI policy enforcement ก็จะยิ่งลดลงเรื่อยๆ
