AI content filtering คืออะไร และทำไมมันถึงเริ่มกลายเป็นตำรวจศีลธรรม
AI content filtering หรือการกรองเนื้อหา AI คือกระบวนการที่ระบบปัญญาประดิษฐ์วิเคราะห์คำค้นหา ข้อความ หรือรูปภาพ แล้วตัดสินว่าอะไรควรถูกอนุญาตหรือบล็อก โดยอาศัยกฎความปลอดภัยที่ตั้งไว้ล่วงหน้า ไม่ได้พิจารณาสถานการณ์รายกรณีหรือบริบททางกฎหมายและวัฒนธรรมอย่างละเอียด จึงมักกลายเป็นเส้นแบ่งที่แข็งทื่อ ระหว่าง “เนื้อหาที่ปลอดภัย” กับ “เนื้อหาต้องห้าม” บนแพลตฟอร์มดิจิทัลยุคใหม่ ซึ่งเริ่มส่งผลกระทบแม้กระทั่งกับไฟล์ส่วนตัวของผู้ใช้เองในโทรศัพท์
กรณีของ Google Photos เป็นตัวอย่างชัดว่าระบบปกป้อง AI ที่ถูกออกแบบมาเพื่อห้ามการสร้างเนื้อหาสาธารณะ กลับลุกลามเข้ามาควบคุมการค้นหาในอัลบั้มส่วนตัวของผู้ใช้ด้วย แทนที่ Gemini จะทำหน้าที่เป็นเพียงตัวจัดทำดัชนีของรูปภาพ ระบบกลับประเมินคำค้นเหมือนเป็นคำสั่งสร้างภาพใน chat และใช้ตัวกรองความปลอดภัยชุดเดียวกันกับการตอบแชตสาธารณะ นี่ไม่ใช่แค่การปกป้องผู้ใช้ แต่มันคือการตัดสินทางศีลธรรมผ่านโค้ด โดยปราศจากการทำความเข้าใจบริบทจริงของชีวิตคนใช้
กัญชาถูกบล็อก แต่เบียร์ไม่เป็นไร: ความไม่สอดคล้องของ AI ที่เห็นได้ด้วยตาเปล่า
สิ่งที่ทำให้การกรองเนื้อหา AI ดูน่าอึดอัดที่สุดในกรณีนี้ ไม่ใช่แค่การบล็อกคำเกี่ยวกับกัญชา แต่คือความไม่สอดคล้องของ AI ที่เลือกปฏิบัติอย่างชัดเจน ผู้ใช้รายหนึ่งพบว่า Ask Photos ซึ่งขับเคลื่อนด้วย Gemini ปฏิเสธคำค้นอย่าง “weed”, “cannabis”, “marijuana” และ “joints” โดยไม่ยอมแสดงผลรูปภาพในคลังส่วนตัวเลย แม้แต่การค้นหาแบบเดิมที่ไม่ใช้ AI ก็ล้มเหลว โดยแสดงข้อผิดพลาดหรือไม่คืนผลลัพธ์ใดๆ
ที่น่าขันคือ ระบบเดียวกันกลับยอมรับคำที่มีความหมายแทบจะเหมือนกัน เช่น “hemp” ซึ่งสามารถหลบเลี่ยงตัวกรองและดึงภาพดอกกัญชาขึ้นมาได้ครบถ้วน ขณะเดียวกันคำอย่าง “beer”, “alcohol” และ “cigarette” กลับค้นหาได้ตามปกติทั้งใน Ask Photos และการค้นหาแบบคลาสสิก นี่คือภาพสะท้อนชัดเจนว่า AI ไม่ได้ตัดสินจากความเสี่ยงจริงของเนื้อหา แต่มองจากรายการคำต้องห้ามที่ถูกเขียนไว้ในเอกสารออกแบบระบบเท่านั้น
เมื่อระบบปกป้อง AI ไม่เห็นบริบททางกฎหมายและวัฒนธรรม
แก่นปัญหาของการกรองเนื้อหา AI ในกรณีนี้ คือการใช้กฎแบบเหวี่ยงแหโดยไม่สนใจว่าโลกความจริงมีพื้นที่สีเทาและความแตกต่างทางกฎหมายอย่างไร คำที่เกี่ยวข้องกับ “สารควบคุมหรือสารผิดกฎหมาย” ถูกตั้งค่าให้ถูกล็อกโดยอัตโนมัติในตัวกรองความปลอดภัยของ Gemini ทั้งที่ในหลายเขตอำนาจ กัญชาไม่ได้ผิดกฎหมาย และผู้ใช้รายที่ร้องเรียนก็ระบุว่าการครอบครองและถ่ายภาพกัญชาในพื้นที่ของตนเป็นเรื่องถูกต้องตามกฎหมาย
ปัญหาจึงไม่ใช่ว่า AI content filtering ไม่ควรมีอยู่ แต่เป็นการออกแบบระบบปกป้อง AI ที่มองโลกแบบขาวดำเกินไป เมื่อใช้กฎเดียวกันกับทุกบริบท ตั้งแต่การสร้างภาพสาธารณะไปจนถึงการค้นหาในแกลเลอรีส่วนตัว ระบบย่อมลงเอยด้วยการเซ็นเซอร์สิ่งที่ไม่ผิดกฎหมายและไม่ได้ละเมิดใคร โดยเฉพาะอย่างยิ่งเมื่อแอป Photos ไม่ใช่แพลตฟอร์มเผยแพร่ภาพสาธารณะ แต่เป็นอัลบั้มส่วนตัวของผู้ใช้เอง นี่คือสัญญาณว่า AI ยังขาดความเข้าใจบริบทเชิงลึกในระดับที่ทำงานได้อย่างยุติธรรมสำหรับทุกคน
จากตำรวจศีลธรรมสู่การกลั่นกรองที่คำนึงถึงผู้ใช้และบริบท
เมื่อการกรองเนื้อหา AI เริ่มทำหน้าที่เหมือนตำรวจศีลธรรมในพื้นที่ส่วนตัวของเรา ความไว้ใจต่อเทคโนโลยีย่อมสั่นคลอน ผู้ใช้เพียงต้องการค้นหารูปของตัวเอง แต่กลับถูกระบบตัดสินว่าคำบางคำ “ไม่เหมาะสม” ทั้งที่การถือรูปกัญชาไม่ถือเป็นความผิดใดๆ และไม่ควรถูกควบคุมด้วยมาตรฐานเดียวกับเนื้อหาสาธารณะ ขณะเดียวกันคำเกี่ยวกับแอลกอฮอล์และบุหรี่ซึ่งมีผลกระทบต่อสุขภาพไม่ต่างกันกลับผ่านระบบได้อย่างสบาย ทำให้ผู้ใช้ตั้งคำถามว่าเส้นแบ่งของ AI ถูกลากขึ้นจากหลักการใดกันแน่
กรณีนี้เผยให้เห็นความท้าทายใหญ่ของการสร้างระบบปกป้อง AI ที่คำนึงถึงบริบทในระดับมหภาค ทั้งด้านกฎหมายและวัฒนธรรม เมื่อใช้กฎชุดเดียวครอบคลุมทุกพื้นที่และทุกสถานการณ์ เราย่อมได้ผลลัพธ์เป็นความไม่สอดคล้องของ AI ที่ทั้งไร้เหตุผลและไร้ความเคารพต่อผู้ใช้ ทางออกจึงไม่ใช่การปลดล็อกทุกอย่าง แต่คือการออกแบบการกรองเนื้อหา AI ให้แยกบทบาทระหว่างพื้นที่สาธารณะกับพื้นที่ส่วนตัว เปิดทางให้ผู้ใช้ควบคุมได้มากขึ้น และยอมรับว่าบริบทของโลกจริงซับซ้อนกว่ารายการคำต้องห้ามในเอกสารออกแบบระบบเสมอ
