ลายเสื้อที่ลวงระบบ AI: เมื่อแฟชั่นป้องกันกล้องวงจรปิด

ลายเสื้อที่ทำให้ AI มองไม่เห็นคน: นิยามสั้นๆ ของแฟชั่นต้านการรู้จำใบหน้า

ลายเรขาคณิตแบบก่อกวนบนเสื้อผ้า คือรูปแบบกราฟิกที่ออกแบบด้วยอัลกอริทึมเพื่อทำให้ระบบตรวจจับบุคคลและการรู้จำใบหน้าของ AI สับสน จนคะแนนความมั่นใจของโมเดลลดต่ำกว่าค่าที่ตั้งไว้ ส่งผลให้กล้องวงจรปิดหรือระบบเฝ้าระวังอัตโนมัติไม่สามารถระบุว่ามีคนอยู่ในภาพอย่างชัดเจน แม้ในสายตาของมนุษย์จะเห็นร่างกายและใบหน้าชัดเจนก็ตาม แนวคิดนี้ไม่ใช่แฟชั่นเพื่อความสวยงาม แต่เป็นเครื่องมือเชิงการเมืองของความเป็นส่วนตัว ที่ตั้งใจใช้ “เสื้อผ้า” เป็นเกราะป้องกันสายตาของอัลกอริทึมและการเก็บข้อมูลเชิงลึกเกี่ยวกับตัวตนและพฤติกรรมในพื้นที่สาธารณะ

ประเด็นสำคัญคือ เรากำลังอยู่ในสังคมที่ใบหน้าและข้อมูลชีวมิติถูกผูกติดกับระบบบริการและการเฝ้าระวัง จนแทบจะไม่สามารถทวงคืนข้อมูลที่ให้ไปแล้วได้อีก การใช้ลายบนเสื้อผ้าเพื่อลวงระบบ AI จึงเป็นการต่อต้านเชิงสัญลักษณ์ที่ทรงพลังกว่าการพยายามซ่อนตัวด้วยหน้ากากหรืออุปกรณ์อิเล็กทรอนิกส์ที่ดูผิดปกติ ผู้เขียนมองว่ามันคือการพลิกเกมจากการถูกมองเห็นโดยไม่สมัครใจ ไปสู่การเลือกว่าจะให้ระบบกล้องวงจรปิดเห็นอะไรบ้าง

จาก Black Hat และ Defcon สู่เสื้อผ้า noRecognition: AI ถูกลวงด้วยลายพิมพ์อย่างไร

งานวิจัยที่นำเสนอในเวทีด้านความปลอดภัยอย่าง Black Hat และงานแฮกเกอร์ Defcon เผยให้เห็นว่าเราไม่จำเป็นต้องพึ่งหน้ากากแบบตัวละครซูเปอร์ฮีโร่หรือวงจรไฟอินฟราเรดเพื่อหลอกการรู้จำใบหน้าอีกต่อไป สิ่งที่ต้องมีอาจเป็นเพียงผ้าพันคอหรือเสื้อยืดที่พิมพ์ลายเฉพาะซึ่งออกแบบมาให้ก่อกวนโมเดลมองภาพของ AI Swearingen ผู้ก่อตั้งชุมชน SecKC ได้พัฒนาโครงการชื่อ noRecognition ที่มุ่งสร้างเสื้อผ้าเพื่อทำให้ผู้สวมใส่ตรวจจับได้ยากขึ้นสำหรับระบบเฝ้าระวังด้วย AI

จุดยืนของโครงการนี้ชัดเจนว่าเป็นการลวงระบบ AI ไม่ใช่การทำลายกล้องหรือซอฟต์แวร์ แต่เป็นการป้อนข้อมูลที่ทำให้ระบบตีความผิด เปลี่ยนการเฝ้าระวังจากแบบเบ็ดเสร็จไปสู่การมีช่องว่างให้หลุดรอด ผู้เขียนเห็นว่า การวิจัยนี้คือการแสดงให้ฝ่ายเทคโนโลยีและผู้มีอำนาจเห็นว่า ต่อให้กล้องเต็มทุกมุมเมือง ระบบก็ไม่ใช่พระเจ้า มันยังถูกหลอกได้ด้วยเสื้อผ้าชิ้นเดียว และนั่นควรทำให้เรากลับมาถามถึงขอบเขตที่เหมาะสมของการใช้การรู้จำใบหน้า

ชั้นต่างๆ ของสายโซ่กล้องอัจฉริยะ: ลายเรขาคณิตตีแตกได้ตรงไหน

หลายคนมักเรียกทุกอย่างที่เกี่ยวกับใบหน้าว่า “การรู้จำใบหน้า” ทั้งที่ในความเป็นจริงสายโซ่การเฝ้าระวังด้วย AI แบ่งเป็นสามชั้นสำคัญ: ตัวตรวจจับบุคคล, ตัวตรวจจับใบหน้า และระบบการรู้จำใบหน้าที่เทียบใบหน้ากับฐานข้อมูลตัวตน ลายบนเสื้อแบบ noRecognition เน้นโจมตีที่ชั้นแรก คือทำให้ระบบไม่กล้าฟันธงว่าภาพในเฟรมมี “คน” อยู่ตามเกณฑ์ความมั่นใจที่กำหนด หากล้มชั้นนี้ได้ ชั้นต่อๆ ไปก็ไม่เริ่มทำงาน

การทดลองบนเวที Defcon แสดงให้เห็นชัด เมื่อ Swearingen ยืนต่อหน้ากล้อง ระบบให้คะแนนความมั่นใจราว 0.75 ซึ่งสูงกว่าค่าที่กำหนดไว้สำหรับการตรวจพบคน แต่ทันทีที่เขายกแผ่นลายขาวดำขึ้นมา คะแนนกลับลดลงเหลือ 0.21 และหน้าจอขึ้นข้อความว่า “No person detected” แม้เขายังยืนอยู่ตรงนั้นต่อหน้าผู้ชมเต็มห้อง ประโยคหนึ่งที่น่าจดจำคือ “If you break the first link, the rest of the surveillance chain may never get started” ซึ่งตอกย้ำว่าการโจมตีชั้นตรวจจับคนมีผลวงกว้างที่สุดต่อการป้องกันกล้องวงจรปิดด้วยแฟชั่น

แฟชั่นลวงระบบ AI ทำงานอย่างไร: จากโปรแกรม fuzzer สู่ลายบนเสื้อ

ลายที่หลอก AI ไม่ได้วาดจากจินตนาการของคนทีละเส้น แต่ถูกสร้างด้วยโปรแกรมที่ทำหน้าที่เหมือน fuzzer ของโลกความปลอดภัยไซเบอร์ Swearingen สร้างโปรแกรมที่สุ่มออกแบบลายหนึ่ง จากนั้นวางลายนั้นบนภาพคนที่สร้างด้วยคอมพิวเตอร์ แล้วส่งภาพไปให้หลายโมเดลมอง หากลายนั้นทำให้กล่องตรวจจับคนหายไปหรือคะแนนความมั่นใจลดลงมาก โปรแกรมจะทำเครื่องหมายไว้เพื่อนำไปผสมปรับปรุงต่อ เหมือนการคัดพันธุ์ลายที่เก่งที่สุดในการลวงระบบ AI

เขาทดสอบลายกับโมเดลทั้งหมด 11 ตัว ทั้งตัวตรวจจับคน ตรวจจับใบหน้า และการรู้จำใบหน้า โดยโครงการได้รันการทดสอบมากกว่า 31.7 ล้านครั้ง และมีผลลัพธ์ราว 534,600 ครั้งที่เข้าเงื่อนไขความผิดปกติ เช่น ตรวจพบคนน้อยลงหรือให้คะแนนต่ำลง อย่างไรก็ตาม มีเพียง 85 ลายเท่านั้นที่เข้าเกณฑ์ “สุดขั้ว” เพราะสามารถเอาชนะตัวตรวจจับคนและใบหน้าได้พร้อมกันในชุดทดสอบเดียว ผู้เขียนมองว่า ตัวเลขเหล่านี้สะท้อนว่าการป้องกันกล้องวงจรปิดด้วยลายเสื้อไม่ใช่เวทมนตร์ แต่มาจากการทดลองอย่างหนักและการเข้าใจโครงสร้างของโมเดลการรู้จำใบหน้า

ข้อจำกัดโลกจริงและอนาคตของความเป็นส่วนตัวผ่านเสื้อผ้า

แม้แนวคิดเสื้อผ้าลวงระบบ AI จะน่าตื่นเต้น แต่โลกจริงตั้งคำถามหนักเรื่องความเชื่อถือได้ ผลทดสอบหลายครั้งชี้ให้เห็นว่าลายเดียวกันอาจใช้ได้กับชุดภาพที่ใช้พัฒนา แต่กลับล้มเหลวเมื่อเปลี่ยนไปใช้กับคนอีกกลุ่มหนึ่ง นอกจากนี้ นักวิจัยยอมรับตรงๆ บนสไลด์ว่า “Still unproven: The worn garment” หมายความว่าจนถึงตอนนี้ สิ่งที่พิสูจน์แล้วทำงานคือการทดลองในแบบดิจิทัล ไม่ใช่การพิมพ์ลงบนผ้าที่สวมเดินไปมาในสภาพแสงและกล้องหลากหลาย

ผู้เขียนเชื่อว่าความไม่แน่นอนนี้ไม่ใช่เหตุผลให้มองข้ามงานวิจัย แต่เป็นคำเตือนว่าเสื้อผ้าป้องกันกล้องวงจรปิดไม่ใช่เกราะวิเศษที่ใช้แล้วหายตัวได้ เราควรมองมันเป็น “เสียงประท้วงแบบสวมใส่ได้” มากกว่ามาตรการความปลอดภัยที่รับประกันผล การมีลายที่ทำให้ระบบลังเล คือการบอกสังคมว่าเรายังต้องถกเถียงเรื่องขอบเขตการเฝ้าระวัง ความเป็นส่วนตัว และการรู้จำใบหน้าอย่างจริงจังในระดับกฎหมายและนโยบาย ไม่ใช่ฝากความหวังทั้งหมดไว้บนเสื้อยืดที่ยังทดสอบไม่ครบทุกสถานการณ์