ค้นพบความสนใจของคุณ ไปด้วยกัน

ดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

ค้นพบความสนใจของคุณ ไปด้วยกันดีลจริง รีวิวตรงไปตรงมา และเรื่องราวการช้อปปิ้งจากคนที่มีความสนใจเดียวกับคุณ — ทุกวันบน ZestBuy

เมื่อ AI สร้างหลักฐานปลอม ความรับผิดตกอยู่ที่ใคร

เมื่อ AI สร้างหลักฐานปลอม ความรับผิดตกอยู่ที่ใคร
ความสนใจ|สำรวจการใช้งาน AI

คำตอบที่แต่งขึ้น อาจกลายเป็นหลักฐานในศาล

AI ประสาทหลอน คือภาวะที่ระบบปัญญาประดิษฐ์สร้างข้อมูลเท็จขึ้นมา แต่เรียบเรียงอย่างมั่นใจและน่าเชื่อถือ จนผู้อ่านอาจแยกไม่ออกหากไม่ตรวจสอบกับหลักฐานต้นทาง นี่ไม่ใช่ข้อผิดพลาดเล็กน้อยเมื่อคำตอบนั้นถูกนำไปใช้ในเอกสารทางกฎหมายหรือการตัดสินใจที่มีผลต่อชีวิตคน คดีของสตีเฟน แอรอนส์ ทนายจำเลยคดีอาญาในรัฐนิวเม็กซิโก เป็นตัวอย่างที่ชัดเจน เขาป้อนบันทึกถอดความการพิจารณาคดีฆาตกรรมให้ ChatGPT เพื่อประหยัดเวลา แล้วนำข้อมูลจากคำตอบไปใส่ในคำร้องอุทธรณ์โดยไม่ได้ตรวจเทียบกับบันทึกต้นฉบับอย่างละเอียด ระบบแต่งพยานในที่เกิดเหตุขึ้นมา และเขียนคำให้การตำรวจที่ไม่มีอยู่จริงให้ดูสมจริง ก่อนที่ทนายจะยื่นเอกสารต่อศาลสูงสุดของรัฐ

ศาลวินิจฉัยว่าการใช้เนื้อหาปลอมดังกล่าวเป็นการละเมิดอำนาจศาล พร้อมส่งเรื่องให้คณะกรรมการวินัยทนายความสอบสวนต่อ ประเด็นที่ควรจับตาจึงไม่ใช่แค่ว่า ChatGPT ข้อผิดพลาดได้อย่างไร แต่คือเหตุใดผู้มีหน้าที่คุ้มครองสิทธิของจำเลยจึงนำข้อความที่ยังไม่ผ่านการตรวจสอบไปใช้ในคดีซึ่งเกี่ยวข้องกับเสรีภาพและกระบวนการยุติธรรม การอ้างว่าเชื่อคำตอบของระบบไม่อาจลบความรับผิดชอบของผู้ลงชื่อในเอกสารได้

ความผิดพลาดของ AI ไม่เหมือนการจำผิด

ความผิดพลาดของมนุษย์มักมีร่องรอยให้ตรวจพบ เช่น จำข้อเท็จจริงคลาดเคลื่อนหรืออ้างเอกสารผิด แต่ AI ประสาทหลอนอาจเติมช่องว่างด้วยเรื่องที่ไม่เคยเกิดขึ้น แล้วจัดวางรายละเอียดให้เข้ากับคำถามอย่างแนบเนียน กรณีนี้จึงไม่ใช่เพียงการสรุปพยานผิด แต่เป็นการสร้างพยานและคำให้การตำรวจที่ไม่มีอยู่จริง ความมั่นใจของสำนวนไม่ใช่เครื่องยืนยันว่าข้อมูลมีหลักฐานรองรับ ยิ่งงานมีความสำคัญสูง ความเสียหายจากการปล่อยให้ระบบทำงานโดยไม่มีคนตรวจยิ่งมาก ในคดีอาญา ข้อความเท็จอาจเบี่ยงประเด็นการอุทธรณ์และกระทบสิทธิของจำเลย ส่วนการยื่นข้อมูลที่ตรวจสอบไม่ได้ยังบั่นทอนความน่าเชื่อถือของศาลและวิชาชีพทนาย ความเสี่ยงทางกฎหมายจึงไม่ได้เกิดจากเครื่องมือเพียงลำพัง แต่เกิดเมื่อผู้เชี่ยวชาญละทิ้งหน้าที่ตรวจสอบแล้วนำผลลัพธ์ไปใช้เสมือนเป็นข้อเท็จจริง

ผู้พิพากษาในคดีนี้ตำหนิทนายว่า ข่าวเรื่องทนายใช้ AI สร้างข้อมูลผิดปรากฏอยู่เป็นประจำ และตั้งคำถามว่าเขาไม่ได้ติดตามข่าวสารหรือ คำตำหนินี้สะท้อนว่าความเสี่ยงเป็นสิ่งที่ผู้ประกอบวิชาชีพควรรู้แล้ว ไม่ใช่ข้อบกพร่องลึกลับที่ไม่มีใครคาดคิด มีรายงานว่าทนายหลายสิบคนทั่วสหรัฐฯ ถูกลงโทษทางศาลจากการยื่นเอกสารที่ AI สร้างโดยไม่ตรวจสอบ แนวโน้มนี้ส่งสัญญาณชัดว่า ศาลเริ่มถือผู้ยื่นเอกสารเป็นผู้รับผิดชอบต่อเนื้อหา แม้จะใช้ระบบอัตโนมัติช่วยจัดทำก็ตาม

งานเสี่ยงสูงยิ่งต้องมีคนคุม

บทเรียนจากคดีไม่ได้จำกัดอยู่ในสำนักงานกฎหมาย แพทย์ นักการเงิน และผู้พัฒนาหุ่นยนต์ก็ต้องตัดสินใจจากข้อมูลที่มีผลต่อสุขภาพ ทรัพย์สิน หรือความปลอดภัย หากคำตอบผิดแต่สืบย้อนที่มาไม่ได้ ความเสียหายอาจเกิดก่อนที่ใครจะรู้ว่าระบบแต่งข้อมูลขึ้นมา การมอบหมายงานสำคัญให้ AI โดยไม่มีผู้เชี่ยวชาญตรวจหลักฐาน จึงเป็นความเสี่ยงที่ต่างจากการใช้ระบบช่วยร่างข้อความทั่วไป ปัญหาส่วนหนึ่งมาจากการที่โมเดลภาษาให้ความสำคัญกับการสร้างคำตอบที่ดูสมเหตุสมผล มากกว่าการรับรองว่าทุกข้อความตรงกับความจริง นั่นทำให้การขยายโมเดลหรือเพิ่มข้อมูลเพียงอย่างเดียวอาจไม่พอ ผู้เชี่ยวชาญจึงควรถามให้ได้ว่าข้อสรุปมาจากหลักฐานใด ตรวจสอบย้อนกลับได้หรือไม่ และระบบระบุความไม่แน่นอนตรงไหน หากไม่มีคำตอบเหล่านี้ การนำผลลัพธ์ไปใช้ในงานที่เดิมพันสูงย่อมเป็นการฝากความรับผิดชอบไว้กับเครื่องมือที่ไม่อาจรับผิดแทนผู้ใช้

ความพยายามพัฒนาระบบที่ตรวจสอบได้กำลังเกิดขึ้น ธอร์ เกรเพล อดีตนักวิจัยดีปมายด์ นำเสนอแนวคิดของเมทิส รีซันนิงในงานของเอ็นวิเดียที่เบอร์ลิน โดยได้แรงบันดาลใจจากแนวทางของอัลฟาโกที่ใช้การค้นหาและประเมินทางเลือกอย่างเป็นระบบ แนวคิดนี้เสนอให้แยกความรู้ออกจากน้ำหนักโมเดล จัดเก็บข้อเท็จจริง ระดับความมั่นใจ และข้อสงสัยไว้ในบัญชีความรู้ พร้อมให้โมดูลตรวจสอบข้อสรุปกับหลักฐาน อย่างไรก็ตาม เอกสารแนวคิดยังไม่มีระบบใช้งานจริงหรือผลทดสอบประสิทธิภาพรองรับ จึงยังไม่ใช่เหตุผลให้ผู้เชี่ยวชาญลดการตรวจสอบในวันนี้

ตรวจทุกข้อเท็จจริงก่อนลงชื่อ

มาตรการป้องกันที่ใช้ได้ทันทีไม่ซับซ้อน แต่ต้องทำอย่างเคร่งครัด สำหรับงานกฎหมาย ผู้จัดทำควรเปิดเอกสารต้นฉบับ ตรวจชื่อบุคคล คำให้การ และข้ออ้างทุกข้อก่อนนำไปอ้างในคำร้อง หาก AI ให้เลขคดีหรือข้อความจากพยาน ต้องค้นกลับไปยังแหล่งข้อมูลที่ตรวจสอบได้ ห้ามถือว่าการตอบอย่างลื่นไหลเป็นหลักฐานว่าระบบค้นพบข้อมูลจริง ส่วนงานวิชาชีพอื่นก็ควรกำหนดจุดที่ต้องให้ผู้เชี่ยวชาญอนุมัติก่อนใช้คำแนะนำหรือส่งต่อผลลัพธ์ องค์กรควรบันทึกว่าใช้ AI ในขั้นตอนใด ใครตรวจคำตอบ และอ้างอิงหลักฐานจากที่ใด เพื่อให้ตามแก้ได้เมื่อพบข้อผิดพลาด นี่ไม่ใช่ภาระที่ควรตัดทิ้งเพื่อแลกกับความเร็ว แต่เป็นเงื่อนไขพื้นฐานของการนำ AI ในวิชาชีพมาใช้ โดยเฉพาะเมื่อผลลัพธ์อาจกระทบสิทธิของคนอื่น

คดีของแอรอนส์ชี้ให้เห็นว่าเครื่องมืออาจเป็นผู้สร้างข้อความ แต่ผู้เชี่ยวชาญยังเป็นผู้เลือกว่าจะเชื่อ ตรวจสอบ และยื่นข้อความนั้นหรือไม่ ศาลและหน่วยงานกำกับเริ่มแสดงให้เห็นแล้วว่าการใช้ AI ไม่ได้ยกเว้นความรับผิดของคนทำงาน ข้อสรุปจึงไม่ใช่การห้ามใช้ AI แต่คือห้ามมอบอำนาจตัดสินความจริงให้ระบบโดยไม่ตรวจหลักฐาน ความเร็วที่ได้จากการสร้างคำตอบจะไม่มีค่า หากต้องแลกกับความไว้วางใจของลูกค้า ความเป็นธรรมในศาล หรือความปลอดภัยของผู้คน

ZestBuy ได้รับค่าคอมมิชชั่นเมื่อคุณช้อปผ่านลิงก์ของเรา โดยคุณไม่ต้องจ่ายเพิ่ม

You May Also Like

Comments
พูดอะไรบางอย่าง...
ยังไม่มีความคิดเห็น มาเป็นคนแรกที่แบ่งปันความคิดเห็นของคุณ!