AI ทำเอกสารคดีคืออะไร และทำไมการหลงเชื่อจึงอันตราย
AI ทำเอกสารคดี คือการใช้ระบบปัญญาประดิษฐ์เช่นแชตบอตช่วยร่าง สรุป หรือวิเคราะห์ข้อมูลทางกฎหมาย ตั้งแต่บันทึกคำให้การ เอกสารอุทธรณ์ ไปจนถึงการค้นหาคำพิพากษาเก่า โดยผู้ใช้หวังลดเวลาและต้นทุน แต่หากเชื่อผลลัพธ์โดยไม่ตรวจสอบ AI อาจแต่งพยานปลอม อ้างอิงคดีที่ไม่มีอยู่จริง และสร้างเนื้อหาที่ดูน่าเชื่อถือแต่ผิดทั้งหมด ซึ่งสร้างความเสี่ยงต่อทั้งลูกความและตัวทนายเอง
กรณีล่าสุดที่ทำให้โลกกฎหมายต้องตั้งคำถาม คือเหตุที่ทนายความสตีเฟน แอรอนส์ ใช้ AI ทำเอกสารอุทธรณ์คดีฆาตกรรมของออสการ์ เรเน ซานโดวาล โดยนำไฟล์ถอดคำพูดจากการพิจารณาคดีและเอกสารอื่น ๆ ให้ระบบช่วยสรุปข้อมูล เพื่อหวังให้ได้ภาพรวมคดีที่ชัดเจน แต่ผลกลับกลายเป็นหายนะ เพราะเนื้อหาที่ AI สร้างไม่เพียงสรุปผิด แต่ยังใส่คำให้การตำรวจและพยานที่ไม่มีอยู่จริงลงไปในเอกสาร แถมยังตีความแนวคำพิพากษาคดีก่อนหน้าแบบผิดด้าน เหตุนี้สะท้อนว่าปัญหาไม่ได้อยู่ที่เทคโนโลยีเพียงอย่างเดียว แต่อยู่ที่วิธีคิดแบบเชื่อ AI ตามความรู้สึก หรือที่ถูกเรียกว่า vibe lawyering ซึ่งกำลังแพร่กระจายอย่างน่ากังวล
จากพยานปลอมถึงการละเมิดอำนาจศาล เมื่อความเสี่ยง ChatGPT ทนายกลายเป็นความจริง
ในคดีดังกล่าว ศาลพบว่าเอกสารอุทธรณ์ที่ AI ร่างให้แอรอนส์มีทั้งคำให้การของบุคคลที่ไม่มีชื่ออยู่ในคดี และคำให้การปลอมของบุคคลที่มีอยู่จริงในสำนวน เช่นรายละเอียดการแต่งตัวของผู้ก่อเหตุอย่างการสวมกางเกงสีเข้มและเสื้อสีขาว ซึ่งศาลระบุชัดว่าเป็นข้อมูลที่ถูกสร้างขึ้นมา นี่ไม่ใช่การพิมพ์ผิดหรือการเข้าใจคลาดเล็กน้อย แต่คือการแต่งเรื่องใหม่ในเอกสารศาล
ศาลสูงสุดของรัฐเห็นชัดว่าแอรอนส์มีหน้าที่ต้องตรวจสอบข้อมูลก่อนยื่นต่อศาล ทนายเองก็ยอมรับว่าไม่ได้เช็กความถูกต้องและไม่ได้ตรวจคำอธิบายกฎหมายที่ AI สร้างขึ้น ผลคือเขาถูกวินิจฉัยว่าละเมิดอำนาจศาล ถูกลงโทษและส่งเรื่องให้คณะกรรมการวินัยทนายความตรวจสอบเพิ่มเติม เอกสารอุทธรณ์ฉบับเดิมถูกยกเลิก และคดีถูกส่งต่อให้ทนายจากสำนักงานผู้พิทักษ์สาธารณะรับผิดชอบแทน เหตุการณ์นี้ตอกย้ำว่า “ความเสี่ยง ChatGPT ทนาย” ไม่ใช่คำเตือนเชิงทฤษฎี แต่เป็นความผิดพลาดที่มีผลจริงต่อชะตากรรมของคนหนึ่งคนในคดีอาญา
AI hallucination กับ vibe lawyering เมื่อเครื่องมือช่วยร่างเอกสารกลายเป็นโรงงานแต่งคดี
หัวใจของปัญหาคือ AI ประเภทภาษาขนาดใหญ่ไม่ได้ค้นหาคำตอบจากฐานข้อมูลแบบระบบค้นกฎหมาย แต่ทำนายคำถัดไปจากรูปแบบในข้อมูลฝึก ทำให้บางครั้งระบบสร้างข้อความที่ฟังดูสมเหตุสมผลแต่แต่งขึ้นทั้งหมด ปรากฏการณ์นี้ถูกเรียกว่า AI hallucination และในโลกกฎหมาย การใส่คดี ปรียีนต์ หรือพยานปลอมย่อมมีผลหนักกว่างานเขียนทั่วไป รายงานหลายคดีชี้ว่ามีการยื่นเอกสารที่อ้างชื่อคดีและคำพิพากษาที่ไม่เคยมีอยู่จริง หรืออ้างอิงผิดประเด็นโดยสมบูรณ์ แต่ถูกเขียนในรูปแบบเดียวกับการอ้างอิงจริง ทำให้ตาเปล่าแทบแยกไม่ออก
สถานการณ์นี้เกิดพร้อมกับกระแส vibe lawyering ซึ่งคือการที่ทนายใช้แชตบอตช่วยค้นกฎหมายและเตรียมเอกสารโดยเชื่อข้อความที่ได้เพียงเพราะอ่านแล้ว “ดูใช่” โดยไม่ย้อนกลับไปตรวจที่มา ปัญหายิ่งชัดเมื่อมีข้อมูลว่าจากเดือนมกราคมถึงมิถุนายนในปีหนึ่ง มีอย่างน้อยสามคดี เช่น Kohls v. Ellison, Coomer v. Lindell และ Shahid v. Esaam ที่พบการอ้างอิงคดีแต่งในเอกสารศาล คำกล่าวที่ว่า “รูปแบบการอ้างอิงปลอมดูเหมือนจริงทุกอย่าง” จึงไม่ใช่คำเปรียบเทียบ แต่เป็นคำอธิบายเชิงปฏิบัติว่าทำไมข้อผิดพลาดเหล่านี้จึงเล็ดลอดเข้าสู่สำนวนได้เช่นนี้
เมื่อการใช้ AI แซงหน้ามาตรฐานจริยธรรม ค่าความประหยัดอาจกลายเป็นหนี้ทางกฎหมายถาวร
แรงจูงใจในการใช้ AI ทำเอกสารคดีไม่ใช่เรื่องลึกลับ ทนายมีค่าใช้จ่ายสูงและกระบวนการศาลซับซ้อน คนจำนวนมากหันไปถามแชตบอตได้ทั้งกลางวันและกลางคืนโดยไม่ต้องกังวลค่าบริการรายชั่วโมง สำหรับผู้ที่กำลังเผชิญการถูกไล่ที่หรือข้อพิพาทสัญญา เอกสารความเห็นทางกฎหมายที่ AI ร่างให้สามารถเป็นโอกาสต่อรองบนงบประมาณจำกัด งานวิจัยยังพบว่าผู้ยื่นฟ้องด้วยตนเองในศาลพลเรือนระดับรัฐบาลกลางคิดเป็น 16.8% ของคดีในปีหนึ่ง เทียบกับค่าเฉลี่ยระยะยาว 11% แสดงให้เห็นว่าการเข้าถึงเครื่องมือเช่นแชตบอตช่วยลดกำแพงการผลิตเอกสารศาลได้จริง
แต่ความสะดวกนี้กำลังแซงหน้ามาตรฐานจริยธรรมและการตรวจสอบอย่างเป็นระบบ แม้คำแนะนำขององค์กรวิชาชีพกฎหมายในบางประเทศจะกำชับให้ทนายต้องเข้าใจขีดจำกัดของ AI ตรวจทานผลลัพธ์ ปกป้องข้อมูลลับ และกำกับดูแลการใช้เครื่องมือเหล่านี้ ความจริงคือศาลเริ่มตอบโต้ด้วยบทลงโทษจริงจังต่อผู้ที่ยื่นเอกสารที่มีเนื้อหาแต่งโดยไม่ได้ตรวจสอบ ตั้งแต่ค่าปรับ การตักเตือน ไปจนถึงการสั่งระงับกระบวนพิจารณา งานวิจัยหนึ่งชี้ว่าภายในกลางปีหนึ่งมีคดีที่เกี่ยวข้องกับเนื้อหา AI แต่งในเอกสารศาลมากกว่าสิบหลัก ทำให้ทุกคำผิดในสำนวนกลายเป็นหนี้ทางกฎหมายที่ต้องใช้เวลาและต้นทุนมหาศาลในการแก้ไข
จะใช้ AI ทำเอกสารคดีโดยไม่พาลูกความพังได้อย่างไร
คำถามจึงไม่ใช่ว่าควรเลิกใช้ AI ในงานกฎหมายหรือไม่ แต่คือจะใช้มันอย่างรับผิดชอบอย่างไร เพราะในอีกด้าน AI มีประโยชน์จริงในการสรุปเอกสารยาว การจัดหมวดหมู่ข้อมูล และการช่วยร่างฉบับแรกของบันทึกหรือคำร้อง เพื่อให้ทนายมีเวลาไปโฟกัสกับการวิเคราะห์เชิงยุทธศาสตร์และการสื่อสารกับลูกความ อย่างไรก็ตาม ทุกข้อความจาก AI ต้องถือว่าเป็นร่างหยาบที่ยังไม่ผ่านการรับรอง และต้องถูกตรวจสอบกับเอกสารต้นฉบับ กฎหมาย ตัวบท และคำพิพากษาจริงทุกรายการ
ในทางปฏิบัติ ผู้ประกอบวิชาชีพควรยึดสามหลักง่ายแต่เข้มงวด หนึ่ง ใช้ AI เฉพาะในงานที่ผลลัพธ์สามารถตรวจสอบย้อนกลับได้ เช่นสรุปหรือจัดโครง ไม่ใช่เป็นแหล่งค้นคดีกฎหมายหลัก สอง วางกระบวนการการตรวจสอบเอกสาร AI อย่างเป็นขั้นตอน เช่นการตรวจ citation ทุกตัวด้วยระบบฐานข้อมูลทางกฎหมาย และสาม ให้ความสำคัญกับการคุ้มครองข้อมูลลับ เพราะทุกคำที่พิมพ์เข้าไปในระบบสาธารณะอาจไปโผล่ในเครื่องมือวิเคราะห์หรือบันทึกการใช้งานของผู้ให้บริการ สำหรับประชาชนทั่วไปที่ใช้ AI เขียนเอกสารศาลด้วยตนเอง ต้องยอมรับว่าการ “ประหยัดค่าทนาย” ด้วยการมอบความไว้วางใจทั้งหมดให้ AI อาจจบลงด้วยค่าใช้จ่ายทางเวลาและความเสียหายที่สูงกว่าเดิมหลายเท่า
