เมื่อผู้ช่วย AI แต่งพยาน หลักฐาน และคดี: ความเสี่ยงที่กฎหมายรับไม่ไหว

AI ผู้ช่วยเอกสารกฎหมาย หรือเครื่องสร้างเรื่องแต่งแบบเนียน

ความเสี่ยง AI เอกสารกฎหมาย คือความเสี่ยงที่ระบบปัญญาประดิษฐ์สร้างข้อความกฎหมายที่ดูน่าเชื่อถือ มีการอ้างอิงคดี พยานหลักฐาน และคำพิพากษาอย่างเป็นรูปแบบทางวิชาชีพ แต่เนื้อหาส่วนหนึ่งอาจเป็นข้อมูลแต่งขึ้นหรือผิดจากข้อเท็จจริง โดยไม่มีสัญญาณเตือนให้ผู้ใช้รู้ทัน ทำให้เอกสารที่ควรยึดโยงกับความจริงกลับกลายเป็นงานเขียนที่เต็มไปด้วยจินตนาการของโมเดลภาษา

ข้อเท็จจริงที่น่ากังวลคือ ChatGPT และโมเดลลักษณะเดียวกันไม่ได้ค้นฐานข้อมูลกฎหมายสด แต่คาดเดาคำถัดไปจากรูปแบบในข้อมูลฝึก ระบบจึงสามารถสร้างชื่อคดี อ้างอิงคำพิพากษา หรือคำให้การที่ไม่เคยมีอยู่จริงได้อย่างลื่นไหล เมื่อผสมเข้ากับภาษากฎหมายที่เป็นทางการ ผลลัพธ์คือเอกสารที่ดูน่าเชื่อถือจนทนายและคู่ความอาจเผลอเชื่อสนิท

แนวโน้มที่ถูกเรียกว่า vibe lawyering คือการใช้แชตบอตมาเขียนเอกสารหรือหาคดีให้ โดยอาศัย “ฟีลลิง” ว่าข้อความนั้นดูเหมือนกฎหมายจริงพอแล้ว ไม่ได้เริ่มจากการตรวจฐานข้อมูลคดีตามหลักการวิจัยกฎหมายแบบดั้งเดิม นี่คือจุดที่ความเสี่ยงปัญญาประดิษฐ์กฎหมายเริ่มล้ำเส้นจากเครื่องมือช่วยงานไปเป็นแหล่งหนี้ทางกฎหมายแบบถาวร

กรณีทนายใช้ ChatGPT แต่งพยานปลอม และค่าปรับทางศาล

กรณีของสตีเฟน แอรอนส์คือบทเรียนที่ชัดที่สุดเกี่ยวกับคำว่า ChatGPT ทนายความ ไม่ใช่ความฝันแต่เป็นความเสี่ยง เขานำไฟล์ถอดคำพูดจากการพิจารณาคดีฆาตกรรมและเอกสารที่เกี่ยวข้องให้องค์กรปัญญาประดิษฐ์ช่วยสรุปเพื่อทำคำอุทธรณ์ โดยตั้งใจจะย่นเวลาและลดความผิดพลาดจากการอ่านสำนวนยาวหลายร้อยหน้า

แต่สิ่งที่เกิดขึ้นคือ AI ใส่คำให้การของตำรวจและพยานที่ไม่มีอยู่จริงลงในเอกสาร บางส่วนถึงขั้นนำชื่อบุคคลที่ปรากฏในคดีจริงมาแต่งคำให้การปลอม เพิ่มรายละเอียดเกี่ยวกับลักษณะการแต่งกายของผู้ก่อเหตุที่ไม่เคยถูกบันทึกในศาลเลย นี่ไม่ใช่แค่สรุปผิด แต่คือการสร้างพยานและข้อเท็จจริงใหม่อย่างเต็มรูปแบบ

ศาลสูงสุดของรัฐชี้ชัดว่าทนายมีหน้าที่ตรวจสอบ AI ก่อนยื่นเอกสาร แต่แอรอนส์ยอมรับว่าไม่ได้ตรวจความถูกต้องทั้งข้อเท็จจริงและการอ้างอิงกฎหมาย ทำให้เขาถูกตัดสินว่าละเมิดอำนาจศาล เอกสารอุทธรณ์ถูกยกเลิก และคดีถูกส่งให้สำนักงานผู้พิทักษ์สาธารณะรับช่วงต่อ นี่คือภาพจริงของความเสี่ยง AI เอกสารกฎหมาย เมื่อผู้ใช้ยอมมอบความไว้วางใจทั้งหมดให้โมเดลภาษา

จาก vibe lawyering ถึงคดีแต่งอ้างอิง: เมื่อความน่าเชื่อถือกลายเป็นภาพลวงตา

vibe lawyering ไม่ได้เป็นแค่ศัพท์เก๋ๆ แต่มันคืออาการที่วงการกฎหมายเริ่มพึ่ง “บรรยากาศของความน่าเชื่อถือ” แทนการตรวจสอบข้อเท็จจริงอย่างเข้มงวด นักกฎหมายและคู่ความที่ใช้ AI เพื่อค้นคดีและร่างเอกสาร เริ่มพึงพอใจกับข้อความที่อ่านแล้วเหมือนงานวิชาชีพโดยลืมถามว่า สิ่งนี้อ้างอิงจากอะไรจริงๆ

มีคดีจริงหลายกรณีที่ยืนยันปัญหานี้ ในปีหนึ่ง ศาลลงโทษปรับทนายสองคนและสำนักงานของพวกเขาเพราะใช้ ChatGPT สร้างการอ้างอิงคดีซึ่งถูกตรวจพบว่ามีคดีที่ไม่เคยมีอยู่จริงในระบบ ต่อมาในช่วงครึ่งปีหนึ่ง สำนักข่าวแห่งหนึ่งรายงานอย่างน้อยสามคดีที่มีการอ้างอิงปลอมในสำนวน ได้แก่ Kohls v. Ellison, Coomer v. Lindell และ Shahid v. Esaam

สิ่งที่ทำให้ปัญหานี้โหดร้ายคือ การอ้างอิงปลอมถูกจัดรูปแบบเหมือนของจริงทุกประการ ตั้งแต่ชื่อคดี รูปแบบเลขคำพิพากษา ไปจนถึงการใช้ภาษากฎหมาย ไม่มีอะไรในหน้ากระดาษบอกคุณว่านี่คือจินตนาการของ AI การตรวจพบจึงเกิดขึ้นก็ต่อเมื่อมีคนหยิบไปเทียบฐานข้อมูลคดีด้วยตัวเองเท่านั้น นี่แหละ “ความน่าเชื่อถือปลอม” ที่ vibe lawyering ผลิตขึ้นมา

ทำไมมนุษย์ยังเป็นเกราะสุดท้าย และโปรโตคอลตรวจสอบควรหน้าตาอย่างไร

โมเดลภาษาใหญ่ถูกออกแบบให้เดาคำที่น่าจะตามมา ไม่ได้ถูกออกแบบให้การันตีความจริง ทุกคำตอบจึงมีความเสี่ยงของ AI hallucination หรือข้อความแต่งขึ้นที่ฟังดูสมเหตุสมผลแต่ไม่เคยเกิดขึ้นจริง ในงานเอกสารกฎหมายที่เดิมพันด้วยเสรีภาพ ชื่อเสียง และสิทธิของคู่ความ ความผิดเล็กน้อยก็กลายเป็นหายนะ

แม้แชตบอตจะช่วยสรุปเอกสาร จัดระเบียบข้อมูล หรือร่างฉบับแรกได้ดี แต่ผู้ใช้ต้องตรวจทุกอย่างกับแหล่งอ้างอิงที่เชื่อถือได้เองเสมอ นั่นรวมถึงการตรวจคดีอ้างอิงในฐานข้อมูลกฎหมาย การอ่านเทียบคำให้การจากบันทึกการพิจารณาคดีจริง และการไม่คัดลอกข้อความ AI ลงเอกสารศาลโดยตรงโดยไม่มีการขัดเกลาจากมนุษย์

ที่สำคัญ ทีมกฎหมายต้องมีโปรโตคอลการตรวจสอบ AI ข้อมูลอย่างชัดเจน เช่น ใครต้องเซ็นเช็คอ้างอิงคดี ขั้นตอนการเปรียบเทียบกับฐานข้อมูลภายนอก การห้ามส่งข้อมูลลับเข้าสู่ระบบสาธารณะ และการบันทึกว่าตอนใดใช้ AI ช่วย เพื่อแสดงต่อศาลได้ว่ามีการกำกับและตรวจสอบอย่างเหมาะสม การปล่อยให้โมเดลตัดสินใจแทนมนุษย์คือการสละความรับผิดชอบโดยพฤตินัย

เมื่อคนธรรมดาเข้าถึง AI ง่ายขึ้น ความเสี่ยงก็ยิ่งไหลเข้าสู่ศาล

AI ทำให้การเขียนเอกสารกฎหมายเข้าถึงได้มากขึ้น คนที่ไม่มีความรู้กฎหมายสามารถพิมพ์คำถามกลางดึกโดยไม่ต้องจ่ายค่าทนายเป็นชั่วโมง และได้ร่างคำร้องหรือคำให้การในเวลาไม่กี่นาที งานวิจัยหนึ่งพบว่าจำนวนคู่ความที่ว่าความด้วยตนเองในศาลแพ่งระดับรัฐบาลกลางเพิ่มขึ้นเป็น 16.8 เปอร์เซ็นต์ จากค่าเฉลี่ยระยะยาว 11 เปอร์เซ็นต์ ซึ่งสะท้อนว่าประตูสู่ศาลเปิดกว้างขึ้น

แต่นั่นก็หมายความว่าความเสี่ยงปัญญาประดิษฐ์กฎหมายกำลังไหลเข้าสู่ระบบยุติธรรมอย่างเงียบๆ ชุดเอกสารที่เขียนด้วย AI อาจเต็มไปด้วยการอ้างอิงผิด คดีแต่งขึ้น หรือรายละเอียดข้อเท็จจริงที่ไม่มีอยู่จริง หากศาลและหน่วยงานกำกับดูแลไม่วางกติกาชัดเจน เราจะได้เห็นสำนวนที่ต้องแก้ไข ยื่นใหม่ หรือถูกลงโทษซ้ำแล้วซ้ำเล่า

อนาคตของ AI ในกฎหมายไม่ใช่เรื่องว่าจะห้ามหรืออนุญาต แต่คือการกำหนดเส้นแบ่งของความรับผิดชอบ Chatbots จะยังถูกใช้ในการค้นหาข้อมูล ร่างเอกสาร และช่วยจัดการงานซ้ำๆ แต่มนุษย์ต้องเป็นคนสุดท้ายที่ตรวจ รับรอง และยอมรับผลตามเอกสารนั้น หากเราลืมบทบาทนี้ AI ก็จะกลายเป็นแหล่งหนี้กฎหมายถาวรที่ยากจะแก้ในภายหลัง