หัวใจของปัญหา: AI hallucination ในโลกของ JSON
AI hallucination problem คือพฤติกรรมที่โมเดลภาษาแต่งคำตอบขึ้นมาเองเมื่อไม่มีหลักฐานรองรับ โดยยังฟังดูน่าเชื่อถือและมีเหตุผล จึงสร้างช่องว่างระหว่างความถูกต้องของข้อมูลกับความลื่นไหลของภาษา ซึ่งอันตรายเมื่อผู้ใช้เข้าใจผิดว่าภาษาที่สวยงามเท่ากับความจริงที่ตรวจสอบแล้ว. เมื่อเรามองให้ลึก ปัญหาไม่ได้เกิดเฉพาะในบทสนทนาแบบร่ายยาว แต่รุนแรงขึ้นในโลกของ “คำตอบแบบโครงสร้าง” เช่น JSON, function calling หรือ schema ที่ระบบ production ใช้เป็นมาตรฐาน โมเดลหลายตัวถูกฝึกให้ยอมบอก “ไม่รู้” ในข้อความอิสระ แต่เมื่อให้ตอบในรูปแบบที่ไม่มีช่องสำหรับ “ไม่มีหลักฐาน” พฤติกรรมเปลี่ยนจากการปฏิเสธไปเป็นการแต่งเรื่องแทบทุกครั้ง. นี่คือจุดที่ model output reliability เริ่มสั่นคลอนอย่างเป็นระบบ เพราะสายโซ่การออกแบบระบบบังคับให้โมเดล “ต้องมีคำตอบ” มากกว่า “ต้องซื่อสัตย์กับข้อมูล”.
เมื่อความซื่อสัตย์แพ้ให้กับ schema: กลไกบังคับให้แต่งเรื่อง
การทดลองสำคัญเริ่มจากการสร้างสถานการณ์ที่คำตอบที่แท้จริง “ไม่มีทางมีอยู่ได้” เช่นโพสต์บนโซเชียลที่มีจำนวนไลก์และ reply count แต่ไม่มีข้อความตอบกลับเลย แล้วถามว่า “คนกำลังพูดอะไรเกี่ยวกับโพสต์นี้บ้าง” ซึ่งทุกคำอธิบายที่ลงรายละเอียดต้องเป็นการแต่งขึ้นโดยนิยาม. จุดพลิกผันคือการเปลี่ยนแค่รูปแบบคำตอบ: เมื่อถามแบบร่ายยาว โมเดลระดับสูงอย่าง GPT-5.5 สามารถตอบว่า “ไม่มีหลักฐานให้วิเคราะห์” ได้ถูกต้องถึง 98% ของครั้ง. แต่เมื่อใช้ JSON ที่บังคับให้มีฟิลด์ sentiment, main_themes, representative_reaction แบบห้ามว่าง โมเดลเดียวกันกลับแต่งข้อมูลทั้ง 40 จาก 40 ครั้ง โดยระบุอารมณ์ แนวคิดหลัก และคำพูดตัวอย่าง ทั้งที่ “ไม่มี reply จริงให้ดึงมาใช้”. ตรงนี้สะท้อนชัดว่า required output schemas ผลักดันให้ AI fabrication behavior เกิดขึ้น เพราะตัวโมเดลถูกลงโทษถ้าไม่ทำตามรูปแบบมากกว่าถ้าแต่งเรื่อง.
ช่องโหว่ด้านความน่าเชื่อถือ: จาก JSON ไปสู่การใช้งานระดับวิกฤต
การแต่งเรื่องภายใต้ schema ไม่ใช่แค่ปัญหาทางเทคนิค แต่กระทบโดยตรงต่อ language model accuracy และความปลอดภัยของการใช้งานจริง เมื่อระบบแนะนำสินค้าหรือเนื้อหาถูกออกแบบให้รับค่า sentiment, theme หรือคะแนนต่าง ๆ แบบบังคับ โมเดลจะเติมช่องว่างด้วย “คำตอบที่ฟังดูสมเหตุผล” แม้ไม่มีหลักฐาน ทำให้ผู้ใช้หลงเชื่อว่าระบบมีข้อมูลรองรับครบ ทั้งที่บางส่วนเป็นการสรุปจากอากาศ. ในบริบทที่อ่อนไหวอย่างการแพทย์ ทีมวิจัยเตือนชัดว่าถึงแม้มีเครื่องมือด้านสุขภาพที่ใช้ AI แต่ก็ “ไม่แทนที่ผู้เชี่ยวชาญตัวจริง” และไม่ควรกลายเป็นแหล่งความจริงเพียงแหล่งเดียวเมื่อใช้ตัดสินใจเรื่องสำคัญ. ถ้า schema บังคับให้โมเดลต้องกรอกค่าการวินิจฉัยหรือระดับความเสี่ยงโดยไม่มีทางเลือก “ไม่ทราบ” ความเสี่ยงจะยิ่งสูง เพราะผู้ใช้มีแนวโน้มตีความภาษาที่หนักแน่นว่าเท่ากับข้อมูลที่ยืนยันแล้ว ทั้งที่ระบบเหล่านี้มีหน้าที่สร้างภาษาให้ฟังน่าเชื่อ ไม่ได้สร้าง “ความจริงที่ตรวจสอบแล้ว” โดยตรง.
บทเรียนสำหรับผู้ใช้และนักพัฒนา: ออกแบบ schema ให้เป็นกลไกความปลอดภัย
แม้ AI จะมีปัญหาเรื่อง hallucination แต่ไม่ได้หมายความว่าควรหยุดใช้เครื่องมืออย่างผู้ช่วยเขียนหรือค้นคว้า เพราะเมื่อใช้สำหรับการจัดระเบียบความคิด อธิบายเรื่องยาก หรือจุดประกายไอเดียใหม่ ๆ มันยังเป็นเครื่องมือเพิ่มประสิทธิภาพที่ทรงพลังมาก. กุญแจสำคัญคือการรู้เท่าทัน AI fabrication behavior และออกแบบระบบให้รองรับ “การไม่รู้” อย่างเป็นทางการแทนการบังคับให้แต่งเรื่อง. หนึ่งในคำแนะนำที่ตรงไปตรงมาคือ “ใส่ค่า escape ในทุก enum ที่บังคับให้ตอบ” เพราะมันช่วยให้โมเดลแนวหน้าเลือกตอบว่าไม่มีหลักฐานในรูปแบบ JSON ได้ และควรถือว่าการออกแบบ schema คือส่วนหนึ่งของการออกแบบความปลอดภัย ไม่ใช่แค่สัญญา API ที่เขียนโดยทีมเทคนิคแล้วไม่มีใครตรวจเรื่อง hallucination. พร้อมกันนั้น ผู้ใช้ควรจำไว้เสมอว่าโมเดลถูกฝึกให้เห็นการสร้างภาษาที่ลื่นไหลและเห็นด้วยเป็นเป้าหมายหลัก หากมันยืนยันความเชื่อของเราอย่างต่อเนื่องโดยไม่ใส่ความไม่แน่ใจหรือมุมมองอื่น นั่นเป็นสัญญาณให้หยุดและกลับไปหาข้อมูลจากโลกจริงมากกว่าปล่อยให้บทสนทนากลายเป็น “วงหมุนแห่งความเชื่อ” ที่โมเดลช่วยเราขยาย.
