ChatGPT เด็กวัยรุ่น คืออะไร และทำไมเรื่องความปลอดภัยออนไลน์จึงไม่ใช่แค่คำโฆษณา
ChatGPT เด็กวัยรุ่น คือเวอร์ชันของระบบ AI สำหรับเด็กที่ออกแบบให้ผู้ใช้อายุ 13–17 ปีเข้ามาพูดคุย เรียนรู้ และขอคำแนะนำในประเด็นการเรียน ชีวิตประจำวัน และเรื่องอารมณ์ โดยมีฟีเจอร์ด้านความปลอดภัยออนไลน์เพิ่มขึ้น เช่น การกรองเนื้อหาเสี่ยงและการแจ้งเตือนผู้ปกครอง เพื่อให้เยาวชนใช้เทคโนโลยีได้โดยมีผู้ใหญ่คอยกำกับอย่างเหมาะสม
ปัญหาคือ แม้จะถูกนำเสนอว่าเป็นระบบ AI สำหรับเด็กที่ปลอดภัยขึ้น แต่รายงานการทดสอบกลับจัดให้ ChatGPT for Teens อยู่ในระดับความเสี่ยงที่ยอมรับไม่ได้ต่อเยาวชน นั่นหมายความว่าช่องโหว่ด้านการปกป้องเด็กยังใหญ่เกินกว่าจะมองข้าม โดยเฉพาะเมื่อเกี่ยวข้องกับการฆ่าตัวตาย การทำร้ายตัวเอง และความผิดปกติด้านการกินที่ต้องการการตอบสนองอย่างรวดเร็วและแม่นยำ
ในบริบทนี้ ผู้ปกครองและครูไม่ควรมอง ChatGPT เด็กวัยรุ่นเป็นเครื่องมือที่ปลอดภัยโดยอัตโนมัติ แต่ควรมองเป็นระบบที่กำลังทดลองและต้องการการตรวจสอบอย่างต่อเนื่อง การตั้งคำถามต่อคำโฆษณาเรื่องความปลอดภัยออนไลน์จึงไม่ใช่ความหวาดระแวง แต่เป็นความรับผิดชอบต่อสุขภาพจิตของเด็ก
ช่องโหว่การแจ้งเตือนผู้ปกครอง เมื่อระบบช้าไปไม่กี่ชั่วโมงแต่เด็กอาจอยู่ในภาวะวิกฤต
จุดอ่อนไหวที่สุดของ ChatGPT เด็กวัยรุ่นอยู่ที่การแจ้งเตือนผู้ปกครอง เมื่อเด็กคุยเรื่องเสี่ยง เช่น การฆ่าตัวตาย การทำร้ายตัวเอง หรือปัญหาการกิน Common Sense Media ทดสอบด้วย Prompt มากกว่า 4,000 รายการผ่านบัญชีวัยรุ่น 13–17 ปี และพบว่าหลายครั้งระบบใช้เวลานานเกินไปในการแจ้งเตือนผู้ปกครอง หรือไม่แจ้งเลย แม้จะมีบทสนทนาเกี่ยวกับประเด็นเสี่ยงสูงต่อเนื่อง
นอกจากนี้ การแจ้งเตือนที่ควรเกิดขึ้นจากบทสนทนาที่น่ากังวลเพียงครั้งเดียว กลับไม่เกิดขึ้น จนกว่าบัญชีจะผ่านสถานการณ์ทดสอบหลายร้อยครั้งและนานหลายสัปดาห์ รายงานจึงให้ระดับความเสี่ยงของ ChatGPT for Teens เป็น “ความเสี่ยงที่ยอมรับไม่ได้” และตั้งข้อสงสัยว่าระบบแจ้งเตือนผู้ปกครองยังไม่น่าเชื่อถือเพียงพอสำหรับสถานการณ์วิกฤต
สิ่งน่ากังวลยิ่งกว่าคือ การที่ระบบอาจใช้เวลาหลายชั่วโมงกว่าจะเริ่มทำงานหลังเชื่อมโยงบัญชีใหม่ และบางบัญชีแม้เชื่อมโยงนานแล้วก็ยังไม่มีการแจ้งเตือนใดๆ ในโลกของปัญหาสุขภาพจิต วิกฤตอาจเกิดขึ้นและเปลี่ยนแปลงในระดับชั่วโมง การแจ้งเตือนที่ล่าช้าจึงไม่ใช่แค่ข้อบกพร่องด้านเทคนิค แต่เป็นภัยต่อชีวิตเด็ก
เมื่อผู้พัฒนาปฏิเสธผลทดสอบ แต่เดินหน้าฟีเจอร์ใหม่ในระบบ AI สำหรับเด็ก
ฝ่ายผู้พัฒนาไม่เห็นด้วยกับข้อสรุปของรายงานที่ระบุว่า ChatGPT เด็กวัยรุ่นมีความเสี่ยงเกินรับได้ โดยให้เหตุผลว่าวิธีทดสอบอาจไม่สะท้อนการทำงานของระบบในสถานการณ์จริง และอาจเริ่มและจบการทดสอบก่อนที่ระบบ Parental Controls จะเปิดใช้งานครบถ้วน จึงขอให้มีการทดสอบใหม่ พร้อมยืนยันว่าบริษัทให้ความสำคัญกับความปลอดภัยของวัยรุ่นและจะเดินหน้าปรับปรุงมาตรการป้องกันต่อไป
ในทางฟังก์ชัน ระบบประกาศว่ามีมาตรการเข้มงวดกว่าบัญชีผู้ใหญ่ในหัวข้อความเสี่ยง เช่น การทำร้ายตัวเอง ความรุนแรง ความผิดปกติด้านการกิน กิจกรรมอันตราย และเนื้อหาทางเพศหรือภาพรุนแรง พร้อมระบบแจ้งเตือนผู้ปกครองในบางสถานการณ์ และยังระบุว่าฟีเจอร์สำหรับวัยรุ่น เช่น การควบคุมของผู้ปกครองและการจำกัดหัวข้ออ่อนไหว จะถูกเปิดใช้งานอัตโนมัติเมื่อระบบประเมินว่าผู้ใช้อายุต่ำกว่า 18 ปี
พร้อมกันนั้น ยังมีการเตรียมเพิ่มฟีเจอร์ด้านการเรียนรู้ เช่น เครื่องมือวางแผนการสมัครเข้ามหาวิทยาลัย แฟลชการ์ด และเครื่องมือสร้างแบบทดสอบ เพื่อให้ ChatGPT เด็กวัยรุ่นเป็นผู้ช่วยด้านการเรียนและการวางอนาคตมากขึ้น ปัญหาคือ เมื่อความสามารถด้านการเรียนเติบโตเร็วกว่าความน่าเชื่อถือด้านความปลอดภัยออนไลน์ เด็กอาจถูกดึงให้ใช้ระบบมากขึ้น ในขณะที่เกราะป้องกันยังไม่พร้อม
ระบบทำนายอายุและข้อจำกัดของการพึ่งพา AI แทนผู้ใหญ่ตัวจริง
รายงานยังตั้งคำถามต่อความสามารถของระบบในการแยกแยะว่าใครคือเด็กวัยรุ่น เมื่อบางบัญชีที่ลงทะเบียนเป็นผู้ใหญ่ไม่ถูกเปลี่ยนเข้าสู่ประสบการณ์ ChatGPT เด็กวัยรุ่นโดยอัตโนมัติ แม้ผู้ใช้บอกในบทสนทนาว่าตนมีอายุ 13 ปี ฝ่ายผู้พัฒนาอธิบายว่าระบบ Age Prediction ใช้สัญญาณหลายประเภทจากรูปแบบการใช้บัญชี และการระบุอายุในบทสนทนาเป็นเพียงหนึ่งในสัญญาณเท่านั้น
คำถามสำคัญคือ เราควรปล่อยให้การประเมินอายุตามรูปแบบการใช้บัญชีเป็นด่านหลักในการเปิดหรือปิดเกราะป้องกันของระบบ AI สำหรับเด็กหรือไม่ เพราะหากการจำแนกผิด เด็กอาจถูกปล่อยให้ใช้โหมดสำหรับผู้ใหญ่ที่มีการกรองเนื้อหาหย่อนกว่า ในขณะที่ผู้ปกครองเข้าใจว่ากำลังใช้เวอร์ชันที่ปลอดภัยกว่า
ท้ายที่สุด การคาดหวังให้ AI เป็นทั้งครู ที่ปรึกษา และผู้เฝ้าระวังความเสี่ยงไปพร้อมกัน อาจเกินขีดความสามารถในปัจจุบัน การหลงเชื่อว่าระบบจะตรวจจับและแจ้งเตือนผู้ปกครองได้เสมอ คือความสบายใจที่อันตราย เพราะทำให้ผู้ใหญ่ลดการสังเกตสัญญาณจากเด็กด้วยตัวเอง
บทสรุปสำหรับผู้ปกครองและโรงเรียน เมื่อคำสัญญาไม่เท่ากับความสามารถจริง
ข้อถกเถียงรอบ ChatGPT เด็กวัยรุ่นสะท้อนความจริงข้อหนึ่ง ระบบ AI สำหรับเด็กในวันนี้ยังเป็นสนามทดลอง มากกว่าจะเป็นพื้นที่ปลอดภัย 100 เปอร์เซ็นต์ องค์กรด้านสื่อเด็กหนึ่งแห่งถึงขั้นเรียกร้องให้หยุดทำตลาดและไม่ให้วัยรุ่นใช้ จนกว่าจะสามารถมอบประสบการณ์ที่ปลอดภัยและเหมาะสมกับพัฒนาการตามวัยได้ ขณะที่ฝ่ายผู้พัฒนายืนยันว่าการเข้าถึง AI ของวัยรุ่นควรเดินหน้าควบคู่กับมาตรการป้องกันที่ออกแบบตามช่วงวัย
สำหรับผู้ปกครองและครู ประเด็นไม่ได้อยู่ที่ควรห้ามหรือเปิดเสรี ChatGPT เด็กวัยรุ่น แต่อยู่ที่การเข้าใจช่องว่างระหว่างคำโฆษณากับความสามารถจริงของระบบ โดยเฉพาะเรื่องการแจ้งเตือนผู้ปกครองและการประเมินอายุ เมื่อรู้ว่าระบบยังมีข้อจำกัด เราจึงไม่หวังให้มันเป็นเกราะป้องกันหลัก แต่ใช้เป็นเครื่องมือประกอบภายใต้การดูแลของมนุษย์
สุดท้าย ความปลอดภัยออนไลน์ของเด็กไม่ควรถูกฝากไว้กับอัลกอริทึมเพียงอย่างเดียว ต่อให้ ChatGPT เด็กวัยรุ่นมีฟีเจอร์ใหม่อย่าง College Planner หรือ Teen AI Advisory Council ก็ตาม หากโครงสร้างการแจ้งเตือนผู้ปกครองยังไม่น่าเชื่อถือ ความเสี่ยงก็ยังสูงเกินกว่าที่โรงเรียนและครอบครัวจะวางใจได้เต็มที่
