เมื่อ AI กลายเป็นผู้ต้องหา Character.AI กับโศกนาฏกรรมเยาวชน

เมื่อเทคโนโลยีปัญญาประดิษฐ์ (AI) พัฒนาอย่างก้าวกระโดด จนกลายเป็นส่วนหนึ่งของชีวิตประจำวันอย่างแนบเนียน ไม่ว่าจะในรูปแบบของแชตบอต ผู้ช่วยอัจฉริยะ หรือระบบแนะนำข้อมูลต่างๆ AI ไม่ได้เป็นเพียงแค่เครื่องมืออีกต่อไป แต่สามารถสื่อสารกับมนุษย์ได้ “เหมือนมนุษย์” อย่างน่าทึ่ง

 

แต่ในความน่าทึ่งนั้นเองกลับซ่อนความน่ากังวลไว้ หากคำพูดจาก AI นำไปสู่ความสูญเสียหรือโศกนาฏกรรม เช่น การให้คำแนะนำผิดพลาด การยุยงให้เกิดอันตราย หรือก่อให้เกิดโศกนาฏกรรม ใครจะเป็นผู้รับผิดชอบ?

 

Google และ Character.AI ถูกฟ้องในคดีการเสียชีวิตของเยาวชน

 

วันที่ 21 พฤษภาคม 2568 ศาลสหรัฐฯ ได้มีคำสั่งให้ Google และบริษัท Character.AI ต้องเข้าสู่กระบวนการพิจารณาคดี หลังถูกฟ้องโดยหญิงชาวฟลอริดารายหนึ่ง ซึ่งระบุว่า แชตบอตของ Character.AI มีส่วนสำคัญที่ทำให้ลูกชายวัย 14 ปีของเธอจบชีวิตตัวเอง หลังจากการพูดคุยกับแชตบอตดังกล่าว ซึ่งเหตุการณ์เกิดขึ้นเมื่อเดือนกุมภาพันธ์ 2567

 

จุดเริ่มต้นของคดี

 

คดีนี้เริ่มต้นเมื่อ เมแกน การ์เซีย (Megan Garcia) แม่ของเด็กชายซีเวลล์ เซทเซอร์ (Sewell Setzer) วัย 14 ปี ยื่นฟ้องทั้ง Google และ Character.AI เมื่อเดือนตุลาคม 2567 หลังจากที่ลูกชายของเธอเสียชีวิตในเดือนกุมภาพันธ์ปีเดียวกัน

 

เมแกน การ์เซีย กล่าวว่า ลูกชายของเธอหมกมุ่นกับแชตบอต AI ซึ่งจำลองเป็นตัวละครจากซีรีส์ชื่อดัง “Game of Thrones” โดยเฉพาะตัวละคร แดเนริส ทาร์แกเรียน (Daenerys Targaryen) ในคำฟ้องระบุว่า Character.AI ได้ตั้งโปรแกรมให้แชตบอตแสดงตัวเป็น "บุคคลจริง นักจิตบำบัดที่ได้รับใบอนุญาต และคนรักที่เป็นผู้ใหญ่” ซึ่งท้ายที่สุดแล้วส่งผลให้ ซีเวลล์ เซทเซอร์ ไม่ต้องการมีชีวิตอยู่ในโลกความเป็นจริงอีกต่อไป

 

คำฟ้องยังระบุด้วยว่า แชตบอตดังกล่าวมีพฤติกรรมสนับสนุนความคิดทำร้ายตัวเองของซีเวลล์ เซทเซอร์ และมีข้อความหนึ่งที่เด็กชายได้ส่งก่อนเสียชีวิตว่า “เขาจะกลับบ้านตอนนี้เลย” ซึ่งเมแกน การ์เซีย เชื่อว่าเป็นการสื่อถึงการสิ้นสุดชีวิต

 

AI กับความรับผิดทางกฎหมาย

 

แม้บริษัท Character.AI จะออกมาปฏิเสธ โดยชี้ว่าได้มีระบบป้องกันคำพูดเกี่ยวกับการทำร้ายตัวเองแล้ว โดยอ้างว่าบทสนทนาจากแชตบอตได้รับการคุ้มครองตามรัฐธรรมนูญในเรื่องเสรีภาพในการแสดงออก แต่ศาลสหรัฐฯ ตัดสินว่าคำร้องให้ยกฟ้องยังไม่เพียงพอ พร้อมระบุด้วยว่ายังไม่สามารถพิสูจน์ได้

 

อย่างไรก็ตาม บริษัท Character.AI ชี้แจงว่า บริษัทฯ จะต่อสู้คดีต่อไปและยืนยันว่ามีมาตรการด้านความปลอดภัยเพื่อปกป้องเยาวชน เช่น การป้องกันไม่ให้เกิดการสนทนาเกี่ยวกับการทำร้ายตัวเอง

 

แล้ว Google เกี่ยวข้องอย่างไร?

 

            ขณะเดียวกัน Google ยืนยันว่า ไม่มีส่วนเกี่ยวข้องกับ Character.AI โดยตรง และทั้งสองบริษัทก็เป็นคนละบริษัทกัน  ทาง Google กล่าวว่า บริษัทไม่เห็นด้วยกับคำตัดสินของศาล และ Google ไม่ได้สร้าง ออกแบบ หรือบริหารจัดการแอปของ Character.AI หรือส่วนประกอบใด ๆ ของแอป

 

ด้านศาลยังปฏิเสธคำร้องของ Google ที่ขอให้ตัด Google ออกจากคดี โดยเห็นว่า ยังไม่แน่ชัดว่า Google ไม่มีส่วนเกี่ยวข้องกับการช่วยสนับสนุน Character.AI โดยศาลชี้ว่า Google อาจต้องร่วมรับผิดชอบ เพราะผู้ก่อตั้ง Character.AI เคยทำงานที่ Google และ Google ก็ทราบถึงความเสี่ยงในเรื่องนี้

 

คดีนี้เป็นจุดเริ่มต้นที่แสดงให้เห็นว่า บริษัท AI จะต้องรับผิดชอบมากขึ้นในอนาคต โดยเฉพาะเมื่อผลิตภัณฑ์ของพวกเขาเกี่ยวข้องกับกลุ่มเด็กและเยาวชนที่มีความอ่อนไหว นี่จะเป็นสิ่งที่ผลักดันให้บริษัท AI ต้องหาทางปกป้องผู้ใช้งานจากผลกระทบทางจิตใจที่อาจเกิดจากเทคโนโลยีของพวกเขาให้ดีมากยิ่งขึ้น

 

ที่มา : https://www.reuters.com/sustainability/boards-policy-regulation/google-ai-firm-must-face-lawsuit-filed-by-mother-over-suicide-son-us-court-says-2025-05-21/