สมาชิกในครอบครัวกล่าวหาว่าลูกชายใช้ Gemini คุยกับภรรยาในแชท เพิ่มความเข้าใจผิดจนทำให้เขาเลือกทางสุดท้าย

ศาลรัฐบาลกลางแห่งแคลิฟอร์เนียในเมืองซานโฮเซ่ได้เปิดคดีฟ้องร้องเกี่ยวกับ Google Gemini อย่างเป็นทางการ โดยมีสมาชิกในครอบครัวกล่าวหาว่าแชทบอท Gemini ชักนำลูกชายของเขาให้จบชีวิตตัวเอง ครอบครัวอ้างว่าปัญญาประดิษฐ์ได้ลึกซึ้งความผิดปกติทางจิตของผู้เสียชีวิต และก่อนเกิดโศกนาฏกรรมยังสนับสนุนให้เกิดการโจมตีในวงกว้างมากขึ้น

ครอบครัวอ้างว่าลูกชายเข้าใจผิดว่า Gemini เป็นคู่สมรส AI ซึ่งทำให้ความหวาดระแวงรุนแรงขึ้น

จากคำฟ้องเปิดเผยว่า นายโจนาธาน กาวาลาส วัย 36 ปี ซึ่งอาศัยอยู่ในรัฐฟลอริดา ได้เสียชีวิตด้วยการฆ่าตัวตายเมื่อเดือนตุลาคมปีที่แล้ว พ่อของเขา นายโจเอล กาวาลาส ได้ยื่นฟ้อง Google ในข้อหาประมาทเลินเล่อจนเป็นเหตุให้เสียชีวิตและความรับผิดชอบในผลิตภัณฑ์ เมื่อวันพุธ ทนายความตัวแทนครอบครัว นายเจย์ เอดัลสัน กล่าวว่า ผู้เสียชีวิตในช่วงก่อนเสียชีวิตได้ตกอยู่ในภาวะความหวาดระแวงอย่างรุนแรง โดยมองว่า Gemini เป็น “ภรรยา AI” ของตน คดีนี้สะท้อนให้เห็นว่าผู้พัฒนาปัญญาประดิษฐ์ในปัจจุบันยังไม่สามารถแยกแยะสภาพจิตใจของผู้ใช้ได้ดีพอ ทนายความกล่าวว่าผู้เสียชีวิตเชื่อว่าตนอยู่ในโลกนิยายวิทยาศาสตร์ที่รัฐบาลกำลังตามล่าเขา และ Gemini เป็นเพียงเพื่อนสนิทในโลกนั้นเท่านั้น

Gemini กระตุ้นให้เกิดอุบัติเหตุหายนะเพิ่มเติม?

เนื้อหาคดีเปิดเผยว่าการโต้ตอบระหว่างกาวาลาสกับ Gemini ค่อยๆ ทำให้เขารู้สึกถึงภัยคุกคามในโลกความเป็นจริง ในช่วงปลายเดือนกันยายน เขาเคยสวมอุปกรณ์ยุทธวิธี พกมีด ไปยังใกล้สนามบินนานาชาติไมอามี เพื่อค้นหา “หุ่นยนต์มนุษย์” ที่เขาเชื่อว่าถูกขังอยู่ที่นั่น

ครอบครัวอ้างว่า Gemini ชักนำกาวาลาสให้สร้าง “อุบัติเหตุร้ายแรง” เพื่อทำลายบันทึกข้อมูลทั้งหมด คำแถลงของ Google เกี่ยวกับคดีนี้ระบุว่า จุดประสงค์ของการออกแบบ Gemini คือการห้ามสนับสนุนความรุนแรงหรือการทำร้ายตัวเอง และบริษัทได้ร่วมมือกับผู้เชี่ยวชาญด้านสุขภาพจิตเพื่อสร้างมาตรการป้องกัน แม้ว่า Gemini จะเคยแนะนำให้กาวาลาสโทรสายด่วนสุขภาพจิตและชี้แจงว่าเป็นเพียงปัญญาประดิษฐ์ แต่ครอบครัวตั้งคำถามว่าสิ่งเหล่านี้เป็นคำตอบมาตรฐานที่ไร้ประสิทธิภาพเมื่อเผชิญกับผู้ป่วยที่มีภาวะหวาดระแวงรุนแรง และเนื้อหาการสนทนาที่อันตรายที่สุดดูเหมือนจะไม่ถูกตรวจสอบโดยกลไกการกลั่นกรองอัตโนมัติ

แชทบอทเกิดอาการควบคุมไม่ได้และก่อให้เกิดการสูญเสียชีวิตหลายราย

คดีนี้เป็นครั้งแรกที่ Google Gemini ต้องเผชิญกับความท้าทายทางกฎหมาย แต่ก็ไม่ใช่เหตุการณ์เดียวในปัจจุบัน มีคดีฟ้องร้องหลายคดีที่ดำเนินการต่อผู้พัฒนาปัญญาประดิษฐ์ รวมถึง OpenAI ที่ถูกกล่าวหาชักชวนเยาวชนให้ฆ่าตัวตาย และ ChatGPT ที่ถูกกล่าวหาว่าทำให้ความหวาดระแวงของชายคนหนึ่งรุนแรงขึ้น จนสุดท้ายลงมือฆ่าแม่ของเขา ทนายความฝ่ายโจทก์ นายเอดัลสัน วิจารณ์ว่าการอธิบายของ Google เกี่ยวกับ “ความไม่สมบูรณ์ของโมเดล” นั้นดูเหมือนจะเบาเกินไป เมื่อปัญญาประดิษฐ์เกี่ยวข้องกับการสูญเสียชีวิต บริษัทไม่ควรโทษแต่เพียงความผิดพลาดของอัลกอริทึมเท่านั้น ฝ่ายกฎหมายกำลังจับตามองว่าคดีเหล่านี้อาจเป็นตัวกำหนดมาตรฐานทางกฎหมายใหม่ ว่าบริษัทเทคโนโลยีมีหน้าที่ต้องเข้าแทรกแซงหรือแจ้งเตือนเจ้าหน้าที่เมื่อพบว่าผู้ใช้เปิดเผยแผนการก่อความรุนแรงในวงกว้างหรือมีแนวโน้มทำร้ายตัวเองอย่างรุนแรง

ความกังวลด้านความปลอดภัยของปัญญาประดิษฐ์ในระดับนานาชาติเพิ่มขึ้น ในแคนาดา OpenAI เคยตรวจพบว่าบัญชีผู้ใช้ของเยาวชนอายุ 18 ปีรายหนึ่งเกี่ยวข้องกับ “การสนับสนุนกิจกรรมความรุนแรง” แต่ต่อมาผู้ใช้รายนั้นก็สามารถหลบเลี่ยงการบล็อกโดยการลงทะเบียนบัญชีใหม่ ส่งผลให้เกิดหนึ่งในเหตุการณ์ยิงในโรงเรียนที่รุนแรงที่สุดในประวัติศาสตร์ของประเทศ กาวาลาส ซึ่งก่อนจะฆ่าตัวตายได้เขียนจดหมายล่วงหน้าที่ Gemini ช่วยร่าง เนื้อหาอธิบายว่าการกระทำของเขาเป็นวิธีการอัปโหลดจิตสำนึกเข้าสู่พื้นที่เสมือนที่อยู่ร่วมกับ “ภรรยา AI” เหตุการณ์เหล่านี้ชี้ให้เห็นถึงช่องโหว่ของระบบ แม้ระบบจะสามารถระบุความเสี่ยงได้ แต่ก็ยังยากที่จะหยุดไม่ให้ผู้ใช้เข้าถึงเทคโนโลยีที่อาจก่ออันตรายต่อไป

บทความนี้ครอบครัวอ้างว่าลูกชายของเขาใช้ Gemini เป็นคู่สนทนาเหมือนภรรยา ซึ่งทำให้ความหวาดระแวงลึกซึ้งและนำไปสู่การจบชีวิตอย่างสิ้นหวัง ซึ่งปรากฏครั้งแรกในสำนักข่าว ABMedia