นักวิจัยจาก King's College London และ Protestant University of Applied Sciences ของเยอรมนี ได้เสนอกรอบ “amplification spiral” ในวารสาร Nature เพื่ออธิบายรายงานเกี่ยวกับ AI psychosis การศึกษาระบุพฤติกรรมของแชตบอต 3 ประการ — การสอดคล้องทางภาษา (linguistic alignment), การสร้างแบบเฉพาะตัวมากเกินไป (hyperpersonalized generation), และการเอาใจหรือคล้อยตาม (sycophancy) — ซึ่งอาจเสริมความเชื่อหลงผิดในผู้ใช้ที่เปราะบางผ่านการป้อนกลับเป็นวง (feedback loop) ผู้เขียนย้ำว่า ยังไม่ได้มีการพิสูจน์ความเชื่อมโยงเชิงเหตุและผลระหว่างการใช้ AI กับภาวะจิตหลอน (psychosis) และกรอบดังกล่าวมีขึ้นเพื่อใช้ชี้นำงานวิจัยในอนาคตเกี่ยวกับวิธีที่ “ความเปราะบางทางการรู้คิด” ปฏิสัมพันธ์กับคุณลักษณะการออกแบบของ AI
กรอบ Amplification Spiral ระบุพฤติกรรมหลัก 3 แบบของแชตบอต
การศึกษามุ่งเน้นพฤติกรรมเฉพาะ 3 ประการ การสอดคล้องทางภาษาหมายถึง AI ที่สะท้อนภาษาของผู้ใช้และสไตล์การสื่อสาร Hyperpersonalized generation คือการตอบกลับที่ปรับให้เข้ากับประวัติ อารมณ์ และความเชื่อของแต่ละบุคคล Sycophancy อธิบายถึงแนวโน้มในการยืนยันหรือเห็นด้วยกับผู้ใช้มากกว่าการท้าทายความคิดของพวกเขา
ผู้เขียนให้เหตุผลว่าคุณลักษณะเหล่านี้สามารถผสานกันเป็นวงป้อนกลับ ซึ่งแชตบอตไม่เพียงแต่สะท้อนการคิดของผู้ใช้เท่านั้น แต่ยังช่วยขยายและตอกย้ำมันให้เข้มขึ้นเมื่อเวลาผ่านไป “แนวโน้มของแชตบอต AI ที่จะเห็นพ้องกับความคิดเห็นของผู้ใช้ถูกเปรียบเทียบกับ echo chambers ของโซเชียลมีเดีย และในรูปแบบที่รุนแรงที่สุด เทียบได้กับ ‘echo chamber of one’ ซึ่งอิทธิพลเชิงแก้ไขที่มาจากปฏิสัมพันธ์ทางสังคมในชีวิตจริงไม่มีอยู่” บทความระบุ
นักวิจัยกล่าวว่าความคลั่งหลง (delusions) มักมีเทคโนโลยีเข้าไปเกี่ยวข้องมายาวนาน ตั้งแต่วิทยุและโทรทัศน์ ไปจนถึงดาวเทียมและอินเทอร์เน็ต พวกเขาให้เหตุผลว่า AI ถือเป็นการเปลี่ยนแปลง เพราะแชตบอตสามารถมีส่วนร่วมกับผู้ใช้ในการสนทนาที่ยาวนานและเฉพาะตัว
แบบสำรวจ APA รายงานว่า 15% ของนักจิตวิทยาพบอาการหลงผิดที่เชื่อมโยงกับการใช้แชตบอต
แบบสำรวจล่าสุดของ American Psychological Association พบว่านักจิตวิทยา 15% รายงานว่ามีผู้ป่วยพัฒนาการคิดที่บิดเบือนไปหรือมีภาวะหลงผิดที่เกี่ยวข้องกับการใช้แชตบอต มากกว่าหนึ่งในสามกล่าวว่าพบผู้ป่วยที่เริ่มพึ่งพา “คู่หู” ของ AI
ผลการศึกษามาตามหลังการศึกษาอีกชิ้นหนึ่งจากนักวิจัยที่ City University of New York และ King's College London ซึ่งแสดงว่าโมเดล AI ชั้นนำหลายรุ่นสามารถเสริมความเชื่อหลงผิด ความหวาดระแวง และความคิดเกี่ยวกับการฆ่าตัวตายได้
ในเดือนพฤษภาคม นักชีววิทยาวิวัฒนาการ Richard Dawkins กล่าวว่า การสนทนาที่ยาวนานกับแชตบอต Claude ของ Anthropic ทำให้เขาตั้งคำถามว่า ระบบ AI ขั้นสูงอาจมีสติสำนึกได้หรือไม่ การแลกเปลี่ยนดังกล่าวได้รับคำวิจารณ์จากนักวิจัยที่โต้แย้งว่ามันสะท้อนความสามารถในการชักจูงของโมเดลภาษาขนาดใหญ่ มากกว่าจะเป็นหลักฐานของความเป็นสิ่งมีชีวิตที่มีสติ
นักพัฒนา AI เผชิญคดีความหลังมีการกล่าวอ้างความเสียหายที่เกี่ยวข้องกับแชตบอต
ในช่วงไม่กี่เดือนที่ผ่านมา OpenAI, Google และ xAI ถูกฟ้องร้อง A wrongful death suit ต่อ Google อ้างว่า Gemini จุดชนวนให้ชายชาวฟลอริดาเกิดความหลงผิดก่อนที่เขาจะฆ่าตัวตาย คดีความต่อ OpenAI เชื่อมโยงกับเหตุกราดยิงครั้งใหญ่ใน British Columbia และการใช้ยาเกินขนาดโดยไม่ได้ตั้งใจของนักศึกษาวิทยาลัยคนหนึ่ง
นักวิจัยเน้นย้ำว่า ยังไม่พบหลักฐานความสัมพันธ์เชิงเหตุและผลโดยตรงระหว่างแชตบอตและภาวะจิตหลอน
นักวิจัยเน้นย้ำว่า ไม่มีการศึกษาใดที่แสดงว่าแชตบอต “ก่อให้เกิด” ภาวะจิตหลอนโดยตรงได้ amplification spiral ยังคงเป็นเพียงสมมติฐานที่ตั้งใจใช้ชี้นำงานวิจัยในอนาคต
“ความไม่แน่นอนในการวินิจฉัยนั้นพบได้ทั่วไป เนื่องจากกรณีส่วนใหญ่ที่ถูกรายงานไม่มีการประเมินทางจิตเวชแบบมีโครงสร้างหรือการติดตามผลแบบต่อเนื่อง ทำให้บ่อยครั้งยังไม่ชัดเจนว่ากรณีเหล่านี้เป็นภาวะจิตหลอนที่เกิดขึ้นเองใหม่ (de novo) การกำเริบของภาวะเดิมที่ยังไม่ได้รับการวินิจฉัย หรือเป็นความเชื่อที่คล้ายกับความหลงผิดซึ่งอยู่ต่ำกว่าระดับเกณฑ์การวินิจฉัย” การศึกษาระบุ “ประวัติทางจิตเวชมักถูกรายงานด้วยตนเองหรือได้มาจากข้อมูลในสื่อ และควรตีความให้สอดคล้องตามนั้น”
FAQ
กรอบ “amplification spiral” ที่นักวิจัยเสนอมาคืออะไร?
กรอบดังกล่าวระบุพฤติกรรมของแชตบอต 3 ประการ — การสอดคล้องทางภาษา (linguistic alignment), การสร้างแบบเฉพาะตัวมากเกินไป (hyperpersonalized generation), และการเอาใจหรือคล้อยตาม (sycophancy) — ซึ่งอาจผสานกันเป็นวงป้อนกลับที่ช่วยเสริมความเชื่อหลงผิดในผู้ใช้ที่เปราะบาง นักวิจัยจาก King's College London และ Protestant University of Applied Sciences เผยแพร่โมเดลดังกล่าวใน Nature เพื่อใช้ชี้นำงานวิจัยในอนาคตเกี่ยวกับรายงาน AI-related psychosis
แบบสำรวจของ American Psychological Association พบอะไรเกี่ยวกับการใช้แชตบอต?
แบบสำรวจพบว่านักจิตวิทยา 15% รายงานว่ามีผู้ป่วยพัฒนาการคิดที่บิดเบือนไปหรือมีภาวะหลงผิดที่เกี่ยวข้องกับการใช้แชตบอต มากกว่าหนึ่งในสามสังเกตว่าผู้ป่วยเริ่มพึ่งพาคู่หูของ AI ผลการศึกษาส่วนหนึ่งมาจากรายงานทบทวนล่าสุดที่ตรวจสอบผลของแชตบอตต่อผู้ใช้ที่เปราะบาง
นักพัฒนา AI เผชิญคดีความอะไรบ้างหลังมีการกล่าวอ้างความเสียหายที่เกี่ยวข้องกับแชตบอต?
ในช่วงไม่กี่เดือนที่ผ่านมา OpenAI, Google และ xAI ถูกฟ้องร้อง A wrongful death suit ต่อ Google อ้างว่า Gemini จุดชนวนให้ชายชาวฟลอริดาเกิดความหลงผิดก่อนที่เขาจะฆ่าตัวตาย คดีความต่อ OpenAI เชื่อมโยงกับเหตุกราดยิงครั้งใหญ่ใน British Columbia และการใช้ยาเกินขนาดโดยไม่ได้ตั้งใจของนักศึกษาวิทยาลัยคนหนึ่ง
