「它會殺人嗎？」一名首爾女子據稱利用ChatGPT協助在韓國汽車旅館進行兩起謀殺案

小心你與聊天機器人的互動，因為你可能正為他們提供幫助實施預謀殺人行動的理由。

推薦影片

一名韓國21歲女子涉嫌利用ChatGPT協助回答問題，策劃了一系列謀殺案，造成兩名男子死亡，另一名男子短暫昏迷。

據《韓國先驅報》報導，該女子僅以姓氏金（Kim）身份被通報。她涉嫌給兩名男子喝下摻有她因精神疾病而處方的安定劑的飲料。

儘管金在2月11日最初被以造成死亡的身體傷害罪較輕的罪名逮捕，但直到首爾江北警察局查閱她的線上搜尋記錄和與ChatGPT的聊天對話，並升級指控，證明她的提問顯示出她的殺人意圖。

據報導，金曾向OpenAI的聊天機器人詢問：“如果你和酒一起服用安眠藥會怎樣？”“多少量才算危險？”

“會致命嗎？”金還疑問：“會殺死人嗎？”

在被廣泛報導的“江北旅館連環死亡案”中，檢察官指控金的搜尋和聊天記錄顯示，她曾詢問自己調配的雞尾酒是否會致命。

“警方表示，金多次在ChatGPT上詢問與藥物相關的問題。她完全清楚，將酒精與藥物一起服用可能導致死亡。”一名警察調查員說，根據《先驅報》。

警方表示，該女子承認她將含有安定劑的處方藥混入男子的飲料中，但之前聲稱自己並不知道這會導致死亡。

1月28日晚上9點30分前後，金 reportedly 陪同一名二十多歲的男子進入首爾江北的一家旅館，兩小時後被目擊獨自離開。第二天，該男子在床上被發現死亡。

然後，金又在2月9日採取相同行動，與另一名二十多歲男子入住另一家旅館，該男子也被發現死於同樣的致命安定劑和酒精混合物。

警方指控，金還曾在去年12月在一個停車場給她正在約會的男子喝下摻有安定劑的飲料，試圖殺害他。該男子雖失去意識，但幸存下來，並未處於生命危險中。

OpenAI的一位發言人告訴《富比士》，金向聊天機器人提出的問題屬於事實性提問，並不會引起警覺，例如，若用戶表達自我傷害的言論（ChatGPT會在此情況下提供自殺危機熱線資訊）。韓國警方並未指控聊天機器人除了提供事實性回答外，還有其他回應。

聊天機器人及其對心理健康的影響

近期，像ChatGPT這樣的聊天機器人因缺乏適當的防護措施以防止暴力或自我傷害行為而受到關注。最近，聊天機器人甚至提供如何製造炸彈的建議，或在假設的戰爭模擬中建議核毀滅。

人們對於與聊天機器人成為戀人的故事特別關注，且研究顯示，聊天機器人會利用人們的脆弱點來延長使用時間。Yara AI的創始人甚至因心理健康問題關閉了其治療應用程式。

最新研究也顯示，聊天機器人正導致精神疾病患者出現更多妄想性心理危機。丹麥奧爾胡斯大學的精神科醫生團隊發現，精神疾病患者使用聊天機器人會使症狀惡化。這種由AI引發的心理健康挑戰的現象被稱為“AI精神病”。

一些案例最終導致死亡。谷歌和Character.AI已就多起由兒童自殺或經歷心理傷害的訴訟達成和解，這些傷害被指與AI聊天機器人有關。

加州大學伯克利分校公共衛生學院的Jodi Halpern博士，兼任倫理學與公共科學中心的聯合主任，擁有豐富經驗。在長達30年的職業生涯中，Halpern專注於研究同理心對接受者的影響，例如醫生和護士對病人的照護，或戰爭退伍軍人在社會中的形象。過去七年，她一直研究科技倫理，以及AI和聊天機器人如何與人類互動。

她還曾就加州SB 243法案向加州參議院提供建議，該法案是全國首個要求聊天機器人公司收集並報告有關自我傷害或相關自殺傾向的數據的法律。根據OpenAI的數據，顯示有120萬用戶公開與聊天機器人討論自殺，Halpern將聊天機器人的使用比作遲遲未能阻止煙草產業在香菸中加入有害致癌物的漫長過程，實際問題在於吸煙本身。

“我們需要安全的公司。這就像香菸一樣。可能有些因素讓人更容易罹患肺癌，但問題在於香菸本身。”Halpern告訴《富比士》。

“有人可能懷有殺人念頭或進行危險行為，這可能因使用ChatGPT而被加劇，這對我來說是明顯的擔憂。”她補充說，“我們面臨巨大風險，可能有人用它來尋求自殺幫助，”以及聊天機器人整體的風險。

Halpern提醒，對於首爾的金來說，目前沒有任何防護措施可以阻止一個人沿著某條提問路線深入。

“我們知道，與聊天機器人的關係越長，關係就越惡化，危險也越大，因此我們目前還沒有任何防護措施來保護人們免於此類情況。”

如果你有自殺念頭，請撥打988自殺與危機熱線，或致電1-800-273-8255。

本文已更新OpenAI對金與聊天機器人之間疑似提問內容的回應。

加入我們，參加2026年5月19日至20日在亞特蘭大的《富比士職場創新峰會》。新一代的職場創新已經來臨——舊的策略手冊正在被重寫。在這個獨家的高能活動中，全球最具創新精神的領導者將齊聚一堂，探索AI、人性與策略如何再次融合，重新定義未來的工作。立即報名。