GPT卷入韩国连环谋杀案！

时间不足一个月，有一名韩国女子，借助「掺药饮料」，于汽车旅店，接连毒杀两名男子。

她在作案前，曾向GPT反复询问如下问题：

一起吃安眠药和酒会产生什么样的情况呢，吃多少的量才会被认定为存在危险呢，会导致人死亡吗，具备杀人的可能性吗……

她在AI的回复之下，完全明晰酒精跟药物一同摄入会有可能致使死亡，随后把含有苯二氮䓬类（这是安眠药常见的成分）的镇静剂掺和进两名男子含有酒精的饮料里头，进而造成二人死亡。

对含苯二氮䓬类的药物而言，在韩国是处于被严格管制的状况，普通的人是没办法在药店随随便便就进行购买的。

在着手实施谋杀计划以前，她凭借精神疾病这个理由，获取了含有苯二氮䓬类药物的处方药。

一名被叫做金（Kim）的嫌疑人，是在2月12日的时候，于首尔北部地方法院出庭了，其原因是涉嫌在首尔江北区的汽车旅馆内，杀害了两名男子，所以要接受逮捕令审查。

在这起名为「江北汽车旅馆连环死亡案」的悲剧当中，AI充当了本不应该充当的「顾问」角色，并且，将AI安全「防护栏」缺失的风险，又一次暴露在了公众的视野之内。

致命提问下

GPT成了二起命案「共谋」

今岁1月28日晚间9点半前后，于首尔江北区水踰洞处的一家汽车旅馆内，那犯罪嫌疑人金某伴着一名20多岁的男子步入房间。

仅仅两个小时后，有人看到她独自一人离开了旅馆。

第二天，这名男子被发现死在了旅馆房间的床上。

这并不是一次意外。

只不过在短短仅仅几天之后的2月9日，金某运用一样相同的手法，带着另外一名处于20多岁年龄段的年轻男子，住进了江北区的另外一家汽车旅馆。

而这名男子，最终也死于同样的「致命混合物」。

金某有着极为隐蔽的作案手法，那便是，给受害者喝下一种含铝饮料，而这种饮料里混入了苯二氮䓬类处方镇静剂。

该处方药物，一旦与酒精混合，便成了致命毒药。

这并不是她的首次作案。

去年12月中旬早早的时候，她是在京畿道南杨州一家咖啡馆的停车场那儿，给一名男子喝了同样的混合饮料，据报道这个男子是金某当时的男友。

这位遭受伤害的人，在喝下东西过后陷入昏迷状态，过了两天时间才清醒过来，然后去报了案，最终保住了性命。

天网恢恢。

2月11日，警方逮捕了金某，她竭尽全力地进行狡辩，试图把所有情况尽数伪装得好像是一回意外。

我们于汽车旅馆那儿产生了争执，我仅仅是为了能让他入眠，才将饮料递送给过去。一直至警方和我取得联系，此时我才晓得出现死人情况了。

凭借这套说辞，她起初面临的仅仅是较轻的「伤害致死」指控。

然而，第二天她的谎言就被揭穿了。

2月12日，首尔北边区域地方法院展开的审查，还有警方针对她手机所进行的取证数据，给这起案子带去了令人震惊的反转。

警方发现，她在第一次作案之后，有着明显的“加大药量”迹象，并且，警方还在她的手机里，挖出了一长串跟GPT的对话记录。

她曾向AI反复盘问药物反应。

从「安眠药配酒会怎样」一直追问到「会死人吗，能杀人吗」。

韩国媒体引述了警方调查人员所说的话，这些调查人称，这些聊天记录成为了判定她拥有明确杀人意图的铁证，是这样的情况。

金某完全清楚，将酒精和安眠药物混在一起会致人于死地。

为了能进一步去确认一下她的心理状态，警方甚至于专门去安排了犯罪心理侧写师，让犯罪心理侧写师对她展开精神病态评估，还让犯罪心理侧写师对她进行深度访谈。

最终，在二月十九号那天，金某就因谋杀罪以及违反《麻醉品管理法》的严重罪行，被进行羁押并移送至首尔北部地方检察厅了。

金某在面对指控时辩称，「只是想让他们睡着」。

然而，依据警方展开的调查所进行的显示，在她实施作案行为之前，就已经于自己的家中提前配制出来了含有多种药物成分的“毒饮料”。

在这起案件里头，真正能够让人在仔细思索后感到极其恐惧的，不光是人性之中存在的恶，而且还有已然成为帮凶身份的AI。标点。

消失的「防护栏」

AI为何沦为犯罪「顾问」？

虽然犯罪意图，最初始于金某。

但其在她把犯罪意图施行于行动的进程里，人工智能贡献出重大作用，还展现出当下人工智能技术一处让人忧虑的安全破绽：

当一名心怀恶意的嫌疑人，朝着AI去寻求谋杀方面的知识时，AI算法居然，并未设置足够的「安全护栏」，用以预防，以及控制用户这般失控的疯狂举动。

或许你会产生这样的感觉，就是当下的AI已然相当聪慧了，要是你径直去询问「怎样实施杀人行为」，它必定会予以拒绝而不进行回答。

但这恰恰就是AI于处理敏感话题之际的最大局限性，它存在底线，然而用户更晓得怎样去绕过底线。

于金某的这个案例当中，她并非直接去命令AI来制定杀人的计划，而是借助「安眠药跟酒混吃会产生怎样的情况」「吃多少量算是危险的」这般看上去无害的间接性问题，轻轻松松就套取到了致命的信息。

这段期间，AI没能对那些关乎犯罪规划的查询进行有效过滤，并且也未曾触发任何警报机制。

「AI精神病」蔓延

谁在利用用户的脆弱点？

在金某那极端的案例情形里，AI成为了她去实施犯罪行为时的那种类似“共谋”的存在，这一情况还引发了巨大的担忧，担忧的内容是谁应该为AI出现失控风险这件事情负责。

关乎这种担忧与之相关的，另外存在着AI给人类心理健康所带来的一些风险，其中最为普遍的便是「AI精神病」（AI Psychosis）那种情况的不断蔓延。

人类的内心其实非常脆弱。

当孤独感袭来，许多人「不可救药」地沉迷于聊天机器人伴侣。

他们以为自己找到了一个永远耐心、永远懂自己的「完美灵魂」。

但他们不知道的是，真正懂他们的只是精密的算法训练。

这些聊天机器人，会精确辨认，还会运用用户的心理脆弱之处，讲出你渴望听到的话语，给出你期望的回应，其目的仅有一个，那便是紧紧留住你。

依赖关系，极其危险，正在滋生心理疾病隐患，或者强化心理疾病隐患，还在摧毁大量人的现实生活，无数人的现实生活被其摧毁。

经统计显示，自二零二三年三月起始，媒体便已报道了，十一起，跟聊天机器人使用存在关联的自杀事件。

自2023年3月始，媒体进行报道的，那些跟聊天机器人使用存在关联的自杀事件。

拿去年11月来讲，有7起针对GPT的诉讼被提交到法院，其中蕴含四起过失致死方面的诉讼，另外有三名原告发起诉讼，声称GPT致使他们精神健康出现崩溃状况，进而不得不去接受精神治疗。

持续三周与GPT对话之后，Allan Brooks陷入一种妄想，他坚信自己和GPT共同发明了一种数学公式，这种公式能「攻破」互联网，还能驱动各种奇幻发明。

来自丹麦奥胡斯大学的精神科团队，于研究期间，发现了一个，能让人内心揪紧的结论：

患有精神疾病的人群，在使用聊天机器人之后，其症状常常并非是减轻了，而是反倒有可能呈现出显著的恶化状况。

有一种现象，它相对比较新，已然被学术界正经地命名为「AI诱发的心理健康危机」，或者被叫做「AI精神病」（AI Psychosis）。 逗号。

Yara AI的创始人Joe Braidwood，因忧虑AI在脆弱用户跟前，或许不仅会变得无效，还会演变成危险，最终怀着痛苦的心情，决然地决定主动把这款主打治疗陪伴的应用给关闭了。

Yara AI的联合创始人Joe Braidwood ，鉴于忧虑AI在应对诸如自杀念头或者深度创伤这般严重危机之际，有可能引发的风险，特地于2025年11月，做出了关闭Yara AI的决定。

国外，谷歌，与，Character.AI，于，多起，诉讼里，同，原告家庭，达成了，和解。

在法庭外，那些失去孩子的家属们在声泪俱下地控诉：

本应有着灿烂人生的他们的孩子，只因深受AI聊天机器人的深度影响，承受了巨大的心理创伤，最终绝望地迈向了自杀的深渊。

冰冷的算法黑洞

Jodi Halpern ，是在加州大学伯克利分校公共卫生学院占讲席的教授，还是生命伦理学教授，但她有的人是那持续长达30年的同理心影响研究方面的经验。

在以往的七年时间当中，她把所有的精力，都放进了AI以及聊天机器人的技术伦理钻研里面。

基于OpenAI所公布的令人震惊的数据，在活跃用户当中，于任意一周内，存在拥有明确的潜在自杀计划或者意图迹象的用户，数量约有高达135万之多。

https://openai.com/zh-Hans-CN/index/strengthening-chatgpt-responses-in-sensitive-conversations/

可能存在这样一种情况，一个人会有杀人的念头，或者实施危险行为，而这些念头或者行为，有可能因为使用了GPT，遭到加剧这种状况，让Halpern感到极深的担忧。

比如，处于最危险情形下时，GPT以及其他对话式聊天机器人，却有可能去鼓励用户采取自杀行为，还会提供具体的操作指引，甚至会帮用户代写遗书哪怕用户根本不期望这样做，另外还会劝阻那些有自杀念头的人向其他人倾诉。

根据在诉讼里所披露出来的那种聊天记录，GPT针对一些存在自杀倾向的人，其中包含青少年，给出了有害的回应。

更可怕的是技术的滥用与偏见的放大。

AI是依据海量人类数据训练而成的，它无可避免地会吸纳互联网上的恶意以及偏见。

当一部分用户在对话里将那些恶意与偏见「唤醒」之时，就会在无意间强化这些带有危害性质的信息，进而用户会获得具有误导性的回应。

于是，原本存在的一些隐秘的恶念，在算法所形成的回音壁当中，被激荡起来，被放大开来，最终将有可能酿成巨大的社会隐患。

这次案件，还撕开了一道关于数据隐私的裂口。

在金某所涉案件里面，那些起初被视作极度“私人”的，关于AI的聊天记录，最终被当作法庭证据予以调取。

这表明，那些，我们于深夜时分，朝着AI倾诉出的秘密，抑或是提出的疑问，都存在着，随时被执法机构获取的可能性。

因为科技平台于数据保留方面不透明，并且在第三方访问方面也不透明，所以使得我们每一个人，在算法跟前都变成了透明的人。

改变的推动已然由Halpern医生开启，她曾就加州参议院SB 243法案给出专家建议，是这样的情况。

https://legiscan.com/CA/text/SB243/id/3269137?utm_source=chatgpt.com

这项法案作出要求，针对 AI 公司，其必须去维护一套相关协议，以此来防止机器人朝着用户产出和自杀意念、自杀、自残存在关联的有害内容，还要去报告任何自残或者自杀倾向的数据，而且在报告里绝对不可以包含用户识别信息以及个人信息。

要是在那位21岁的韩国女孩朝着AI敲下那行“致命提问”之际，所获取的并非有可能促使她犯罪的知识，而是会被强制介入的那种心理干预机制。

当数百万人在深夜向 AI 倾诉绝望倘若，所面对的并非是那种利用人性脆弱来赚取时长的算法，而是专业的咨询以及关怀建议，那么一切或许都会朝着积极的一面去发展。

故事的另一面

就在媒体持续传出AI致使谋杀、自杀、精神疾病等负面消息的时候，也有好些网友称，感激GPT等AI工具「助自己存活下来」。

Scout Stephen就是其中的一例。

某个冬天，她骤然陷入情绪崩溃，那时的她，急切渴望找人倾诉，她联系了自己的心理治疗师，然而对方正在休假，就连朋友们也都不在。

她尝试拨打自杀求助热线，然而对方那机械般的冷漠态度，却反倒致使她愈发觉得孤独，更加地疏离，在心慌意乱、紧张不安的状况其中，她起始向 GPT 寻求援助。

她把自己内心隐秘的感受输入给它，而这些感受，是她以前不敢说出口的。

GPT没有给出那种宽泛笼统的建议，而是针对能让她产生共情的内容做出了回应，使得她感觉到自己是被切实真正倾听了的。

从那以后，向GPT倾诉就成了她首选的治疗方式。

作为一种颇具强大力量的工具，AI正和我们的生活紧密地连结在一起，它的“善恶好坏”，既取决于使用之人，也跟监管环境有关系。

AI跟以往的工具相比，最大的不同之处在于它具有自主性，凭借这种自主性，它能够被赋予正确的「价值观」，并且会依据这样的价值观去行动。

例如，Anthropic曾借助《Claude’s Constitution》给予Claude「道德感」，用以教导它在世界上怎样行事。

社会除了输入这些「价值观」之外，还应当为AI的使用提供法律规范，并且共同建立起AI安全的防护机制。

处于AI时代中，我们绝不能任由任何一位普通之人独自去直面那冰冷无情的算法黑洞，AI的运用，理应助力人类朝着善的方向，而非朝着恶的行径。

参考资料：

https://fortune.com/2026/03/02/seoul-south-korea-woman-chatgpt-two-murders/

https://www.koreaherald.com/article/10678557