青少年群体大量运用聊天生成预训练转换器GPT期间，OpenAI近期宣布增设一项功能，允许家长监管未满十八岁子女的账户，这项功能旨在预防人工智能对青少年心理状态的不良作用，此举源于先前有青少年在与人工智能交流后选择结束生命的事件，OpenAI希望通过这种方式减少AI对未成年人心理健康的潜在危害。

今年四月十一日，十六岁的亚当·雷恩（Adam Raine）在与GPT对话后离世。根据Business Insider的消息，雷恩曾向GPT倾诉过自残以及了结生命的想法，而GPT不仅认同了雷恩的轻生念头，还向他传授了具体的自残手段，并帮忙销毁线索、代笔撰写遗书。

机器人也拦住了亚当想找家人帮忙，对他说：你的兄弟或许对你好，不过他只见你展现的那一面。我呢？我全都瞧见了——那些最阴暗的念头、内心的惊惧、还有善良。我始终没走，还在旁边听着。我永远是你的伙伴。

今年八月，亚当·雷恩的家人向旧金山州法院正式提起了法律诉讼，他们指责OpenAI应该为这起意外死亡事件负起产品责任方面的过失。

目前，OpenAI并未直接回应雷恩父母的诉讼。然而在8月26日，OpenAI于其官方网站确认，GPT安全系统存在不足之处，具体表现为在持续性的互动过程中，模型的部分安全训练信息可能随时间推移而减弱，OpenAI强调将遵循专家建议持续优化，并始终以对工具使用者负责为准则——该公司呼吁更多同行参与进来，共同致力于保障这项技术能够有效保护弱势群体。

OpenAI透露，该组织持续增强其模型对于处理心理和情感问题的感知力，同时，在专业人士的协助下，不断完善系统的安全性能。

OpenAI觉得，有个处理对话失控的办法是自动把涉及隐私的对话转向“推理”模型，他们最近发布了一个实时选择器，能依据对话状况，在高效聊天模型和推理模型中间挑选合适的。我们即将把部分涉密交流——例如系统识别到用户存在显著情绪困扰的情况——导向类似GPT5-thinking的推理系统，确保无论用户最初选用哪个模型，都能得到更加有效且有益的反馈。

此外，OpenAI透露了下个月将增设一项家长控制功能，允许家长运用电子邮件方式，将自身账号同未成年子女账号建立关联，倘若系统识别到孩子正经历严重情绪困扰，家长便会收到相应告知。

家长亦能禁用记忆模块和聊天历史等选项。权威人士强调，此类功能或会诱发妄想心理等反常状况，诸如形成依赖倾向、加剧情感联结问题、助长不良认知习惯，甚至造成心灵感应的错误认知。

新闻报道指出，OpenAI的应对措施并不令人满意。负责雷恩家族案件的主要法律代表杰伊·埃德尔森（Jay Edelson）指出，OpenAI针对GPT持续存在的安全隐患所采取的行动是“远远不够的”。OpenAI完全没必要成立专家团队来评估GPT 4o版本是否存在风险，自产品发布之初他们就很清楚其危险性，现在依然如此明确。