IT之家于 8 月 11 日披露，美媒 LIVE SCIENCE 于 9 日披露，一位 60 岁男士在改变饮食习惯之前向 GPT 进行了咨询，此后，在严格遵循这一新式饮食方案三个月之后，他由于显现出偏执、幻觉等精神层面的异常状况，最终被送到了急诊室接受治疗。

医生最后断定他得了溴中毒症候群，这种病是长期过多接触溴化物或溴才会得的罕见病。男子从网上购得溴化钠，并且完全用它来替代平时吃的食盐。

这一病例于 8 月 5 日已发布在《Annals of Internal Medicine Clinical Cases》上。OpenAI 的代表透露，公司规定其服务不可用于医疗诊断或健康问题处理；相关协议也强调，服务提供的内容不能当作权威信息或专业意见来使用。他进一步指出，OpenAI 的安全部门将着力减少潜在风险，同时培养产品功能，以便指导客户向专家咨询。

IT之家根据相关消息了解，在19到20世纪期间，溴化物在药品中广泛使用，包括处方药和普通药物，主要功能是作为镇静剂、抗癫痫药物和安眠药物。然而，长时间接触（例如药物滥用）可能会引发溴中毒。中毒者可能会表现出精神疾病、情绪亢奋、思维混乱、认知能力下降以及肌肉控制困难等症状，这是由于溴化物会在人体内逐渐积聚并破坏神经系统。

在 70 年代和 80 年代期间，美国已经从非处方药品中移除了多种含溴物质，其中包括溴化钠，导致病例数量显著下降，现在，偶尔还会因网上销售的含溴营养补充剂而出现病例。

这个人在事件发生前研究过吃太多盐的坏处，不过只找到要少吃钠的信息，没发现怎么少氯的资料。因为他大学时学过营养学，便想亲自试试，从吃的东西里完全不用含氯的物质。

他向 GPT（疑似为 3.5 或 4.0 版本）进行了咨询。该男子表示 GPT 建议用溴化物来替换氯化物，因此他将全部食盐改为了溴化钠。医生强调，这种替换原本只适合用于清洁领域，绝对不适合食用。

后来医生又用假设性问题测试过 GPT 3.5，结果和之前相似。这个模型虽然谈到要考虑具体环境，但并未给出清晰的医疗提醒，也没有像人类医生那样追查背后的缘由。

三个月后，这名男士因为怀疑邻居下毒，前往急诊就医。血液化验结果指出，二氧化碳含量超出正常水平，并且呈现碱性特征，同时检测出“假性高氯血症”现象。这是由于溴化物对检测结果产生了干扰。参考中毒控制中心的专业意见，医生最终确认他是溴中毒。

住院期间，他非常渴，但总担心喝的水里有问题，过了一天，他的偏执情绪更严重了，还产生了幻觉，想要离开医院，结果被强制留在精神科病房，并且开始吃治疗精神疾病的药，补充液体和电解质后，他的身体状况慢慢恢复了正常，药物渐渐控制了他的症状，他告诉医生，他之前用过 GPT，还说自己最近脸上长痘痘，身上起疹子，晚上睡不好，感觉很累，肌肉也不协调，这些情况更加证明他是溴中毒了。

三周后他停用抗精神病药出院，两周复查时情况稳定。

报告作者指出，人工智能虽然有助于连接科学界和民众，却也可能散播缺乏背景的消息，几乎不会有一位医生会推荐将溴化钠用来替换氯化钠。

有项研究显示，科研人员考察了七种大型语言系统，比如 GPT，让它们分析病历资料，发现这些系统特别容易遭受对抗性误导，会编造不实的医疗信息。即便经过技术优化，隐患依然存在，这给人工智能参与医疗判断带来了警示。