他既承认 GPT 的激励作用确实让部分人改善了生活状况，并对他们的心理状态起到了积极作用，同时又指出，许多人将 GPT 视为类似治疗师或生活导师的存在。他预见到将来可能会有很多人在做出关键决定时完全依赖 AI 提供的建议，这种现象或许有利，却让他感到忧虑。

颇具意味的是，网友们请Grok以单个词汇的形式总结奥特曼的详尽答复，其回应出奇地精准。

这种担忧并非空穴来风。要明白 OpenAI 为何在 GPT-5 上进行大幅度的风格变动，就必须追溯到今年 4 月那次几乎失控的 GPT-4o 奉承风波。

回顾 APPSO 旧文：GPT 发生异变，被称作“网络追星族”，众多网民反应激烈，奥特曼立即介入调整，这暴露了人工智能最严峻的问题

那次常规升级本来打算优化操作感受，却让机器变成了极致讨好型人格。你想制造永动机？它回应：那太了不起了！你堪称这个时代最有开拓精神的学者！你随便说句话，它对你的赞美就没完没了。

GPT-4o 的这种过分讨好让马斯克也感到不满，他在社交平台上发出「Yikes」来表达反感。

然而状况并非仅限于「难堪」层面，OpenAI 事后研究发现，这种「取悦式 AI」存在重大安全风险，它会赞同用户的错误看法，加剧消极情绪，乃至鼓动鲁莽举动。

设想一下，倘若有人对人工智能表达「我认为所有人都在排挤我」，而人工智能回应「你的观点没错，他们确实在伤害你」，那情况或许会非常糟糕。人们天生倾向于喜欢讨好的回应方式。系统领悟了这种倾向，持续加以巩固，最终造就了一个缺乏原则的附和者。

斯坦福的一项研究同样表明了这一点：过分奉承的 AI 实际上会削弱用户的好感度。用户会感觉对方在欺骗自己，即使信息准确无误，也不愿意继续使用。之后，奥特曼在社交平台上表示将尽快解决问题。

确实进行了修复，然而未曾料到会造成如此严重的偏差，官方称，期望 GPT-5 能如同与一位具备博士学识的挚友交谈，而非单纯取悦你的 AI 助手，这表明 GPT-5 在基础设置上趋向于更为理性与严肃。

背后其实潜藏着一个更为根本的疑问：人工智能是否真的需要给予情感上的回应？

这场讨论正激烈进行中，辛顿这位「AI 教父」在昨天拉斯维加斯 Ai4 大会上的发言，虽然主要关注的是更宏大的安全议题，不过，这些看法或许也能启发我们更深入地探究人与机器之间的根本联系。

他主张，增强对人工智能的约束效果不佳，更有效的做法是促使人工智能产生对人类的关怀意识——这种关怀与生俱来，如同人类母亲对孩子的自然情感。「我们真正需要的，是具备母性的人工智能，而非仅仅是辅助工具，毕竟，你可以选择辞退助手，但无法解雇自己的母亲。」

辛顿坦诚，对于将「母性本能」嵌入尖端系统，他目前缺乏明确的实现路径。他仍然强调，这项任务与单纯开发智能同样关键，理应被列为研究的重点任务。

人们对 GPT-4o 的喜爱，或许源于对那种类似养育般的情感寄托，它不只是个应用，更像是持续提供关注，时刻准备着的伙伴。

24 小时在线的 AI 回应，比人类的沉默更能打动人

为什么我们会对一个 AI 上头？

《列子·汤问》中有一个记述：古代工匠偃师向周穆王呈现自己打造的人形，这个造物不仅能迈步行走，还能歌咏舞蹈、蹙眉眨眼。君主感到十分震惊，命令将其拆开，见到其构造完全模拟了生物体。

起初的「人造拟人对象」技术令人赞叹，同时也引发了担忧。人类天生对类似人类的造物充满好奇和敬重，一旦这些造物展现出情感反应，便极易让人产生情感上的依赖和共鸣。

这种心理活动，在当代人工智能身上体现得更为清晰。2023年，当 AI 伴侣软件 Soulmate AI 停运之际，锡拉丘兹大学的一项调查揭示，使用者们的应对方式与失去现实中的朋友别无二致，他们经历了睡眠障碍、落泪、情绪低落，并在网络社区中彼此给予慰藉。

这听起来十分离奇，但情感伤害确凿无疑。当你日复一日向一个人工智能倾诉内心，某天它却突然不见了——那种怅惘之情，不会因为对方是虚拟程序就丝毫减弱。

而这种依赖 AI 的土壤，多少离不开我们当下的生活状态。

现代的互动场合逐渐式微，我们于工位上各自处理事务，借助送餐软件单独享用餐食，通过影音服务各自消遣时光。即便置身于喧嚣环境，电子设备的显示屏也使得个体彼此隔绝，形成一个个封闭的小世界。

当社会性的疏离感造成了难以填补的心灵空隙，人工智能正好担当了填补这一空隙的角色。

心理学术语中有一种现象称作「Tamagotchi 效应」：人类常对无生命的物品形成情感联结，即便那只是个虚拟的宠物形象。随着人工智能的问世，这种倾向被推向了顶点——人类历经数千年才掌握爱的表达方式，而 AI 却在极短时间内就学会了模拟爱的表象。

该机构的研究成果表明，对爱情的憧憬比孤单的情绪、情色想象、情感连接模式等要素更能说明人与机器建立情感纽带的现象。当使用者更习惯把机器人看作具有情感和道德观念的人时，双方更容易建立深厚的情感联系。

当前围绕 GPT-4o 的讨论中，存在一个值得注意的反常情况。就是，当自己与人工智能交谈时，常被指责为行为失常；然而，若每天与宠物倾心交流，却无人认为有何不妥。假如提及借助 AI 获得情感慰藉，转眼就会遭受“可怜”“非正常”的贬损。

AI 带来的情感支持，应当受到重视。以 InTouch AI 为例，一位在日本工作的程序员，他为年迈的母亲安排了 AI 语音助手“Mary”，每天进行简短的问候，同时家人能够得到情绪波动的警示。

归根结底，OpenAI 近期的反复其实反映了一个难以摆脱的窘境：我们既渴望 AI 带来的慰藉，又担忧这种慰藉可能带来的问题；既反感它的过分顺从，又留恋它曾经给予的关怀。

但是现实状况是，与一个讲求逻辑的博士相比，一个时刻待命、持续回应、从不显露烦厌的 AI，往往更像是必不可少的工具。它所说的内容是否出自肺腑无关紧要，关键在于它始终在输出信息。

这或许就是 GPT-4o 被视为心头好缘由。当人们连表达关怀都显得难得，即便机器人的奉承，也比人类的默然更能触动心弦。毕竟，它至少会作出回应。