7月21日传来消息，享有“AI之父”美誉的图灵奖获得者杰弗里·辛顿与AI初创企业Cohere的联合创始人尼克·弗罗斯特近期展开了一场亲切的交谈。曾是辛顿在多伦多Google Brain实验室的首位员工，弗罗斯特如今在AI创业界崭露头角，成为该领域的佼佼者。

在这场交流中，两位行业翘楚对人工智能领域的尖端话题进行了深入交流，诸如：大型语言模型是否真正领悟了人类的语言？数字智能是否能够真正超越生物智能？哪些领域有望成为人工智能最富前景的应用领域？科技巨头对于监管的真实立场又是怎样的？除此之外，他们还着重探讨了人工智能技术带来的双重风险，并就构建有效的安全防护机制进行了深入交流。

AI教父辛顿：LLMs已能建立创造性联系，理解抽象关系

以下是辛顿与弗罗斯特的核心观点：

辛顿强调，即便大语言模型在处理复杂任务时出现错误，这也并不意味着它们不具备理解力。这种情况就好比那些有学习障碍的人，他们虽然可能在简单题目上表现出色。推理能力的提升是一个逐步的过程，并非非此即彼。

弗罗斯特将人工智能与人类大脑的运作原理进行了类比，将其比喻为飞机与鸟类的飞翔——虽然两者的飞行路径各异，但最终达到的效果却颇为相似。他着重指出，尽管人工智能在实用性方面表现卓越，但我们却不能将其等同于具备“人性”的实体。

弗罗斯特提出了“意识光谱论”，这一理论指出，从无生命的石头、树木到复杂的大模型，再到人类，意识的发展是按照一定的层次逐步提升的；而辛顿则持有不同的观点，他更倾向于相信人工智能的主观感受可能与人类相仿。

当前模型不具备人类那样的经验学习能力，它只能通过预训练和强化学习这两个阶段来静态地积累知识。而要想更新知识，则必须对底层模型进行重新训练。

弗罗斯特和辛顿均预言，一个以“语言作为操作平台”的新时代即将来临，届时，仅凭自然语言，用户便能够指挥办公系统完成一系列繁复的操作。

辛顿指出，人工智能技术存在两大潜在威胁：在短期内，它可能被用来操控选举和制造武器；而从长远来看，它可能会因为其智慧超越人类而“主宰”世界。

辛顿指出，大型模型凭借减少连接数目、挖掘知识间的深层关联，彰显出非凡的“创造力”，其能力甚至超过了绝大多数人类。

辛顿预测，在接下来的五年里，大量脑力劳动将被机器所取代；而弗罗斯特则指出，尽管人工智能有着显著的能力，但仍然存在一个能力上限，许多人类能够完成的工作对AI来说依旧难以实现。

辛顿坦诚表示，奥特曼们言行不一，AI企业表面上对监管表示欢迎，但实际上却避开了那些具有实际约束力的规定。目前，我们只能依靠公众舆论来推动政策的向前发展。

以下为访谈内容精华版：

图注：从左到右分别是辛顿、主持人以及弗罗斯特

01 大模型犯错≠不会思考！人类同样存在认知缺陷

目前，人工智能领域正经历一场深刻的变革。在这个阶段，面临的最大挑战是什么呢？

辛顿指出，提升大语言模型的推理水平并减少低级错误，确实是一项艰巨的任务。然而，与几年前相比，现在的推理能力已经有了明显的提升。以往，众多人士秉持着传统的语言学观念，坚信这项技术无法再取得更大的突破。他们每年都会断言技术进步的极限已至，然而，每年技术都在持续进步之中。

自然，若模型在推理过程中犯了错误，许多人可能会断言：“这表明它对推理一无所知。”然而，我更倾向于通过一个实例来阐述观点：设想向一个存在学习困难的人提供一些基础的推理题目，他或许能够正确解答；然而，一旦题目变得复杂，他或许就无法应对。你不会因此得出结论：“这说明他根本不懂得推理。”相反，你可能会说：“他在处理更复杂的问题时表现不佳。”

最新的研究发现，模型在解决简易问题上的速度很快，能迅速给出答案；对于稍微复杂的问题，它需要更多的时间来处理，但仍然能够给出正确的回答。然而，当遇到更加复杂的问题时，尽管它处理的速度并不慢，却常常给出错误的答案。因此，有人可能会评论说：“它实际上并不具备推理能力。”

实际上，该系统的逻辑推理并无缺陷，但在处理繁杂问题时表现欠佳，然而对于简单至中等难度的问题，它依然能够准确解决。遇到较为复杂的情况，它同样可能犯错，与人类并无二致。

问：所以你认为这些问题本质上是瓶颈，而非固有的限制？

辛顿：确实如此！

弗罗斯特表示，当前这项技术面临诸多制约其影响力的瓶颈，而这些瓶颈并非都与人工智能本身紧密相连。比如，涉及隐私保护、实施部署以及所依赖的数据质量等方面的问题。即便技术发展停滞不前，其影响力仍有望超越现状。即便未来数年技术层面无重大突破，它对我们的生活仍将持续产生影响。这项技术的最大影响力尚待实现，因为计算机科学领域内尚有许多工作有待完成。

从长远角度考量，这项技术与人类在众多领域仍存在显著差距。其学习效率远逊于人类，面对大量案例时，其进步显得尤为缓慢。我们构建的大规模语言模型在训练完成后，便转变为一个静态的存在。它不具备人类那样的持续学习能力，依据新经验不断进步，因此我们不得不对其进行重新训练。

辛顿表示，这项技术是可行的，然而您可能不希望它持续不断地学习，因为您难以预知它将习得何种知识。

弗罗斯特表示，实际情况并非如此，而是受到技术层面的制约。我们计划将大语言模型的训练分为两个阶段进行：首先进行基础模型的训练，接着再通过引入人类反馈的方式来进行强化学习。

在训练基础模型的过程中，必须搜集海量的文本资料，这包括从互联网上搜集高达上万亿字节的信息。随后，通过强化学习的方法，提升模型与人类之间的协作能力，而在这一阶段，所需的数据量则相对较少。

若你意图为模型注入新增内容，或是期望其习得新的技能，那么就必须对整个基础模型进行重新训练。尽管我们可以通过提示的方式向其输送新信息，并对它的表现进行微调，但若要实现模型对全新信息的真正“吸收”，仍需从零开始进行全面的训练，而这并非我们当前能够随时执行的作业。

02 AI意识光谱论：石头→树木→AI→人类，你在哪一级？

辛顿教授认为神经网络所执行的任务与人类思维过程相仿，然而弗罗斯特教授的观点则有所差异。那么，这两位专家在理解人类思维的方式上，具体存在哪些分歧呢？

弗罗斯特表示，他坚信大语言模型具有极高的实用价值，并且其性能将持续提升。事实上，他早在数年前便洞察到了这一点，并据此创立了一家专注于大语言模型的公司，因为他深信这项技术将引发一场深刻的变革。这种模型能够依据人类的知识体系预测接下来的词汇，这一功能无疑是极具实用性的。然而，弗罗斯特指出，从本质上讲，大语言模型所执行的任务与人类的思维模式存在本质上的差异。

我倾向于用“飞行”这一比喻进行阐述：我们已成功助力人类实现翱翔天际，飞机不仅能够飞行而且实用性极强，然而其飞行原理与鸟类截然不同。飞机依靠引擎动力和机翼设计来产生升力，而鸟类则是通过振翅来形成升力。所以尽管飞机同样能飞，但其飞行原理与鸟类的飞行方式有着本质的区别。

同样，我坚信人工智能的运行模式与人类的思维模式存在着显著的差异。尽管人工智能在许多方面都极为实用，然而，它们运作的原理与人类思维的结构之间仍然存在较大的鸿沟。

辛顿：鉴于它们的运作原理存在差异，您是否觉得这表明人工智能实际上并不明白自己在表述的内容？

弗罗斯特指出，这涉及另一个议题。尽管大语言模型运作机制与人类思维存在差异，但在某些方面，它们亦展现出一定的共通性。我们不应将意识视为一个单纯的二元对立，而应将其视为一个连续的光谱。在这光谱的末端，是石头的“意识”，而在其附近，则是树木的意识，而大语言模型则位于这个光谱的中央位置。

辛顿问道，你是否不赞同我提出的它们拥有共同意识的观点？当您将棱镜置于镜头前方，从而引发方向偏移，难道您不觉得这会引发某种错误的主观感受吗？

弗罗斯特表示，将主观感受视为二元对立的观点是错误的，他强调，意识实际上是一个连续的光谱。在这个光谱中，石头的意识几乎可以忽略不计，树木则拥有一定程度的意识，而大语言模型则位于这个光谱的中央位置。那么，您对这样的意识光谱有何看法呢？

辛顿表示赞同，他认为大型语言模型的“意识”或许与人类的意识更为相似。

你怎样看待人类与人工智能系统在根本层面上从事相似活动的观点？你作出这一判断的依据又是什么呢？

辛顿指出，对“主观体验”的深入理解是这一判断的核心。在他19岁在剑桥大学学习哲学时，他投入了大量时间去探索心智哲学。在维特根斯坦和牛津语言哲学的启发下，他逐渐认识到，主观体验并不像照片那样是一个具体的实体。颇具讽刺意味的是，正是牛津语言哲学帮助我们免受AI威胁。人们往往对主观体验、意识和感知的本质存在根本性的误解。

那么，人类在舞台上所呈现的“存在感”究竟源自何处？是它自然流露出的行为表现，还是源于某种深层的内在特质？

辛顿表示，AI同样能够拥有所谓的“舞台存在感”，然而这种存在感与人类是有所区别的。以身体反应为例，人类在尴尬时可能会脸红，但AI却不会有这样的生理反应。尽管如此，AI仍能展现出尴尬的行为特征，比如它会努力避免未来再遇到类似尴尬的情境。

03 办公场景将被彻底颠覆，语言指令时代即将到来

探讨人类智慧与人工智能的根本区别，这一差异将如何作用于实际系统的构建，例如，在人类与大语言模型之间建立交互界面的过程中？

弗罗斯特表示，这一变化将显著影响技术应用的走向。我们正迅速迈向一个崭新纪元：办公环境将发生根本性的转变——通过语音指令，电脑即可执行任务。实际上，我的工作流程正日益依赖于语音交互，这一变革的临界点即将到来。

辛顿表示，这确实令人难以置信。大约二十年前，人们总是憧憬：“要是能直接与电脑交流就好了？”“为何不能直接指示打印机打印资料？”如今，我们不仅能够与计算机进行对话，而且它们似乎还能理解我们的意图，这本身就是一个令人难以置信的奇迹。

弗罗斯特表示，他坚信这是他见过的最令人陶醉的技术，每次目睹其卓越表现，他都会不禁为之赞叹。然而，他预测，未来的发展趋势并非是只需打开电脑，便能如同与人交谈般与之互动。他并不认为人们会期望它展现出与人类相似的行为模式。

观察当下人们运用语言模型的方式，不难发现他们已经认识到，人工智能能够按照指令执行特定任务，然而一旦出现错误，便需从头再来。只要提供给它恰当的文件，并且确保它能够接触到必要的信息，它便能够提供答案。然而，若缺乏这些信息，它与人类有别，无法自行探索答案，亦不知从何着手寻找。

辛顿：但是你不觉得这种界限正在逐渐模糊吗？

弗罗斯特指出，本质上并未发生改变。尽管模型性能持续增强，使用难度在逐渐减小，然而，大语言模型与人类之间的根本性差异依旧十分显著。

辛顿宣称，借助数据资料，他将对你的观点提出质疑。据英国SafetyX公司进行的试验表明，在普通用户与大型语言模型进行深入互动之后，不少参与者在试验结束后，会如同与久违的老友告别一般，主动向人工智能系统说一声“再见”。这一现象或许表明，人类与机器在不知不觉中形成了一种微妙的情感联结。

弗罗斯特表示，这种情况并不能得出什么结论，原因在于两点：其一，早在20世纪60年代，即在语言模型问世之前，已有实验证明，简单的启发式规则即可激发人类的情感共鸣；其二，那时就已经出现了与之相似的现象。

再者，在我幼年的时光里，我也曾给自己的玩具赋予名字，与之建立起了一份深厚的情感纽带，然而显而易见的是，它们并未领会到这层含义。

我个人在使用语言模型时，也会习惯性地运用礼貌的语言，这让我感到更加舒心。然而，当用户情绪平复之后，他们往往会认识到，模型所提供的“体验”与人类自身的感知之间存在着根本性的差异。

辛顿表示，他观察到，现在有愈来愈多的人开始将那些大型语言模型视为具有类似生命特征的实体来对待。

问：这样的互动会产生哪些后果？毕竟，我们有时对它们过于信赖。以MIT媒体实验室最新发表的论文为例，它表明这种交流方式或许会损害我们的批判性思考能力。

辛顿表示，他对某些事情尚存疑虑。然而，他确实观察到，自己正逐渐对GPT-4产生信任，往往不加思考就接受其输出结果，且常常忽略了验证的必要性。这样的习惯或许应当得到调整。

弗罗斯特指出，每当新技术的诞生，教育领域往往都会发出警告，声称“这会让孩子们变笨”。古时候的希腊人便曾忧虑，文字的广泛使用可能会引发记忆力的衰退，这种担忧早已存在。他本人也认同，技术的发展将不可避免地融入我们的日常生活，进而改变我们的思维方式以及我们与技术互动的方式。从长远视角审视，文字的诞生、印刷技术的革新以及计算机的问世，这些发明均极大地推动了人类智慧的进步。

04 AI接管世界倒计时？超级智能终将到来，只是时间问题

疑问：我们或许能提升与AI系统交流的技巧，抑或我们能够掌握与它们形成互补优势的方法吗？

辛顿表示，这种情况必然会出现。AI助手的优势显著，我们每个人都将拥有极其智慧的AI助手，它们对我们的生活了如指掌，我们也不再依赖传统的助手。然而，这也伴随着一个严重的副作用——当这些AI的智慧超越我们时，我们是否还有存在的必要？

探讨此话题，便引出了风险及安全策略的相关议题。风险可划分为两种类型：一类是短期内可以预见的，另一类则是更为广泛的长期生存风险。那么，在各位看来，哪一种长期生存风险最为关键呢？

辛顿表示，他所指的“生存性风险”是指人工智能可能全面控制全球。此外，这种风险在短期内也十分危险，它可能被用于操纵选举、助长法西斯主义、实施对人类的监控、协助开发自动化致命武器或生物武器（例如设计新型病毒），甚至可能引发新型网络攻击等。

您所提及的“更聪明”，究竟是指何种含义？这些系统具备哪些能力？它们是否能够形成主观意愿？

辛顿举例说明：在与这些人工智能进行辩论时，它们总是能够占据上风。我对“更聪明”的理解相当直接：它们在辩论中能够轻易击败你，创造出你意想不到的策略，并且迅速掌握新知识。大多数AI研究者都相信这种情况终将成真，而弗罗斯特可能是持有不同观点的少数派。你难道不认为这不仅仅是一个理论上的潜在风险吗？

弗罗斯特认为，有几个关键问题必须厘清：首先，目前的技术，或者说是可预见的未来技术发展趋势，是否会导致这种风险的产生？其次，在人类历史的长河中，我们是否终将研发出能够与人类智能相媲美的机器，从而引发类似的风险？

辛顿教授与我均持相同观点，即未来必将诞生超越人类大脑的“人工心智”，然而其进展速度将不会过快，且将以可预见的模式逐渐扩展。目前的大规模语言模型，即便其规模持续增大，也无法触及人类智能的境界，就如同再快的飞机也无法化身为蜂鸟一般。

辛顿提出疑问：若是多模态模型，这些模型若能在现实世界行走并拥有感知力，您认为我们能否通过这种方式达成目标？我赞同您的观点，尽管语言模型已经取得了显著的成就，但或许仅凭语言模型无法达到人类的智能水平。然而，一旦它们能够在世界中进行行动并设立自己的子目标，我认为我们最终能够实现这一目标。

弗罗斯特指出，目前的多模态模型在本质上仍旧属于序列预测模型范畴，区别仅在于其输入源已从文字拓展至图像与音频，随后继续对序列进行预测。因此，尽管技术核心未变，但操作手法已有差异。

即便模型的体积持续扩大，它们也难以逾越根本性的障碍。然而，这并不意味着技术没有潜在风险。我赞同辛顿教授对虚假信息的忧虑，但我更担忧的是这种技术可能加剧收入差距。这项技术有可能放大既有的经济动向，我们必须确保其能够惠及广大民众，而非落入少数垄断势力的手中。至于生物武器的威胁，我坚信大语言模型并不会构成真正的风险。

辛顿：为什么你这么认为？相关领域的研究者可不这么看。

弗罗斯特：我们团队也在做相关研究，且已经发表了论文。

辛顿：你们有尝试让这些模型设计生物武器吗？

弗罗斯特认为，从宏观的角度来看，大语言模型确实能加速信息的获取与处理，还能以非凡的速度，依据浩瀚的文献资料，迅速得出合理的判断。然而，制造生物武器的难题并不在于信息的获取。事实上，即便无法迅速处理或获取信息，也并不意味着无法制造生物武器。

问题主要出在实验室环境的缺失、所需材料的不足，以及无法进行多次试验和修正的条件下。这些因素构成了大语言模型难以突破的根本障碍。

辛顿表示，目前根本无需亲自搭建实验室。只需将序列上传至云端，他人便会寄回相应的化学物质。在美国，拜登政府曾尝试强制规定，那些进行测序并寄回化学物质的人员，需对序列进行审查，确保其中不含有新冠病毒刺突蛋白等成分。

然而，拜登政府未能达成这一目标，原因在于它必须通过立法，而共和党人并不乐意让他获得任何成功。事实上，在那些提供网络测序服务的公司里，仅有20%的公司愿意进行这项检查，而剩下的80%则持拒绝态度。

因此，你无需自行搭建高端实验室。只需提供一条序列信息，相关结果便会邮寄至你手中。

弗罗斯特表示，整体上，他赞同采取这种限制措施，并认为这是久拖未决的正确做法。然而，他并不认同神经网络是制约因素，实际上，问题的关键在于获取信息的途径不畅。

辛顿表示，既然您能够借助他人的实验室来构建序列，只需提供序列信息，他们便能给出回应，因此这已不再是制约因素。目前，制约的关键在于序列的设计，而人工智能工具在此环节表现出色。

弗罗斯特表示，AI工具确实具有实用价值，例如之前提到的蛋白质折叠就是一个典型的应用实例。然而，他认为这与通过实验来确认某一序列的有效性是两码事，并且他不认为大型语言模型在这一领域有出色的表现。

05 人类再无独特之处？AI将全盘复制所有人类成就

弗罗斯特表示，我们应认识到大语言模型在日常工作场景中的重要性，它更应被视为一种“调度者”而非“先知”。我不会向模型询问“今天是周二，我该做什么？”，而是会指示它“请整理出前两天收到的邮件，并与Salesforce文档进行对比分析，随后制作好文件并发送给同事”。

每个子任务都需借助不同的功能模块，大语言模型的核心职责在于精准调控这些模块的激活时刻。此类系统的搭建颇具挑战性，目前，在多数人的工作环境中尚无此类应用存在，而这正是我们亟待努力追求的目标。

辛顿举例说明，他质疑大语言模型是否真的能够根据“创造一种新的密码破解手段”这类提示，真正地找到破解方法。他个人认为，现阶段模型尚无法实现这一目标，然而，在将来，这一能力或许会被模型所具备。

弗罗斯特表示，大型语言模型在编程领域确实发挥了重要作用，众多程序员都曾借助人工智能技术来辅助编程。究其原因，网络中丰富的开源代码资源为模型提供了学习素材，从而提升了模型在预测代码序列方面的能力。

另一个因素在于，强化学习能够对代码生成进行优化——成功执行则给予奖励，出现错误则实施惩罚。在理论层面，甚至可以将“成功破解密码”设定为奖励的依据以训练模型。尽管有人尝试过这样的方法来增强代码生成能力，然而，每当新的基准测试发布之后，这些模型的表现通常会出现显著的下滑。

这表明，序列模型在本质上受限于所使用的训练数据，即便是在强化学习的场景中，也难以超越这一局限。因此，就你提到的情形而言，我认为其发生的概率并不高；当然，从理论上讲，这种情况并非完全没有发生的可能性。

辛顿表示，这或许正是我们之间直觉上的分歧所在。你大体上觉得这些模型缺乏创新，仅仅是模仿了训练数据所展现的内容；然而，我则坚信它们极具创造力，能够揭示出人类未曾察觉到的联系。

弗罗斯特表示，这确实引人入胜，我们双方持有截然不同的看法。我们坚信，模型所掌握的知识源自于基础训练，随后通过强化学习以及人类的反馈来重现这些知识；而你们则认为，知识是直接通过强化学习，从人类反馈或是其他某些环境中直接吸收而来的。

辛顿举例说明，人脑的连接数量高达百万亿，而GPT-4的连接数量约为1万亿。然而，GPT-4所掌握的知识却远超人类。这表明，为了在如此有限的连接中存储大量信息，它必须揭示不同知识之间的内在联系。

在GPT-4未接入网络（其训练数据截止至2021年4月）之际，我曾向其提问：“为何堆肥茶（一种优质肥料）与原子弹存在相似之处？”它的回答是，尽管时间跨度与能量等级截然不同，但它随后深入分析了两者在链式反应方面的共性：堆肥温度的上升会促进热量的生成。由此可见，GPT-4已领悟到堆肥茶与原子弹之间存在的抽象联系。

我认为，这种认知是在训练阶段逐渐形成的，并非在实时推理阶段即时产生。为了积累知识，模型需挖掘出这些深层的联系。在众多创造力测试中，大型语言模型的表现已超越90%的人类。这些数据是几年前的，如今或许已有提升。因此，我坚信大模型具备显著的创造力，它们在训练数据中发现了众多隐蔽的联系，如今正展现出非凡的创新能力。

问：这种创造力会带来哪些实际风险？

辛顿表示，他们能够提出一些独特且出人意料的策略，比如发明新的密码获取手段。

提问：您先前提及人工智能系统有可能替代所谓的“传统脑力劳动”。那么，您是否认为有些人类所取得的成就，这些系统在理论上将永远无法重现？

辛顿：没有！

询问：未曾提及？然而，你之前曾提及，你坚信人类的创造力仅能维持有限时日。那么，你的看法是否依旧如此？

辛顿表示，或许我们还能再坚持一段较短的时间。这一观点，我是在大约2022年前后，在目睹了谷歌的聊天机器人Palm的表现后所形成的。当我发现它能够解析并理解笑话中的幽默之处时，我的想法发生了转变。在此之前，我将其视为检验人工智能是否真正具备理解能力的标准。鉴于它们能够做到这一点，我逐渐摒弃了人类具有独特性的观念。

06 “奥特曼们口不对心”：他们并不真想要监管

那么，我们应当如何在社会层面着手探讨这一问题呢？首先，我们必须关注诸如结构性失业、社会不公以及恶意利用等潜在风险。在积极追求技术带来的机遇时，我们如何确保就业的稳定？责任又应由谁来承担呢？

辛顿指出，科技巨头们虽然口头上宣称支持监管，如同OpenAI的萨姆·奥特曼所表现的那样。然而，一旦具体监管措施被提出，他们便会以“不适用此类”为由进行推脱。他们并不寻求真正具有约束力的监管。这种态度与石油公司对待气候变化问题的立场如出一辙。他们对于监管持怀疑态度，而公众则需要被说服相信气候变化的真实性，从而对政治人物施加压力，促使他们采取行动。

我坚信，那些规模庞大的AI企业，其行为与石油企业有相似之处，它们倾向于施加影响，阻碍政治决策者实施监管措施。然而，这种局面并非全然无解，公众舆论构成了对抗这种压力的势力，它迫使决策者不得不考虑监管。然而，这一过程充满挑战，因为对于气候变化，我们已明确了解如何应对——即停止燃烧碳。但对于AI技术，我们的认识尚不充分，我们亟需开展深入研究以确保其安全性。

弗罗斯特表示，这项技术带来的诸多风险，实际上是对社会结构整体稳定性的严峻考验。在工业革命时期，我们也曾遭遇过类似的动乱，甚至出现了令人难以置信的雇佣童工的决策。

我们必须思考如何引导大众，使他们能够领会这项技术的运作原理，并了解它如何服务于他们。同时，我们也需构建起多样化的社会保障体系以应对就业问题。然而，我不预测在接下来的十年内，会有大量工作岗位被技术所取代。我的这一观点基于一个信念，即众多人类能够完成的工作，目前的大语言模型尚无法胜任，并且这一状况在可预见的未来几年内恐怕也不会有所改变。

07 10年？AI取代人类工作岗位的临界点

辛顿表示，他对于您提到的十年时间感到意外，或许实际上只需数年。据《大西洋月刊》报道，由于人工智能技术的介入，初级律师的就业岗位正在逐渐减少。

弗罗斯特指出，确实存在一些职位将受到影响，大语言模型预计将替代20%至30%的办公岗位，这一变革的进程之快，令人咋舌。

辛顿表示，他相信这一过程将会迅速进行。然而，真正的风险在于，当替代率攀升至80%之际。

弗罗斯特表示，我们的观点存在分歧，我坚信AI存在能力极限，对于人类在工作和生活中所面对的诸多事务，AI将永远无法胜任。

在经过对众多风险的深入探讨之后，能否请您谈谈对于AI技术未来潜力的展望？

辛顿指出，医疗和教育两个行业即将迎来一场颠覆性的变革，尤其是教育领域，其中大学甚至有被人工智能完全替代的可能性。

问：你怎么看待AI在医疗领域的潜力？

辛顿提到，他在2016年做出过一个预测，但结果偏差极大。他曾预言，截至目前，所有扫描都将由AI完成读取。然而，现实情况是，虽然现在确实有许多扫描由AI读取，比如梅奥诊所就广泛使用了联邦批准的AI工具来处理扫描，但这些扫描最终还是需要人类医生进行复核。我个人的判断往往过于乐观。

弗罗斯特提醒说，你之前提到的预言并非仅仅是AI在辅助阅片，而是声称放射科医生们都将面临失业的命运。然而，根据最新的数据，放射科医生的人数实际上却在持续增长。

问：你们对大语言模型的未来发展方向感到最有希望的是什么？

辛顿表示，他对医疗健康领域抱有极大的期待。随着医疗服务的不断改善，这对于老年人来说尤为关键。令人欣喜的是，这一进步并不会导致大量人员失业。若能将医护人员的效率提高十倍，我们便能享受到十倍的医疗服务，这无疑是一项了不起的成就。

弗罗斯特表示，AI技术的广泛应用将彻底革新我们的日常生活。他渴望能够减少那些乏味的文书任务，比如减少撰写文档、填写表格以及发送邮件的次数。这样一来，他便能拥有更多的时间投身于创作诗歌和与朋友们的深入交流。大语言模型的出现将有效减轻这些负担，使人们能够专注于自己更擅长且更乐于从事的活动。这不仅将提升生产效率，对加拿大的经济发展以及每个人的生活都将带来长远的积极影响。（文｜腾讯科技特约编译 金鹿 编辑｜海伦）