卡神安德烈·卡帕西与德沃克什·帕特尔昨天的播客节目持续两个小时，在人工智能领域引起了广泛讨论，尚未观看的朋友可以参考我昨天的相关报道

节目播出后，Karpathy本人也回看了一遍，并且发布了一篇长文进行补充说明。他首先为自己说话速度太快表示歉意，觉得这有时会造成表达思路跑在思维思路前面，因此没能把一些问题讲明白。

卡神的确语速特别快，每次看他演讲都有这个感觉，哈哈

这是Karpathy对自己主要论点的系统整理和再次强调，涉及了通用人工智能的进度预测、大型语言模型的内在特性、强化学习的前景以及智能体未来的演进路径等焦点议题

关于AGI时间线：10年已是非常激进的预测

Karpathy谈到，对于AGI发展进程的讨论，似乎是各方关注焦点中最引人注目的一个方面

他再次提及了“智能体十年”这一提法。他个人的AI发展预期，比在旧金山AI聚会或推特上所见要消极五到十倍，不过，同不断涌现的AI否定者相比，他依然持有相当正面的看法

他阐述了这种看似相悖的看法：一方面，我们目睹了近年来大型语言模型取得的显著成就，另一方面，在出现一个你更愿意聘用它而非人类去执行世界上任何任务的实体之前，还有许多工作亟待完成

这项任务涵盖：需要耗费大量体力的劳动、部件的整合、将感应设备与操作装置对接、涉及人际互动的工作、维护安全的工作，而且，还有相当一部分探索性工作有待推进。

所以，Karpathy表示：从全局来看，十年左右可算作AGI一个相当迅猛的目标，只是鉴于当下喧嚣的对比，才让人不那么有此观感

动物 vs 幽灵：LLM是另一种智能实体

Karpathy不认同“存在某个单一的、简单的算法，只要放到世界上就能从头学会一切”的看法。如果真能创造出这样的东西，那将是人工智能领域最惊人的进展，他自己也会承认原先的观点是错的。

在他眼中，动物根本不属于这种计算方式的范畴，它们借助演化过程天生具备许多才智，而依靠后天掌握的技能则大体上非常少，比如新诞生的马驹

从技术层面考量，我们不会去模拟演化过程。不过借助大语言模型，我们意外找到了一种替代方法来向神经网络中“嵌入”海量智能——不是借助演化，而是借助在互联网上执行“后续词语推算”

这种方式在智能领域创造了一种全新存在，这种存在与生物截然不同，更近似于“幽灵”或“灵魂”。不过他提出，我们能够并且应当让这种存在随着时间推移逐渐贴近生物形态，这已成为众多前沿研究的重点方向

关于强化学习（RL）：短期看空

Karpathy对强化学习（RL）提出了几点批评

他首先觉得RL得到学习信号的方法类似“用细管吸取”，信号质量很低，干扰因素很大。

其次，RL的干扰信号非常强。一个填空题里或许会出现许多偏差，然而万一碰巧得出正确结果，这些偏差反而会被助长；相对而言，一些蕴含真知灼见的词元，却可能由于后续的偏差而被压制

尽管过程监督以及由大型语言模型充当的裁判等手段都存在自身局限，不过Karpathy预期未来会出现另类的学习模式

他清楚表明：未来一段时期对“智能体交互”抱有积极预期，然而近期对“强化学习”持悲观态度

他感觉最近部分研究已经踏上正轨，比如他称作“系统提示学习”的方法，不过从ArXiv上那些构思到顶尖LLM机构能广泛实施之间，仍需弥补距离。但他整体上比较自信，预计不久后将出现突破，并点明GPT的记忆特性等是新式学习模式在实际应用中的初步形态

认知核心：剥离记忆以提升泛化

Karpathy谈到了他之前提出的“认知核心”概念，这个概念主张简化大语言模型，让它们在记忆方面变得不那么擅长，甚至可以主动去除记忆，目的是让它们在泛化能力上表现更好。

否则，模型会过于依赖它们先前存储的信息。与此形成对比的是，人类记不住太多东西，这一点现在看来更像是优势而非不足。这种记忆方面的不足，也许就是防止过拟合的一种方式

这也印证了他早前的看法，即“模型尺寸的发展方向是背离常规的”，并且“模型容量需要先扩充才能再收缩”。

关于LLM智能体：应与人协作，而非完全自主

Karpathy对行业现状的指责主要集中，工具的先进性已经超出，模型当前能够达到的水平

他心目中的过渡阶段是和人工智能共同工作，使彼此的长处和短处能够互相补充。而行业仿佛置身于一个崭新的纪元：完全独立的单元同步进行编写各类程序，人类逐渐失去存在的价值

他举例说明，他不需要一个助手耗费20分钟去取回1000行程序，也还没打算去管理一个由10个这样的助手构成的集体。他期待的是：

分块进行：每个代码块的大小能在他脑海中容纳

过程可解释：LLM能解释它正在写的代码

自我验证：大型语言模型能够证实其行为的准确性，例如引用官方说明来确认功能的使用方式

减少假设：在不确定时，能主动询问并与他协作

共同进步：他期望在合作里汲取知识，让自己成为更出色的程序员，而不是被动地获取一堆被宣称可用的程序代码

他忧虑，倘若器具过于理想化，最后会造成软件领域低劣程序堆积如山，缺陷、安全事故等亦会相应增多

其他观点摘要

回到1989年的Yann LeCun，设想一个假设情景，研究掌握未来三十多年算法理论，会对当时他的研究产生多大促进作用，借此评估算法、信息集合及计算能力各自对发展的制约程度

nanochat：他个人独立完成的GPT训练和推理过程，进行了简化处理

工作自动化方面，以放射科医生为例，他们目前表现相当出色，同时分析了哪些任务更易于实现自动化以及背后的缘由

物理学意义重大：幼儿阶段接触物理知识，目的并非培养物理学家，而是物理学科最适合开发思维潜能。他比喻物理学家如同“知识版图的初始细胞”，具有基础性作用

卡神的这些判断简直是在挑战OpenAI的权威啊，更是直接针对Anthropic ceo Dario Amodei 发起强烈抨击，马斯克刚才还在畅想grok 5有十分之一的可能性达成AGI目标

现在要关注Gemini 3 pro了，一些获得内测身份的网友反馈，该版本前端表现相当出色