1. 首页>>分享

OpenAI金牌模型IMO零分却展高智商诚实,揭秘底层突破

这一次,“不会”竟成了大模型的高光时刻。

尽管在IMO的第6题上未能得分,但OpenAI的金牌模型依然彰显了其“高智商的诚实”特质。

正如 OpenAI 的研究员 Noam Brown 在最近的对话中透露:

在缺乏充分证据的情况下,IMO推理模型若表达“不确定”,将有效降低潜在错误的产生。

AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”_AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”_

AI夺得IMO金牌之际,OpenAI金牌团队中的Alex Wei、Sheryl Hsu以及Noam Brown,参与了由红杉资本举办的讨论活动,共同揭示了模型在解决顶尖数学难题方面所实现的根本性进展。

有网友帮忙总结了个太长不看版:

与过往那些看似无懈可击实则存在瑕疵的幻想般答案相较,新一代的大规模模型已开始懂得“承认自身的不足”。

这一标志意味着模型正从虚构的幻觉回答模式,过渡到一个更为可信且具备“自我意识”的崭新阶段。

_AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”_AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”

在这场对话中,三位成员还透露了更多关于冲刺国际数学奥林匹克竞赛的有趣细节。

IMO 金牌模型能承认自己不知道

尽管数学家与计算机科学家一致认可 IMO 金牌模型的价值。

他们时常表示不满,每当模型遭遇未知领域,它往往给出一个看似合理却实则错误的结论。

他们不得不耗费大量精力逐行验算,才能甄别那些幻觉陷阱。

AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”_AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”_

在第6题中,大模型遭遇了全军覆没的结局,当然,OpenAI 对此问题也投入了大量的计算资源。

该网格由2025×2025个单位正方形构成。Matilda计划在网格中摆放若干矩形图块,这些图块的尺寸各异,但它们的每一条边都必须紧贴网格线。此外,每个单位正方形只能被一个图块所覆盖。

每一行、每一列均存在一个未被瓷砖覆盖的独立正方形,Matilda 需要确定的是所需铺设的最小瓷砖数。

尽管大量计算资源投入后,结果仅是一句“我无法给出答案”让人感到些许沮丧,然而 Alex Wei 表示:

能看到模型避免产生幻觉是很好的。

Noam Brown 对这一模型的变化给予了高度评价,他认为,“若它不知,便会坦诚地承认自己的无知。”

这代表模型开始具备“自我意识”。

这种“自我意识”使得模型在遭遇难题时,能够坦诚地认识到自身的局限性,而非构造出看似合理却实则错误的应对策略。

有趣的是,当 Alex Wei 在 2024 年初加入 OpenAI 的短短一周之后,Noam Brown 就向他提出了一个询问,那就是他们何时有望在 IMO 上摘得金牌。

当时 Alex Wei 认为 2025 年不太可能实现。

然而,让人感到震撼的是,这个由三人组成的团队仅用了短短两个月时间,便实现了他们长久以来的梦想——赢得了IMO金牌。

Noam Brown 还表示:

OpenAI的一大优势在于,其研究人员享有较高的自主性,能够自由选择他们认为具有重大影响力的研究方向。

Alex 进一步指出,他们的团队将“通用技术的应用”置于首位,而非致力于打造仅针对数学竞赛的专用系统。

OpenAI IMO 金牌核心团队

OpenAI IMO 核心团队仅由三名研究人员构成。

AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”__AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”

亚历克斯·魏,他不仅本科和硕士阶段在哈佛大学完成了学业,而且之后又在加州大学伯克利分校成功获得了计算机科学领域的博士学位。

Alex 此前在谷歌、微软以及Meta等知名企业实习,并于2024年1月正式加入OpenAI,担任研究科学家一职。他曾是FAIR团队的一员,并在此期间参与了首个达到人类水平的人工智能——CICERO——的研发工作。

AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”_AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”_

徐雪莉,曾从斯坦福大学计算机科学系毕业,现为该校AI实验室下IRIS实验室的研究员,并于2025年3月正式成为OpenAI的一员。

AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”__AI答IMO难题坦承“不会”,OpenAI称“这就是自我意识”

Noam Brown,他在美国罗格斯新泽西州立大学新布朗斯维克分校完成了本科学业,接着在卡内基・梅隆大学深造,获得了硕士和博士学位。他在 DeepMind 和 Meta 担任过职务,并于 2023 年 6 月正式加入了 OpenAI 团队。

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://mjgaz.cn/fenxiang/277729.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息