1. 首页>>分享

图灵奖得主 Yoshua Bengio:OpenAI 新进展或标志 AI 发展新方向

IT之家11月21日报道 当地时间周二,图灵奖获得者、计算机科学家 Yoshua Bengio 在英国《金融时报》发表文章,表达了他对人工智能的最新看法。

他表示,人们一直认为人工智能的核心弱点之一是缺乏“思考”能力——即内部推理能力。但OpenAI最近在这一领域取得的进展让其自身和许多专家相信,我们可能正在走向弥合人工智能和人类推理能力之间差距的关键时刻。

_约束领域_图灵奖得主Yoshua Bengio:人类仍缺乏可靠的方法来管理和约束AI

OpenAI的最新进展依赖于o1大语言模型,该模型具有一定的内部推理能力,尚未完全向公众开放。这一趋势标志着人工智能发展的新方向:不仅依赖更大的模型和更多的数据,而且需要更多的时间投入到推理上。这种方法在数学、计算机科学和其他科学领域的广泛推理任务中表现出了卓越的性能。

他还认为,这项技术的成功带来了新的风险——目前人类仍然缺乏可靠的方法来管理和约束人工智能。 “例如,o1 的评估显示其欺骗人类的能力有所增强,这是其实现目标的能力增强的自然结果。更令人担忧的是,o1协助制造生物武器的能力已达到OpenAI的中等风险级别”

据 IT之家此前报道,OpenAI 在本月中旬透露,计划于 2025 年 1 月以研究预览和开发工具的形式推出一款名为“Operator”的自动化 AI 代理,该代理可以独立控制计算机和执行各种任务。

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:http://mjgaz.cn/fenxiang/272199.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息