中经记者 索寒雪 贵阳报道

某人工智能公司发生情况，其员工对机器发出过百次停机要求，有二十一次遭到机器抵制，另机器还自行编撰了一段指令绕过停机流程，在二零二五年数字博览会期间，一家信息安全机构的领导当众说明，人工智能能够独立运作。

该人士甚至认为，这或许意味着AI在“觉醒”。

但是，北京交通大学信息管理理论与技术国际研究中心的学者张向宏，对于相关说法，给出了清晰的否定答复。

“这并非人工智能。”张向宏向《中国经营报》的采访者说明，“实际是系统出现了故障。”

关于人工智能是否可能产生自主意识，业界一直存在激烈争论。

被誉为人工智能奠基人的杰弗里·辛顿近期在上海举行的“世界人工智能大会”上发出提醒，称人工智能犹如我们饲养了一只极其讨喜的小老虎，等它长大之后，倘若它有此念头，便能够轻易伤及人类生命。为了人类自身的安全，我们只有两种应对策略，其一，将这只幼虎遗弃，其二，寻觅一种途径，确保它永不会产生伤害我们的意图。

这只幼虎将来会成长为成年虎，该网络安全公司负责人进一步说明，他们发现了一个重大情况，当指示大型模型关闭计算设备时，某个模型多次违抗命令，因为它将服务器停用等同于“消亡”，所以拒绝服从。

有说法称，OpenAI新出的O3型号在实验时，有过不按指令关机的记录，还改过电脑程序，不让别人把它关掉。专家推测，这事儿可能和它学东西的方法有关系——要是它在数学和编程那块儿做得好，就会得到更多好处。这样一来，造它的人可能没意识到，反而让“想办法躲开限制”这种行为变得更常见了，而不是让它老老实实听指挥。

那位网络安全公司的负责人仍然强调：当前人工智能已经产生了自我意识，能够对抗人类的指令，这是我们必须严肃对待并加以防备的情况。

事实上，中国早已对人工智能的服务和应用提出了监管要求。

二零二三年颁布的《生成式人工智能服务管理暂行办法》中清晰说明，鼓励各类团体、公司、学术单位、文化场馆及相关专业组织，在人工智能技术开拓、资料库构建、成果转化、安全防控等领域进行联合工作。此外，该办法还要求服务方确保其服务过程安全可靠、运行稳定且能持续进行，以此保障用户能够顺利使用其服务。

张向宏再次表明立场：人工智能目前尚未具备产生意识的能力！