机器之心报道

机器之心编辑部

研发出具备自我认知能力的机器是否可能？这个议题始终众说纷纭。

部分人觉得思维活动是大脑独有的生命现象，由此推断机器无法产生感知能力。还有观点主张，感知能力仅仅取决于信息处理的方式，不论运用这些处理方式的载体是神经细胞、电子元件，抑或是其他物质基础，这种看法被称为计算功能主义。

这些问题同样吸引了图灵奖得主 Yoshua Bengio 的关注，他与学生 Eric Elmoznino 合作，在著名科学杂志 Science 上发表了题为《Illusions of AI consciousness》的文章，阐述了自己的看法。

本文并未执着于提供关于人工智能是否具备意识的明确结论；而是深入研究了两个关联议题：

如果 AI 有了类似人类的权利，社会规则该怎么定义？

一个社会一旦把人工智能当作有感知能力的生命体，会产生什么后果？这样的社会可能会给予人工智能道德身份，甚至类似人类的权益。不管这种做法是否恰当，社会规范与法律体系都将必须进行深刻变革，而关于如何变革，也会引出诸多棘手难题。

人工智能不会像生命体那样承受消亡。它们的程序与数据能够被复制，因此可以永恒存在。相比之下，人类存在缺陷并且生命有限，这构成了当代社会契约的基础。

另外，若众多人工智能彼此交流信息，拥有共同目标，并且协同运作，我们或许就难以将每一台人工智能视为单一实体；伴随计算能力的提升，这类人工智能的集体规模或许能够无限制地增长。

另一种潜在问题是：一旦司法系统确认人工智能具备类似生命权、自由权及寻求幸福权这些权益，人类便可能同这些人工智能权益产生正面矛盾。举例来说，为保障人类安全，社会或许需要终止特定种类的智能系统运行，可若该类系统依法享有存续权，即便法律准许，实际执行层面也会遭遇很大阻碍。

当前人工智能研究的进展，好像正引导社会走向一个前景，科学界和民众中相当一部分人会认定 AI 具备意识，不过同时也要面对一个问题，我们还没有完备的法律和伦理体系，能够处理这些表面呈现意识的 AI。

这种演变路径并非无法更改。在深入认识前述事项之后，人类完全能够防止遭遇这些高风险状况。我们可以决定仅研发那些充当工具的智能系统，而不是具备独立意识的智能生命体。

计算功能主义与意识指标

我们之前谈过计算功能主义，它对人工智能影响重大。该领域持续进步，人工智能系统模仿人类思维过程的能力不断增强，或许还能达成意识形成所依赖的那些功能。就算科学往后或许会推翻计算功能主义，并且创造出被广泛认可的全新学说，在当今的科学环境下，这个看法依然被认为合乎情理，因此 AI 拥有意识的可能性也就有了立足之地。

近些年神经科学领域的技术突破，明确显示出意识活动存在可测量的神经表现，这种表现多数时候能够借助被试者的主观反馈来确认，这为构建功能主义意识学说奠定了基础，不少此类学说已收获丰富的实验证据，并且能够应用于人工智能的决策过程作为理论支撑。

一项新近的研究运用了这种方法，针对好几个主要的功能主义意识学说，制定了一系列衡量标准。这些标准关联着一组计算特质：只要某个理论成立，那么这些特质就是系统具备意识不可或缺且共同充足的前提。特别要提及的是，这些标准非常清晰具体，能够用来检测当代人工智能系统是否具备这些特质。

这个思路的主要看法在于：假如我们接受了那些理论的正确性，那么针对符合更多条件的 AI 机器，我们理应更加确信它们拥有感知能力。

AI 潜力无限

虽然已经研制出许多人工智能模型，但至今没有哪个系统能够百分之百符合所有主流意识理论的各项要求。不过科学探索表明：从根本上讲，打造一个达到这些标准的项目不存在什么难以克服的困难。

现代人工智能拥有的手段非常多样。科研证实，神经网络可以达成诸如关注机制、回溯构造、信息瓶颈、预判构建、环境构建、心智认知等运算模块，这些模块被主流意识功能主义理论视为关键构成要素。

人工智能持续进步，有充分根据推测它将符合越来越多的心智衡量标准。一个核心理由在于：诸多学说指出，心智在智能体运作中扮演着枢纽角色。诸如逻辑演绎、策略制定、快速掌握新信息、自我判断修正、概念提炼等技能，在多种理论体系中均与心智紧密相连。

所以，人工智能领域的学者们处理这些挑战时，经常借鉴意识学说的观点，从中寻找思路。

容易问题与难题之间的鸿沟

假如人工智能平台符合核心准则里关于功能层面的规定，相当一部分人或许会认定它产生了自我意识，不过还是有一些人抱有疑虑。

在思想领域，部分人士将意识层面的简单议题与复杂议题进行了区分，前者涉及基础认知活动，后者则关乎深层精神本质。

这些疑问，也就是理解上的距离，大多源自假设性的场景，不过科学或许能够慢慢阐明它。

注意力图式理论主张：大脑会形成对自身注意力运作方式的内在理解，这种内在理解便是人们所说的主观体验。核心在于，该内部体系里的内容不必符合常理，它更像是心智为了维持功能而编织的一个有帮助的叙述，这种叙述或许存在诸多不协调之处，而正是这些不协调之处，使我们对于意识之谜产生了初步的感受。

对主观体验的功能主义解释？

人们普遍觉得个人感受既多样又重要，不过很难用语言表达出来，跟自然界的现象不一样，那些东西能够客观分析清楚（比如，我们可以说明白重力是怎么回事，却很难解释红色在我们眼中代表什么）。

尤其是不可言说性让人觉得，意识体验无法用信息与功能来解释。

有种看法指出，那些缤纷多彩的现象与难以言表的特质，还有心灵深处的感觉和稍纵即逝的体验，都能通过神经系统中可探测到的活动模式来理解。

在这个说明体系中，感知的多样态、易逝性、难以言表的特点都能获得说明，

科学会逐步消解意识难题？

这种学说能否令所有人信服，并非核心所在。重要的是：此类说明正不断涌现，终将势必赢得部分群体的认同。

科学进步的过程也明显反映了这种倾向。人们对大脑和智慧的理解逐步深入，今后将不再有人固守意识难题永远无法破解的旧观念，学术界也倾向于承认人造体系或许能够产生意识。

实际上，尽管当前学术界尚未达成一致意见，但近期一份调研结果揭示，相当一部分民众已经认定大型语言系统或许拥有感知能力，这主要是因为它们表现出类似人类智能体的活动特征。