人工智能技术及其应用正迅速发展，各式各样的AI工具已融入我们的工作与生活，成为得力帮手，我们与智能技术的关联日益紧密，且已不易察觉。

当AI信息“不靠谱”网民如何断真假？

可是近些年，很多网络用户察觉到，有些机器智能给出的回应变得相当不可靠。先举两个事例：

今年上半年，宁波发生了两件事，被人工智能荒唐地联系在一起。

首要事件在于，宁波公安机关于二月六日终止了官方抖音账号“宁波交警”的运营权限。其次是，三个月后的五月二日，于浙江省宁波市余姚县境内的一段省级公路嘉余线上，有辆没有安装车牌的私家车在实施非法超车时，撞击了一辆摩托车。该私家车驾驶员没有立刻探视伤者是否受伤，而是从车辆尾箱中取出车牌并开始安装。

网民询问AI软件2月6日宁波交警抖音号为何被注销，AI给出的回答出人意料，称这与5月2日那起引发社会高度关注的交通事故有关，时间上明显错位。账户在2月份被注销，却归因于三个月后才发生的事故。AI的这一说法迅速引起网民热议，宁波交警部门随即出面澄清了事实真相。

去年网民就一款儿童手表AI软件提问，询问中华民族是否是世界上最智慧的人群，但人工智能给出的回应却否定了中国的创新成就，也否定了中国的文化价值，这种荒诞的回应在网络上引发了广泛的关注和讨论，手表制造商随后迅速致歉，表示已经调整了相关数据，并且清除了有问题的信息来源。

这些年，由人工智能编造的虚假信息层出不穷，编造虚构的论文及其作者、网址等内容屡见不鲜。人工智能更成了谣言的推手，诸如游船倾覆、幼儿园失火之类的谣言都能被它协助网民捏造出来。

当AI数据被污染有何风险？如何防范？

先前讨论的实例，跟人工智能的数据污染存在不同程度的关联性。打个比方，假如把人工智能视作烹饪成品，那么训练数据就好比是烹饪用的原料，一旦原料出现败坏现象，最终制作出的成品就会存在缺陷。

算法、计算能力和信息是人工智能的三个关键组成部分，信息是构建AI模型的基础，也是AI实施的核心材料。如果信息出现偏差，就有可能造成模型判断错误，甚至导致AI系统无法正常运作，潜藏着一定的风险。

什么是AI数据污染？分几类？

最近，安全管理部门发出通知，经由更改、捏造及复制这类“数据污染”手法而得来的不良信息，会妨碍机器在习得过程中的数值修正，减弱其精确度，乃至引致不良反馈。

那么究竟什么是AI数据污染，数据污染分为哪几类？

网络安全专家曹辉表示，数据污染主要涉及两个领域，分别是视觉识别领域和自然语言处理领域。这是一张用于斑马识别人工智能系统训练的图片。图片中，许多斑马被标注了信息。实施数据污染的方法是在某只斑马身上添加一个绿点。添加了绿点的斑马，刻意不进行标注处理。这些训练数据数量大约达到数万，在这些数据中选取其中三四份进行类似处理，就会造成人工智能模型被植入后门，当该模型遇到带有绿色斑点的斑马时，将无法识别其为斑马，进而影响模型的判断能力。

专家介绍，人工智能数据污染分为两类：

一种是人为主观恶意去篡改数据，误导人工智能的输出结果；

另一种情况是人工智能系统自行大范围汇集网络中的海量信息，倘若那些有害内容未被筛选清除，反而被当作可靠信息来源纳入计算过程，其最终得出的结论也极有可能失真。

网络安全的曹辉表示：大模型训练确实需要海量的信息作为基础，因此，很多网络上的内容，包括书籍、报刊、影视作品中的对话和台词，都可能成为其学习资料的来源。我们每个人或许都曾在网上发布过信息，一旦这些信息存在安全隐患或受到污染，那么大模型也可能会因此受到不良影响。

人工智能数据 为何小污染会造成大危害？

国家安全部统计表明，人工智能在培育环节里，哪怕有万分之一的不实信息被采纳，其产生的不良后果也会增长百分之七点二。为何微小的错误源头释放时的不良影响会指数级地扩大呢？

权威人士说明，受污染的数据会表现出与正常数据迥异的视角和实质，遇到此类情形，人工智能系统极有可能把这类数据判定为“具备显著特质且信息丰富”，从而在计算资源分配时给予更多权重。

中国网络空间安全协会人工智能安全治理专业委员会委员薛智慧表示，大语言模型根本上是统计语言模型，其采用的多层神经网络构造具有显著的非线性特点。模型训练期间，假如数据集里掺杂了不良样本，系统或许会错误地认为这些样本具备显著特征、典型性以及丰富价值，这种错误认知会促使系统提升不良样本在整个数据集中的比重，最终造成少量不良样本也能轻微改变系统参数的状况。一旦模型开始生成内容，这种微小的干扰会在神经网络结构的不同层级间传递，并且逐级增强，最终造成结果产生显著的错误。

数据污染可能引发一系列现实风险

AI数据污染或许会在金融、公共安全等范畴内造成诸多实际危害。

中国网络空间安全协会人工智能安全治理专业委员会委员薛智慧表示，在经济金融领域，如果数据出现污染，市场行为分析、信用风险评估、异常交易监控等任务就可能出现失误，从而引发直接的经济损失；在社会舆论方面，数据污染会损害信息的真实性，使民众难以分辨信息的真伪，这就可能造成社会舆论风险。

加强源头监管 防范污染生成

对于人工智能数据出现的混乱，从国家整体安全角度，我们应当怎样预防可能出现的危险？权威人士指出，需要强化初始阶段的管控，以避免混乱情况的发生。

中国网络空间安全协会人工智能安全治理专业委员会委员薛智慧表示，需要制定清晰的数据采集标准，要选用安全可靠的数据来源，应该建立数据分类系统，并且要实施严格的访问管理和审查等安全手段。

另外，能够借助自动装置、人工核查以及智能程序相融合的手段，来审视并纠正资料的不统一状况、规格偏差、以及表述上的矛盾之处。

安全机构先前就AI信息被污染的问题发出过提醒，要求依照法规规范定期清理和修正被污染的信息，慢慢建立成组件化、能监测、可增容的信息管理架构，达成持续监控和信息品质的把控。

对于众多网民来说，在日常活动与工作场合，怎样才能避免人工智能信息干扰的潜在问题呢？

网警提醒：

一是使用正规平台和企业提供的AI工具；

其次要恰当运用人工智能设备，其生成的数据可供借鉴，但不可全然依赖。

要小心保护个人资料,防止个人隐秘信息被泄露,并且不传播有害内容,一起维护网络空间的安全。