12月18日，“第九届啄木鸟数据治理论坛”举行，该论坛由南方都市报社、南都数字经济治理研究中心主办，主题围绕 “AI安全边界：技术、信任与治理新秩序”。中国网络空间安全协会副理事长、人工智能安全治理专业委员会主任卢卫为论坛致辞。他称，AI治理要坚持“分类分级”，像对自动驾驶、智慧医疗等高风险场景需严厉进行监管，对于低风险应用则预留一定创新空间。

中国网络空间安全协会副理事长卢卫致辞。

伴随着大模型所涉及的应用场景，逐渐渗透至社会的每一处角落，往昔处于云端高高在上的 AI 智能，已然走进“寻常百姓家”，越来越多的普通民众开始运用并掌控它。与此同时，新的应用持续涌出来，这也给网络生态治理带来了全新的挑战。卢卫觉得，构建起全面面向未来的人工智能安全治理生态，要依靠技术创新来筑牢防线，依靠信任去夯实从而凝聚共识，依靠制度完善来给予保驾护航，使得技术、信任、制度这三者形成强大的合力。

首当其冲，技术作为安全治理的根基支撑，为人工智能前行夯实安全防线基石以防不测。卢卫称，人工智能技术发展一日千里，其进步离不开技术的推陈出新与更新换代，安全最终需依靠技术来兜底保障，具体涵盖两面向于其中： ，。

其一，是对人工智能自身安全性予以提升，像是借助对抗训练来强化模型鲁棒性，这里的鲁棒性指的是一个系统在面对内部结构或者外部环境发生改变的时候，依旧能够让其功能维持稳定运行的那种能力，还要运用差分隐私去保护数据安全；在另外一个方面，要开展治理技术的研究，比如算法漏洞的智能检测，深度伪造检测以及算法审计工具等等。除此之外，要格外重视内生安全，“要于人工智能的研发初始阶段就嵌入防护机制，并且持续不断地进行迭代优化，而不是等事后再去‘打补丁’。”。

卢卫作出分析，近些年来所发生的涉及人工智能的网络安全事件，普遍展现出两个特点，其一为手段智能化，即一些不法分子很早就把人工智能技术当作违法犯罪的工具，其二是风险场景复杂化，具体体现为从数字空间渗透到了物理世界。

比如，当下具身智能从生产阶段迈入实际上的生活里，伴随机器人渐渐步入家庭，相关安全问题急需给予重视。卢卫又讲道，信任是安全治理的桥梁性纽带，替人工智能发展汇聚起社会方面的共识。

从他的角度来讲，人工智能的广泛应用，实质上是技术获取社会信任的一种过程。算法推荐出现所谓的“信息茧房”状况、自动驾驶遭遇伦理方面的困境、AI生成内容致使虚实边界变得模糊不清等等情况，这些都会对公众的信任基础造成侵蚀。要去构建信任，就得达成“透明可及”这一要求，这涵盖了提高算法决策过程的透明度，防止技术异化对隐私、公平等价值产生损害等等事项；与此同时还要积极地去普及AI知识，提升全体民众的数字素养。

卢卫说，只有人工智能在医疗，教育，交通等关键领域能够得到深度的应用方可赢得公众的信任，（进而）这才是治理生态的活力源泉 。

制度作为安全治理的秩序保障，在人工智能发展的整个进程中发挥保驾护航作用。卢卫提出相关建议，要构建完善“法律 + 标准 + 伦理”的治理体系，一方面借助《网络安全法》《数据安全法》等法律明确划出“红线”，另一方面还要发挥行业标准、自律公约所具备的柔性调节功能。在AI治理过程中需秉持“分类分级”原则，像针对自动驾驶、智慧医疗等高风险场景实施严格监管，而对于低风险应用则给予一定的创新空间。与此同时，要促使跨部门、跨区域展开协同治理；强化国际合作，以此应对人工智能安全所面临的全球性挑战。

卢卫着重指出，鉴于人工智能技术快速地迭代发展，治理方面必须维持“敏捷性”，制度建设应当“与时俱进” 通过构建且完善动态风险评估机制，为前沿技术以及领域的治理予以方案，给创新留出试错的空间。举例而言，近些年份中国网络空间安全协会组织专业机构针对人工智能模型开展了安全以及能力评测实践探索 。

飞速发展的人工智能等新技术、新应用，给现有的国家治理体系，带来了极大的挑战，他说，行业协会中国网空协会，对于积极参与，共同做好人工智能安全治理方面的工作，非常愿意 。