【简介】微信出手：209个账号被关闭，其中不少账号被永久封禁！

中国基金报记者 安曼

12月15日，“微信珊瑚安全”发布公告。近日，有媒体报道称，网络上存在利用AI技术冒充名人进行不当营销的现象。结合用户举报、日常巡查等线索，微信迅速严厉打击了一批利用AI冒充明星进行不当营销、恶意获取流量的违法行为，并对相关情况进行了专项治理。

截至目前，共处置内容532条，关闭账号209个。下一步，微信将继续严厉打击“利用AI模仿明星进行营销宣传”等违法行为。

张文宏“被AI引领”

最新回复：气得我想报警

近日，有网友向媒体反映，家中老人在网络销售视频中看到“张文宏医生”销售一种蛋白质产品。老人们信以为真，不仅下了单，还转发给了很多团体。

经核实，该视频并非张文宏医生的视频，而是采用AI技术合成的。在这段视频中，合成的肖像反复介绍一款产品，声音听起来很像张文宏本人。商品橱窗中某蛋白棒的销售链接显示，已售出1200多根。目前，该账户无法找到。

对此，张文宏医生回应媒体称，“这样的销售账号不止一个，而且不断变化，我已经多次向平台投诉，但都被封禁了，很多人都不知道”事实是，尤其是一些不熟悉人工智能的人很容易相信，在发现人工智能合成的视频后，似乎有很多不同的地方购买。这个，但是他的账户一直在变，而我这些虚假的人工智能合成信息就像蝗灾一样，一次又一次地飞过天空，对人们的危害也一样。我认为最终这个问题将很难解决。”

除了向平台投诉外，张文宏表示，自己也考虑过报警，但对方看不见摸不着，就像鬼一样，无法形容。他只能希望有关部门加强监管。 “总得有人报警吧？现在谁该报警？他天天换账号，而且都是虚拟的，我该报警谁？所以我觉得他侵犯了大家的利益。”我认为有关部门应该对此进行处理。”张文宏说。

上海市消保委表示：非常糟糕

12月12日，上海市消保委副秘书长唐建生表示，其实这根本不是张文宏老师带货，而完全是利用人工智能完成的。这是一件非常糟糕的事情。

首先，这种做法实际上已经构成了对消费者的欺诈。如果消费者称自己被骗，完全可以按照消费者权益保护法的规定，要求商家退一赔三，且金额在500元以下。补偿按500元计算。 “此外，我们觉得有关监管部门应该采取非常严厉的手段来惩罚这种不良行为，因为这不仅涉及到消费者的权益，还涉及到整个社会的良知和道德。”唐建生提到。

不少明星遭遇“AI营销”

国家网信办已采取行动

事实上，随着AI合成技术日趋成熟并在短视频制作中频繁运用，涉及AI合成冒充明星的诈骗行为也越来越频繁。

据报道，今年11月，江西一名65岁男子到银行办理业务，声称要贷款200万元，供男友“靳东”拍电影。经调查发现，老人手机上的“靳东”来自一段人工智能合成的视频。

今年10月，香港老牌明星黄百明通过社交媒体郑重表示，有人盗用了他过往的视频，用AI代替了他的声音，并代言了一个不知名的药膏品牌。

事实上，今年9月，国家网信办发布了《人工智能生成的合成内容标注办法（征求意见稿）》，要求从视频制作、发布的源头进行信息化管理。

《办法》明确提出了人工智能生成的合成内容标识符两类，即“显式标识符”和“隐式标识符”。他们还阐明了两种类型标识符的应用场景。 《深度综合规定》第十七条提出“显着识别”与“显性识别”建立直接对应关系。此外，根据不同人工智能生成的合成内容（如文本、音频、图片等）的载体和形式，该方法还列出并解释了各类显性识别的部署位置以及其所包含的信息元素。应包含在隐式识别中。

金杜律师事务所宁宣峰表示，这一举措的出台，标志着我国在人工智能领域规范管理迈出了重要一步。随着对生成的合成内容添加显式或隐式标识的措施的实施，互联网信息内容的透明度将显着提高。在此基础上，用户可以直观地识别内容是否由人工智能生成，这将有助于用户避免虚假内容。负面影响。

据了解，这种方法目前还在逐步完善过程中。随着《人工智能生成的合成内容标注办法》的正式实施，将为公众带来更加健康、透明、负责任的人工智能应用环境。

制作人：小沫

发表者：木鱼