离大谱！

小雷最近上网闲逛，偶然发现一个让人又好气又好笑的流行讨论，内容是——奥运得奖选手全红婵在直播时推销起了农家土鸡蛋。

图源：抖音

这事到底是真是假？

假的！假的！假的！重要的事情说三遍。

作为专业运动员，全红婵现阶段重心在于训练和比赛，不可以参与商业直播性质的活动。

那么问题来了，这个所谓的卖货“主播”到底是谁呢？

其实是 AI。

常言道 AI 本身不会损害人类，然而操控 AI 的人却会。近来，短视频领域有个名为“我是小助理吖”的博主，通过上传 17 个运用 AI 模仿奥运冠军全红婵声音来推销土鸡蛋的短片走红网络。许多网友误以为是全红婵本人亲自出镜，争相购买，最终使得这些土鸡蛋销量高达 4.7 万份。不得不说，这是首次见识到 AI 被用来欺骗消费者。

图源：网络

这批土鸡蛋，质量实在不怎么样。许多买过土鸡蛋的人，都跑到全进华的直播间去抱怨，指责他妹妹卖的鸡蛋，完全不行。

这让全进华完全不知所措，十分困惑。他直接在公共聊天区域发表言论：“那位并非我们出售的物品！我妹妹无时无刻不在进行训练，她怎能售卖鸡蛋？你们难道不认识 AI 的声音吗？即便我现在想要起诉也毫无胜算！”他接着告诫关注者，务必能够分辨真伪，反复说明妹妹全红婵是一名在役运动员，不可以参与直播销售。

图源：抖音

之所以反复对关注者提出警示，是由于今年四月便出现了类似状况。

部分账号借助全红婵的访谈视频、亲属的直播影像作为素材，通过人工智能技术制作虚假语音，进而推广蜂蜜、骆驼奶粉、洗衣液等众多商品，其标价之低令人咋舌。其中，部分人气较高的假冒账号，成功地诱导大量网友进行购买。具体而言，这些商品的价格低到何种地步呢？这种所谓的土蜂蜜不过十几块钱一斤，小雷觉得拿糖来喂养都赚不回成本，其中不知掺杂了多少不正当手段，可偏偏每次都有人上当受骗。

到现在为止，全进华依然在处理那些假冒的账号。因为这样，全红婵的亲属特意说明过：全红婵从未参与过任何农产品的推广活动，也没有许可过其他人这样做。

图源：抖音

见到这个情况，你难道以为这些假冒账号仅仅针对全红婵吗？当然不是这样。

上至奥运冠军、演员，下至自媒体网红博主，统统都中过招。

孙颖莎和王楚钦这两位知名奥运选手的声音，也遭遇过 AI 技术的模仿，被用来为“婵宝家农家土鸡蛋”做宣传，而且非常卖力。没错，他们确实是这家土鸡蛋销售团队的成员之一。

我们熟知的演员靳东，是仿冒者模仿得最为频繁的目标之一，许多阿姨关注了伪装成他的账号，在直播时大量赠送礼物，开销巨大。更有甚者，完全被他欺骗，被他以恋爱为名，实施诈骗，诱骗投资消费，只求钱财，不提供真情实感。

此外也存在模仿自媒体博主声线，实施全天候语音播报的现象。这些行为既能哄骗支持者进行资金捐赠，也能迅速扩充账号的关注人数，为后续的商品销售奠定基础。

图源：网络

当前网络技术进步很快，很多模仿他人声音的 AI 工具制作难度随之下降。雷某认为，部分网友受骗确实难以避免，情况十分严峻。老年群体或是容易轻信他人的人，更容易成为这类 AI 视频的目标受众，这是由于数据平台会专门推送这类内容给他们。

对于这个情况，很多网民认为短视频需要强化管理，必须将那些虚假的账号在萌芽阶段就清除掉，以免继续给大众带来麻烦。

对于这种状况，相关机构与网络平台已着手应对。今年三月，国家网信局联合其他三个部门公布了《人工智能生成合成内容标识办法》，从九月一日起正式生效。该办法规定，所有人工智能制作的合成材料都必须附上明显标记，以便用户识别。这意味着，企图规避监管的行为将难以得逞，确保观众能够立刻分辨出“由AI生成”的信息。

图源：网信办官网

坦白讲，小雷认为 AI 实物，确实得看人怎么操作。AI 工具原本是为了便利我们，结果却被某些别有用心者搞出这些那些，还弄得虚有其表，维权变得异常困难。因此人家原本良好的声誉，硬是被几个害群之马给毁了。

说到最后。

小雷认为，我们的敌人并不是科技，而是人心...

不知道在座各位认为现在的 AI 技术，是进步还是麻烦呢？