这是一则来自，财联社1月6日的讯文 ，编辑是史正丞 ，全球首富马斯克旗下的人工智能初创公司 ，近几天引发了新一轮麻烦 ，聊天机器人“格罗克(Grok)” ，正因为涉嫌生成非法色情内容 ，面临着全球范围的调查 。

新华通讯社介绍称，近日情况属实，X平台当中，展露了部分用户借助了“格罗克”，从而去编辑图片以及视频的现象，部分所生成出的内容，能够达到以假充真的地步。一些用户凭借此生成了真实人物的具有虚假性的暴露内容，并且在X平台之上进行了散播。受害者涵盖了数百名女性以及未成年人。

法国巴黎检方，于上周五予以确认，将会扩大对X平台的既有调查，并且纳入新的指控方面的内容，该项指控为生成以及传播儿童色情制品。

于当地时间周一的时候，欧盟委员会发言人托马斯·雷尼耶，在一场新闻发布会上宣称说，欧委会此刻正在进行“很是认真地调查这个事情” 。

雷尼耶称，欧盟委员会十分清晰地察觉到，X或者“格罗克”当下正给出一种被称作“辣味模式”的东西，里面呈现出露骨的性方面的内容，并且部分输出产生了带有儿童特征的图像。

他还进一步进行炮轰，宣称：“这并非是‘辣味’ ，这属于违法之举。这是会让人感到震惊的 ，这是会让人觉得作呕的。这便是我们所秉持的看法 ，如此这般的内容在欧洲根本没有任何能够立足的地方。”。

最新被捅出来的篓子，表明X极有可能会遭遇新一轮的重罚。上个月，欧盟委员会凭借违反《数字服务法》这个缘故，给X施加了1.2亿欧元的罚款。处罚包含多项违规情况：其广告资料库在透明度方面不符合规定，在可访问性方面也不符合规定，没有依照规定向符合条件的研究人员开放平台公共数据的访问权限，并且把用来验证用户身份的“蓝标”改成付费就能获取。

就最新的事态而言，X以及马斯克所采取的应对策略，是着重表明，犯错的乃是使用工具之人，而非工具自身，。

X表明，平台会针对非法内容施行行动，行动涵盖删除资料、进行封号，并且在必要情形下与执法机构开展合作。马斯克于周末的一条帖子里也着重指出，任何运用“格罗克”制作非法内容的人，将会面临如同上传非法内容那样的法律后果。

然而无可置疑，AI图像生成工具没能对违法行径以及犯罪行为施行有效的拦截之举，这本身便是重大的失误。于美国、英国、欧盟等诸多国家和地区而言，未获取同意便发布靠AI生成的深度伪造私密影像属于违法范畴，并且AI服务供应商同样需要在AI工具的安全系统里划定并嵌入法律的界限。

这一漏洞势将面临全球监管的仔细审视。

周一，英国的社交媒体监管机构通讯管理局表明，也就是Ofcom，称察觉到了伴随“格罗克”功能而来的“严重关切”，并且已然同X以及xAI展开了“紧急沟通”，这个沟通的目的在于知晓它们为了履行在英国保护用户的法定义务究竟采取了什么措施 。

于此同时，印度信息技术部提出要求，要对“格罗克”安全防护功能展开全面审查，马来西亚当局称，在接收到相关投诉，投诉内容为“格罗克”输出内容“下流”后，已经针对此情况展开调查。

（财联社 史正丞）