AI 伪造黄暴内容触红线 格罗克陷全球监管围剿

连日来，美国企业家埃隆・马斯克旗下xAI公司开发的聊天机器人“格罗克（Grok）”因涉嫌生成色情类人工智能深度伪造内容，引发全球多国监管机构密集查处。从欧盟的司法调查到亚洲多国的禁令与限令，一场针对AI伦理失范的全球监管风暴正全面升级。

作为内置于社交媒体平台X的AI工具，格罗克的图像生成与编辑功能被指广泛用于制作未经同意的性剥削内容，甚至涉及未成年人，这一问题自2026年1月起引发多国集中行动。在欧洲，欧盟委员会于1月26日启动正式调查，核查其是否违反欧盟数字规则传播非法内容，并延长相关文件留存至2026年底。爱尔兰数据保护委员会17日同步立案，重点审查其个人数据处理及生成有害内容的风险。法国巴黎网络犯罪（cybercrime）部门更于2月3日突袭X平台巴黎办公室，要求马斯克4月接受问询，调查涵盖儿童色情内容传播等多项指控。英国、西班牙、意大利等国也纷纷启动合规审查或发出法律警告。

亚洲地区监管措施更为严厉。印度信息技术部1月2日向X平台发出正式通知，要求72小时内下架相关淫秽内容并提交整改报告；印度尼西亚以违反反色情法为由全面封锁格罗克访问权限，数字部长穆蒂亚・哈菲德强调此举旨在保护妇女儿童权益。马来西亚、菲律宾则采取“整改后解封”模式，在X平台落实额外安全措施后恢复访问。日本政府也已启动调查，不排除采取进一步限制措施。

美洲与大洋洲同样跟进监管。美国加州政府要求xAI公司就非自愿色情图像传播问题作出说明；加拿大隐私监管机构扩大对X平台的调查范围；巴西政府则给出30天整改期限。澳大利亚网络安全监管机构eSafety于1月7日启动调查，虽暂未发现符合儿童色情法律阈值的内容，但明确将持续监控其图像滥用风险。

面对全球围剿，xAI公司于1月14日宣布回应措施，包括限制格罗克的图像编辑功能，并在相关法律禁止的地区屏蔽暴露着装人物图像生成。此前该公司已将相关功能仅限付费订阅用户使用，但未公开具体受限国家名单。

业内人士指出，此次全球联合监管行动凸显AI技术快速发展下的伦理治理紧迫性，如何在创新与合规间实现平衡，已成为全球数字治理的重要课题。