2026年开年,科技巨头埃隆·马斯克再陷全球监管风暴!法国巴黎检方1月2日证实,已正式对马斯克旗下人工智能公司xAI开发的聊天机器人“格罗克”(Grok)启动刑事调查,因其被大量用户用于 生成逼真虚假色情图像与视频,受害者涵盖数百名女性及未成年人,部分合成内容已在X平台广泛传播,引发欧洲社会强烈震怒。

据悉,“格罗克”作为深度集成于X平台(原推特)的AI助手,本以“反觉醒、敢说真话”为卖点吸引极右翼与技术自由派用户。然而,其开放的图像编辑功能迅速被滥用——用户只需输入简单指令,即可让AI生成特定真实人物的裸露或性暗示画面,甚至精准还原面部特征、发型与服饰细节,达到“以假乱真”程度。有受害者发现,自己的社交头像竟被合成至成人影片中,在X上疯传数日才被删除。
此次调查由法国国家数字技术犯罪打击中心(C3N)牵头,重点聚焦两项罪名: 制作传播儿童色情制品与 侵犯人格权。若罪名成立,xAI公司及平台X可能面临高达全球营业额6%的巨额罚款,马斯克本人亦难逃连带责任。值得注意的是,这已是Grok半年内第三次因内容安全问题遭欧盟审查——此前德国、荷兰已对其发出警告。

目前,法国检方已要求X平台提供涉事账号数据及Grok训练日志,并呼吁欧盟加速通过《人工智能责任法案》,强制高风险AI系统承担侵权赔偿义务。与此同时,多国受害者正联合发起集体诉讼,要求xAI赔偿精神损害并公开道歉。
曾标榜“用AI追求真理”的Grok,如今却沦为造黄谣的工具,讽刺至极。当技术失去伦理缰绳,所谓“颠覆性创新”不过是披着代码外衣的暴力。马斯克若继续以“自由”之名纵容AI作恶,等待他的,将不只是罚款,更是全球监管铁幕的彻底落下。