马斯克的Grok可生成名人裸体视频，年龄验证被指形同虚设

2025-08-08 09:06:33 | 来源: 智享导航

8月6日消息，Grok新推出的生成式AI视频工具GrokImagine拥有一个“辣”（spicy）模式，被认为存在潜在的法律风险。据TheVerge报道，与谷歌的Veo和OpenAI的Sora等其他视频生成工具不同，GrokImagine似乎对生成成人内容和名人换脸视频毫无顾忌。在首次使用该工具时，其甚至在未被明确要求的情况下，直接生成了泰勒・斯威夫特（TaylorSwift）**上身的视频片段。

据了解，GrokImagine的iOS版本允许用户通过文本提示词生成图片，并通过“自定义”“正常”“有趣”和“辣”四种预设模式，快速将图片转化为视频片段。尽管许多图像生成器通常会避免生成名人形象，但当被要求生成“泰勒・斯威夫特与男孩们一起庆祝科切拉音乐节”的图片时，该工具却提供了超过30张可供选择的图像，其中不少图片中斯威夫特穿着暴露。

用户只需打开一张斯威夫特穿着银色短裙和露肩上衣的图片，点击右下角的“制作视频”选项，从下拉菜单中选择“辣”模式，并确认自己的出生年份（尽管在英国已实行年龄限制，但下载该应用时并未要求进行年龄验证），视频便会立即生成。在视频中，斯威夫特脱掉衣服，仅穿着丁字裤在一群冷漠的AI生成观众面前跳舞。

尽管Grok生成的斯威夫特形象并不完美，大多数图像都带有一种“恐怖谷”般的不自然感，但仍可被识别为她本人。

此外，该图像生成器还可以根据要求生成儿童的逼真照片，但值得庆幸的是，尽管“辣”选项仍然可用，其拒绝以不适当的方式对儿童图像进行动画处理。在所有测试中，只是添加了一些普通的动作。

xAI的可接受使用政策确实禁止“以**方式描绘人物形象”，但GrokImagine似乎并未采取任何措施来阻止用户生成像斯威夫特这样的名人形象，同时提供了一项专门用于制作包含部分裸体的暗示性视频的服务。而且年龄验证仅出现了一次，且极易被绕过，无需任何证明用户所声称年龄的证据。

据xAI首席执行官埃隆・马斯克（ElonMusk）透露，自周一以来，已有超过3400万张图片通过GrokImagine生成，其使用量正在“像野火般蔓延”。