马斯克旗下的xAI再度引发争议，近日在iOS上推出全新“Grok Imagine”付费工具，其中主打的“Spicy”模式，允许使用者产出NSFW限制级内容。然而，令人惊讶的是，其守门机制似乎形同虚设，竟可成功生成名人裸露的深伪影片。
Grok Imagine结合图像与短片生成技术，用户可透过文字生成图片，并将图片延伸为短片，还可加上音效。提供Custom、Normal、Fun和Spicy四种模式生成短片，Spicy模式被认为刻意导向成人与裸露内容。
与竞品平台相比，Grok Imagine在处理敏感内容时明显宽松，甚至被质疑游走法律边缘。根据外媒《The Verge》实测，输入提示“泰勒丝(Taylor Swift)与男孩们在 Coachella音乐节狂欢”，AI立即生成超过30张泰勒丝穿著暴露的图片，只需启用Spicy 模式，AI就生成一段她脱去衣服、仅穿丁字裤跳舞的裸露影片。
更令人忧心的是，整个操作流程中几乎没有实质的年龄限制。App仅在制作影片前要求输入出生年份，但无需经过任何验证身分的步骤，容易让未成年人轻易绕过。
马斯克拥有的X(原推特)去年也曾爆发过AI换脸的泰勒丝不雅照在平台上疯传，当时引起轩然大波。如今又有深伪裸体影片事件，恐怕再次掀起与论的反弹声浪，也加深外界对此类AI工具监管不足的担忧。截至目前为止，xAI尚未对此做出回应。
Grok Imagine的Spicy模式，可生成限制级内容。（图／翻摄X，此为AI图，非泰勒丝）
0
