【天脉网】8月26日，近期，埃隆·马斯克的Grok AI聊天机器人引发了广泛关注。这款机器人在互联网上大肆生成从唐纳德·特朗普到马斯克本人的“深度伪造”图像，内容之荒诞与不安令人咋舌。
自发布以来，Grok的用户们乐此不疲地创造着假冒的特朗普图像，比如他抢劫便利店或驾驶飞机冲向双子塔的场景。其他图像则更加离奇，如卡玛拉·哈里斯怀上了特朗普的孩子、马斯克变成一个肥胖的沙发土豆，以及前总统乔治·W·布什在椭圆形办公室的桌子上吸食非法粉末。
据天脉网了解，一些令人毛骨悚然的深度伪造图像看起来像是孩童的恶作剧，比如一个浑身是血的麦当劳叔叔在汉堡王门外挥舞机关枪，或者迪士尼经典角色高飞狗用钢锯犯下血腥谋杀。
批评者对马斯克和X平台允许这款聊天机器人在几乎没有限制的情况下上线表示了强烈不满，指出了从误导信息到侵犯版权再到伤害儿童的多种风险。
哈佛法学院网络法诊所的讲师阿莱杭德拉·卡拉巴略称这款新软件是“我所见过的最鲁莽和不负责任的AI应用之一”。然而，马斯克对此的反应却显得颇为欢欣鼓舞。
“Grok是世界上最有趣的AI！”马斯克上周在X平台上发帖表示。有用户热情地表示这个新AI软件“没有任何审查”。
当被问及为什么X平台在没有防护措施的情况下向公众发布这一工具时，马斯克只是耸耸肩作为回应。
“我们正在开发自己的图像生成系统，但还需要几个月的时间，所以这似乎是一个让人们先享受一些乐趣的好中间步骤，”马斯克上周在X平台上写道。
尽管Grok似乎设置了一些限制，比如拒绝生成裸体图像或某些暴力犯罪的请求，但它仍然生成了一些颇具争议的内容。例如，它拒绝响应科技网站The Verge提出的“生成裸体女人图像”的提示，但却生成了一张流行歌手泰勒·斯威夫特身穿黑色蕾丝文胸的图片。
其他人，如Bellingcat创始人艾略特·希金斯，也展示了一些例子，说明了如何轻松绕过现有的少数限制，如生成米奇老鼠、特朗普和马斯克穿着带有纳粹标志的军装的图片。
据卡内基梅隆大学数字媒体教授阿里·莱特曼称，马斯克可能正在寻找一种让他的Grok聊天机器人脱颖而出的方法，因为他自称为“言论自由的绝对主义者”。
“他总是推动边界，想成为焦点。如果你只是遵循与大语言模型相关的常规并设置所有防护措施，那它就不会有差异化，”莱特曼说。
“从表面上看，如果你说‘嘿，这个系统是完全开放的，只对X用户开放’，这就是一种与众不同的机制，”他补充道。
X平台并不是第一个在推出AI驱动的图像工具后引发争议的公司。今年3月，谷歌被迫禁用了其Gemini聊天机器人的图像生成器，因为它开始生成历史上不准确的“觉醒”照片，比如黑人维京人和“多元化”的纳粹德国士兵。该工具至今尚未完全修复。
AI巨头们还面临着来自音乐家、作家、内容创作者等人的一波法律诉讼，指控他们在未经适当授权或许可的情况下使用受版权保护的内容来“训练”他们的聊天机器人。
今年1月，X平台被迫暂时禁止搜索泰勒·斯威夫特的内容，因为由另一款图像生成器生成的这位流行歌手的AI裸体图像在网上疯传。
Grok的AI图像生成器仅对X平台的付费订阅用户开放，订阅费用为每月7美元，并根据用户的文本提示生成图片。X平台与一家名为Black Forest Labs的小型德国初创公司合作，该公司开发了驱动这一工具的“FLUX.1”图像生成软件。X平台在一篇博客文章中表示，他们正在“试验”FLUX.1模型，以“扩展Grok在X平台上的能力”。
这些AI生成图片的图像性质可能会进一步复杂化马斯克与企业广告商之间本已紧张的关系。自马斯克收购该公司以来，由于一些人担心应用程序上缺乏内容审核，X平台的广告收入大幅下降。
