生成不雅影像惹争议 Grok收紧免费用户功能

(华盛顿10日讯)美国亿万富豪马斯克旗下的人工智能(AI)聊天机器人Grok,近日因被用于生成女性及儿童不雅深伪影像而遭多国批评。为应对争议,Grok已在社交平台X上限制未付费用户的图像生成与编辑功能。

据外媒报道,Grok的影像生成功能允许X平台用户编辑或生成图片,但有媒体发现该功能被用来制作未经过本人同意的女性和儿童暴露图像。事件引发各国关注,马斯克本人也面临潜在罚款威胁。

此次调整意味着绝大多数X用户将无法继续使用Grok生成或编辑图像。付费用户则需提供信用卡信息及个人资料,以便在发生滥用行为时追溯责任。

不过,《卫报》报道称,尽管X平台已严格限制功能,但Grok同名应用程序和网站仍存在未付费用户可生成女性及儿童不雅影像的情况。

英国首相施凯尔(Keir Starmer)办公室批评此举是对受害者的“侮辱”,并称“这并非真正解决办法”。唐宁街发言人表示:“这只是将一个允许生成非法影像的AI功能变成付费服务而已。”

欧盟执行委员会本周重申,这类女性及儿童裸体影像属于违法内容,并要求X平台在今年底前保留所有与Grok相关的内部资料。法国、马来西亚和印度等国家也曾公开批评马斯克的平台。

上周,马斯克在X平台上对相关争议发文警告:“任何利用Grok制作违法内容的人,将承担与上传非法内容相同的法律后果。”