• 回答数

    0

  • 浏览数

    45

  • 收藏数

    0

作者:nbman 发表于 7 天前
跳转到指定楼层
IT之家 11 月 11 日消息,据彭博社报道,简 · 多伊(Jane Doe)已经多年没有想起过自己的初中毕业典礼,直到一名执法调查人员拿出当年庆祝活动的一张照片,开始向她询问相关情况。



照片中的她当时只有 14 岁,身穿黄色碎花连衣裙,面带笑容,双臂搭在几名朋友的肩膀上。其中一些朋友,她如今已经很少联系。

调查人员告诉她,照片中一名同学的成年哥哥,曾利用埃隆 · 马斯克(Elon Musk)旗下的人工智能聊天机器人 Grok,将这张原本再普通不过的照片篡改成儿童性虐待材料(CSAM)。

生成的图片中,正值初二年级的简 · 多伊全身赤裸,以性挑逗姿势出现。

这些图片随后被发布到了互联网上。

她在针对马斯克旗下生成式 AI 公司、Grok 开发商 xAI 提起的一起集体诉讼中,以简 · 多伊 5 号的身份参与案件。

简 · 多伊 5 号在一份诉状中写道:“目前根本无法确定,还有多少其他儿童性犯罪者可能已经持有简 · 多伊 5 号的儿童性虐待图片,也无法确定这些图片通过暗网渠道和应用程序在网上传播的范围究竟有多广。

”

现年 18 岁的简 · 多伊在即将离开家乡前往大学就读的几天前接受采访时表示:“这些图片已经流传出去了,我真的无能为力。这才是最让我害怕的事情。”

她还说:“这件事让我觉得,自己好像想要放弃一切。”

如今,借助 AI,任何人都可以轻而易举地从个人社交媒体账号或学校网站上获取普通照片,并在几秒钟内将其变成令人难以想象的色情图像。

简 · 多伊 5 号只是越来越多试图通过法律手段追究 xAI 责任的年轻受害者之一,她们认为 Grok 帮助用户制作了这些令人不安的图片。

在此过程中,她们面对的不仅是一家由全球首富支持的公司,还涉及 AI 时代一个至今尚无定论的根本性问题:当聊天机器人生成侵害他人的内容时,最终应该由谁承担法律责任?

是向 AI 发出指令的用户,还是开发这项技术的公司?

抑或双方都应承担责任?

xAI 表示,与 OpenAI、Anthropic 公司和 Meta 公司等竞争对手一样,该公司严格禁止用户利用聊天机器人制作此类图像,并采取了技术措施防止用户生成相关内容。

这类问题如今已经成为整个 AI 行业面临的普遍难题。

然而,自 2023 年 Grok 发布以来,马斯克一直有意将其塑造成一款比竞争对手限制更少、更具争议性的产品。

他曾鼓励用户利用聊天机器人生成色情 AI 内容。Grok 专门推出了名为“Spicy”的模式,主打“更加大胆、视觉表现更具冲击力的叙事”,支持生成不适合在工作场所观看(NSFW)的图片和视频。

xAI 曾表示,“Spicy”和“Unhinged”两种模式符合 Grok 追求“最大程度求真”的产品目标。

【“这些图片已经流传出去了,我真的无能为力。

”】

专家认为,这种产品定位让 Grok 在那些希望突破互联网规则的用户群体中尤其受欢迎。

今年早些时候,X 平台上的用户一度利用 Grok 每小时生成数千张带有性暗示或将人物衣物移除的图片。一项第三方分析发现,Grok 生成的视觉内容中,绝大多数都属于这一类型。

其他调查还发现,其中许多图片似乎涉及未成年人。有报告估计,Grok 曾允许用户生成数万张逼真的儿童性化图片。

X 平台上此类内容大量出现,引发了全球范围内的强烈反弹。

迫于舆论压力,X 于今年 1 月将 Grok 的图片生成功能改为付费用户专享。

但批评人士认为,这一举措不过是将一项饱受争议的功能变成了令人趋之若鹜的付费产品。

马斯克则将露骨色情内容的产生归咎于 Grok 的用户,而不是产品本身。

今年 1 月,他曾表示,自己“没有听说过任何涉及未成年人的裸露图片”。x

[来源链接] https://www.ithome.com/1/025/809.htm
分享:
回复

使用道具

成为第一个回答人

高级模式 评论
您需要登录后才可以回帖 登录 | 立即注册
⚠️

AI客服助手

⇲ ×
AI
您好!我是AI客服助手,有什么可以帮助您的吗?

请先登录后使用AI客服助手

立即登录
内容由非常AI大模型生成,仅供参考,相关风险需自行承担。

赚钱

会员VIP

留言板

商务合作

联系电话:17308937318

QQ邮箱

QQ:118275

邮箱:118275@qq.com

友情链接