• 回答数

    0

  • 浏览数

    30

  • 收藏数

    0

作者:feels 发表于 昨天 10:01
跳转到指定楼层
AI 总结
• OpenAI于11月16日宣布推出儿童性虐待内容(CSAM)检测工具,该工具通过OpenAI API向经过审核的机构免费开放,可中断有害行为、提供干预措施,并为执法调查人员提供支持。
• 新图像分类器可检测潜在儿童性虐待内容,寻找虐待行为的视觉特征,帮助审核团队识别新图像并提供评分功能以判断优先处理顺序;
• 相比现有保护措施,误标记图像数量减少48%,被标记图像实际包含性虐待内容的可能性约为原来的两倍,测试中每四个被标记案例就有一个最终被封禁。
• OpenAI在ChatGPT中新增产品警告,当用户试图寻找性虐待素材时,系统会中断操作、说明后果并引导用户寻求帮助;
• 违规账号将被暂时停用24小时,反复违规可能导致更长时间封号、永久封禁或被举报至有关部门。
• 美国国家失踪与受剥削儿童中心(NCMEC)在工具开发过程中提供支持,协助完成训练、评估和实际部署;
• OpenAI已与Anthropic和谷歌合作,共同委托制定应对AI系统中儿童性剥削与性侵害披露的新指南,该指南已由Tech Coalition发布。

IT之家 11 月 17 日消息,OpenAI 昨天宣布推出儿童性虐待内容(CSAM)检测工具。

该产品可中断有害行为,同时提供干预措施,并为负责儿童安全案件的执法调查人员提供支持。

该工具将通过 OpenAI API,向经过审核的机构免费开放。

据介绍,OpenAI 已推出全新的图像分类器,用于检测潜在的儿童性虐待内容。

该分类器会寻找虐待行为的视觉特征,帮助审核团队识别未曾见过的新图像,同时提供评分功能,帮助审核人员判断哪些图像可能需要优先处理。

美国国家失踪与受剥削儿童中心(NCMEC)在该工具的开发过程中提供支持,协助 OpenAI 完成训练、评估和实际部署工作。

同时该工具相比现有保护措施,可减少 48% 误标记图像数量。在标记的图像中,实际包含性虐待内容的可能性约为原来的两倍。invideo AI 测试显示,每四个被标记的案例中,就有一个最终被封禁。

此外,OpenAI 将在 ChatGPT 中新增产品警告。

当用户试图寻找性虐待素材时,系统会中断相关操作、说明后果,并引导用户寻求帮助,以停止有害行为。

一旦用户发出相关请求,他的 ChatGPT 账号将被暂时停用 24 小时,反复违规可能导致更长时间的封号, 最终永封或被举报至有关部门 。



OpenAI 已经与 Anthropic 和谷歌合作,共同委托制定一份关于如何应对 AI 系统中儿童性剥削与性侵害披露的新指南。

该指南最近已由 Tech Coalition 发布,为开发者处理这些敏感情况提供了实用建议。

[来源链接] https://www.ithome.com/1/028/066.htm
分享:
回复

使用道具

成为第一个回答人

高级模式 评论
您需要登录后才可以回帖 登录 | 立即注册
⚠️

AI客服助手

⇲ ×
AI
您好!我是AI客服助手,有什么可以帮助您的吗?

请先登录后使用AI客服助手

立即登录
内容由非常AI大模型生成,仅供参考,相关风险需自行承担。

赚钱

会员VIP

留言板

商务合作

联系电话:17308937318

QQ邮箱

QQ:118275

邮箱:118275@qq.com

友情链接