小红书：大量 AI 毒动画、未成年人软色情陪聊、教唆自残等典型账号被永久封禁

AI 总结
• 8月4日小红书发布两项治理公告，分别通报涉未成年人违规内容、暑期旅行安全专项的治理进展。
• 截至8月4日，平台“清朗·未成年人网络保护”专项行动已累计处置违规笔记8.4万余篇、违规评论10.5万余条、违规账号3571个，AI炮制毒动画、诱导未成年人软色情陪聊、教唆未成年人自残三类典型违规账号均被永久封禁。
• 7月以来平台开展暑期旅行安全专项治理，累计清理违规信息万余条，对高危旅游项目笔记实施搜索隐藏、流量限制，配合多地警方抓获4个黑灰产团队、14名嫌疑人，处置虚假营销账号超200

IT之家 8 月 4 日消息，小红书今晚发布了两项治理公告，分别通报了涉未成年人违规内容及暑期旅行安全专项的治理进展。

截至 8 月 4 日，平台在“清朗 · 未成年人网络保护”专项行动中已累计处置违规笔记 8.4 万余篇、违规评论 10.5 万余条、违规账号 3571 个。



小红书宣布，平台针对三类典型违规行为采取了严厉处置，IT之家总结如下：

•

一是恶意篡改经典动画内容，部分账号利用 AI 技术炮制“毒动画”，如账号“可 X”恶意生成恐怖版《天线宝宝》视频，已被永久封禁并全量下架相关笔记。

•

二是诱导未成年人不良交友，账号“永叽”以“招裴（陪）”“无 hf（会费）”等黑灰产话术为诱饵，诱骗未成年人脱离平台从事软色情陪聊服务，已被永久封禁。

•

三是教唆未成年人伤害身体，账号“小 * Q”发布“爱我就给我买刀片”等带有自残倾向的极端图文，已被永久封禁并清理相关内容。

小红书表示已升级风险识别模型，对圈层暗语、变种图片等恶意规避审核行为实施前置拦截。

暑期旅行安全专项方面，7 月以来小红书针对“危险旅游景点、虚假旅游信息”展开治理，累计清理违规信息万余条。

对飞拉达漂流、悬崖秋千、赛里木湖游泳等高危项目笔记实施搜索隐藏和流量限制，干预 20 余组安全隐患搜索词并上线安全提示条。

平台同时对以“AB 制”“旅行搭子”“拼车拼团”等名义进行虚假引流的欺诈产业链进行摸排治理。

上半年已配合多地警方抓获批量造假注册专业号的黑灰产团队 4 个、嫌疑人 14 名。

在旅游经营资质治理方面，平台集中处置虚假营销账号超 2000 个，处置无资质营销企业账号超 6000 个，无资质营销的个人及导游账号超 9000 个。

平台表示将对任何侵害未成年人合法权益的行为“零容忍”，并持续压实主体责任。

相关阅读：

•

《 网信办将整治毒动画：利用 AI 技术恶搞经典动画形象，刻意放大暴力恐怖元素 》

[来源链接] https://www.ithome.com/0/985/708.htm