公安部：上半年共侦办利用 AI 工具生成网络谣言案件 170 余起

IT之家 7 月 24 日消息，据央视新闻报道，国务院新闻办公室今日举行“开局起步‘十五五’”系列主题新闻发布会，公安部相关负责人介绍强治理护民安促发展，全力服务保障“十五五”开局起步有关情况，并回答记者提问。



近年来，不法分子利用人工智能等新技术实施的违法犯罪活动时有发生，包括实施电信网络诈骗，侵犯个人隐私，破坏社会信任基石，甚至威胁国家安全。

对此，公安机关高度重视，采取多种措施打击整治。

•

第一：依法严厉打击，震慑违法犯罪。

当前，利用人工智能实施的新型犯罪主要包括：利用人工智能技术伪造身份，侵入政企信息系统，对他人信息和财产实施盗窃；

或者伪装成熟人、权威人士，骗取受害者的信任后实施诈骗；

以及利用人工智能工具，生成网络谣言，扰乱社会公共秩序。

公安机关全力打击上述违法犯罪，同时严厉打击提供技术支撑的犯罪团伙，努力从根源上铲除犯罪土壤。

今年上半年，共侦办利用人工智能工具生成网络谣言案件 170 余起，依法查处 190 余人 。

•

第二：开展智能预警，提高防范能力。

依托大数据分析，搭建风险研判模型，对高频陌生视频通话、静默录音来电、短时间多次调取人脸素材、境外发起的视频请求等新型诈骗手法，进行综合研判分析，形成精准预警指令，推送各地公安机关开展预警劝阻工作。

同时， 在国家反诈中心 App 上布设人工智能内容鉴定功能 ，大家可以上传可疑视频、语音、图片，一键检测是否存在人工智能生成痕迹，鉴别伪造信息。

•

第三：多部门协同共治，加强行业监管。

联合网信办、工信部、国家广电总局发布《人工智能生成合成内容标识办法》，规范内容标识，向公众提示人工智能合成内容。

同时，加强监督检查，针对人工智能大模型可能存在的安全风险开展重点监测，并通报运营主体，及时消除隐患。

今年上半年，共开展人工智能应用服务监督检查 600 余次 ，对相关服务提供者进行警告、责令整改、关停等行政执法 30 余次。

•

第四：强化建章立制，完善法律体系。

积极推进《网络犯罪防治法》等法律法规立法进程， 完善人工智能风险治理法律规范体系 。

研究构建人工智能安全审查制度，防范此类服务被滥用于实施违法犯罪。

研究制定人工智能代码生成、深度合成图像等领域的安全标准，不断推进和完善人工智能的安全标准体系建设。

[来源链接] https://www.ithome.com/0/981/044.htm