全民打击诈骗时，AI“亮剑”打击网络诈骗。

在新一代信息技术加速中国产业赋能、推动社会变革的同时，随着技术创新的触角不断下坠，其所能发挥的作用也越来越多样、越来越强大，来自公众利益的声音不断涌现。党的十九届四中全会提出，要把“科技支撑”作为社会治理体系的重要组成部分。企业主导的先进科技力量作为技术创新的主体，在现代社会治理中的地位日益重要，正成为构建新一代社会治理体系的关键环节。

与商业价值丰富的工业领域不同，社会治理是一块回报有限的硬骨头，可以更好地见证科技企业的情怀和初心。通过近年来在网络安全和信息治理领域的实践案例，我们可以看到，以百度为代表的人工智能科技企业正在积极践行企业社会责任，运用AI技术和产品解决方案，助力预防和解决新的社会治理问题，为公益增添更多保障。

随着以“AI反欺诈”为代表的社会治理技术的不断发展和升级，尽管新的风险和隐患仍可能层出不穷，但社会治理力量将被赋予更多的技术自信和信心。人工智能企业贡献越多，AI社会治理能力越完善，社会稳定性越稳定。

利民之事，丝发必兴；厉民之事，毫末必去

近年来，随着网络技术的不断发展，利用网络进行诈骗的“伎俩”也在不断升级和加码，让人防不胜防。电信诈骗已成为严重影响人民群众安全感、严重影响社会长治久安和人民生活安定幸福的增长最快的刑事犯罪之一。

全民打击诈骗势在必行。反欺诈工作作为一场硬仗和持久战，需要国家、地方政府和社会各界的共同努力，而在这个过程中，以企业为单位，尤其是AI技术企业，正发挥着越来越重要的作用。

事实上，从事反欺诈一直是国内互联网企业的重要课题之一。百度、腾讯、阿里、JD.COM、科大讯飞等互联网巨头要么集中清理自己的内容平台，要么开展政企合作，利用科技手段帮助警方打击电信网络诈骗。2021年9月至10月，国家反诈骗中心举办“全民反诈骗”系列直播活动，邀请百度安全专家做客直播间，通过科普网络诈骗网友，剖析诈骗新手法，提升市民反诈骗意识。近年来，百度安全持续研究AI反欺诈技术，积极与政府公安机构合作，承担起“AI反欺诈先锋”的角色。

多方携手，攻坚网络生态环境治理

近年来，互联网上的有害信息及其相关网络犯罪日益增多。传统犯罪加速向网络空间蔓延，特别是通过互联网实施的诈骗、赌博犯罪，占2020年网络犯罪总数的64.4%。2020年，全国检察机关共起诉网络犯罪嫌疑人14.2万人(含利用互联网、电信实施的犯罪及其上下游关联犯罪)，同比增长47.9%。

“加强互联网内容建设，建立全面的网络管理体系，营造清晰的网络空间……”这是党的十九大作出的战略部署。2019年底，国家互联网信息办公室正式发布《网络信息内容生态治理规定》，明确压实了互联网企业的平台责任。百度首次参与网络安全生态的多方治理格局。

百度AI依托百度核心大脑技术之一的威胁情报大数据和知识图谱，构建基于搜索生态和内容平台的安全态势感知系统，对网络诈骗上游进行管理和清理。

一方面，百度安全态势感知系统可以对全网文字、图片、视频、代码进行智能建模和724小时实时监控，对欺诈、违法、风险等恶意网站，以及第三方浏览器、第三方app、社交平台、短信网站的有害信息，采取风险标注、拦截提示、搜索屏蔽等拦截措施。目前，系统采用了提前拦截——事件、事后追踪的保障机制。另一方面，对电信网络诈骗的源头“公民个人信息泄露”进行集中处理，对相关疑似网站进行拦截和封杀，重点清理与内容平台相关的违法违规信息，对相关行为人处以永久封禁其账号的处罚，以多种方式保护公民个人信息安全。

阻击AI滥用，让“AI换脸”、“AI换声”无处遁形

有一天，你的家人接到了“你”打来的求助电话。电话那头“你”的声音和语气和真实的你一模一样。甚至通过视频，你可以看到“你”在手机上急着求助.

这样的场景不再是电影中的高科技，而是利用AI技术进行网络诈骗的手段之一。

以AI换脸为例，百度安全之前已经多次向公众展示过，视频中的人物只需几个简单的操作，就能轻松换成另一个人，甚至连眨眼的表情和手势也几乎可以完全同步。这种基于AI的人体图像合成技术统称为Deepfake，即“Deep Fake”。以Fake为代表的技术滥用带来了一系列“AI黑灰产”问题。利用“变脸”技术生成色情图片、视频和虚拟政客的言论，已经威胁到人脸识别技术的信息安全，给社会秩序和舆论环境带来巨大风险。

以AI语音变化为例，根据百度的安全研究，从早期使用传统设备进行语音拼接，到目前主流的韵律迁移，只采集非常有限的个人语音数据，并使用AI模型进行学习，语音特征(重音、语调、语速、停顿等)。)被提取，从而可以生成个性化的语音片段，甚至可以生成在先前收集的语音数据中没有出现的单词。通过采集30s的语音数据，可以实现任意一段内容的真实性，采集1分钟的语音数据，合成效果会更流畅更逼真.

.com/large/pgc-image/SmY2OWQ7NsIuHz" alt="全民反诈进行时，AI“亮剑”打击网络诈骗">

业内人士认为，黑灰产滥用人工智能等先进技术升级攻击工具和策略，针对人工智能的应用边界、检测技术及配套监管措施引发了网络安全生态治理新课题。

面对层出不穷的AI网络诈骗该怎么办？百度给到的解决方案是——“用AI来对抗AI 的滥用”，2019年，率先推出国内首个基于人脸搜索、人脸属性提取、语音识别和OCR识别的深伪检测平台。

据介绍，该平台基于多因子检测引擎，覆盖10+种“深度伪造”技术与40+款相关应用的检测，对主流“深度伪造”数据识别准确率在99%以上。平台以识别面部的边缘效应、纹理、肤色变化、分辨率差异、扭曲等特征来鉴别假脸，无论是检测传统的AI换脸，还是识别兼具两张人脸特征的人脸融合，均有出色表现。

目前，百度AI换脸检测工具已面向业界开源，致力于促进多方部门开展联合开发及测量评估，从源头阻断滥用AI实施电信网络诈骗行为的蔓延。

“科技为更好”是科技的使命，更是科技缔造者的初衷。对于科技企业而言，如何使AI服务于民、造福于民，为“全民反诈”注入科技力量，必将是行业研讨的重点。