构建互联网信息服务算法安全监管体系

算法本身就是一个技术概念，顾名思义，它是指反映在一系列解决问题的步骤或计算机指令中的计算方法。随着电子计算机的普及，算法一词逐渐为人们所熟知。在人们最初的印象中，算法只是真正执行人们的指令。对算法的讨论主要停留在技术层面，如时间复杂性和空间复杂性。算法安全风险尚未引起广泛关注。后来，随着人工智能、大数据等新信息技术的快速发展，算法的内涵逐渐演变为数据培训模型，算法在不断喂养数据的过程中不再保持不变。算法不仅变得越来越智能，而且给人们带来了越来越强烈的不适应感。算法安全风险逐渐进入公众视野，引起越来越多的关注。从本质上讲，智能和风险是算法的两面，也是技术从诞生到应用的必要阶段。一般来说，算法安全风险不仅包括算法本身的技术风险，如算法漏洞、算法脆弱性、算法黑箱等，还包括算法不合理应用、算法欺凌、算法共谋等社会风险。    

互联网信息服务算法的综合管理注重算法应用的管理和发展，引导算法应用的公平、公正、透明、可释放，充分保护网民的合法权益。因此，本规定首先从算法分类管理的角度，有效识别互联网信息服务中的高风险算法，注重合成、个性化推送、排序选择、检索过滤、调度决策等五种互联网信息服务中广泛使用的算法。此外，本规定从信息服务规范和用户权益保护两个方面明确了算法推荐服务提供商的主要责任，鼓励充分发挥算法服务的积极能量传播作用，注意算法应用应遵循标准和不存在行为，最大限度地保护网民的知情权、老年人、工人、消费者等群体的合法权益。简而言之，互联网信息服务算法的综合管理不仅注重算法本身的技术风险，而且防止算法的不合理应用，影响正常的市场秩序和社会秩序。    

互联网信息服务算法的综合治理注重症状和根源，关键是建立和完善算法安全监督体系。国家互联网信息办公室等九部委发布了《关于加强互联网信息服务算法综合治理的指导意见》，其中算法记录是算法安全监督的起点和基石、算法监督检查、算法风险监测、算法安全评价等四项措施。其中，算法记录是算法安全监督的起点和基石，补充算法监督检查和算法风险监测、现场监控和在线检查;算法安全评价是出口和算法安全监督的基础。算法本身的复杂性和算法安全风险的隐蔽性挑战了算法安全监督系统措施的实施。从实施的角度来看，这四项措施的关键是：

一、算法记录。本规定要求具有舆论属性或社会动员能力的算法推荐服务提供商通过互联网信息服务算法记录系统执行算法记录程序，并在提供外部服务的网站和应用程序的显著位置注明记录号。算法记录是算法安全监督系统的重要组成部分，推荐的算法记录工作首先需要明确算法记录的范围，即哪些算法需要记录，哪些信息需要记录。从记录登记备查的目的来看，记录信息应涵盖算法推荐服务的基本原则、目的、意图和主要运行机制，包括数据描述、基本模型、应用场景、服务形式、人工干预等。从记录实施的角度来看，算法记录工作应以互联网信息服务或功能为入口，支持服务或功能的算法记录;算法推荐服务提供商是记录算法的责任主体，负责完成算法记录信息的真实性。算法记录的类型和形式多样，给算法记录工作带来诸多困难，推进备案的关键是把算法和服务作为一个有机的整体。    

二、算法监督检查。条例明确了网络信息、电信、公安、市场监督等有关部门依法对算法推荐服务进行算法监督检查的职责，及时对发现的问题提出整改意见，限期整改。一方面，算法监督检查的重点是督促企业落实算法安全的主要责任，完善相关管理制度和技术措施，配备适合算法推荐服务规模的专业人员和技术支持;另一方面，从互联网信息服务算法混乱入手，分析算法混乱的原因，督促企业提高算法安全风险意识，防范和消除潜在的算法安全风险。   

三、算法风险监测。算法风险监测是一项正常工作，包括企业进行的算法风险监测、公共监督报告、监管部门检查等。从算法安全监督系统的角度来看，算法风险监测致力于日常监控算法数据的使用、应用场景、影响效果、感知网络通信趋势、市场规则变化、网民行为、预警算法应用可能产生的不规则、不公平、不公正等隐患，发现算法应用的安全问题。从实施层面看，算法风险监测包括人工检查和技术检查。发展趋势是加强算法风险监测系统建设，不断提高互联网信息服务算法运行中的风险监测能力，提高技术网络治理水平。    

四、算法安全评价。算法安全评价包括分析算法机制机理、评估算法设计，部署和使用的缺陷和漏洞，研究和判断算法应用过程中产生的安全风险，并提出有针对性的响应措施。本规定明确的算法安全评价包括监管机构定期自我评价和算法推荐服务的安全评价，对于互联网企业来说，算法安全评价是防范和应对算法安全风险的重要措施，企业自我评价报告也是算法记录的重要组成部分。对于监管机构来说，算法安全评价是算法记录、算法风险监控和算法监督检查的基础。    

互联网信息服务算法安全监督体系的建设需要进一步加强技术支持和能力建设。国家科研机构应加强算法安全技术研究，建立算法安全评价和风险监测的科研创新平台，探索新研发机构建设，形成引领算法安全基础研究的战略力量。组织成立专业的技术评价团队，研究算法安全内生机制、算法安全风险评价、算法生命周期安全监测等关键技术。加强基础科研设施建设，完善算法安全管理人才培训体系，提高算法自主创新和安全可控性。促进算法安全科学普及，提高企业和公众的算法安全风险意识，引导社会各界积极参与社会监督，共同推进算法综合管理。