中国算法治理升级“2.0” 划出算法应用的合法边界

2022年元旦假期结束后的第一天，网信中国公众号公布《互联网信息服务算法推荐管理规定》(下称《规定》)。该《规定》由国家网信办、工信部、公安部和市场监管总局等四部门联合制订，于2021年11月16日经网信办审议通过，并经工信部等四部委同意后公布，将自2022年3月1日起施行。

《规定》要求，算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。

此外，《规定》还明确算法推荐服务提供者的主体责任，构建平台问责体系。

值得注意的是，《规定》是中国第一部聚焦于算法治理的部门规章，也是全球第一部系统性规制算法的法律文件。

有专家评论认为，由《规定》起步，中国将进入算法治理“2.0”时代。

划出算法应用的合法边界

《规定》分为总则、信息服务规范、用户权益保护、监督管理、法律责任、附则等六章，共35条。《规定》对算法推荐技术作出明确界定，即利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

《规定》明确了算法推荐服务提供者的必须遵守的信息服务规范。

具体来说，算法推荐服务提供者应当坚持主流价值导向，积极传播正能量，不得利用算法推荐服务从事违法活动或者传播违法信息，应当采取措施防范和抵制传播不良信息;建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施，配备与算法推荐服务规模相适应的专业人员和技术支撑;定期审核、评估、验证算法机制机理、模型、数据和应用结果等;建立健全用于识别违法和不良信息的特征库，发现违法和不良信息的，应当采取相应的处置措施;加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则;加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在重点环节积极呈现符合主流价值导向的信息;规范开展互联网新闻信息服务，不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息;不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。

《规定》还传门针对用户权益保护做出相关规定。

一是算法知情权，要求告知用户其提供算法推荐服务的情况，并公示服务的基本原理、目的意图和主要运行机制等。

二是算法选择权，要求向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。

三是针对向未成年人、老年人、劳动者、消费者等主体提供服务的算法推荐服务提供者作出具体规范。如不得利用算法推荐服务诱导未成年人沉迷网络，应当便利老年人安全使用算法推荐服务，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

北京科技大学副教授张凌寒分析指出，从《规定》来看，相关部门对于算法应用的监管理念发生转变，即从此前的追究事后责任变为事前、事中事后的全流程监管，并采用一系列具体的技术监管手段。此外，《规定》要求，算法推荐服务提供者依靠自评估、第三方评估与审计机制，评估算法设计、部署和使用等应用环节的缺陷和漏洞，避免算法应用产生的意识形态、社会公平、道德伦理等安全问题。这共同形成了治理结构高效运行，有法可依、多元协同、多方参与的治理机制。

对外经贸大学数字经济与法律创新研究中心执行主任张欣指出，《规定》提出了场景化、精准化的算法治理理念。具体来说，《规定》第二十三条规定，网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度，同时根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度以及对用户行为的干预程度，对算法推荐服务提供者实行分类分级管理，一定程度上体现了精准治理的立法理念。

张欣认为，通过在各监管主体之间建立算法治理的协作网络，优化了监管组织架构，有助于减轻算法推荐服务者的合规负担。

张欣还表示，《规定》对算法推荐技术作出定义，明确其包含生成合成类等五大技术，这一定义基本囊括了所有主流算法推荐技术，意味着短视频平台、电商平台、还是餐饮平台、社交平台等均纳入规制范围内，“明确了算法推荐服务提供者的义务与责任，划定了算法应用的合法边界。”

算法已成经济社会的底层架构

算法和算法推荐曾一度是平台企业的“卖点”，“千人前面”在给消费者带来更具个性化的使用体验的同时，也可能产生负面影响。

算法普遍存在，2020年以来，算法推荐服务滥用引发的信息茧房、饭圈乱象、大数据杀熟、平台二选一、“骑手困在系统中”等社会问题引发了社会广泛关注。

张凌寒指出，作为人工智能时代一项关键性网络信息技术，算法正日益广泛地应用在内容信息、电子商务、无人驾驶、司法判决、智能诊疗等商业和公共领域，成为推动企业数字化转型和国家治理能力现代化的重要力量。在这一进程中，算法逐渐成为经济社会的底层架构，在不同场景下管理、分类、约束乃至决定整个社会的运行。

然而，在人们步入数字时代的同时，算法操纵、算法控制、算法歧视、算法黑箱、算法沉迷等问题日益威胁着个人权利、公共利益乃至国家利益。

世辉律师事务所合伙人王新锐表示，算法本身并不是新技术，但因算法应用产生一些社会问题，近几年来日益受到各界广泛关注。《规定》正是回应了社会热点问题，尤其是针对算法歧视、大数据杀熟、诱导沉迷等。

王新锐同时指出，人工智能技术主要涉及到数据和算法，在数据立法逐渐完备的同时，对于算法的监管也开始落地。但相比数据，算法的技术性更强，更不容易被描述和感知，因此如何制定和执行规则就更为困难。

张凌寒指出，基于技术鸿沟、商业秘密等原因，算法存在一定的不透明性，监管部门、社会公众和用户难以洞悉算法运作的机理。在算法黑盒中，风险既可能来自于设计者的技术缺陷，也可能因为算法推荐技术被滥用而引发;同时，有的风险可能需要在法律层面解决，也有可能需要在伦理层面化解的。“这导致算法归责问题突破了传统的侵权责任等理论基础，增加了算法风险的复杂性”，她指出，有必要对既往传统法律规定的追责方式作出突破与创新，加强伦理引导、技术治理。

实际上，在中国既有法规中，算法并非新词。

网信办相关负责人在答记者时指出，党中央印发的《法治社会建设实施纲要(2020-2025年)》即提出，制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。《网络安全法》《数据安全法》《个人信息保护法》等法律和《关于加强互联网信息服务算法综合治理的指导意见》等政策文件先后出台，并作出相关顶层设计。在此基础上，及时制定具有针对性的算法推荐规定，明确算法推荐服务提供者的主体责任。

此外，已经实施的《电子商务法》《网络信息内容生态治理规定》，以及《个人信息保护法》，均不同程度地触及平台的算法责任。张欣指出，但直接在条文中明确提出算法安全主体责任的概念，清晰构建推荐场景下的算法问责机制，在中国尚属首次。

张欣指出，《规定》在遵循算法推荐技术逻辑基础上，明确算法推荐服务提供者应当落实算法安全主体责任，包括应当建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度，覆盖算法设计、部署和运行各个环节。相应的，《规定》也通过法律责任条款，将算法推荐服务者的主体责任压实。

对平台影响几何？

那么，《规定》出台将对平台企业带来什么影响?

张欣表示，首先这意味着平台企业不再能够轻易以“技术中立”为盾牌，逃脱算法引发风险的责任。

其次，平台企业需要根据《规定》要求，在算法的设计、运行和应用的各个阶段，以全周期视角系统设计算法合规体系。比如，企业未来需要建立算法审核制度，对算法机制机理、科技伦理、用户注册、信息发布等个环节进行审核，对于数据安全和个人信息保护、反电信网络诈骗、安全事件等实施动态监测，并建立应急处置程序。同时，平台还要遵照算法透明和公正的原则，制定并公开算法推荐服务的规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。再如，《规定》第十一条规定，加强算法推荐服务版面页面的生态管理，这就要求平台建立完善人工干预机制。此外，根据第二十二条规定，平台须完善推荐算法的功能，为用户设置便捷有效的申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。

另外，《规定》还将对平台企业的商业模式带来影响。张欣指出，一些在《规定》生效之前存在，对经济秩序、社会秩序和公共利益可能产生不良影响的推荐服务可能需要停止或者加以改变。例如，此前长期存在的搜索引擎通过各种“非删除”的方式进行网络负面舆论压制，未来这种商业模式和操作就可能因违反诚实信用基本原则、扰乱市场竞争秩序、损害消费者权益而受到规制。

而《规定》第十四条明确，算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。

这意味着，内容推荐服务提供者未来需要在技术上运用去重、打散干预等策略优化检索、排序、选择、推送、展示等规则，避免“信息茧房”的存在。同时，不能再通过合成虚假新闻赚取流量，不得利用算法实施流量造假和流量劫持行为。

张凌寒也指出，在《规定》中也明确要求算法推荐服务提供者要设立算法安全责任制度，落实算法安全主体责任，包括建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度，覆盖算法应用的各各个环节。她认为，《规定》将以往模糊而不确定的监管要求更加精细化和明晰化，确实会在一定程度上提高企业的合规成本，但并不会对平台的商业模式产生实质的打击和限制。

有分析人生告诉《财经》E法，抖音和快手都是强算法推荐平台，从《规定》内容来看，对平台影响最大的可能是用户可以选择关闭算法推荐服务，这或将影响广告的投放效率。该人士指出，关键在于用户是否关闭算法推荐，“很多人用某个平台就是为了看推荐信息，短期来看，用户可能不会关闭算法推荐”。

今日头条相关负责人表示，今日头条将认真落实相关规定，目前在App中已提供了关闭个性化推荐选项。而快手和腾讯截止发稿前，均未有置评。根据《财经》E法的测试，今日头条、抖音、快手、淘宝、饿了么、美团外卖等常用App均已提供了关闭个性化推荐的选项，但一般处于通用设置和隐私设置等选项中，需要多次点击，才能完成操作。

算法治理进入“2.0”阶段

按照《规定》的要求，未来监管部门将建立算法分级分类安全管理制度，这意味着相关的算法治理措落地还需要一系列的配套制度。张凌寒举例，算法备案制度还需要相关的实施细则。

目前，各国均对算法治理有一定的立法与执法实践。但张凌寒指出，立法与监管行动的统筹安排，以及对算法透明度、算法问责、算法可解释等关键问题的关注，使得中国的算法治理走在世界前列。总体来看，在强化伦理道德规范的同时，中国的算法治理正加速从软法引领进入硬法规制阶段。

她还指出，算法安全尤其是信息内容安全是中国算法治理的核心价值观之一。算法安全理念内涵丰富，《规定》既涵盖了中国一贯重视的信息内容安全，也包含对市场竞争秩序的规范，更体现了对消费者、劳动者、信息接收者等多角色用户的权益保护。

张欣指出，中国的算法推荐立法之所以走在世界前列，一方面得益于数字经济的迅猛发展。就算法推荐而言，目前已涉及200余个新闻客户端，用户规模达到7亿;4000余家电商平台，用户规模达到7亿，位居全球第一;搜索引擎的用户规模已经高达7.66亿。此外，预计到2023年，智能设备的数量将达到36亿台。这种体量和多元生态是任何一个国家都无法企及的，这在客观上催生算法治理框架的形成。另一方面，在于监管理念和立法理念的成熟。无论是此次出台的《规定》第五条强调行业自律的平台企业自我规制，还是《个人信息保护法》《数据安全法》等多部法律皆提出的监管机构、平台企业等多元主体的协同治理，均体现了数字化监管理念的科学发展。

一个体现是，《规定》在制定过程中吸收了技术专家和行业代表的意见，开门立法有助于立法的科学化和民主化，有助于契合行业发展规律，有利于在适用环节增加实效。

2021年以来，平台经济领域的立法更加聚焦，同时网络空间治理理念逐步升级。张欣分析指出，中国从之前注重数据治理和平台治理，到目前开始聚焦算法治理，并将数据治理、平台治理和算法治理相互联结，体现了中国网络治理的不断升级迭代。同时，2021年以来的多个规范性文件聚焦于具体的应用场景，为规范算法应用、维护用户的合法权益奠定了基础性治理框架。

可以说，此次的《规定》和2021年9月17日网信办等九部门出台的《关于加强互联网信息服务算法综合治理的指导意见》，正式开启了算法治理的“2.0”阶段。

《关于加强互联网信息服务算法综合治理的指导意见》提出，“利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”。

张欣表示，可以预见的是，接下来会以算法推荐为突破点，逐步以点带面的建构起系统化、完善化、健全化的算法安全综合治理系统。

王新锐认为，2022将会是算法监管元年。无论是中国的个人信息保护法，还是欧盟的GDPR，之前都已经对自动化决策作出了原则性规定，而类似《电子商务法》《反垄断法》等法律及配套规则，也对大数据杀熟、滥用算法排除竞争作出了原则性限制。但法律无论是对行为还是结果进行规制，目前都非常抽象，操作性不强。

2022年，一方面《数据安全法》《个人信息保护法》《反垄断法》的多项配套措施会出台，均会涉及与算法有关规则的细化;另一方面，算法本身带来的社会问题随着数字经济的高速发展不断积累，也到了总要进行某种回应的阶段。他提醒指出，目前对算法监管的很多理论问题和具体方式都还需要做进一步的探索。