×

打开微信,扫一扫二维码
订阅我们的微信公众号

首页 锦天城概况 专业领域 行业领域 专业人员 全球网络 新闻资讯 出版刊物 加入我们 联系我们 订阅下载 锦天城二十周年 CN EN JP
首页 > 出版刊物 > 专业文章 > 《互联网信息服务算法推荐管理规定》解读

《互联网信息服务算法推荐管理规定》解读

作者:吴卫明 刘昀东 2022-01-072586
[摘要]2021年12月31日四部门联合发布《互联网信息服务算法推荐管理规定》(以下简称《算法管理规定》),为解决种种算法乱象提供了指引和规范,也有利于互联网生态环境的改善。

2021年12月31日四部门联合发布《互联网信息服务算法推荐管理规定》(以下简称《算法管理规定》),为解决种种算法乱象提供了指引和规范,也有利于互联网生态环境的改善。在2021年8月27日公开征求意见后,正式发布的《算法管理规定》增加了与工信、公安、市场监督相关管理要求的衔接,并且立足于社会发展实际增加了目前国家重点关注的老年人权益保障、新闻服务和反不正当竞争的内容。


为帮助互联网企业迅速了解法规要点,本文将从适用范围、监管框架、主要义务、法律责任四个维度进行解读。


一、适用范围


根据 《算法管理规定》第二条及第三条的规定,其适用范围是在中华人民共和国境内应用算法推荐技术提供互联网信息服务的情形。这里的算法推荐技术,不仅仅包括最为人熟悉的应用在广告、短视频、“大数据杀熟”场景的个性化推送类,还包括生成合成类,例如文章生成算法、换脸算法;排序精选类,例如搜索引擎广告排序算法、电商平台店铺排序算法;检索过滤类,例如应用在各类公众搜索引擎、电商或内容平台的内部搜索引擎的过滤不良信息的搜索引擎;调度决策类,例如网约车平台、外卖平台的订单匹配算法等。


可以看出,只要企业含有互联网基因,基本都绕不开算法、绕不开算法推荐技术,就可能被认定为算法推荐服务提供者。所以《算法管理规定》的适用范围非常广泛,值得每一家通过互联网开展业务的企业关注。


二、监管框架


(一)监督管理机构


相对于征求意见稿仅规定由网信部门监督管理,《算法管理规定》第三条确立了网信部门统筹协调,电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作的体系。电信部门从行业管理的角度出发,公安部门从预防侦查违法犯罪活动的角度出发,市场监管部门从工商主体管理、广告管理、反不正当竞争管理等角度出发。该体系与既有网络安全、数据安全的体系内在逻辑一致。


(二)算法分级分类安全管理


《算法管理规定》第二十三条确立了算法分级分类安全管理的制度设计。其中分类分级关注的维度包括算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等。


在上述制度设计下,具有舆论属性或者社会动员能力的算法推荐服务提供者应当履行备案义务。根据《算法管理规定》第二十四条至第二十六条的规定,备案流程如下所示。


image.png


备案应当填报的信息包括服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。


此外,备案信息发生变更的,应当在变更之日起十个工作日内办理变更手续;终止服务的,应当在终止服务之日起二十个工作日内办理注销备案手续,并作出妥善安排


三、主要义务


对于应当适用《算法管理规定》的企业,主要需要关注不能做什么和应当做什么。


(一)不能做什么


表 算法推荐服务提供者禁止事项


image.png


通过上表可以发现,《算法管理规定》第六条第二款的规定是原则性规定,确定了不得利用算法推荐服务从事违法活动、传播违法信息的原则。其他规定均可以视为围绕该原则的具体体现,其中包括大家普遍关心的针对虚拟刷单(第十四条)、“大数据杀熟”(第二十一条)的禁止性规定。


(一)应当做什么


1. 制度与技术措施


根据《算法管理规定》第七条的规定,企业应当建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施,即不仅应当有制度文本、执行制度要求,还应当有能够实现制度要求的技术措施,毕竟反电信网络诈骗、安全评估监测、安全事件应急处置等都有赖于能够及时发现和响应的技术手段。


其中,算法机制机理审核与科技伦理审查制度与国务院发布的《新一代人工智能发展规划》建立人工智能安全监管和评估体系的目标密切相关,但相关指引和规范的制定仍处于初步阶段,还需要政府和企业的共同探索。除此之外,其他制度已经具备相对成熟的法律法规要求。


2. 关于算法的要求


根据《算法管理规定》第七条的规定,企业应当制定并公开算法推荐服务相关规则。因为对于大多数使用算法推荐服务的用户来说,算法实际上都是一个黑箱,黑箱也意味着难以监管。所以,打破黑箱是进行监管的刚性需求,公开规则则是必要手段。当然,由于算法本身也是企业花费时间和技术形成的,具有一定经济价值,可能构成商业秘密,必然面临社会利益和企业利益的冲突,而我们现在的法律绝不是必然要求舍弃企业利益的。这一点,也可以从《算法管理规定》第十二条的规定看出来——鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度可解释性避免对用户产生不良影响,预防和减少争议纠纷。《算法管理规定》是鼓励优化规则的透明度和可解释性,但不强求企业全盘托出,而最终目的仍然是避免对用户产生不良影响,预防和减少争议纠纷。


根据《算法管理规定》第八条的规定,算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等。这是算法机制机理审核制度的细化要求,对算法机制机理的审核对象、程序都提出了更为具体的要求,但并未对审核要素作出进一步规定。


根据《算法管理规定》第九条的规定,算法推荐服务提供者应当加强信息安全管理,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。这是对于禁止传播违法信息的技术措施的细化要求。同时还对三类信息做出了规定:对未作显著标识的算法生成合成信息,应当作出显著标识;对违法信息,应当立即停止传输,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信部门和有关部门报告;对不良信息,应当按照网络信息内容生态治理有关规定予以处置。


根据《算法管理规定》第十条的规定,算法推荐服务提供者应当加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则。这可以理解为算法推荐服务规则的组成部分,与禁止设置违法兴趣点或用户标签的要求相关联。


根据《算法管理规定》第十一条的规定,算法推荐服务提供者应当加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。在“千人千面”被广泛应用的现在,除了考虑用户的偏好外,也应当注意设置机制评估展示内容是否符合主流价值导向,今后需要更加注意算法中对于主流价值导向的评价维度和权重设计。


3. 用户权益保护


根据《算法管理规定》第十六条和第十七条的规定,企业首先应当保护用户的知情权选择权


知情权体现在应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图主要运行机制等。同时,这些告知要求也可以和算法推荐服务相关规则的公布相结合。此外,对用户权益造成重大影响的,企业还应当依法予以说明并承担相应责任。


选择权体现在应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项,以及应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。


根据《算法管理规定》第二十二条的规定,为了畅通用户的救济渠道,算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口,明确处理流程和反馈时限,及时受理、处理并反馈处理结果。


此外,关于未成年人、老年人、劳动者、消费者等特定类型的用户,《算法管理规定》分别规定了针对性的保护规定,例如针对老年人的智能化适老服务要求以及涉电信网络诈骗信息的监测、识别和处置要求,针对劳动者的劳动报酬、休息休假保障要求等。


四、法律责任


相对于征求意见稿,《算法管理规定》第三十一条将罚款的范围由五千元至三万元调整至一万元至十万元,维持了警告、通报批评,责令限期改正,责令暂停信息更新等处罚措施。其中,责令暂停信息更新这一由《网络信息内容生态治理规定》确立的处罚形式对于互联网信息服务提供者的业务形态具有很强的针对性。不过应当注意到,上述规定的法律责任是兜底性的,因为“法律、行政法规有规定的,依照其规定”。其次,第三十二条直接将部分条款的法律责任指向“有关法律、行政法规和部门规章的规定”,也说明了很多事项并不是《算法管理规定》新设立的规则,而是已有规定的细化。


对于《算法管理规定》建立的算法推荐服务提供者备案要求涉及的违法行为,第三十三条也规定了相应罚则——通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的,由国家和省、自治区、直辖市网信部门予以撤销备案,给予警告、通报批评;情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款;终止服务未按照本规定第二十四条第三款要求办理注销备案手续,或者发生严重违法情形受到责令关闭网站、吊销相关业务许可证或者吊销营业执照等行政处罚的,由国家和省、自治区、直辖市网信部门予以注销备案。


结语


《算法管理规定》虽然是围绕算法推荐服务制定的规则,但也是规制人工智能应用的重要指引。在这个领域确立的优秀实践经验今后很可能会应用在人工智能所涉及的方方面面,因此该规定很可能不仅仅对行业带来巨大影响,也可能对人工智能应用越来越普遍的未来生活产生长远影响,值得普遍关注。