数据中心 > 头条

探索互联网算法治理之道

发布时间:2022-05-17 10:29:04  |  来源:经济参考报  |  作者:  |  责任编辑:

2021年8月,《个人信息保护法》出台,在国家法律的层级上针对自动化决策算法确立了规制基础。2021年12月底,《互联网信息服务算法推荐管理规定》(简称“《算法推荐规定》”)由网信办、工信部、公安部、国家市场监督管理总局联名签署对外公布,并已于2022年3月1日正式实施。这不但是我国首次以“算法”为名的法律文件,更是世界范围内全面回应算法挑战的体系性尝试。根据《关于加强互联网信息服务算法综合治理的指导意见》,未来三年是关键阶段,到2025年前,我国治理机制健全、监管体系完善、算法生态规范的算法综合治理格局将日渐成型。

值此算法治理的中国实践进行之时,学说理论纷呈而合规落地尚存犹疑之际,对外经济贸易大学数字经济与法律创新研究中心邀请来自学术单位、实务部门的学者专家,于近期就算法治理的实践、算法备案制度和算法评估制度开展讨论,以期助力后续的规则制定、执法指南和学术研究。

对外经济贸易大学法学院院长

梅夏英:

算法研究应当具有展望性

算法技术对法律人而言确为一个“黑箱”,我们所关注和讨论的也并非算法本身,而是算法所引发的社会问题。需要厘清算法与传统的监管对象是否有区别以及有何种区别,是服务、产品还是技术层面上的内容;是社会规则、伦理还是法律问题。在厘清区别的基础上,再通过突破传统的、新的方法来规制算法。因为算法治理在法律层面上是新生事物,不能完全照搬原来的市场监管手段。目前的研究应当是具有展望性的,因为算法升级换代快,越来越先进,技术手段各方面都在发展,算法的形态也在发展,我们应该要站得更高一些,想象未来算法的形态,从社会整体而非局部的角度解决问题。

业界实务专家的观点:

算法制度有待细化、明确、协调

来自阿里巴巴、字节跳动、京东、美团的实务专家基于第一线的实践提出了富有启发的观点。

算法分级分类机制有待细化。《算法推荐规定》中虽然提出了分级分类的监管思路,但只是对算法服务提供者的分级分类,而非对具体算法应用的分级分类,如果只是按照算法服务提供者的维度要求算法备案可能会造成企业的负担或者无法实现算法监管的根本目标。实践中,不同的算法应用有着不同的正面和负面作用,对于社会福祉、个人权利、传播秩序有着不同程度的影响。未来,建议综合考虑算法的应用场景、处理数据的风险程度、算法使用的正向效益和可能的社会危害等多种维度,实现算法监管的分类分级,落实多层次场景化、精细化的分级分类的算法治理工作,更有利于实现提升算法价值及保护公共利益之间的平衡。

算法备案中法律效果有待明确。目前立法尚未解决算法规则生效的条件,算法规则生效后的作用以及算法规则在未来应以何种形式在平台上公示。算法规则一经公示生效后,用户是否可以将其作为主张权利的依据都是未来法律适用和业务实践需要解决的问题。

算法治理有待进一步协同。算法应用从研发到投入使用需要历经漫长的生命周期,在往前回溯的过程中,法律合规人员难以识别风险,是算法监管困难的重要原因。未来,可以让法律部门和技术部门共同制定算法合规风险点,优化自身流程以确保算法在运行过程当中的可管可控。此外,还可以引入公共管理领域中的“协同治理”,使利益相关者和参与者共同参与算法的治理活动。

北京科技大学副教授张凌寒:

算法备案制度很多问题要研究

算法备案制度产生最主要的原因是,我们很难通过算法结果倒推当时部署运行算法时存在的主观过错。算法备案制度旨在使得平台在上线部署运行算法之前,向行政机关做一个存档备查的行为,为以后的监管提供信息基础。现阶段进行的备案,特别需要厘清目前涉及算法备案的算法体量有多少,种类有多少,监管系统和监管能力能不能达到监管目的。实现算法备案制度还需讨论谁来备案、如何备案、备案什么这些问题。平台功能越来越多元化,具备舆论属性和社会动员能力的算法服务提供者的界限逐渐模糊。

中国政法大学大数据和人工智能法律研究中心主任沈伟伟:

备案能帮助平台澄清主体责任

需要重视跨国算法治理。我们需要看到其他国家如何进行算法评估、备案、审计等,以此作为参照系来制定我国的算法备案以及后续评估的制度。分析算法备案与平台责任的联系,算法备案似乎是公权力强加给平台的责任或义务,不履行会受到相应的惩罚。但平台,尤其是科技向善的平台可能会更愿意备案,因为算法备案在某种程度上具有欧盟“隐私盾”的部分效果,即在一个强监管环境下,作为一个免责的条件或者作为平台责任的某种抗辩。换言之,平台一旦进入到类似于隐私盾的备案体系,备案能帮助其澄清一些主体责任。

伯明翰大学LEADS Lab研究员李汶龙:

需要思考算法备案对监管是否有效

国外的算法备案基本都是面向公共部门的,由于其自身的局限性,跟影响评估和机制审计相比,它可能扮演一个很小的角色。可以从反面入手判断备案的法律性质以及决定它的内涵,即当把其它机制进行完毕后再根据具体情形判断算法备案到底能做什么。我们需要明确算法信息的传播和备案对监管而言是否有效,以及我们如何设计算法备案这样特殊形式以匹配切实所需的拟公开信息。当实务界、理论界把过多的资源、关注和公共讨论都放在透明问题上时,算法透明和算法备案的最终目的在很大程度就会被淡化。在讨论算法备案时,承认并明确算法透明的局限性也是一个非常重要的环节。

清华大学智能法治研究院院长助理刘云:

算法备案是风险治理机制的备案

我国的算法备案是风险治理机制的备案,而不是算法内容的备案。风险治理机制的备案包含四个方面的内容:其一,平台自查因使用算法可能带来的风险,也包括诸如透明度、公平性、包容性等一系列的风险。其二,对于风险,平台的预防措施是什么。其三,平台在风险发生时的风险处置规则是什么。其四,风险发生造成危害后,平台的责任承担方式是什么。

算法备案的目的有三。直接目的是掌握算法的基本信息。但仅掌握情况没有意义,更重要的是为制定政策或者后续执法做储备。其次,算法备案还能促进企业自查。最后,算法知识普及这一目标同样不可忽略。相比以前的产品说明书,对于大部分消费者而言,算法是可望不可及的,此时政府通过算法备案将算法基本原理向公众进行普及,促使用户更好地维护自己的权利。

对外经济贸易大学数字经济与法律创新研究中心主任许可:

高风险、普遍影响社会公众的算法

才需备案

算法备案既非公非私,又亦公亦私,需要准确理解其性质。一方面,非公非私是因为算法备案并非具有公权性质的行政许可,但也不是算法解释权的落实,并不是私权的一部分。另一方面,亦公亦私因为从国家监管层面来说备案是一种监管方式,是落实了行政上的告知式的备案和行政监督式的备案,且这些备案信息可以作为用户侵权案例中消费者诉讼的理由。

若从公私两个视角观察算法备案的主体,应该更加强调大型平台而不限于舆论属性和社会动员能力。对于内容来说,并不是平台所有的算法都要进行备案,而是具有高风险、普遍影响社会公众的算法才需要备案。就法律效果而言,算法问责是算法备案在“公”方面的体现,有了算法备案,可以更加精确地判断企业的行为是否违反法律法规,是否侵犯了相关用户权益,实现规则的精确化和有效规制。而推动企业自我监管则是备案在私方面的作用。对于监管者来说,从外到内的治理是非常重要的环节。

北京大学法学院副教授胡凌:

算法评估可分为两类

需要从成本比较和收益分析的角度观察算法评估。评估分为两大类:一般性的自我评估和法律中有特殊要求的评估。前者无处不在,哪怕政府不要求,理性的企业也会进行评估;需要重点讨论的是第二种评估。如果法律特别看重某一类型的算法评估,则会逐渐内化为内部的评估机制。两者的关联在于,法律是否关注某个特别的评估要素。因为企业在应对风险时有不同的原则,有的是风险预防,有的是成本收益,风险预防则需要将注意力放在较前阶段。如果此时风险特别大而且是所有人都可以意识到的风险,就会涉及到第二类评估,即企业发现政府在特别关注某一类或某一种服务,因此在算法研发时就需要进行评估,衡量风险。

对外经济贸易大学数字经济与法律创新研究中心执行主任张欣:

算法评估是算法治理的重要路径

算法在整个全球数字经济当中的地位日益重要,最高院司法解释也明确提出,算法技术计算机程序是企业的重要价值。世界各国采取的算法治理举措可能不同,但无论是采取何种治理模式的国家,包括算法自动化决策在内的算法评估始终是其中的重要路径。算法评估有几个维度必不可少,包括技术维度、应用维度、影响维度、救济维度。同时,算法分级分类对精准治理非常关键。首先,不同的算法分级分类,除了监管层面有很大意义外,对企业合规意义也是非常重大。其次,从架构的角度而言,算法应用维度的分级分类可以帮助企业和监管机构计算出相应的算法等级,并匹配差异化的监管框架。总体来讲,我国在这次算法新规当中将算法影响评估嵌入到算法分类分级和算法精准治理这个理念之下。但要实现精准治理,还需要从算法设计运行和部署主体的视角进行分类分级。(金灿 )


版权所有 中国互联网新闻中心 电话:010-88828187 互联网新闻信息服务许可证10120170004号
信息网络传播视听节目许可证:0105123 京公网安备 11010802027341号 京ICP证 040089号-1