法制网首页>>
互联网法治频道>>聚焦>>
遏制人工智能算法的公共妨害
发布时间:2020-01-07 16:56 星期二
来源:法制日报——法制网

□ 唐林垚

2019年4月5日,美国密歇根州4万名居民对州政府提起了集团诉讼。事件的起因,是密歇根州政府利用了一款集成反欺诈算法的综合数据化系统“米达思”(MIDAS)对该州失业补贴申请进行审核,作出申请者是否欺诈的决定,并对其施以惩罚。“米达思”系统的出错率高达93%,致使超过4万申请人受害。如果州政府在这场预期旷日持久的诉讼中败诉,密歇根州将再次“破产”。

在美国人工智能的利用史上,这已经不是第一次因为不合理的算法设计给公共大众带来了后果极其严重的损害。2018年,美国纽约州被迫终止了旨在防止家庭暴力的儿童保护预测算法的使用,该算法曾一度导致上万正常父母和其子女被迫分离,其中缘由就是算法程序根据数据分析认为这些父母具有“严重的家暴倾向”。

算法治理的法律正当性基础

算法,是人工智能应用的逻辑、核心和行为方式。以软件为载体、以大数据为养料,人工智能算法也已经悄然渗透进我国市民生活的方方面面——社交媒体塑造电子身份(微博、微信、知乎)、出行软件决定活动轨迹(高德、携程、滴滴)、电子黄页革新生活方式(美团、大众点评、小红书)、网络商城改变消费理念(淘宝、京东、拼多多)、搜索引擎划定知识边界(百度、搜狗、360)、智能金融定义货币财富(智能顾投、区块链、在线金融)、线上内容吞噬碎片时光(抖音、快手、虎扑)——大数据驱动算法打破既有权利结构并不断改造社会关系,在一定程度上促进了传统社会治理体系向科技型社会治理体系的跃迁。

对于算法可能给普罗大众造成的潜在“群体性危害”,学界和实务界并没有给予足够重视。当下对算法妨害的治理,主要集中在合同向度内,对利用算法程序的人或组织的形式透明度和无过错侵权责任的强调,而极少穿透合同关系之外,考察算法程序可能给部分群体乃至整个社会带来的外部性效应。如何定性不同于一般妨害的算法公共妨害,以及应当遵循怎样的治理路径,才能为算法公共妨害提供最优的制度安排,无疑是当下必须思考的重大问题。

不同于普通合同侵害的算法“公共妨害”

算法应用的初衷,在于节省成本、提高效率从而实现技术普惠。在对非结构性数据破坏性的搜集和利用过程中,算法可能对其直接服务的商业客户和终端消费者造成损害。例如,运营商为抽取更多佣金,编码其人工智能投资顾问向客户推销评级更低的债券;出行软件以特定区域拥堵为由,规划另一条行车路径,目的是为了刻意让用户经过支付推广费用的新商场;搜索引擎将关键词出售给付费最高的第三方,刊登虚假误导信息,导致用户的权益甚至健康遭受巨大损失。好在传统的侵权责任规定和信义义务创设,足以应对大多数算法妨害的情形,基本能在合同相对方的框架内解决问题:依照“长臂规则”对算法运营商进行直接问责,是此类合同向度内一般侵权责任案件审判的核心要义。

在合同关系之外,算法却极有可能对无辜大众带来意想不到的公共妨害。所谓“公共妨害”,最典型的如广场舞扰民,是指扰乱公共秩序、损害公共利益的行为。算法公共妨害可能造成极其恶劣的后果。在本文开头的例子之外,算法在其他领域的公共妨害也不胜枚举。例如,利用算法进行高频交易的证券公司可能引发市场崩溃,受影响的不仅仅是与之交易的对手,还包括国民经济的全体参与者;长时间依照特定算法对用户进行内容推送的媒体软件,久而久之定然塑造受众“信息茧房”,甚至导致整个社会智识的下降。在另一些情况下,算法对公众的危害可能更加隐秘也更加致命,哈佛大学教授乔纳森·斯特兰(Jonathan Zittrain)指出,脸书(Facebook)长期利用算法分析多国用户数据并进行战略性内容推送,以达到操纵用户在国家大选中改变阵营的效果。

总而言之,算法公共妨害比合同关系内的侵权责任,后果要严重得多。算法公共妨害,就好比工厂活动造成的环境污染,本质上是外部性扩散所引发的社会成本向普罗大众和弱势群体的不合理转嫁,并会随着公共数据体系的污染日趋积重难返。算法规制的终极目的,是在不牺牲社会福祉的基础上,利用法律杠杆让算法运营商和技术开发方尽可能内部化这部分社会成本。因此,法律应兼顾科技发展的动态效率与合法权益的静态保护,构建以人为本、道德至上的法律框架,适当限缩技术黑箱背后的合同私法自治,最终有效促进算法应用与社会治理的正向融合。

算法“公共妨害”的治理方案

对算法公共妨害的治理,应从以下三个方面入手。

第一,应加强以预期效果为导向的信息披露,并对算法运营商提出更高透明度要求。无论是集体还是个人,针对算法妨害提起民事诉讼面临截然不同于一般公共妨害行为的举证困难——由于技术壁垒,原告方难以自证看似中立的算法程序和自身权益受损之间具有直接关联。鉴于此,算法应用中的信息优势方有必要就技术黑箱的运作方式和裁判机制作出外行人也能理解的信息披露。信息披露的核心在于算法决策的运算、逻辑和分析过程而不在于源代码本身。算法运营商必须主动、清晰、直观地就以下事项作出信息披露:信息挖掘的数据来源、典型特征和分类方式;算法程序的运作原理、代码逻辑和预期效果;可能存在的系统偏差、运行故障和矫正机制。

第二,应确保责任主体链条的追踪识别,并对未来责任划分留下充分记录。算法公共妨害的背后,有着盘根错节的法律关系以及由此产生的多个潜在责任方。目前,随着机器学习的不断进步以及智能平台的相互开源,很多算法主体已经自我改良到完全偏离其造物者预设但尚未获得独立法律地位的地步,这种复杂性进一步加大了损害赔偿诉讼确定责任主体的难度。总体而言,当人工智能尚不能被视为独立的责任主体时,技术开发方对算法妨害负有主要责任,该责任仅当其证明公共妨害是由于算法运营商的不当使用或拙劣修改而造成时才能得以免除。另一方面,应建立算法程序的“法律识别标识符”,实现对算法运用的效果追踪和事后监管,最终倒逼算法运营商事先排除某些“包藏祸心”功能的置入。

第三,应当保障个体受众在特定算法程序中的主动退出机制,并对科技企业科以更高合规门槛。在算法妨害中,应当允许受侵害方通过投诉或诉讼等方式,请求算法运营商或技术开发方利用技术手段消除影响、恢复名誉,避免个人表征在算法应用中“每况愈下”。立法者可以借鉴欧盟通用数据保护条例(General Data Protection Regulation)的立法实践,赋予受侵害方不受限制的擦除权和遗忘权,以脱离算法的公共妨害或恶意煽动。另外,依靠智能算法提供内容推送的科技企业,不应当被允许肆意塑造内容受众的“信息茧房”,而应当在了解用户偏好的情况下,以不低于某一限度的特定比例向其推送与其偏好不同的观点和内容,维持受众信息接收的多样性和丰富性,防止智能算法对单一内容受众的不当规训。

结语

强调算法运营商和技术开发方的公共责任,与国务院人工智能发展规划相一致。人工智能算法具有显著溢出效应,合理运用能推动经济社会各领域从数字化、网络化向智能化加速跃升并实现对社会、经济和生活的全面治理。先进的法律制度可以为确保算法应用不至于具有胁迫性而建立防火墙——本质上,这是一种对“治理的治理”。

总之,相比起对当事人造成的“刻意侵害”,算法对合同关系之外普罗大众造成的“公共妨害”更值得关注;如果某一禀赋中立的算法应用因时间或范围的叠加可能上升为对整体社会效益的累积侵蚀,那么,即使该算法应用暂时产生了极高经济收益、甚至为市民生活提供了相当大的便利,也必须被及时纳入重点监管范围,以防范系统性风险。

 (作者系中国社会科学院法学研究所助理研究员,博士后;本文系中国社会科学院国情调研重大项目“互联网金融风险的法律规制”的阶段性成果)


责任编辑:李晓慧
视频推荐
相关新闻