探索建立算法侵权公益诉讼制度

本刊记者 徐明皎

“最近买了一些吃的以后，现在推荐的都是好吃的。”

“‘猜你喜欢’竟然给我推荐了我上学的时候爱听的歌。”

个性化推荐可以帮助用户快速找到感兴趣的内容，节约时间。但专家提示，个性化推荐算法也可能影响用户的自主决定自由，引发“信息茧房”等问题。

面对个性化推荐算法对消费者知情权和自主选择权可能造成的损害，专家建议，借助“守门人规则”，强化大型平台经营者的审查义务。探索算法民事公益诉讼制度，助力消费者维权。

个性化推荐涉嫌侵权

在某购物App，加购某款钓鱼竿，在App首页就会出现新的鱼竿、鱼钩、折叠伞等相关产品推荐。据浙江大学光华法学院副教授林洹民介绍，个性化推荐算法借助对用户数据的分析，推荐相应的商品或服务，典型应用如 “猜你喜欢” “每日音乐推送”等。

据了解，个性化推荐主要依据采集的用户信息生成用户画像，再借助个性化推荐算法技术，从而实现个性化广告/内容的精准投放，被广泛应用于购物、生活等场景中。有研究表明，个性化推荐通过数据算法降低消费者搜索难度，能提升消费者购买效率，提升用户黏性。

林洹民提示，个性化推荐算法主动分类并高效率地推送趋同内容，人们被包裹在自己感兴趣的领域内，大量接触的是自己过去认同的观点和感兴趣的书籍、影视作品等，与个人意见不同的声音已经被过滤。长期生活在封闭的信息环境中，用户会越来越沉溺于自己的“回音”，从而影响良好的价值观念和健全人格的形成。

此前，也有研究者表示，基于兴趣导向的算法个性化推荐，使得消费者接触信息趋于同质化，削弱了消费者的自主思考性。在此情况下，消费者无法选择自己想要获取的信息、商品或服务，而只能任由算法操纵。

林洹民同样认为，个性化推荐算法影响了用户的自主决定自由。“个性化推荐已然影响用户意思的形成，用户的选择或同意并非真正源于个人意志。”林洹民说。

广西民族大学法学院教授蒋慧与该校研究生徐浩宇共同撰写的论文认为，个性化推荐还会侵犯消费者的知情权。平台商家往往会借助其与消费者之间的信息鸿沟，通过算法合谋剥削用户，加速垄断行为。此外，个性化推荐还可能带来差异定价，引发“大数据杀熟”等问题。

监管规范不明晰不具体

面对个性化推荐带来的隐忧，已有多项法律法规将其纳入规范之中。2021年8月20日通过的《中华人民共和国个人信息保护法》第二十四条第二款规定：“通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。”

2021年12月31日，国家互联网信息办公室等四部门联合发布《互联网信息服务算法推荐管理规定》，加强对算法风险的全流程监管。

然而，在林洹民看来，个人信息处理者与个人在信息、技术、经济等方面的能力是不对称的。他解释说，在一些场景中，个人并不能有效地识别风险和控制风险，法律需要采取其他规范模式，以补充个人自治模式的不足。

蒋慧和徐浩宇也认为，碍于作为个体的消费者与作为架构工具的算法决策之间的逻辑障碍、知识差异等因素，消费者对算法决策提出异议并予以质疑甚至拒绝的空间十分有限。

以电商平台为例，蒋慧和徐浩宇解释说：“倘若单纯从外部对电商平台经营者进行个性化推荐算法歧视的规制，不仅存在监管规范不明晰、不具体致使难以有效适用的困境，还会引起电商经营者的算法歧视‘隐蔽化’。因此，有必要探寻新的解决路径。”

个人信息保护法已明确提出应在个性化推荐的同时提供不针对其个人特征的选项或者提供便捷的拒绝方式，但实践情况并不尽如人意。

记者调查发现，一些购物App在安装时，会提示需要了解用户数据，用于个性化推荐，但该提示只能选择继续。默认开启、关闭难是这些App的常见问题。即使提供了关闭渠道，但因操作复杂、设置隐蔽，对部分用户并不够友好。

记者测试了几款常用App，发现大多数App的关闭都需要进行4步到5步的操作。而有关调研显示，绝大多数用户认为最好把关闭步骤控制在1步到3步之间。

降低消费者维权成本

借助“守门人规则”，限制避风港原则的适用，要求平台尽力优化平台内的个性化推荐算法，强化超大型平台经营者的审查义务。林洹民说，个人信息保护法第五十八条规定了“守门人规则”，要求超大型平台履行更为积极的信息安全义务。在传统的“避风港原则”中，平台经营者只要在收到通知后采取删除、屏蔽、断开链接等必要措施，就不需要承担侵权责任。

他提出，平台经营者可以在醒目位置提示使用个性化推荐算法的可能影响，平台经营者还可以在平台内部增加 “一键关闭”个性化推荐的按钮或链接，改变用户不得不在各个应用程序中艰难寻找关闭选项的现象。

“守门人规则还意味着平台经营者应当自证已经采取最大的努力规范平台内的算法活动。” 林洹民表示，这将降低原告的举证责任。

蒋慧和徐浩宇则建议，效仿环境公益诉讼制度，探索建立算法侵权公益诉讼制度，降低消费者维权难度和成本。