本刊记者 徐明皎

　　近日，国家网信办等四部门联合发布《互联网信息服务算法推荐管理规定》，自2022年3月1日起施行，算法迎来了“强监管”。该规定明确，鼓励算法推荐服务提供者优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响。

　　此前，2021年9月，国家网信办等九部门出台《关于加强互联网信息服务算法综合治理的指导意见》，将“算法应用公平公正、透明可释”作为基本原则。监管之下，算法“黑箱”有望打开。

　　算法“黑箱”现象为人诟病

　　2019年，大量少女妈妈被快手推荐至首页一事，让“算法”这一互联网技术词汇开始为大众知悉。此后，“大数据杀熟”平台歧视等算法问题一直是大众的痛点，也是政府监管的重点。

　　据了解，算法是贯彻在人工智能系统中执行特定指令的程序，通过对海量数据的深度学习实现自我更新和升级。由于算法的高度技术复杂性和专业性，公众通常难以知晓其运作过程，甚至由于其历经多次迭代，连设计者都难以清晰解释，从而形成了算法“黑箱”。

　　算法在影响着人们的生活。生产、社会生活、商业经营和公共决策等领域越来越多地利用算法来实现特定目标。外卖、网约车、甚至是政府的行政行为，利用算法来实现目标成为常态。算法歧视、个人权利受损等问题也逐步为大众知悉。

　　在网络阅读上，个性化推荐算法的应用带来了“信息茧房”。下载新闻App，点击过几篇后，App总是推荐相关内容。在中国政法大学副教授郑玉双看来，这一推荐模式导致的结果是，个人虽然获取了大量信息，但并未转化为有效知识。个人被这种信息获取机制反向支配，个人自治受到侵蚀。

　　虽然技术中立，但算法的设计者是有价值观的。少女妈妈事件被曝光后，快手CEO宿华曾在微博中发表文章致歉，文章表示，将用正确的价值观指导算法，将改进算法，优先推荐个性化的更符合用户兴趣的正能量作品，放大优秀作品的影响力、感染力。

　　另外，算法也会因为数据的选择、算法的设计而注入偏见和引发歧视。

　　“算法实践中的乱象引发对算法进行监管或者对算法进行法律规制的迫切需求。”郑玉双表示。《互联网信息服务算法推荐管理规定》第四条明确，提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理。

　　可解释性内容仍存争议

　　四部门管理规定多个条款涉及到算法推荐的透明性和可解释性。

　　近日腾讯研究院发布的报告《可解释AI发展报告2022》提示说，通过对算法决策的解释，一方面能够保障公众的知情权和同意权，另一方面也有利于增强公众对AI产品的信心与信任。通过算法透明化机制还能倒逼开发者、提供者采取有效的措施防范算法歧视、决策偏差等问题。

　　不过，对算法应该如何公开，以及做怎样的解释，目前仍存争议。

　　据了解，目前对商业领域中AI系统的可解释性要求，主要有两种类型：一类是要求对结果进行原因解释，另一类是要求对算法模型逻辑进行解释。

　　“优化算法可解释性及透明度不仅在技术上颇为复杂，在法律与政策层面亦颇费思量。”中国人民公安大学副教授、数据法研究院院长苏宇表示，算法推荐的相关技术已经进入国家的重点保护范围，一旦外泄将引起不利影响。同时满足算法透明度及可解释性义务，还要满足防止算法涉及泄密，颇有难度。同时，法律规定了商业秘密保护条款，商业秘密与算法的透明度和可解释性义务之间也有可能存在矛盾。

　　腾讯研究院的报告建议，考虑商业AI的不同风险等级建立不同标准，分级进行监管。

　　据了解，目前，互联网技术领域也在探索可解释AI的技术解决方案，以提供可解释性工具和服务。

　　应重视算法设计伦理

　　2017年国务院发布的《新一代人工智能发展规划》明确提出了要“实现对人工智能算法设计等程序的全流程监管”。

　　除了对算法的事后监管，在业内人士看来，算法在设计之初就应受到监管。

　　中国政法大学副教授金梦认为，人在设计算法之初会将人类的思维方式和价值取向设计进算法的底层逻辑，“从这个意义上来说，算法从一开始就不是价值中立的。”

　　金梦认为，应从立法层面规定算法主体行为的基本准则和伦理规范。她表示，技术行为依然是在宪法和法律范围内的活动，不能超越法律的边界。对于法律没有涉及的技术行为的空白地带，算法主体要严格恪守职业伦理的要求，遵从理智德性和道德德性的行为指引，不能从事威胁人类伦理安全的技术行为实验。“有效防范并化解算法的技术风险需要从风险产生的源头、制造风险的算法主体入手，培育算法主体的科技伦理。”金梦表示。

　　在金梦看来，研发设计科学合理友好的算法是算法主体的技术职责，算法更好地服务于人类的实践活动是算法主体行为的价值追求。她举例说，在电影评分中，表面上由每个人的评分组成的群体均分，实际上是按照特定的算法统计得出的。不同的评分机制背后的价值预设不同，科学的算法才能让评分实现正义。

　　还有学者建议，在算法设计阶段就进行伦理评估，以立法形式明晰算法设计者的伦理设计义务，在设计阶段将法律所追求的伦理价值融入算法功能。