加强人工智能伦理治理刻不容缓

编者按：2022年，多个人工智能应用“出圈”，并大有取代部分人类智力工作的趋势。人工智能技术的快速发展，既令人惊叹，又带来不少焦虑。技术的快速发展让人工智能相关的法律问题以及伦理治理显得格外紧迫。本刊推出一组报道供参考。

本刊记者 徐明皎

最近一段时间，AI绘画程序Midjourney、AI聊天程序ChatGPT等人工智能应用火爆出圈，其输出的图像和文本惊艳了很多使用者。人工智能开始挑战被人类视为独有的特权——创造力。

人工智能是否会失控？人类是否会被取代？以往出现在科幻电影中的场景开始成为很多人的真实关切，人工智能伦理治理也愈加凸显其重要性。

伦理挑战前所未有

近日，我国外交部在《中国关于加强人工智能伦理治理的立场文件》中指出，“人工智能作为最具代表性的颠覆性技术，在给人类社会带来潜在巨大发展红利的同时，其不确定性可能带来许多全球性挑战，甚至引发根本性的伦理关切”。

中国科技大学教授陈小平将人工智能伦理治理称为“一种新型问题”。他在接受本刊记者采访时表示，人工智能与以往科技最大的不同在于，“过去的技术都是工具，而人工智能不再是简单的工具，而且渗透到社会生产和生活的方方面面”。

哈尔滨工程大学教授莫宏伟在谈论该问题时表示，人工智能是智能型工具，当这种智能性与人类智能某方面相似甚至超越人类时，就会对人类社会的传统伦理关系造成影响和冲击。

“如果一种人工智能的持续存在和未来发展方向完全不在人类的控制之下，那么这种人工智能就是不可控的。”陈小平表示。

不过，令人略感欣慰的是，现有人工智能还处在无自主意识的弱人工智能阶段，都是可控的。出现不可控人工智能的可能性目前还仅存在理论中。

陈小平还提到了人工智能的一种现实挑战，“人工智能技术越来越多，人类的工作岗位就会越来越少”。直到最后大多数工作岗位都被人工智能取代。“对于这种情况的后果，人类远远没有想清楚，贸然让它发生，就是一种重大风险。”

即便是在弱人工智能时代，因技术引发的伦理问题也层出不穷，如数据泄露和隐私侵犯、信息伪造和内容造假、算法歧视和算法独裁等问题。

伦理规范具有先导作用

在人工智能的伦理治理方面，我国已在规范层面作出了不少探索。

陈小平将用户隐私、数据安全、算法公平性和透明性等问题看作具有现实紧迫性，也是较易解决的问题。

2021 年颁布的《中华人民共和国个人信息保护法》《中华人民共和国数据安全法》《关于加强互联网信息服务算法综合治理的指导意见》已将网络空间管理、数据保护、算法安全综合治理作为主要监管目标。

2021年底修订的科学技术进步法，其一大亮点就是将科技伦理治理入法，在科技伦理治理体系、科技伦理委员会、科技伦理审查等方面都作出了明确规定。

有研究者指出，人工智能技术尚处于快速发展阶段，仓促立法不利于法律条文的稳定性，还可能限制新技术的发展。在此情况下，通过行政文件和行业规范治理成为可行路径。

北京邮电大学经济管理学院教授金永生表示，制定完备的法律需要反复论证，伦理规范对于人工智能问题的调整具有先导作用，即后续伦理规范可以转化为具体法律，实现道德的法律化。

2019年初，科技部成立新一代人工智能治理专业委员会。其在2019年6月发布《新一代人工智能治理原则——发展负责任的人工智能》。2021年9月发布《新一代人工智能伦理规范》，作为人工智能伦理治理的顶级设计指导，提出人工智能各类活动应遵循的六项基本伦理规范。

今年3月20日，国务院办公厅发布《关于加强科技伦理治理的指导意见》。据了解，该意见是我国国家层面首个有关科技伦理治理的指导性文件，就科技伦理的总体要求、原则、治理体制、制度保障以及审查和监管、深入开展科技伦理和宣传等均进行了全面的指导性规定。

构建人工智能治理框架

在陈小平看来，“最大的挑战是‘未来挑战’”，也即中国能不能抓住人工智能这一历史机遇。但他同时强调，不能只考虑经济因素，要从增进人类福祉的基本原则出发，综合考虑各方面因素，统筹协调人工智能的发展。《新一代人工智能伦理规范》将“增进人类福祉”作为第一项基本伦理规范。

对于多数工作岗位将被人工智能取代的风险，陈小平认为，现有预测能力严重不足，预测方法也不适应新形势的需要。有必要建立一种风险与机遇一体化的预测能力，对人工智能的正面效应和负面效应等进行一体化预测。

“我国人工智能治理整体框架已构建完成，进行细节填充已成未来趋势。”金永生表达了更为乐观的态度。他认为，虽然有部分案例显示人工智能有失控风险，但其不具有广泛代表性，利用法律规则并配合可落地的伦理标准即可有效保障技术发展规范。

金永生建议，对部分法律作出解释，比如数据安全法提出建立数据安全风险评估制度，但具体的主管机构、适用范围、评估审查机制等配套制度仍需明确。他还建议对自动驾驶、机器人民事责任能力等问题及时出台法律规范。