法制网首页>>
人大立法>>要闻>>
一场事关“未来”的协商
我要纠错【字体: 默认 】【打印【关闭】
来源:人民政协网发布时间:2020-12-24 14:43:40

原标题:一场事关“未来”的协商

——全国政协“人工智能发展中的科技伦理与法律问题”双周协商座谈会述评

2020年12月23日,全国政协今年最后一场双周协商座谈会,探讨的是一个关于“未来”的话题——人工智能发展中的科技伦理与法律问题。

临近岁末,没有什么比谈论未来更让人期待。即将过去的这一年里,新冠肺炎疫情重创了整个世界,它是危机,也是启示:要尽可能做更多的准备,以应对变局中未知的风险与不确定性。

如果要列出能够改变世界格局与历史进程的要素,人工智能必居其一。

作为引领新一轮科技革命和产业变革的战略性技术,人工智能是时代发展的巨大机遇,也给科技伦理和法律带来挑战,它的“未知”远远大于“已知”。党的十九届五中全会将人工智能作为具有前瞻性、战略性的国家重大科技项目进行部署,是科学应变,更是主动求变。

在政协这个“揽八方才俊、集各界精英”的平台上,探讨“人工智能发展中的科技伦理与法律问题”这样前沿、跨学科的课题,可谓适得其所。来自不同界别、代表不同利益诉求的委员和专家对人工智能潜在风险进行预判,研究构建伦理规则和法律规范的可能性,在与职能部门的交流中释疑增信,在思想的碰撞中激发新的思考,这本身就是一种建设性成果,是为人工智能发展注入人文关怀的有益实践。


■“技术之手”会加深社会不公的沟壑吗?

上世纪30年代,喜剧大师卓别林自导自演了一部经典电影《摩登时代》,描绘了第二次工业革命后底层工人被“机械化”洪流裹挟的无奈。

在历史长河中,每一次重大科技变革都会对既有社会秩序构成冲击,人工智能也不例外。

会上,张大方常委表达了自己的担忧:“由于数据质量和算法的原因,很多人工智能软件蕴含性别、年龄、种族歧视,很难发现也很难消除。一些掌握先进人工智能技术的企业或个人可能会利用优势地位获取更多的资源,影响社会公平。”

这当然不是危言耸听。

前不久,一篇《外卖骑手,困在系统里》的文章在网上刷屏。为提高配送效率,骑手们在平台算法的控制下疲于奔命。这一报道击中了很多人的痛点:我们会不会也被算法操纵?

与骑手困境形成对比的是平台企业由此获得的丰厚资本红利,李迎新委员由此提出疑问:巨型网络交易平台获得价值密度极高的“大数据”,进而以“精准营销”等方式获取商业利润,这种分配机制是否公平?是否可能导致收入差距的进一步加大?

其实,如果把问题放在当前的历史节点中审视,就能更深切地理解这种担忧。

刚刚结束的十九届五中全会首次提出把全体人民共同富裕取得更为明显的实质性进展作为远景目标。这意味着我们要继续把“蛋糕”做大,还要进一步把“蛋糕”分好。显然,任由技术的无形之手加深社会不公平的沟壑,不是这个时代应有的价值观。

“上限不能过,底线不能破,红线不能踩。”张大方说,应强化政府引导、行业自律、企业自觉及公民共识,让每一个人都能成为人工智能受益者。

“任何一项新技术的出现都可能带来就业、收入分配等方面的社会问题。”会上,相关部委负责同志回应了委员的担忧并表示,问题确实存在,但无需过虑,因为技术导致的公平问题是可以在发展过程中得到克服的,这已被历史所证明。

“既不要把人工智能看成洪水猛兽,也不能放任不管,要用发展的眼光看待发展中的问题。”汪鹏飞委员说。

也许,相对于简单的道德审判,我们更需要做的是完善相应的制度设计。守住现实社会的公平底线,“算法偏见”就不会有机可乘。


■“弱人工智能时代”的数据安全

1951年,计算机之父阿兰·图灵(AlanTuring)曾提出:"如果机器能思考,那么它很可能比我们更加明智……这种新的危险当然让我们焦虑。”

危险有多远?这是很多非业内人士共同的问号。

为筹备这次会议,全国政协调研组赴安徽、江苏、北京开展专题调研。调研中,大家看到了人工智能在交通、家居、医疗、媒体等诸多领域的应用场景,也由此深化了一个认知:我们仍处于“弱人工智能时代”。

弱人工智能指的是只能解决特定领域问题的人工智能,它还不具备自主意识。强人工智能的“奇点”到来还有多久,在科学界依然没有最终定论。因此,王小川委员建议,“讨论伦理及法律问题,‘长远’和‘眼下’要分开看。”

前景不明朗,就不能过早“画地为牢”,委员与部委负责同志一致认为,要“让子弹飞一会儿”。

与其忧心尚未发生的威胁,不如聚焦业已存在的风险。现实中人工智能技术应用的突出风险是什么?不少委员谈到了数据隐私与安全。

疫情期间,“刷脸”成为大多数人通行必不可少的步骤。“人脸、指纹、DNA等生物特征数据,个人医疗档案数据等都具有唯一性,一旦被采集到不安全的网络上,极有可能引发巨大社会风险。”从事网络安全技术行业的谈剑锋委员指出了问题的关键。他建议采取负面清单模式,限制企业自行采集收集和垄断数据,同时对不可再生数据进行统一管控。

会上,黄爱龙委员谈到App个人信息被过度采集,姜伟委员谈到数据的权属不明确,黄锦辉委员谈到要监管企业所使用数据的质量,虽意见各有不同,但立场都是一致的:保护数据安全刻不容缓。

对于数据安全要明确法律上的红线,这项工作已经开始——今年出台的民法典对收集、处理个人信息作出了明确规定,全国人大也把个人信息保护法、数据安全法列入了国家五年立法规划第一序列。会上,相关部委负责同志的积极回应又给大家吃下一颗定心丸:数据权属的界定与更严格的数据隐私保护规范已纳入决策层的考量范围。

当一个问题反复出现在社会公共议题之中,往往就是问题得到解决的契机。对于保护数据安全,我们或许可以抱有更多信心。


■抢占制高点

前沿和关键领域的技术创新,向来是传统工业强国的主战场。幸运的是,在人工智能领域,中国已跻身国际“第一方阵”。

人工智能依托大数据而生,以应用场景为核心,而中国庞大的互联网体量和丰富的场景应用,是人工智能发展最丰沃的土壤。

我们探索建立人工智能发展“规则”,不仅是防范潜在风险的需要,也是抢占国际竞争制高点的必然选择。

现在,美欧等国家以“共同价值观”划界全球人工智能治理版图的趋势日盛。“伦理法律问题已成为全球人工智能话语权和主导权竞争的焦点。”会上,相关部委负责同志如是说。

好在,研究探索伦理法律问题的“中国实践”已经拉开帷幕。全国政协社法委副主任陈智敏认为,应充分利用我国人工智能发展的比较优势,在人工智能治理的国际规则制定上占据主动、拥有更多话语权。

会上,陈群常委建议在国家层面上加快相关制度创新,布局建设人工智能认证体系和全球赋码系统,以我国超大规模应用市场为牵引,对全球人工智能产品开放登记和提供法律保护,推动我国相关法律法规更多成为国际通行规则。对此,清华大学法学院院长申卫星建议构建综合性立法和具体场景立法相结合的“总-分”式立法体系,他说,这种设计将有利于增强国内外对于中国人工智能技术的信任度,提升人工智能国际竞争中的软实力。

1818年,英国的玛丽·雪莱创作了世界上第一部科幻小说《弗兰肯斯坦》,以远超时代的想象力虚构了一个“人造人”的悲剧。当时20岁的玛丽大概不会想到,两百余年后,一个万亿级人工智能市场已蓬勃兴起。

勇敢拥抱技术变革,是因为听到了潮水的声音。我们正在闯过布满暗礁的蓝海,与未来迎面相逢。(谢靓)

责任编辑:张红兵
视频推荐
相关新闻