法治网首页>>
互联网法治频道>>聚焦>>
情话APP说胡话,谁来管住它的嘴
发布时间:2019-11-20 10:38 星期三
来源:科技日报

于紫月

原标题:情话APP说胡话,谁来管住它的嘴

“你今天怪怪的。”

“哪里怪?”

“怪可爱的。”

当你捧着手机与追求者或网友聊天时,会不会被这样的话“撩”到?但在屏幕那一头的,或许不是满怀真情的他或她,而是一个恋爱话术APP。

近日,声称“帮你谈恋爱”的恋爱话术APP引发公众热议。不论是在开场、初聊阶段,还是在感情升温、邀约见面阶段,只要输入一方说的话,这类软件都可以把相应的回答选项奉上。然而,科技日报记者在试用了其中一款下载量较高的软件后发现,有些答语驴唇不对马嘴,甚至带有歧视、侮辱的意味。

那么,这类软件究竟是怎样被“炼”成的?为何会出现这些“跑偏”的答语?科技日报记者带着这些问题,采访了北京理工大学网络攻防对抗技术研究所所长闫怀志。

聊天机器人在恋爱场景的应用

“其实,恋爱话术APP就是聊天机器人技术在这种APP所营造的‘恋爱场景’的应用。”闫怀志表示,聊天机器人是目前常见的用来模拟人类对话或聊天的程序。本质上来说,这种恋爱话术APP,是大数据及人工智能技术的一种应用,类似的应用还有各种商务平台的客服机器人。

闫怀志介绍道,当前,此类程序多是通过线下搜集大量特定主题的聊天数据,后借助大数据分析处理算法,从海量数据中抽取对话要素,再设置对话场景,同时通过自然语言语义分析来判断用户意图,最后从数据库中找到最适合的语句去匹配回复。

也就是说,研发聊天机器人,首先要搜集大量的人类对话内容,将其整理成数据库,当用户使用时,软件再通过分析算法,把“候选答案”从库中“拎”出来。

“聊天机器人还拥有丰富的对话上下文场景库和强大的自我学习能力,基于与使用者的实时互动,习得新的对话和语境。”闫怀志说。

恋爱话术APP的研制也采用了上述方法,只不过因其应用为恋爱交友,所以可能还会加上恋爱场景特定的话语体系以及大量的网络流行语等。

记者了解到,恋爱话术软件可提供两大类服务:既可充当“替身”,直接替代使用者与对方聊天;也可做“助理”,向使用者推荐若干答语选项,供其选择回复。

APP上架审核尚处监管灰色地带

既然有强大的技术作支撑,为何此类软件还会说胡话呢?

“判断一个聊天机器人是否合格的标准之一,就是看其能否通过图灵测试。”闫怀志解释道,简单来说,图灵测试就是让机器人和人类分别回答测试者提出的问题,若机器人给出的30%以上的答案,让测试者无法判断这是机器还是人类给出的回答,那么就判定该机器人通过了图灵测试、其具有了人类智能。

显然,在当前丰富的语料库、强大的算法的支持下,恋爱话术APP通过图灵测试的难度并不大。“但恋爱话术APP等聊天机器人的智能程度,不仅取决于语料库丰富与否、算法强大与否,它还与聊天场景、大数据分析处理准确度及效率、人工智能推荐算法等多种因素有关。”闫怀志说。

在他看来,人类交流对话是一个相当复杂的信息感知与智能处理过程,而聊天机器人大多是简单地采用语言类型配对的技巧,缺乏人类逻辑推理与适时反应等能力。所以,该类APP给出的有些回答会驴唇不对马嘴。

此外,部分该类APP为营造恋爱聊天的特殊氛围,会预设一些比较暧昧甚至是轻浮的聊天语境或答复语句,这样不仅可能会造成答非所问,甚至可能会出现侮辱性的话语,给聊天对象造成心理伤害。

那么,针对该类APP出现的问题,目前我国是否出台了相关审核标准以规范手机APP上架?

“目前,我国只出台了一些原则性的规定,总体来看,手机APP上架审核还处于法律监管的灰色地带。”闫怀志说。

现阶段,大部分APP应用商店设置了开发资质认证审核、APP上架审核等基本审核规则,而且大都强制APP提供者承诺不违反现行政策、法律法规,并且要求APP提供者承担相应的法律责任,APP应用商店对此免责。“因为相关部门没有推出明确的规定,大多只能靠APP提供者自觉,这就造成了上架的APP质量良莠不齐。”闫怀志说。

当然,如果某款APP确实存在明显违反法律、道德的问题,即便是通过了上架审核,推广应用后也会遭到投诉,因此下架退市的案例也并不鲜见。“目前来看,营造良好的APP开发运行环境,需要APP开发者、APP商店平台、APP使用者和监管部门等各方面共同努力,减少不良APP对用户和社会造成的危害。”闫怀志说。

责任编辑:李晓慧