法治号
因在百度搜索中检索“李小亮律师”等关键词时，百度“AI智能回答”竟生成“李小亮律师被判三年有期徒刑”的错误内容，并配其身着律师袍的照片，南京律师李小亮以名誉权受侵害为由，将北京百度网讯科技有限公司诉至法院。这场被媒体称为“中国人工智能大模型名誉侵权第一案”的诉讼经法院两审终审，认定平台构成名誉侵权。舆论认为，这一判决结果为如何平衡公民个人合法权益保护与AI大模型创新发展提供了借鉴。随着AI技术快速融入社会生活，平台需更加主动扛起主体责任，健全治理机制防范技术风险；监管亦需与时俱进，完善相关规范，为AI应用划清红线。
（来源：澎湃新闻）
执业律师被百度AI认定“被判刑三年”，法院审理划定AI服务法律责任边界，舆论认可相关判决的法律意义。据报道，2024年9月25日，原告李小亮发现在百度手机APP、百度网站搜索“李小亮律师”等关键词，相关搜索和下拉词条内容将其名字与“判刑”“开除党籍”等诽谤性词汇捆绑在一起。随后的搜索，百度“AI 智能回答”都给出“李小亮律师被判三年有期徒刑”的错误文字内容，并配上他着律师袍的照片。李小亮随后向百度公司发送律师函，通过百度推广咨询热线、北京政务热线反复投诉，但是上述核心谣言却从未彻底清除。李小亮遂正式起诉百度公司，要求删除全部不实信息、在百度首页置顶道歉8个月、赔偿误工费15万元及精神损害抚慰金等。面对起诉，百度辩称，AI幻觉具有不可预见性，属于技术发展初期的偶然现象，平台不应为此承担侵权责任。百度作为技术服务提供者应受“技术中立”原则保护，如果要求其对技术受限造成的结果承担侵权责任，则是过分苛责新技术研发。法院明确指出，百度“AI智能回答”将李小亮照片与判刑等虚假信息合成发布，内容指向明确，包含大量贬损性词汇，客观上必然导致当事人社会评价降低，百度公司存有过错，应当承担名誉侵权的法律责任。考虑到AI技术尚处于发展初期，且百度在事后采取补救措施，法院并未支持李小亮关于经济赔偿的诉求，仅判令百度书面道歉。
专家指出，相关案件具有鲜明导向意义。一是“技术不可控”不是免责金牌。东南大学法学院副教授徐珉川表示，幻觉是大语言模型内在的系统性风险，研发和部署者要对此有充分认识，并且有能力在事前采取预防措施，不能因为技术客观上不可控，就规避相应责任。本案中，百度AI并非简单中立转述，而是对信息进行错误加工、生成了新的虚假内容，因此无法适用“平台避风港”规则免责。同时，能不能提前预见到损害结果，并不是判断要不要负责的关键，关键是看公司是否尽到应尽的义务。该案的诽谤性内容属于可以提前防范的高风险信息，百度有能力却没做好，就要承担责任。二是技术创新不能牺牲或侵害公民合法权益。徐珉川等人指出，本案的裁判逻辑具有独特意义。一方面，法院对侵权行为给予明确的法律负面评价，倒逼相关主体依法依规开展创新活动；另一方面，坚持民事损害赔偿的“损害填平”原理，没有让个案风险过度溢出、打击整个行业的创新积极性。该案也警示相关企业和平台，在进行科技创新时，必须从尊重他人合法权益的角度，积极履行事前预防和事后补救的义务。三是为全球AI治理竞逐提供“中国思路”。南京大学法学院教授陈坤认为，与国外一些判例动辄高额赔偿不同，中国法院承认技术尚不完善的客观现实，没有在技术发展初期就施加可能压垮创新的过重责任，为AI企业留出了宝贵的试错和改良空间。同时，本案贡献了“司法审慎介入”的范例，在立法尚未跟上的领域，通过个案判决画红线、定规矩。此外，国际上多数AI侵权诉讼集中于版权经济利益，本案却直指人格权侵害问题，体现了中国司法对新技术风险的前瞻性应对，将治理焦点放在维护公民核心权益上。
“AI幻觉”引发的侵权问题已具有普遍性，需进一步压实平台主体责任，并完善法律、监管体系。中国政法大学人工智能法研究院院长张凌寒、华东政法大学刑事法学院副教授房慧颖等人建议，一是推动平台加强内容安全治理。平台应当构建精细化的治理体系，对于普通类别信息，例如生活资讯、娱乐消息，可以适当简化审核流程。但涉及“违法”“犯罪”等可能严重影响公民声誉的敏感信息时，必须使用权威数据库，或要求多重交叉信源验证，确保信息准确。同时，平台必须摒弃“技术万能、责任豁免”的错误认知，建立健全高风险内容事前审核、敏感信息精准核验、侵权内容快速处置的全流程机制，用行业最优可行技术防范幻觉侵权，从被动担责转向主动风控。
二是完善法律制度设计。法律在鼓励技术发展与保护个人权利间寻求平衡点，不应简单要求公众“容忍错误”，当技术应用对公民名誉权等法益造成现实且严重的损害时，法律必须提供有效救济。同时，在制度设计上，要确认模型提供者、系统部署者与工具提供方的注意义务与责任分配。生成式AI系统往往由模型、平台和工具多方共同构成，模型提供者、系统部署者以及工具提供方，在技术控制能力、风险可预见性与实际介入程度上存在显著差异。注意义务的强度应依据模型通用性、应用场景风险等级以及具体产品设计与部署方式加以判断。
三是推动监管模式与AI技术迭代适配。当前AI和算法治理已不能单纯依赖事后补救，要将监管重心更多地转向事前预防和事中管控。构建更加完善的事前预防治理体系，完善备案、标识、测评、安全港、监管沙盒等核心制度工具。要加强对AI和算法的事中管控，实现透明化、规范化监管。要基于信息公开原则，增强算法的透明度，要求企业对涉及公众利益、人身权益的AI算法，公开其数据来源、决策流程与算法逻辑。同时，要基于公众参与原则，开展算法影响评估，聚焦算法偏见、数据滥用、权益损害等潜在风险，邀请公众、专家、监管部门共同参与评估，及时发现并纠正算法中的错误与偏见。
参考资料：
1.百度AI侵权成立！“全国人工智能大模型名誉侵权第一案”在宁终审落槌：“技术失控”不等于平台免责
2.律师被AI错认“判刑”，AI幻觉不是平台免责牌
3.当AI成为名誉“杀手”
4.张凌寒：明确人工智能合理信赖边界 需要强化算法治理规范监管
来源：法治网舆情中心（ID：fzwyqzx）
策划统筹：付萌
分析师：赵鸽
新媒体编辑：刘思源
编辑：靳雪林