2023年中国网络文明大会算法治理论坛在厦门举行

7月18日，2023年中国网络文明大会算法治理论坛在福建厦门举行。论坛以“算法治理向上向善 网络文明共建共享”为主题，依托人工智能技术新一轮发展浪潮，围绕新形势下的算法大模型发展与安全，深入探讨算法治理的新趋势新挑战，拓展算法综合治理新思路新路径，护航新技术新应用健康可持续发展。

论坛上，人民网、新华社、中国传媒大学、中国科学院计算技术研究所、中央广播电视总台代表，以及各单位国家重点实验室代表发表主题演讲，多方面阐述人工智能算法治理举措，推动人工智能大模型安全发展。

中国传媒大学副校长王晖在现场分享，国家网信办联合六部委推出的《生成式人工智能服务管理暂行办法》针对生成式人工智能算法做出了“以治理促发展”的管理定位，“科学监管”是其中的核心要义。生成式人工智能算法能否得到科学且有效的治理，是决定AI大模型可信、可管、可控与否的关键，也是媒体融合与传播国家重点实验室研究重心。治理方案的科学性具有规范化、全局化与一体化的特点。其中，规范化指算法应对齐主流价值观、匹配领域需求、符合用户认知；全局化指算法治理时要具有全局观，要从信息传播的全流程考虑可能产生的潜在影响；一体化指算法治理要与算力规划、数据治理、场景创新融合发展。

中国科学院计算所副所长程学旗表示，人工智能技术正在步入一个技术创新与颠覆式应用模式频现的爆发期，生成式大模型的爆发式涌现掀起新一轮发展热潮。同时，由于智能算法的算法缺陷、算法滥用、算法对抗等核心问题，引发诸如大数据“杀熟”、隐私泄露、信息茧房、认知极化、大模型安全问题等，为算法治理乃至社会治理带来新挑战。中国科学院计算所在落实算法综合治理方面，主要承担“智能算法安全重点实验室”建设任务，重点布局基础算法研究、支撑互联网算法安全治理和网络空间认知安全等方向，加快突破智能算法可信域判定、算法黑箱透明化监测、系统博弈临界点感知调控三大重点难点问题，持续加强智库力量与技术攻关，为算法综合治理提供有力支撑。

论坛现场，百度、阿里云、美亚柏科、美图等企业代表结合大模型领域的深入实践，围绕大模型的创新发展与安全风险进行圆桌研讨，交流经验做法，共商发展与治理之策。（罗晓英）