法治号
法治日报全媒体记者 陈丽平 韩潇 通讯员 张明哲 王铮
9月15日，北京国际会议中心，第十三届北京香山论坛启幕，各国防务代表、权威智库专家齐聚一堂，共议全球安全变局、共探和平治理路径。
作为本届论坛最具前沿性的议题之一，第七平行分组会议聚焦新兴技术军事应用的风险与管控，紧扣时代变局、瞄准安全前沿，展开务实深入的跨国对话交流。
前瞻之变
技术融合迭代催生复合隐患
讨论从技术本身演进与风险切入。阿联酋外交与国际合作部前助理部长、退役少将凯特比指出，人工智能虽可处理海量信息，但原始数据难免残缺、偏颇甚至被人为篡改；算法运行过程不透明，决策者很难第一时间辨别输出信息真伪。泰国前驻华副武官、陆军大校南塔希介绍，人工智能的推理过程难以被人类掌握，时常生成错误内容，而算法“幻觉”被黑箱遮蔽，进一步加大了甄别虚假信息的难度。荷兰海牙应用科技大学人工智能与数据科学教授斯特吉乌拉斯也警示，算法带来的不可预测性会被对手利用，借机实施干扰与信息欺骗。一旦预警系统遭数据篡改，触发虚假警报，后果将不堪设想。
与此相对应，风险隐患必将随技术融合迭代持续显现。印度三军研究所杰出研究员、退役中将潘瓦尔表示，现代对抗早已跳出单纯攻防的传统模式，转向多域联动的体系化较量。网络、太空、认知域与人工智能相互叠加，催生出盘根错节的复合型风险。一旦人工智能接入关键指挥控制系统，还将压缩决策者独立判断的空间。斯特吉乌拉斯也提醒，致命性自主技术投入使用，将直接对人类生命安全构成更大威胁。
从专家讨论看，技术之“变”带来全新安全挑战，但现有全球治理体系却难以跟上技术发展步伐。当前风险管控面临哪些深层次困惑，成为会议中讨论焦点。
多边之困
规则滞后与博弈羁绊交织
与会专家坦言，当前全球对新兴技术的风险管控依旧困难重重，突出表现为规则滞后、机制缺位、执行偏弱、共识有限。现行战争法、国际人道法诞生于传统物理对抗时代，面对新技术催生的各类行动，在行为界定、禁令红线、追责机制等方面存在不少空白。技术跨域发展、虚实边界模糊，军民主体相互交织，不少活动得以规避约束，违法成本较低。单边主义、阵营对抗思维依然作祟，各国治理各自为战，缺少常态化多边磋商、风险预警和危机管控渠道，面对跨国安全威胁难以形成治理合力。
大国博弈裹挟其中，更让规则谈判之路步履维艰。阿根廷国防部前国务秘书、对外经贸大学中国阿根廷研究中心阿方主任马可为认为，各国在人工智能治理上各执己见，背后折射出博弈带来的政治偏见。多国呼吁出台具备法律约束力的管控规则，但联合国框架下的相关谈判进展遇阻。他呼吁大国扛起责任、展现担当，为推动国际规则落地作出更多努力。
从专家讨论看，除了宏观层面的规则滞后与机制缺位，重点目标都在向技术运用的微观层面聚焦。面对跨国安全威胁，唯有厘清责任边界、凝聚多边共识，才能为全球长治久安助力。
共识之基
坚守人类共建共治安全体系
会议最后阶段，与会人员将焦点对准责任归属与未来出路。清华大学战略与安全研究中心副主任肖茜谈到，人工智能飞速迭代，部分智能体可自主搜寻网络漏洞、发起网络攻击，一旦酿成损害，究竟该由谁担责，已是绕不开的现实难题。军事科学院军事法制研究院副研究员商世民分析，人工智能的不当运用，会同时伤及公共、私人乃至全人类共同权益，如何找准责任主体，是摆在国际社会面前一道棘手的法律考题。凯特比则强调，国家与人类必须为人工智能的行为负责，坚守“人类控制”原则，才能形成完整闭环的责任链条。
大家普遍认为：国际社会应当牢固树立共同安全理念，以法治划定行为边界，以技术筑牢防控堤坝，以合作凝聚集体力量，不断完善相关领域治理规则，健全全链条风险管控体系，深化多边安全协作，化解技术军事化带来的各类风险，维护网络空间和平稳定，为全球长治久安筑起坚固的数字安全防线。
从“前瞻之变”的风险扫描，到“多边之困”的坦诚剖析，再到“共识之基”的凝聚升华，第七平行分组会议为前瞻科技安全治理勾勒出清晰的问题图谱与行动方向。在技术迭代加速、安全挑战交织的当下，唯有坚持多边主义、强化大国担当、完善规则体系，方能将前沿技术真正纳入人类可控、可治、可期的安全轨道。
【评议与展望】
以法治确定性对冲技术不确定性
法治日报通讯员 王铮 郭中元 洪流
本次平行分组会议汇聚中国、印度、荷兰、阿联酋、泰国、墨西哥等多国代表，围绕新兴技术军事应用风险管控展开对话，提出一道关乎全人类的法治命题：面对网络技术、人工智能加速向军事领域渗透，国际法治应当如何适配技术高速迭代的时代现实。
技术变革迭代不息。无人机、无人艇、无人潜航器大量投入应用，蜂群战术走向实战；人工智能深度介入指挥决策，算法博弈重塑对抗逻辑；网络空间军民设施混用，平战界限日渐模糊。与会专家表示，新技术赋能防务能力的同时，风险相伴而生，军备竞赛、战略误判升级、技术扩散滥用、冲击国际人道法等挑战持续显现。局部冲突实践警示，一旦武器响应速度快于人类决策节奏，算法黑箱遮蔽决策透明度，缺少约束的技术力量便存在失控风险。人工智能演进至智能体阶段，可自主开展长期行动，除自主武器、武装蜂群之外，还存在介入核指挥体系的潜在风险。同时人工智能重构敌对组织模式，大量冲突阈值之下的破坏活动，大幅提升事件溯源与问责难度。
风险根源不在于技术本身，而在于规则供给不足。与会专家指出，当下并非治理倡议缺位，而是各类方案层出不穷，但核心概念、自主化边界、人类控制标准未能达成全球统一，中等国家承受显著外溢影响。所谓治理赤字，本质上是规则赤字。法治的核心价值，就是以制度的确定性对冲技术发展的不确定性。
推动新兴技术军事应用回归法治轨道，需要多方面协同发力。第一，完整适用国际人道法。日内瓦四公约及其附加议定书确立的区分原则、比例原则，不会伴随武器技术更新而过时，达不到人道法要求的武器不得投入使用。第二，牢牢守住人类最终责任底线。武器可以具备自主能力，但法律责任必须归于人类。借鉴阿联酋专家提出的五项原则，秉持“主权而不孤立、合作而不依附”的治理观，反对“先部署后规制”，平衡安全保障与负责任创新。区分认知人工智能与智能体人工智能差异化风险，针对认知俘获问题强化指挥员训练；针对智能体越权、开源模型扩散风险落实风险缓释举措。第三，推动法律红线前置落地。多数代表支持中国提出的对自主武器系统实施分级分类管控的立场，同时强调该机制落地，前提是各国就技术分类标准凝聚共识，该路径不排斥谈判缔结具有法律约束力的国际文书。此外，应当深化国际协作，完善信息共享，搭建统筹军事、技术、犯罪、伦理要素的综合安全治理框架。
在规范新兴技术军事应用领域，中国坚持理念与实践相统一。我国在《特定常规武器公约》框架下提交立场文件，发起《全球人工智能治理倡议》，发布多份军控领域白皮书，倡导以人为本、智能向善，提出分级分类管控思路；国内不断完善出口管制、数据安全立法，将两用物项跨境流动纳入法治管理，切实履行负责任大国义务。
放眼未来，机遇与挑战并存，治理方向已经明确。《特定常规武器公约》框架下致命性自主武器系统专家组会议已就报告达成协商一致，尽管报告尚不具备法律约束力，但厘清基础概念，为后续审议大会磋商打下基础。联合国秘书长、红十字国际委员会均呼吁加快推进自主武器国际立法，规则磋商的时间窗口已经开启。各国应当相向而行，以对话代替猜忌，以多边协商代替单边专断，以开放包容代替阵营对立。主要军事大国应当展现政治意愿，充分兼顾中等国家合理诉求，在概念界定、风险识别、分级管控等领域凝聚共识，把风险防控做在冲突发生之前。
历经二十年发展，北京香山论坛已经成长为全球安全治理的重要多边平台，平等、开放、互鉴是其生命力所在。期待论坛能够将专家研讨形成的共识转化为务实行动，推动新兴技术运行在法治轨道之上，使之成为增进人类福祉、维护世界和平稳定的积极力量。以法治引导技术向善，既是本届北京香山论坛带来的重要启示，也是国际社会共同肩负的时代责任。
编辑：韩潇