让生成式人工智能发挥更多效能

沈卫星 刘宇轩

前不久，国家网信办等七部门联合公布了《生成式人工智能服务管理暂行办法》（以下简称《办法》），旨在从技术发展、服务规范、监察及法律责任等方面推动实现生成式人工智能的规范应用与风险防范。

生成式人工智能作为一项重大突破性技术，不仅可以通过模仿、学习与人类展开对话与互动，还具有庞大的数据搜索能力、深度的文本识别能力以及高效的内容生成能力。然而，生成式人工智能技术是一把“双刃剑”，在为经济社会发展带来新机遇的同时，也带来不可预知的风险与挑战。因此，需要引导其发挥更多的正向效能，为人类谋福祉。此次《办法》的适时出台，为推动生成式人工智能健康发展提供了基本遵循。

一是技术发展要坚持正确导向。《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，特别明确了提供和使用生成式人工智能服务应当遵守法律法规、尊重社会公德伦理，坚持社会主义核心价值观，防止歧视信息生成并尊重知识产权。

二是明确新技术发展的依法治理方向。技术发展上，《办法》明确了推动生成式人工智能技术发展需要分为应用创新与核心技术创新两步走，鼓励生成式人工智能技术在相关行业组织及机构的应用场景与体系创新。技术治理上，《办法》在促进生成式人工智能技术长足发展的同时，用法律手段对技术应用可能出现的负面影响制定合理规制措施，比如要求生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动等。

三是确定权利义务以规范服务。《办法》从权利义务、具体服务与反馈机制三方面对生成式人工智能服务规范作了进一步的明确。在权利义务方面，明确提供者应与使用者签订服务协议进一步明确双方权利义务。在提供服务方面，提供者应采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。在处理违法内容时，明确发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改。

四是推动分类分级监管。《办法》在鼓励生成式人工智能创新发展的同时，对生成式人工智能产品和服务实行包容审慎和分类分级监管，并从提供者、使用者、有关部门等多个方面明确相应措施，如强调提供者应按照有关规定履行安全评估，算法备案等职责，明确使用者有权对违法违规行为向有关部门进行举报投诉，有关部门应开展监督检查工作，提供者应依法予以配合，并提供必要的技术、数据等支持。

当前，数字化产业正在飞速发展，其重要性不言而喻，生成式人工智能的发展应该为数字化产业赋能。《办法》鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新；鼓励生成式人工智能技术在各行业、各领域的创新应用，这为数字化产业发展提供了信心和保障。总之，生成式人工智能的发展与治理需要政府、企业、社会、网民等多方参与，共同促进，这样才能让生成式人工智能技术更好造福人类。

（作者分别系浙大城市学院文明与传播研究院研究员，中国政法大学光明新闻传播学院博士生）