法治号
2025年底，在“百模大战”的竞争版图中，“AI手机”异军突起。与传统的生成式AI不同，AI手机搭载深度嵌入操作系统的智能模型，掌握系统级权限，可跨应用调度资源。用户仅凭语音指令，即可完成订餐、比价购物、炒股甚至玩游戏等复杂任务。技术的飞跃，也带来规则的全新命题。当人工智能从“工具”进化为“执行者”——即“嵌入式/系统型AI”或“AI Agent”，法律将如何有效回应？
规则追不上算法
2025年初，就在监管与学界仍在为ChatGPT潜在的结构性风险探讨不休时，DeepSeek以开源策略重塑产业格局。与此同时，以字节、腾讯为代表的人工智能产业先行者，依托生态优势迅速完成AI产品的规模扩张。2025年10月，荣耀率先推出AI手机。很快，豆包手机面世。
技术狂奔令人振奋，嵌入式AI正成为主流商业方向。就在撰稿之际，“千问”发布了集成阿里系生态的外置AI管家；谷歌与苹果也于2026年1月启动Gemini 3视觉与空间推理合作。越来越多企业正在抢占AI系统操作层的蓝海。
嵌入式AI的竞争，也从技术能力的比拼扩展至规则制定权与接口控制权。掌握操作系统与生态整合能力的主体，天然居于支配地位，向下游服务施加持续影响。若规则长期缺位，结构性优势的代价，最终或将转嫁给用户。
于是，大家的注意力不再只关注“AI是否强大”，转而开始关心“如何让它更安全”。
何以应对风险？
在智能软件时代，用户习惯“一勾了之”，格式条款加一次性授权构成日常操作的常态。但嵌入式AI打破了这一平衡，它长期运行于后台，跨应用收集数据、构建画像，用户却几乎无法感知，更难以干预。
当AI误判致损时，责任归属更为模糊：是点了“同意”的用户、设备厂商，还是模型提供方？静态同意的制度工具，已无法覆盖动态、递进的应用风险。
嵌入操作系统的AI Agent，正如掌控全局的“管家”而非“租客”。它可将人脸、指纹、可信设备状态统一封装为“身份凭证”，无需应用重复采集即可完成认证支付。数据虽存储于硬件端，但用户若想“被遗忘”，却无从验证模型是否真正删除。
现行隐私保护制度仍基于“收集—处理—删除”的线性逻辑，对终端设备内部实时流动、微调用以优化模型的动态数据流，几乎无从监管。用户的维权成本，也随之攀升。
与此同时，长期被讨论的算法偏见，在嵌入式AI环境下已呈现更隐蔽的系统化特征。结构性安排差异化的信息呈现，足以重塑用户认知。
当智能推荐与商业模式深度绑定，“个性化”不再是中性工具，而是塑造市场竞争秩序的关键变量。值得一提的是，目前针对算法偏见的规范，仍零散分布于部门规章与《中华人民共和国个人信息保护法》中，缺乏体系性回应。
迈向系统性治理的三维框架
嵌入式AI本质上仍是计算技术，笔者认为，可从行业层面、用户层面、竞争层面三个维度进行制度回应。
从行业层面来说，主管部门应在现行规范基础上，聚焦系统行为的可识别与可审计性，为AI Agent制定专门技术标准及终端数据治理规则，使其走向“能感知、能审计、能追责”的可控路径。透明度义务可设定为三个层级：明确告知义务、合规审计机制、风险评估通道保留。在端侧数据治理层面，应建立合法调用数据清单，推动形成可验证的数据流访问流程，实质性保障用户的删除权与隐私权。
从用户层面来说，当嵌入式AI介入决策并实质性影响用户权益时，用户应至少享有知情权、解释请求权和合理质疑权。这些程序性权利不要求企业公开核心算法，而是要求企业对决策行为承担责任。只有当用户能够识别AI的介入、并获得质疑的有效回应，才能真正在技术浪潮中维系主体地位，为社会性规制提供内在约束。因此，将算法素养转化为程序权利，至关重要。
从竞争层面来说，我国近年来在差别待遇、算法滥用、平台排他行为等领域已积累相对成熟的监管逻辑与裁量经验。面对AI Agent可能引发的无序竞争，无需另起炉灶，而应在《中华人民共和国反垄断法》《中华人民共和国反不正当竞争法》框架内进行有限、精准的制度校准。重点应关注：厂商是否将自营产品默认为“最优解”？是否通过默认设置操纵推荐排序？是否通过不透明机制排除竞争对手？对此，须在个案中识别并纠偏，守住公平竞争底线。
（作者 朱轶扬 系华东政法大学法治化营商环境研究院兼职助理研究员）
编辑：唐亦轩