数据治理规则无法覆盖智能体的长期动态处理,算法备案难以回应能力的持续变化,平台责任在多主体参与中失衡——现有数字治理体系正面临系统性适配不足。北京大学人工智能研究院与中国电子技术标准化研究院的报告揭示了智能体引发的六大规则适用困境,并提出了从数据到责任、从设计到运行的完整治理框架。
困境一——数据治理规则适用边界不清
《个人信息保护法》确立的处理目的明确、直接相关原则,在智能体持续交互场景下难以适用。智能体执行任务时会根据环境反馈调整方案,可能在初始授权之外继续调取地图、支付工具和通讯记录。欧盟GDPR同样强调目的限制原则,但对持续自主运行系统中的目的变化问题仍缺乏成熟制度回应。
长期记忆机制使数据生命周期管理面临挑战。旧数据可能在后续任务中被继续使用,使“撤回同意终止后续处理”和“处理目的不再必要”的制度功能难以落实。工具调用和多主体协作削弱共同处理、委托处理规则的可操作性,数据在模型研发方、运营平台、工具服务商之间流转,事前难以完整列明接收方并划定权责。
困境二——算法治理规则面临调整压力
算法透明度规则难以满足动态链式行为解释需求。智能体行为由模型推理、外部工具反馈、实时环境数据共同塑造,即使基础模型参数不变,接入不同接口后也可能形成不同执行路径。现行规则未建立针对单次动态行动的溯源解释义务。
算法备案和风险评估制度难以回应能力持续变化。智能体运行中可能不断接入新工具接口、外部数据库和第三方服务,新增资源未必落入“算法类型、服务形式变更”的触发范围。平台运营者能够设定运行规则,却未必能够实时干预每一次决策过程,现行法条难以依各主体实际控制能力拆分过错。
困境三——平台治理规则责任失衡
我国互联网治理以平台为中心,该模式以平台能够持续管理并有效控制服务过程为前提。智能体运行依赖基础模型、智能体平台、第三方工具、数据服务与用户共同参与,已突破单一平台控制的制度预设。
智能体大量数据经由外部数据库和第三方接口获取,内容生成与审核权限可能由其他主体掌握,平台即使完成自有环节合规,也难以实质审查外部资源中隐含的隐私、知识产权瑕疵。监管罚则和合规条款均以独立平台为监管单元,未针对跨平台协作制定责任划分细则。
困境四——伦理审查机制覆盖不足
在审查时点上,《生成式人工智能服务管理暂行办法》要求商用前完成一次性安全评估,但产品上线后因新增工具、拓展应用触发二次审查的法定情形尚未明确。在审查范围上,智能体重要伦理风险往往在落地使用并连续对接外部系统后显现,同一基础模型搭配不同工具可能导致风险层级实质变化。
现行伦理规制偏重事前风险筛查,缺少面向常态化运行的动态监管条款,未将运行周期内的持续性风险监测、不定期复核纳入强制合规义务。
困境五——工具接口规则约束不足
现有接口管理制度以用户直接发起操作为基础,缺少针对智能体自主跨接口调用的专项规则。智能体仅凭概括性任务需求即可串联多类应用接口,在未分项征得许可的情况下聚合访问权限。单项接口授权形式上合规,但权限叠加后的实际使用范围可能超出用户初始授权意图。
现行立法尚未划定权限聚合越权的合规判断标准。《生成式人工智能服务管理暂行办法》仅原则性要求人工智能运行接受人为管控,未就接口分级、权限回收、新增接口备案等场景设置具体条文。
困境六——责任救济规则制度短板
《民法典》过错归责和产品无过错责任均默认人类能够全程管控产品研发与运行,智能体风险却常在上线后通过自主学习、外接接口逐步形成,既难以归入产品先天缺陷,也难以精准判定任一主体的主观过错。民事诉讼举证规则与智能体案件证据分布不相适配,智能体决策逻辑、接口调用记录等关键数据多由平台和研发主体控制,普通权利人难以证明因果关系和各方原因力大小。