当习近平主席提出开放共赢、安全可控、文明互鉴、多边治理四点意见,当主席声明围绕15个议题提出政策主张,当29国代表签署《关于成立世界人工智能合作组织的协定》——2026世界人工智能大会的政策议程标志着人工智能治理从原则性倡议进入系统性制度建设。这份全景分析报告系统梳理了主旨讲话的政策结构、主席声明的15项政策增量、智能体治理从输出安全到行动安全的范式迁移,以及全球治理合作的组织化尝试。
主旨讲话的政策结构——四点意见与四项结构性问题
开放共赢、安全可控、文明互鉴、多边治理
习近平主席在大会开幕式发表《携手构建公正合理的全球人工智能治理体系》主旨讲话,提出四点意见:坚持开放共赢、驱动创新发展;强化风险意识、确保安全可控;鼓励包容并蓄、促进文明互鉴;倡导和衷共济、完善全球治理。四点意见共同回应人工智能全球治理中的四类结构性问题:创新资源如何跨越国家和发展阶段流动,技术风险如何在规模应用前后得到控制,人工智能如何适应不同语言文化和社会制度,全球规则如何避免由少数国家单方面定义。
这一政策结构没有把发展与安全处理成相互抵消的目标。开放为创新扩散和产业应用提供条件,安全为规模部署建立社会信任,文明互鉴为技术进入不同社会提供合法性基础,多边治理则为跨境风险、发展鸿沟和规则冲突提供协商渠道。四者之间存在明确的政策递进关系:缺乏开放,能力与收益会进一步集中;缺乏安全,应用扩张可能放大系统性风险;缺乏文化适配,技术有效性和社会接受度都会下降;缺乏多边机制,各国即使面对相似风险也难以形成稳定的合作预期。
三项国际合作行动:5000培训名额、合作中心、“妈祖”30国应用
讲话提出三项国际合作行动:未来五年面向发展中国家提供5000个人工智能专题研修培训名额;面向东盟、阿盟、非盟、拉共体、上合组织、金砖国家建设国际人工智能应用合作中心;推动气象智能预警方案“妈祖”在30个国家应用。5000个研修名额属于未来五年的政策承诺,合作中心属于面向相关区域组织和合作机制的建设安排,“妈祖”方案在30国应用属于明确提出的国际应用合作目标。三者均不能据此认定已经全部实施,更不能将合作意向、项目签约、系统部署和持续运营视为同一状态。
主席声明15项主张的政策增量
创新、产业赋能、开源、数据、能源
主席声明围绕15个议题提出主张,其政策增量不在于每个概念都属首次出现,而在于创新扩散、产业应用、资源约束、社会影响、安全风险和国际制度被纳入同一框架。创新主张将“能否产生更强模型”扩展为“能否形成可持续、可进入且可治理的创新生态”。产业赋能主张由部署数量转向结果质量——采购标准、行业准入、效果评估和责任合同需要共同回答系统解决了什么问题、在哪些条件下有效、失败时如何降级。开源主张将开源从“开或不开”的二元选择转向分级评估,包括模型能力、发布对象、许可条件、安全文档和社区维护。数据主张不再只是“要素供给”,而被视为贯穿训练、微调、检索增强、智能体记忆和运行反馈的治理对象。能源主张将绿色发展从一般环境倡议推进到人工智能基础设施规划和成本核算。
安全、关键基础设施、智能体边界、国际经贸规则、标准互认
安全主张涵盖模型滥用、系统失效、内容风险和现实伤害,强调风险预防、监测预警和应急处置的连续性。关键基础设施将人工智能风险放到电力、通信、金融、交通、医疗和政务等公共系统中考察,关注风险跨系统传导。智能体边界将治理由“模型说了什么”扩展到“系统代表谁、可以做什么、实际做了什么、由谁承担后果”。
国际经贸规则承认治理要求已经影响服务贸易、数字产品和全球供应链,规则碎片化可能形成新的市场壁垒。标准互认推动术语、测试方法、证据格式和认证条件具备可比较性,从低争议领域的方法比对和联合测试开始,再逐步延伸至认证结果承认。文化多样性主张回应数据和模型能力集中于少数语言文化的问题,将文化代表性与技术质量、安全和公平联系起来。15项主张共同呈现出三层政策变化:治理对象由模型扩展到数据、工具、智能体、关键基础设施和劳动组织;治理尺度由原则扩展到测试、追溯、应急和互认;治理目标由风险控制扩展到创新机会、发展能力与文化代表性。
智能体治理——从输出安全到行动安全
身份、授权、计划、工具、记忆、行动、监督、责任八环节
智能体带来的根本变化是模型输出开始与工具调用、业务权限和现实状态改变相连接。传统生成式服务的主要风险集中在内容是否违法有害、事实是否准确、个人信息是否泄露;智能体可能代表用户发送信息、修改数据库、发起支付、编写并执行代码、调度设备,风险由表达层进入行动层。治理对象不再是单一模型,而是模型、数据、编排器、工具、身份系统、记忆模块、运行环境和人工控制共同构成的智能系统。
沿“身份、授权、计划、工具、记忆、行动、监督、责任”八个环节理解其治理机制。身份确认智能体服务何种主体及外部系统如何识别其代理属性。授权决定它可访问的数据、可调用的工具、可影响的对象和有效时段。计划环节识别复杂任务是否被分解为越权或高风险步骤。工具治理关注接口真实性、调用参数和返回结果。记忆治理处理长期保存、跨任务复用和删除纠错。行动控制决定哪些操作可自动执行、哪些必须人工确认。监督机制持续识别异常路径和累计风险。责任机制在事故后还原目标设定、权限批准、系统部署、运行干预和损害处置。
决策权限最小必要、行为边界三层并存、责任配置匹配控制能力
决策权限应采用最小必要原则,并与任务、时间和环境绑定。静态角色权限不足以治理智能体,因为系统可能将多个低风险动作组合成高风险结果。更有效的控制包括交易额度、工具白名单、数据域隔离、调用频率限制、一次性授权和权限自动到期。涉及资金、身份、生产环境、公共安全和不可逆数据变更的操作,应配置明确的人工确认与双重控制。
行为边界需要同时存在于政策层、技术层和运行层。用户协议中的禁止条款界定义务,系统提示约束计划,访问控制和执行网关负责强制拦截,实时监测发现规则未覆盖的异常。单靠提示词容易受到上下文污染、工具返回内容和任务冲突影响,不能承担最终安全边界。责任配置应与其控制能力、信息优势和收益相匹配——开发者控制基础能力与安全设计,部署者决定场景、权限和业务流程,工具提供方控制接口与执行条件,专业用户承担合理核验义务。系统自主程度越高,组织越需要明确谁有权批准上线、扩大权限、接受剩余风险和启动停机。
世界人工智能合作组织——组织化尝试与证据边界
29国签署协定、总部设上海、面向全球南方
大会期间举行《关于成立世界人工智能合作组织的协定》签署仪式,29个国家代表现场签署协定,总部将设上海。该组织定位为面向各国开放、支持全球南方提升人工智能创新、应用和治理综合能力的政府间合作平台。现阶段最稳妥的判断是:协定签署释放出组织筹建信号,并为后续制度化合作提出政治设想。
这一进展具有三方面政策意义:国际人工智能治理出现新的组织化尝试,反映部分国家希望在峰会声明和双边对话之外形成更稳定的载体;总部将设上海,可能为上海集聚国际会议、标准讨论、能力建设和项目合作资源创造条件;组织定位与全球南方需求相连,使发展能力不再只是全球治理的附属议题。
组织成立与制度判断的七层证据
对该组织的判断需要分别考察政治属性、法律状态和实施进展。协定签署表明签署方对文本作出正式签署行为,但不当然等于协定已经生效;协定拟成立一个组织,也不等于组织已经具备完整法律人格、预算、秘书处和项目执行能力;29国现场签署不宜直接改写为29个正式成员已经完成加入。组织成立、生效、成员加入、总部协定、秘书处运行和项目启动,分别需要相应文件或可观察事实支持。
后续制度判断取决于协定全文和配套文件,包括生效门槛、批准或接受程序、成员资格、表决方式、预算来源、退出机制、秘书处职能、总部法律地位及与联合国和其他国际组织的关系。在这些文件公开并进入相应程序前,不宜推断其已经形成稳定治理权威,也不宜将筹建目标写成运行成果。若组织逐步投入运行,潜在价值可能体现在政策对话与能力建设平台、跨国应用项目和公共产品合作、标准测试和治理工具交流三个接口。