北京大学人工智能研究院与中国电子技术标准化研究院联合发布的这份智能体研究报告，是国内首份系统性梳理智能体技术特征、伦理风险与治理框架的综合性研究。报告指出，智能体已从生成文本走向自主执行任务，其风险边界正从信息传播延伸至人身安全、公共秩序与人格尊严。报告提出了以人为本、风险分级、全生命周期治理的完整框架，为中国智能体伦理治理提供了系统性方案。
研究背景与核心问题
近年来，生成式人工智能由内容生成转向任务执行。具备规划、工具调用、环境感知、持续交互和自主执行能力的智能体，已进入办公、制造、交通、医疗及公共服务等场景。传统生成式人工智能主要响应单次指令；智能体则围绕目标拆解任务、制定方案、调用工具，并随环境变化调整执行。
智能体可读取数据、运行程序、操控设备并协同作业，影响延伸至个人权益、市场交易、机构运转和公共管理。在医疗、交通、金融等高影响领域，治理已涉及生命健康、人格尊严、公平正义、社会信任与公共利益。但现有规则多围绕数据处理、内容生成和平台服务设计，难以覆盖智能体长期运行、动态决策及工具调用，责任划分出现适用难题。
五大技术特征与能力分层
报告系统梳理了智能体的五大技术特征：目标导向性——用户提出结果要求，系统自行选择行动路径，由被动响应工具转向任务管理者。持续决策能力——前一阶段结果成为后一阶段决策依据，行为难以由初始提示词完全预测。记忆积累能力——借助外部数据库和向量存储保存历史信息，个人信息处理由离散转向持续。工具调用能力——可连接搜索、数据库、支付及物理设备，错误可能直接导致交易执行或设备控制。协同运行能力——多智能体分工协作，最终结果难以归于单一模块。
按自主程度，智能体可区分为辅助型、协作型、审批型和自主型。能力提升主要表现为自主行动和环境交互能力增强，其社会影响范围也随之扩大。
六大伦理问题与六大规则困境
报告识别了六大伦理问题：身体安全与生命健康风险、隐私保护与数据伦理风险、人格尊严与人机关系风险、公平使用与差别影响风险、空间秩序与公共安全风险、责任归属与损害救济风险。以及六大规则适用困境：持续交互场景下数据治理规则适用边界不清、自主行动能力扩展使算法治理规则面临调整压力、平台治理规则在智能体生态中呈现责任配置失衡、伦理审查机制对高风险动态应用覆盖不足、工具接口规则对越权行动风险约束不足、责任救济规则在行为后果分配中存在制度短板。
治理框架与政策建议
报告构建了完整的智能体伦理治理框架：以人为本为原则、风险分级为方法、全生命周期治理为路径、工具调用控制为关键、多智能体协同为补充、责任配置为保障。实施机制涵盖完善标准体系、建立伦理风险评估制度、强化运行过程合规管理、健全用户权益保护与救济机制、推动伦理治理与技术治理协同、构建多元协同治理格局。
报告建议我国应结合国情加强部门协调，在防范风险的同时保留创新空间，从统一笼统的监管转向基于风险的分类分级治理，由单一的事前审查发展为覆盖研发、部署、运行和退出全过程的生命周期治理。
