02-罗义云-企业专属Agent开发实践-美化版-20260115.pdf

1、企业专属Agent开发实践罗义云阿里云资深技术专家、PAI平台工程技术负责人CONTENT目录背景：企业用户Agent采用现状01问题：企业专属Agent的核心考量02解决：阿里云PAI的解决方案03业界趋势 企业级能力 数据工程 对效果和成本的考量不变的 基础模型 Agent框架变的基模能力越来越强，Agent RL技术成为热点Agent榜单一再被刷新2025年末，Manus被Meta收购111%2024年AI应用访问量增加5亿2024年涌现的AI应用数量中国企业正式投产大模型应用比例大模型企业市场的梦想与现实VS.41%9%2023 2027生成式AI市场年复合增长率亚太地区的CEO承认在

2、过去12个月未在公司内部采用大模型技术55.1%30%将GenAI从实验转化为生产实践的受访企业比例企业专属Agent需要考虑的核心问题数据安全权限隔离自主可控数据不出域数据加密精细化的权限管理开发生产隔离自主调优Human-in-the-loop关键问题1：数据不出域LLM服务用户VPC数据处理计算节点知识库Agent运行时外部数据数据源用户数据 LLM服务：最低要求是“数据不出公网”经过公网传输的数据最好加密，且用户能够自己管理秘钥 用户数据不出VPC安全域关键问题2：权限隔离（1）OSSAgent1Agent2Agent3Tool1Tool2Tool3odps 约束Agent对数据和工具

3、的访问权限 符合云的权限policy规范 支持自定义关键问题2：权限隔离（2）账号角色/用户组数据资源数据资源数据资源开发环境 用工作空间或者业务空间隔离资源 开发环境和生成环境在权限、数据和资源上隔离 支持云原生的鉴权方式如AWS IAM、阿里云RAM生产环境关键问题3：自主可控交付工具，而非解决方案平台无法覆盖所有业务领域的know-how，无法为最终效果兜底用户规模扩大时，平台的运维无法scale平台是为客户的业务团队提供支持，而非取代他们自主可控的工程链路任何改动都不应直接影响线上评测、AB测试、监控、回滚都是必要环节全链路的可观测性Bring-Your-OwnHuman-in-the

4、-loop工作流模式下，明确插入等待用户输入或需要用户确认的步骤Agentic模式下，关键工具执行之前需要用户确认Agent执行过程可以随时停止模型：允许用户自定义模型向量库：知识库可以接入用户自己的向量数据库框架：允许用户自己选择agent框架PAI-LangStudio：企业专属Agent基础设施Agent Builder支持workflow和代码两种模式框架无关、语言无关Agent部署基于PAI-EAS的云原生Agent serving平台，分布式、自动扩缩容Agent代码与配置分离，支持多环境迁移阿里云RAM和PAI工作空间提供的RBAC结合的鉴权能力数据安全域、加密（建设中）安全围栏

5、工具生态企业能力全模态：文本/图片/视频数据不出域支持用户自带向量库MCP广场自定义工具：workflow-as-tool、OpenAPI-as-tool，knowledge base-as-tool知识库自主可控离在线评测全链路tracingPAI-LangStudio开发者生态AgentScope支持框架Agent开发基建百炼：Qwen、DeepSeek等模型自建模型模型供给工具供给Agent开发进阶场景适配Workflow应用构建与调试一键部署服务容灾与高可用性能与稳定性内容安全审核存储与传输加密安全与隐私AI搜索应用效果调优强化学习模型微调模型能力调优安全沙箱环境预发生产隔离开发基础设

6、施智能设计智能客服Tool UseCoding IDETrace分析Prompt工程连接数据源弹性扩缩容指标监测与告警角色鉴权管理隔离环境部署上下文管理长短期记忆企业知识库（文件、视频等）效果测评自动规划迁移学习分布式训练资源管理数据分析语音合成深度研究视觉生成数据库-MCP Server路线查询联网搜索LangGraphAgnoCrew AIADK知识蒸馏自我进化PAI-LangStudio架构PAI-LangStudio知识库：全模态企业专属知识库数据源模态扩展全模态型知识库，可处理文本、图像、音视频等各类信息