AI over Edge旨在复用移动通信网络的通信、计算和存储资源，实现AI服务在边缘侧的就近部署。鹏城实验室白皮书系统阐述了AI over Edge的关键技术体系：多模态感知与融合处理（自动驾驶每秒2.3GB数据本地处理）、模型轻量化与低时延推理（剪枝/量化/知识蒸馏使推理时延降70%）、云边端大中小模型协同（PipeSGL细粒度切分联邦学习/分布式投机采样）、AI Agent技术（记忆+规划+多智能体协同）、面向具身智能的端到端信息服务。本文深度解析AI服务边缘侧原生部署的技术架构。
多模态感知与融合处理
通信感知深度融合
AI over Edge需引入多模态感知和处理能力。自动驾驶场景中，单车多摄像机、毫米波雷达和激光雷达每秒产生约2.3GB数据。边缘计算在本地完成计算和决策，借助轻量级传感器融合算法与嵌入式数据预处理，在资源受限条件下提取高质量特征，满足20毫秒甚至更低的时延要求。在多模态融合方面，重点解决多模态数据特征的对齐问题，并保证部分能力失效时系统仍能安全、有效运行。
云边端大中小模型协同
三种协同模式
决策大模型与执行小模型协同——中央大模型根据用户输入进行意图理解和任务分解，编排调度边缘节点各种子任务AI模型。切分推理与切分学习——PipeSFL细粒度切分联邦学习框架通过优先级调度机制，优先处理性能最差客户端的激活值，避免服务器和边缘设备资源闲置。协作推理——分布式投机采样将草稿小模型下沉至终端、目标大模型部署在边缘，减少边缘节点冗余计算开销，推理吞吐量大幅提升。
AI Agent技术
记忆、规划、多智能体协同
AI Agent由感知、记忆、行动和规划四模块组成。核心功能包括：环境感知与记忆机制——持续收集网络状态信息，形成短期与长期记忆；自主行动与动态规划——基于强化学习与在线学习实时调整网络参数；多智能体协同——通过分布式协商与协同学习实现联合优化。边缘AI Agent采用层次化与轻量化的决策架构——高层基于轻量级强化学习分解复杂任务，低层依赖本地优化算法快速响应。
面向具身智能的端到端信息服务
感知-通信-计算-执行闭环
具身智能信息服务要求实现从感知、计算到执行的端到端闭环。关键技术包括：与通感深度耦合的端到端智能化服务——将“感知-通信-计算-执行”重构为协同优化整体；服务智能编排与开放——将各类具身智能服务原子化、模块化，构建动态编排引擎；边缘计算服务按需提供及生命周期管理——在智能体移动过程中实现服务无缝迁移；QoAIS保障技术——涵盖任务成功率、任务完成时间、能耗效率等多维度，跨层联合资源调度与优化。
AI over Edge的核心价值在于让AI服务“长在边缘”——通过多模态感知理解物理世界，通过云边端协同实现低时延推理，通过AI Agent赋予边缘网络自主决策能力，通过具身智能信息服务打通从感知到执行的闭环。当AI不再是云端调用的“远程服务”，而是边缘网络中“原生生长”的能力，6G网络就从“数据管道”进化为了“智能体”。
