AI Agent和端侧AI的广泛应用正在打开云端推理算力的增量空间。天风证券计算机研报指出,以Anthropic Claude Computer Use为例,单次使用成本为0.88美元,Composio执行4项简单任务花费30美元,代表了海量的tokens消耗。专业化端侧与全能云端协同是端侧AI的最优解——云端模型始终比端侧模型先进一个数量级以上。苹果Apple Intelligence通过对标GPT-4的云端模型处理复杂任务。AI Agent需要规划能力并多次调用大模型,随着端侧AI从“可用”到“好用”演进,云端推理算力需求将持续增长,国产算力产业链迎来发展机遇。
端侧AI的算力需求逻辑——云端协同是最优解
端侧AI面临“不可能三角”:性能、参数量和内存及功耗占用。性能优异需要大参数量,参数量大意味着内存占用和功耗大,功耗过大又会影响性能。
专业化端侧与全能云端协同是端侧AI的最优解。云端模型比端侧模型先进一个数量级——千亿、万亿参数的大模型整体智力水平持续领先。例如,谷歌轻量级小模型Gemma2 2B是从Gemma2 7B和9B蒸馏而来,微软Phi-3系列的多个版本在不同参数规模下表现差异明显,参数规模仍然是决定大模型综合能力的关键因素。
苹果Apple Intelligence通过一个对标GPT-4的云端模型Apple Server来处理复杂任务,这不仅是因为终端设备受限于芯片、电池和发热等因素,更是为端侧提供“无所不知、无所不能”的云端支持保留了重要接口。
纯端侧AI是各大厂商追求的终极形态,但不会太快到达。通过高质量数据、专业化目标任务训练以及云端隐私方案的混合协同与优化,端侧AI可以逐渐从“可用”发展到“好用”。
表5:云端协同的技术路径与算力需求| 协同模式 | 适用场景 | 算力需求 | 代表案例 |
|---|
| 端侧处理 | 简单推理、隐私敏感任务 | 低 | 手机本地AI |
| 云端处理 | 复杂推理、大规模任务 | 高 | Apple Server |
| 混合协同 | Agent多步规划执行 | 中高 | Claude Computer Use |
Computer Use的算力消耗实证——4项任务30美元
Composio开发者的测试直观展示了AI Agent的算力消耗。使用Claude的Computer Use功能执行4项任务:查找Top5电影并生成CSV文件、寻找某城市的最佳餐厅、在线订餐和购物。上述四项简单测试花费30美元,代表了大量的tokens消耗。
整个过程缓慢且经常超过API速率限制。简单的任务也需要反复看屏幕,这意味着更多的截图和Tokens消耗。单次使用Computer Use功能的成本为0.88美元,模型仍处于早期阶段。
从成本上看,AI Agent的大规模商业化仍需等待模型效率提升和算力成本下降。但这验证了核心逻辑:AI Agent需要规划能力并多次调用大模型,随着端侧AI应用普及,云端推理算力需求将呈现指数级增长。
国产算力机遇——从AI Agent到端侧AI的推理需求
端侧AI的广泛应用有望带来大量云端推理算力。AI Agent是端侧AI的重要一环,Agent需要规划能力+多次调用大模型,每一次任务执行都消耗大量tokens。
国内AI Agent应用正处于快速发展阶段。智谱AutoGLM在Android端实现了自然语言控制手机,微软Copilot Studio生态正在向国内企业客户渗透。随着AI Agent从技术探索走向商业落地,云端推理算力需求将持续增长。
建议关注国产算力相关标的:寒武纪(国产AI芯片龙头)、海光信息(国产算力芯片)、盛科通信(网络交换芯片)、神州数码(算力基础设施)、中科曙光(高性能计算)、景嘉微(GPU)。
投资建议——算力与应用双主线
AI Agent和端侧AI的投资机会沿着算力和应用两条主线展开。算力侧,AI Agent的tokens消耗将持续拉动云端推理算力需求,国产算力供应链面临历史性机遇。应用侧,AI Agent正在重塑企业软件和端侧硬件的竞争格局。
建议关注:国产算力(寒武纪、海光信息、神州数码、中科曙光)、AI应用(金山办公、金蝶国际、科大讯飞、泛微网络、致远互联)、端侧硬件(高通、炬芯科技、中科蓝讯、恒玄科技)。
风险提示:AI应用进展不及预期、算力受到制裁的风险、大模型技术推进不及预期。