光大证券研究所报告显示，近一年LLM推理端降本超预期，GPT-4o相比GPT-4输入价格降为1/12、输出价格降为1/6。OpenAI o1基于强化学习推理和思维链技术，在编程和理科竞赛中展现全局思维能力，Agent成为通往AGI的正确道路。推理成本下降使更多AI应用商业可行，赋能下游应用端加速发展。
推理成本超预期下降——从GPT-4到GPT-4o的12倍降幅
大模型参数Scaling Law已接近上限，但同等量级参数模型的调用成本快速下降。GPT-4o相比一年前的GPT-4，输入价格降为1/12、输出价格降为1/6。从Claude 3 Opus到GPT-4-Turbo，再到GPT-4o、Gemini 1.5 Pro，顶尖模型的调用价格逐步下降，主要得益于算力层、基础设施优化和模型技术迭代联动。对下游应用厂商而言，这一预期赋予了AI应用价格战的空间，短期的亏损可能被未来下降的成本与更大的市场占有率所抹平，可预期大模型市场的用户争夺将更为激烈。推理端降本有望大幅提振应用端需求，AI应用的性价比提升将开辟更多商业化路径。
Agent——打破AI应用发展瓶颈的关键
当前LLM在文本处理上表现优异，但AI应用产品形态同质化，用户付费意愿不足。AI Agent应当拥有自主理解、规划和执行复杂任务的能力，将简单的指令自主拆分成多个步骤并精细化执行。OpenAI o1在编程、理科竞赛等推理密集型任务中性能明显优于GPT-4o，展现出一定的全局思维能力和自主规划能力。强化学习推理产生了新的Scaling Law——self-play通过自主博弈生成高质量数据，突破外部训练数据用尽瓶颈；蒙特卡洛树搜索（MCTS）具备自主探索和连续决策能力，更适应Agent全局规划需求。新的Scaling Law下推理算力需求大幅上升，但不代表训练算力需求停止增长。
AI Agent商业化落地——Agentforce、Amazon Bedrock Agents
Salesforce于24M推出Agentforce AI代理平台，能够自主分析数据、做出决策并执行任务，通过简单点击而非复杂编码即可定制部署AI代理。Wiley使用Agentforce解决案例速度比以前的聊天机器人快40%以上，推出一周内交付200笔交易。Amazon Bedrock Agents把开发、部署和管理多个Agent的能力打包集成，核心功能是“添加动作组”，输入具体任务及可调用的大模型、函数和工具。TARS-RPA-Agent可以模拟人类行为对电脑软件完成操作，将订票指令自主拆解成登录购票网站、查询余票、完成预订等步骤。Agent技术的发展将打破AI应用发展瓶颈、提振投资情绪。
AI应用成本收益临界点临近——投资建议
推理成本下降使AI应用的成本收益临界点加速到来。23-24年大模型技术迭代方向主要为推理端降本、多模态、低延迟，契合企业级AI生产力工具要求。低延迟对于AI生产力工具的使用体验提升明显，Copilot等AI办公工具需高频操作，由传统模型向多模态模型过渡有望提升用户付费意愿。建议关注直接受益于推理降本和Agent趋势的IT运维（ServiceNow）、企业工作流（微软、Salesforce）领域，以及AI编程（GitHub Copilot）等低代码应用。
主流大模型推理成本与性能对比| 模型名称 | 推出时间 | 输入价格（$/1M Tokens） | 输出价格（$/1M Tokens） | 性能评分 |
|---|
| GPT-4（2023.03） | 2023/3 | 30 | 60 | — |
| gpt-4-turbo（2023.11） | 2023/11 | 10 | 30 | 74 |
| GPT-4o（2024.05） | 2024/5 | 2.5 | 10 | 77 |
| Claude 3.5 Sonnet | 2024/6 | 3 | 15 | 77 |
| Gemini 1.5 Pro | 2024/9 | 1.25 | 5 | 80 |
| o1（2024.09） | 2024/9 | 15 | 60 | 85 |
