随着生成式 AI 与智能体应用加速落地，云天押注云端AI 算力需求正迎来结构性转变。励飞力新云天励飞董事长兼 CEO 陈宁在受访时表示，推理AI 产业正逐步由“以训练为中心”转向“以推理规模化为核心”的构探新阶段，2025 年或将成为算力范式演进的索AI算关键分水岭。

过去十多年，范式AI 产业的云天押注云端核心叙事始终聚焦于训练：模型规模持续扩大、算力不断跃升、励飞力新互联架构日益复杂，推理推动模型能力持续突破。构探然而，索AI算随着 AIGC 从技术展示迈向高频应用，范式算力需求的云天押注云端重心正发生转移。“训练解决的励飞力新是模型能不能变聪明，推理解决的推理是应用能不能跑得起。”陈宁指出，当 AI 深入大众化场景与业务流程，推理调用规模呈指数级攀升，算力系统必须同时应对低成本、高并发、低时延及可持续运行等多重挑战。

在这一背景下，推理已不再仅仅是训练的附属环节，正逐步发展为一个独立的算力赛道。尤其当智能体需要处理愈发复杂的任务链路——涵盖长上下文理解、工具调用、多模态输入以及连续交互等场景时，推理系统的压力将从“单点算力”向“系统吞吐能力与成本结构优化”转变。这意味着，若仍依赖以训练为核心的通用 GPU 架构来应对大规模推理需求，资本支出与运营开销或将急剧上升，进而对商业模型的可持续性构成严峻考验。

在推理新需求背景下，GPNPU 试图通过“架构取舍”来实现规模化经济性。

在中美算力竞争格局中，陈宁指出，训练领域对先进制程、互联带宽及生态成熟度的要求极为严苛，在先进制造工艺受限的现实下，差距客观存在且需长期投入才能弥补。然而，在推理赛道上，局面则有所不同：推理更像一个“在真实负载约束下进行系统最优化”的全新挑战。

随着应用规模不断扩大，推理计算内部已显现出明显的结构分化。例如，prefill 与 decode 在算力密集度、带宽需求和访存模式上差异显著：前者更侧重算力密集型处理，后者则对带宽和访存效率要求更高。陈宁据此认为，在推理规模化场景下，原本为训练优化设计的通用 GPU 架构更容易遭遇效率与成本挑战，这也为面向推理的架构及系统工程创新留下了广阔空间。

基于此判断，云天励飞提出并持续推动GPNPU架构。据访谈表述，GPNPU的核心并非单纯“堆砌算力”，而是围绕推理任务实现软硬件协同优化的系统级权衡，其核心目标可归纳为三点——

生态兼容友好：充分贴合主流训练生态与模型工程实践，降低模型从训练到推理部署的接入难度，有效削减用户在工程实现上的“迁移成本”。

针对推理场景的算子与数据流优化：推理阶段的性能瓶颈通常并非源于峰值算力，而在于算子组合方式、并发调度策略、缓存利用率以及内存访问效率；因此，架构设计应更加契合推理中常见的计算图特性。

用更低的单位成本实现更高并发：推理商业化的关键在于单位成本与单位能效的平衡，核心竞争力体现在控制成本的前提下，能够支撑多大的并发请求量以及维持怎样的时延稳定性。

“推理阶段真正的难点，并非单点算力的峰值表现，而是在单位成本可控的前提下，能够支撑多大规模的并发推理。”陈宁指出，GPNPU 致力于在契合推理负载特性的基础上，打造更经济高效的算力架构，为大规模 AI 应用构筑可持续的算力基础。

从终端到云端：云天励飞的推理芯片积淀与中长期战略布局

长期以来，云天励飞被外界视为一家“端侧 AI 芯片公司”。对此，陈宁强调，端侧只是公司早期的切入领域，而非长期定位。他回顾指出，在 2018 年之前，AI 仍处于智能感知阶段，端侧与小算力芯片更符合当时的落地需求；但从 2018 年起，公司已系统性布局边缘计算，并伴随 AI 应用复杂度的提升，逐步向更高算力层级演进。

从“积累”视角看，云天励飞在推理芯片上的技术积淀，呈现出一条反向演进路径：一方面，长期深耕端侧与边缘场景的实际落地，使其更早直面推理的真实约束——成本、功耗、时延、稳定性以及部署与运维挑战，而非仅停留在理想条件下追逐峰值性能；另一方面，伴随 Transformer 与智能体应用的兴起，推理负载日益复杂，企业亟需将对推理计算结构（如 prefill/decode 分化、并发调度特性、访存与带宽瓶颈等）的理解，深度融入芯片架构与系统软件的协同设计之中。

“做云端推理并非转型，而是顺应应用形态与算力架构演进的自然延伸。”陈宁指出，云天励飞现已构建起端侧、边缘与云端协同推进的技术体系。随着智能体、AI 原生应用及行业级智能系统的持续涌现，单一算力层级已难满足全面需求：端侧聚焦本地交互与隐私敏感任务，边缘承担区域级别的低时延推理，而云端则专注于高吞吐、高并发的大规模推理服务。因此，云端推理成为关键支撑环节，也是公司下一阶段的重点投入方向。

在政策层面，陈宁观察到国家已释放出明确信号。近期出台的“AI+”指导文件指出，到2027年，人工智能应用与智能体在重点领域的渗透率目标超过70%；至2030年，这一比例将逼近90%。

这意味着，在夯实基础能力的同时，中国正把应用落地与推理规模化作为关键发展路径。陈宁指出，真正推动产业革命的，不在于模型在实验室中的运行速度，而在于能否以足够低的成本、足够高的效率进入现实场景——这正是云端推理算力与推理芯片的核心价值所在。