达摩院首席科学家孟建熠：模型创新为算力架构带来新机会

　　AI时代架构创新不断涌现，而DeepSeek的出现为整个AI市场带来了全新活力。近日，达摩院首席科学家、知合计算CEO孟建熠在2025玄铁RISC-V生态大会上表示，DeepSeek在一定程度上改变了行业对AI硬件架构的诉求，模型持续创新是所有算力架构的机会。对RISC-V发展而言，打造标杆产品是关键。

　　DeepSeek让大模型从云走向端
　　孟建熠表示，DeepSeek问世之后，业界中产生了三方面不同观点的争论：一是开源架构与闭源架构谁更好。DeepSeek证明了开源架构也有很好的表现。二是该用Dense模型还是MoE模型。前者是通用全能的模型，后者是更好的专家模型，二者各有所长。三是算力敏感与内存容量敏感之争。之前模型对算力的需求非常大，现在是容量很大，算力下降了，所以内存容量成为一项关键指标。
　　“DeepSeek在一定程度上改变了大家对AI硬件架构的诉求。”孟建熠认为。
　　模型深度优化为算力架构带来了全新可能。具体而言，一是MoE模型，以更低激活比达成更低的计算成本，并使模型的单机部署成为可能。二是稀疏计算与模型压缩技术，识别并跳过模型中不重要的计算节点（如权重接近零的部分节点），同时结合模型压信技术减少参数量。三是混合精度计算与量化技术，浮点计算转化为低精度计算（如INT8、FP8、FP16），同时保持模型精度。四是动态计算图优代技术，实时调整计算结构减少冗余计算。五是内存优化与数据流重构技术，减少内存访问延迟以及数据传输开销。六是分布式计算与负载均衡技术，将大规模模型推理任务拆分到多个计算节点，并通过负载均衡技术优化任务分配。
　　DeepSeek的出现，推动行业更加关注底层硬件能力的适配。“在很长一段时间里，大家都喜欢喜欢‘大炮打蚊子’，当然这样是效率很高。但是今天我们有了一个新思路——可以用软硬件融合的视角来看待整个AI的发展。”孟建熠强调，算力、内存、互联之间原有的平衡发生了剧变，对于新的算力架构机会而言，大家再次进入同一起跑线。同时，开源大模型单机部署成为可能，进一步推动实际应用落地。
　　另一个趋势是大模型走向趋同，帮助算子收敛。值得关注的是，大模型的参数量和计算量巨大,但如今算子的个数在逐步收敛，主要以矩阵计算为中心，而且通过开源相互学习正在走向趋同。
　　从云端协同的层面，DeepSeek帮助大模型从云走向端，由此也带来了几个变化：一是从算力瓶颈变为存储的带宽和容量瓶颈，容量瓶颈成为全量大模型最关键的因素，比如671B大模型。二是降低计算资源需求，让几T、几十T和几百T的算力成为可能。三是实现单机部署的可能，能够让开源模型被更多私有数据优化，形成私有解决方案。四是支持边缘设备，使得高性能AI应用能够在边缘设备上顺利运行。“大模型在云端的话，实施成本比较高，只有有限的企业可能在部分领域去应用，而一旦到了端侧，就有大量的应用都会发展起来。”孟建熠表示。
　　模型创新是算力架构的机会
　　当前算力基础是以GPGPU(CUDA)为代表的传统闭源硬件与生态，而DeepSeek、Llama、Grok等开源大模型不断涌现，给算力架构带来了新机会。当然，这个机会对所有架构都有效，并非只对RISC-V而言。如今，这些开源模型正在吸引更多算力架构，包括X86、Arm这样的传统CPU架构，DSA、ASIC这样的自研架构，以及以RISC-V为代表的开源架构。“我们都在一个新的起点上，现在就看谁能够跑得快。”孟建熠说道。
　　作为三大主流指令集架构中最灵活、最开放的一个，RISC-V适应了AI时代的技术创新节奏。它在原生AI支持上，拥有开源与开放架构、更易实现的软硬件协同设计、更优的能效比，以及覆盖全球、不断成熟的生态。在孟建熠看来，“RISC-V架构+AI”是以AI原生成为架构创新的最终答案。随着开源RISG-V架构的快速发展，重新自研架构已意义不大，以RISC-V为基础构建处理芯片是未来的主流。
　　RISC-V在AI领域具备很高的包容性，可以支持做CPU/DSA，也支持做GPU、多核产品或者近内存计算。“大家可以在硬件上不断创新，而生态上统一在RISC-V。尽管目前有不同的实践方案，但最终一定会走向生态统一。”孟建熠表示。
　　RISC-V如何真正走出来，是备受业界关注的一个问题。发展至今，RISC-V生态已经慢慢建立起来，从IoT等功耗敏感型场景向服务器等高算力场景成长，从纯通用计算向AI计算与通用计算融合成长，其中已经有了一些标杆性产品。
　　打造标杆产品是RISC-V成长路径的关键环节。孟建熠指出，RISC-V发展中的一个新趋势是从“小标杆产品”向“大标杆产品”成长，引领软件生态加速配适，吸引产业资源加大倾斜。
　　实际上，国内外企业都在尝试打造RISC-V的标杆产品。比如，国内的达摩院2022年发布了基于玄铁C910 RISC-V核的4核产品，推动了包括安卓在内的软件厂商加入RISC-V生态。国际上，Tenstorrent、Vantana和SiFive等企业也推出一些标杆产品。其中，Tenstorrent最新的RISC-V核“Ascalon”采用了CPU中少见的8-Wide指令集解码器设计。孟建熠认为，下一代RISC-V标杆产品在服务器场景、AI PC场景、AI场景有着一些关键指标。要真正从产业中走出来，性价比很重要。
　　“标准建设是RISC-V下阶段发展的重中之重。”孟建熠表示，国内产业需要在标准建设中尽快形成合力。目前，国际上在指令架构上的贡献明显高于国内，国内力量的参与度还不够。国内已经建立多个组织，都在进行相关的指令集的制定工作，需要联合起来统一到一个平台工作。另外，技术路线上要考虑相对集中，以AI为目标先做一轮国内制定标准的尝试。此外，计算原语是相类似，所以CPU、GPGPU、TPU在扩展上要形成一定的梯度，不能把指令集做成很多套并行大而全的扩展，这样生态无法形成。