面壁智能发布ForgeKernel:AI自主生成算子,跨平台性能超越人类手写标杆

SmartHey11月3日消息,面壁智能智能进化实验室联合OpenBMB社区正式推出算子生成Agent系统——ForgeKernel。在一场历时22.5小时的公开直播实测中,该AI系统在不参考任何原始源码或论文的前提下,仅依据算子数学定义与硬件约束条件,从零自主生成高性能注意力算子。在英伟达B200硬件上,其最终实现的算子耗时472微秒,较DeepSeek-V4.1中人类手写的FlashMLA Prefill算子(518微秒)提速9.8%,整套系统已在GitHub全面开源。

FlashMLA是DeepSeek开源的高性能注意力核心算子,已集成至最新推理框架DeepInfer,代表当前人工手写算子的行业顶尖水平。本次直播全程无工程师编写代码,完全由ForgeKernel通过自进化迭代完成全部开发——包括架构探索、代码生成、编译验证与性能反馈闭环。

整场实测消耗1张B200 GPU(合计22个GPU小时),历经42轮迭代、产出32个版本。项目初期版本功能正确但耗时高达1834微秒;运行不足4小时即压缩至593微秒,性能已达人类最优实现的90%;第7小时实现关键架构突破,首次反超FlashMLA;直播结束时达成最终性能领先。

此前,ForgeKernel已在国产昇腾平台取得突破性成果。10月27日,昇腾CANN官方发布的CANNBench榜单显示,ForgeKernel包揽950DT、950PR及面向商用的A3(昇腾910C)三大硬件榜单冠军。

其中,950DT榜单得分4010.75分,领先第二名27.8%,基准加速比达1.533×,同等硬件下理论算力提升近50%,可显著降低企业AI基础设施部署成本;950PR加速比为1.638×;A3平台加速比高达1.898×。

该系统在CUDA与昇腾两大差异显著的软硬件生态中均登顶榜首,验证了其跨平台通用优化能力——无需重写核心逻辑,仅切换性能分析工具即可适配新芯片,硬件专属知识由AI在目标设备上自主测试积累。

长期以来,高性能算子高度依赖资深工程师手动调优,开发周期长、人才门槛高。尤其在国产新芯片发布后,常面临数月算子适配空窗期,难以匹配大模型快速迭代节奏。

团队同步发表论文《JustGoal:With Only a Goal,the AI Baseline Is Above the Expert Kernels》指出:仅给定优化目标(无先验知识),AI在B200平台10个典型算子中已有8个超越人类开源实现。但纯目标驱动模式存在局限——AI精于细节调优,却难独立完成整体架构设计。

ForgeKernel正是对JustGoal的关键升级:一、将架构设计与代码实现解耦,拆解为多阶段里程碑任务;二、构建硬件实测经验知识库,支持跨算子复用;三、以自身历史最优版本为参照,开展持续自进化迭代。

直播过程中,Agent自主识别出Q加载与KV数据搬运间的访存争抢瓶颈,并主动调整请求节奏,额外带来2.4%性能增益——此类深度硬件级问题,传统上需多年经验的专家才能定位。

综合测试表明,在29组主流算子对比中,ForgeKernel有24项达到或超越人类专家实现;且全面优于三套主流Agent系统公开的7个标杆算子。系统不绑定特定硬件,迁移至新一代国产芯片仅需更换底层分析工具,适配周期大幅缩短。

算力效率提升具有巨大产业价值。据Gartner预测,2026年全球AI基础设施支出将达1.48万亿美元,算力效率每提升1%,即对应约148亿美元经济收益。相较于高度成熟的CUDA生态,国产芯片算子库优化空间更大——ForgeKernel在昇腾等国产平台普遍提速20%–30%,在英伟达平台亦可稳定提升5%–10%,有力推动国内外算力底座性能趋同。

目前,ForgeKernel生成的算子已落地实际产业场景,成功接入训练框架,并在英伟达与国产芯片平台上完成MiniCPM5-1B长序列训练验证。行业正加速形成“国产模型写算子、国产芯片跑算子”的全栈闭环,也成为RSI(递归自进化)技术工程化落地的标志性案例。

过去,顶尖算子的重构与迭代往往耗费人类专家数月乃至半年;如今,同等难度的AI优化任务最快仅需不到两天。这并非替代工程师,而是重塑工作范式:工程师将从逐行手写底层代码,转向设定优化目标、搭建验证环境、审核结果可靠性,升维为系统级架构师。AI正以小时级迭代速度,高效弥合国产芯片“能跑”到“跑好”之间的关键软件鸿沟。