中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

文 / 梁添 

来源 / 节点AI 

算子工程师是AI时代的热门岗位,是AI工程里典型的脏活。

在国产芯片替代的浪潮下,他的日常大概是这样的:同一个算子,在英伟达上跑通了,换到华为昇腾要重写一遍,再换到寒武纪又是一遍。很简单,芯片不同,优化策略不同。

过去,英伟达一家独大,大家训练阶段都集中在这里,一套CUDA打天下。

但AI行业正在经历一次重心转移,训练出更大的模型不再是唯一锚点,而是能把模型部署到更多真实场景里,让智能体等应用落地。

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

智源研究院副院长兼总工程师林咏华现场发布众智FlagOS 2.0

这给了能承担推理任务的国产芯片一个机会,但别高兴太早,这导致算子工程师工作量暴增。

想要提高应用铺开的效率,有一个大前提,那就是有人把模型到芯片适配的那层脏活解决掉。

北京智源研究院(以下简称智源)试图做的就是这件事。

3月27日,2026年中关村论坛年会上,智源研究院副院长兼总工程师林咏华现场发布众智FlagOS 2.0。《节点AI》特意采访了林咏华,来试图通俗易懂的帮助大家了解智源发布这层技术栈的本意。

众智FlagOS 2.0解决了什么问题?

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

FlagOS 2.0的核心逻辑不复杂:在大模型和AI芯片之间建一个统一的中间层,让模型不必为每款AI芯片单独适配。

说起来简单,做起来难。

不同芯片的计算架构差异巨大,而AI推理对效率又敏感,这是一个经典的工程难题。

FlagOS 2.0在几个关键环节给出了自己的解法。

在编译器层面,智源提出了一种叫TLE的开发语言,试图让同一套算法描述在不同芯片架构上都能生成高效代码,无需重头写一遍。

值得关注的是,智源还推出算子自动生成平台Cog。

前面说的脏活,Cog的解决方案是用AI代替人来干。覆盖从代码生成、精度验证到性能测试的完整流程。

智源向《节点AI》透露了一个真实数据:同一个算子,Cog的生成速度是Claude Code的两倍,token消耗减少一半,生成代码的执行效率更高。

如果这个数据可靠,它意味着算子适配从手搓变成了自动化流水线,对整个国产芯片生态的推广效率是很大提升。

在覆盖范围上,FlagOS 2.0通过FlagScale插件体系,向上对接主流AI框架,向下连接芯片厂商的原生能力,把推理、训练、强化学习全流程拉通。目前已经支持18家芯片厂商、32款AI芯片。

我们了解到,FlagOS 2.0不是智源一家能做出来的。据介绍,项目背后有20家芯片厂商、76家企业的共同参与,所有协作都在开源平台上进行。

开源的现实账怎么算?

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

开源带来协作规模,但也绕不开一个现实的问题,谁来持续投入?

北京智源人工智能研究院副院长兼总工程师林咏华对这个问题的回应比较坦率。她告诉《节点AI》,智源做FlagOS 2.0的初衷是技术探索本身,目前还没有急着把核心技术直接商业化。

“这件事技术难度非常高,也非常深,需要聚合各方力量共同突破。核心技术团队以及合作伙伴,现在更关注的仍然是技术探索本身。”

但这并不意味着商业化被搁置。

林咏华透露,已经有不少操作系统厂商和系统集成商在与智源接触,希望基于FlagOS打造商业发行版。未来大致会形成两条路径并行的格局:智源继续推进统一技术栈的深度,芯片架构还在不断演进,存算一体、近存计算、3D堆叠等新方向都会带来新的适配挑战;商业化发行则交给更靠近市场的合作伙伴。

这种分工在开源世界并不陌生,开源操作系统Linux和Red Hat的关系就是一个参照。但能不能真正跑通,取决于FlagOS的技术底座是否足够扎实,以及围绕它的生态能否持续长出商业价值。

为了降低参与门槛,林咏华表示,我们和北大计算机系老师一起,在 48 小时内打造了一套全新的 AI 系统课程。课程的全部材料也都会开源到 Git 平台上,任何老师都可以下载、加工、改造成自己的课程,再教授给学生,不会收取任何版权费用。

推理时代的真正考验是什么?

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

推理时代对基础设施的要求,和训练时代有本质不同。

训练是可以砸钱买英伟达显卡实现放大,而推理是相对分散的。这意味着多芯片适配是推理规模化的刚需。

FlagOS 2.0的价值,在于它指向了一个正确的问题:如果AI推理要真正铺开,底层必须有一个足够通用的软件层来实现硬件的分散化。

目前来看,芯片架构还在快速分化,整个生态内玩家对于统一技术栈的投入还要持续。

智源现在做的事,相当于一个开始,

林咏华告诉《节点AI》,”我们更希望吸引到的,是那些能够提出颠覆式创新想法的人。这样的想法未必今天已成共识,但正因如此,它才可能帮助我们去探索那些仍属于无人区的方向。”

追求确定性在快速变化的时代,无异于自废武功,对一个做基础设施的技术团队来说,最难的,与最让人兴奋的就是为明天行业发展做投入,且惠及生态内合作伙伴,这是开源精神的体现。智源研究院的做法是集思广益,不断招揽人才,与生态伙伴,在AI时代不断探索向前。

*题图由AI生成

节点声明:本内容为作者独立观点,不代表节点财经立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。

(0)
节点财经的头像节点财经
红旗、华为、吉利同时找他合作,这个「最不显眼」的传承人做对了什么?
上一篇 2026年 3月 29日 10:46
用V单 拍出电影感,vivo X300系列新品正式发布
下一篇 2026年 3月 31日 08:58

相关推荐

  • 人像之光 美出东方 vivo S19系列正式发布

    摘要: 2024年5月30日,vivo正式发布vivo S19系列新品。vivo S19 Pro同档首发全焦段人像,与索尼联合研发IMX921传感器搭配影棚级变焦柔光环以及全自研核心算法,带来专为人像优化的五大黄金焦段;延续S东方美学设计,vivo S19系列还原东方美学独有的神韵之美,推出烟雨青、桃花扇、千山翠、松烟墨、剑影灰五款配色。此外,vivo S1…

    2024年 5月 31日
  • 陈发树与云南白药,互成心病

    在老熟人王明辉离职后,也许陈发树最需要想通的是,自己到底想从云南白药得到什么,又能从云南白药得到什么,以及能为云南白药做些什么。

    2023年 3月 23日
  • 哪吒汽车冲刺港交所,去年营收135亿

    汽车行业又传来新消息。 港交所文件显示,6月26日,哪吒汽车母公司合众新能源向港交所递交上市申请。一旦哪吒汽车成功登陆IPO,将成为继理想、蔚来、小鹏、零跑之后,第五家港股IPO的新势力车企。 今年 4 月,合众新能源汽车以 300 亿人民币的企业估值入选《2024 •胡润全球独角兽榜》,排名第 197 位。 这家300亿估值的车企,内核价值几何?节点从三个…

    2024年 6月 26日
  • 全场景新品惊艳亮相 华为举办夏季全场景新品发布会

    2024年5月15日,华为举办夏季全场景新品发布会,带来了包括华为MateBook 14、华为MatePad 11.5“S、华为WATCH FIT 3、华为儿童手表5 Pro、华为Vision智慧屏 4、华为智能眼镜2等在内的多款全场景新品、以及华为MatePad Pro 13.2英寸、华为FreeClip 耳夹耳机等多款热销产品的全新配色,涵盖了智慧办公、…

    2024年 5月 15日
  • 小鹏迈出逆袭第一步

    文|伯虎财经 陈平安 如果你关注新能源汽车,那你最近这几天一定躲不过有关小鹏G6的讨论。 不只是创始人何小鹏在发布会上激动的说: “G6 之于小鹏的意义,就像 iPhone4 之于苹果。” 各方媒体老师也丝毫不吝溢美之词,核心主旨就是:小鹏G6成了。从事实上来看,小鹏G6的热度也确实远超前辈G9。根据第一电动报道,截止7月3日,小鹏G6全国订单数量约为2.8…

    上市公司 2023年 7月 11日