中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

文 / 梁添 

来源 / 节点AI 

算子工程师是AI时代的热门岗位,是AI工程里典型的脏活。

在国产芯片替代的浪潮下,他的日常大概是这样的:同一个算子,在英伟达上跑通了,换到华为昇腾要重写一遍,再换到寒武纪又是一遍。很简单,芯片不同,优化策略不同。

过去,英伟达一家独大,大家训练阶段都集中在这里,一套CUDA打天下。

但AI行业正在经历一次重心转移,训练出更大的模型不再是唯一锚点,而是能把模型部署到更多真实场景里,让智能体等应用落地。

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

智源研究院副院长兼总工程师林咏华现场发布众智FlagOS 2.0

这给了能承担推理任务的国产芯片一个机会,但别高兴太早,这导致算子工程师工作量暴增。

想要提高应用铺开的效率,有一个大前提,那就是有人把模型到芯片适配的那层脏活解决掉。

北京智源研究院(以下简称智源)试图做的就是这件事。

3月27日,2026年中关村论坛年会上,智源研究院副院长兼总工程师林咏华现场发布众智FlagOS 2.0。《节点AI》特意采访了林咏华,来试图通俗易懂的帮助大家了解智源发布这层技术栈的本意。

众智FlagOS 2.0解决了什么问题?

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

FlagOS 2.0的核心逻辑不复杂:在大模型和AI芯片之间建一个统一的中间层,让模型不必为每款AI芯片单独适配。

说起来简单,做起来难。

不同芯片的计算架构差异巨大,而AI推理对效率又敏感,这是一个经典的工程难题。

FlagOS 2.0在几个关键环节给出了自己的解法。

在编译器层面,智源提出了一种叫TLE的开发语言,试图让同一套算法描述在不同芯片架构上都能生成高效代码,无需重头写一遍。

值得关注的是,智源还推出算子自动生成平台Cog。

前面说的脏活,Cog的解决方案是用AI代替人来干。覆盖从代码生成、精度验证到性能测试的完整流程。

智源向《节点AI》透露了一个真实数据:同一个算子,Cog的生成速度是Claude Code的两倍,token消耗减少一半,生成代码的执行效率更高。

如果这个数据可靠,它意味着算子适配从手搓变成了自动化流水线,对整个国产芯片生态的推广效率是很大提升。

在覆盖范围上,FlagOS 2.0通过FlagScale插件体系,向上对接主流AI框架,向下连接芯片厂商的原生能力,把推理、训练、强化学习全流程拉通。目前已经支持18家芯片厂商、32款AI芯片。

我们了解到,FlagOS 2.0不是智源一家能做出来的。据介绍,项目背后有20家芯片厂商、76家企业的共同参与,所有协作都在开源平台上进行。

开源的现实账怎么算?

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

开源带来协作规模,但也绕不开一个现实的问题,谁来持续投入?

北京智源人工智能研究院副院长兼总工程师林咏华对这个问题的回应比较坦率。她告诉《节点AI》,智源做FlagOS 2.0的初衷是技术探索本身,目前还没有急着把核心技术直接商业化。

“这件事技术难度非常高,也非常深,需要聚合各方力量共同突破。核心技术团队以及合作伙伴,现在更关注的仍然是技术探索本身。”

但这并不意味着商业化被搁置。

林咏华透露,已经有不少操作系统厂商和系统集成商在与智源接触,希望基于FlagOS打造商业发行版。未来大致会形成两条路径并行的格局:智源继续推进统一技术栈的深度,芯片架构还在不断演进,存算一体、近存计算、3D堆叠等新方向都会带来新的适配挑战;商业化发行则交给更靠近市场的合作伙伴。

这种分工在开源世界并不陌生,开源操作系统Linux和Red Hat的关系就是一个参照。但能不能真正跑通,取决于FlagOS的技术底座是否足够扎实,以及围绕它的生态能否持续长出商业价值。

为了降低参与门槛,林咏华表示,我们和北大计算机系老师一起,在 48 小时内打造了一套全新的 AI 系统课程。课程的全部材料也都会开源到 Git 平台上,任何老师都可以下载、加工、改造成自己的课程,再教授给学生,不会收取任何版权费用。

推理时代的真正考验是什么?

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

推理时代对基础设施的要求,和训练时代有本质不同。

训练是可以砸钱买英伟达显卡实现放大,而推理是相对分散的。这意味着多芯片适配是推理规模化的刚需。

FlagOS 2.0的价值,在于它指向了一个正确的问题:如果AI推理要真正铺开,底层必须有一个足够通用的软件层来实现硬件的分散化。

目前来看,芯片架构还在快速分化,整个生态内玩家对于统一技术栈的投入还要持续。

智源现在做的事,相当于一个开始,

林咏华告诉《节点AI》,”我们更希望吸引到的,是那些能够提出颠覆式创新想法的人。这样的想法未必今天已成共识,但正因如此,它才可能帮助我们去探索那些仍属于无人区的方向。”

追求确定性在快速变化的时代,无异于自废武功,对一个做基础设施的技术团队来说,最难的,与最让人兴奋的就是为明天行业发展做投入,且惠及生态内合作伙伴,这是开源精神的体现。智源研究院的做法是集思广益,不断招揽人才,与生态伙伴,在AI时代不断探索向前。

*题图由AI生成

节点声明:本内容为作者独立观点,不代表节点财经立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。

(0)
节点财经的头像节点财经
红旗、华为、吉利同时找他合作,这个「最不显眼」的传承人做对了什么?
上一篇 2026年 3月 29日 10:46
用V单 拍出电影感,vivo X300系列新品正式发布
下一篇 2026年 3月 31日 08:58

相关推荐

  • 请回答2023,快手如何恢复增长?

    业务走向闭环有助于业绩增长,但如何换回用户,让用户重回增长,才是更重要的事。

    2023年 2月 3日
  • 豪横百亿回购,安踏底气何在?

    文 / 七公  “消费市场面临一定挑战,但我们对前景充满信心,董事会也通过了股份回购计划。本集团将于未来18个月内,动用不超过港币100亿元回购股份,提高股东回报,为股东创造长远价值。” 在8月27日的财报沟通会现场,安踏董事局主席丁世忠如此表示。这是安踏自2007年以来首次公布的股份回购计划,也给予了资本市场极大的鼓舞。次日港股开盘,安踏体育(H…

    2024年 9月 9日
  • 柠季汪洁:要思考市场需要什么,而非自己有什么

    2025年,随着国内市场增速放缓,消费行业竞争从增量争夺转向存量博弈,出海,已成为头部品牌寻求第二增长曲线的共同选择与必答题。 2025年,中国新茶饮行业正站在一个关键转折点上:从狂飙突进的 “规模扩张” 阶段,转向精耕细作的 “价值深耕” 新周期。 2026节点增长大会上,头部品牌柠季的实践,为我们诠释了一种 “慢即是快”的出海哲学。截至目前,柠季签约门店…

    2026年 1月 5日
  • 湿厕纸之战,德佑被困电梯

    文|新熵 楷楷 编辑丨月见 如果要问年轻人有哪些悄悄上涨的生活成本,那湿厕纸必须拥有姓名。 “我可以用牙刷代替电动牙刷,可以用香皂代替沐浴露,但是必须不能省的就是湿厕纸”。已经是湿厕纸多年用户的李蕾,在被问道如果可以消费降级,你会选择降级什么时,如此回答道,并态度坚决地表示湿厕纸已经成为和卷纸一样的刚需生活用品。 这两年,这类声称擦屁股更干净舒适的湿厕纸突然…

    上市公司 2024年 3月 23日
  • 天才少年21亿买票上车,争夺A股人形机器人第一股?

    文 / 八真  来源 / 节点财经  具身智能赛道,谁最有可能拔得A股资本市场的头筹? 答案大概率是诞生刚刚两年,由华为”天才少年”、B站百万粉丝科技UP主稚晖君(彭志辉)创立的智元机器人。 近期,从事新材料研发与生产的上纬新材(688585.SH)丢出重磅炸弹,宣布智元机器人及相关主体将通过收购其至少63.62%…

    2025年 7月 17日