中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

文 / 梁添 

来源 / 节点AI 

算子工程师是AI时代的热门岗位,是AI工程里典型的脏活。

在国产芯片替代的浪潮下,他的日常大概是这样的:同一个算子,在英伟达上跑通了,换到华为昇腾要重写一遍,再换到寒武纪又是一遍。很简单,芯片不同,优化策略不同。

过去,英伟达一家独大,大家训练阶段都集中在这里,一套CUDA打天下。

但AI行业正在经历一次重心转移,训练出更大的模型不再是唯一锚点,而是能把模型部署到更多真实场景里,让智能体等应用落地。

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

智源研究院副院长兼总工程师林咏华现场发布众智FlagOS 2.0

这给了能承担推理任务的国产芯片一个机会,但别高兴太早,这导致算子工程师工作量暴增。

想要提高应用铺开的效率,有一个大前提,那就是有人把模型到芯片适配的那层脏活解决掉。

北京智源研究院(以下简称智源)试图做的就是这件事。

3月27日,2026年中关村论坛年会上,智源研究院副院长兼总工程师林咏华现场发布众智FlagOS 2.0。《节点AI》特意采访了林咏华,来试图通俗易懂的帮助大家了解智源发布这层技术栈的本意。

众智FlyOS 2.0解决了什么问题?

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

FlyOS2.0的核心逻辑不复杂:在大模型和AI芯片之间建一个统一的中间层,让模型不必为每款AI芯片单独适配。

说起来简单,做起来难。

不同芯片的计算架构差异巨大,而AI推理对效率又敏感,这是一个经典的工程难题。

FlyOS 2.0在几个关键环节给出了自己的解法。

在编译器层面,智源提出了一种叫TLE的开发语言,试图让同一套算法描述在不同芯片架构上都能生成高效代码,无需重头写一遍。

值得关注的是,智源还推出算子自动生成平台Cog。

前面说的脏活,Cog的解决方案是用AI代替人来干。覆盖从代码生成、精度验证到性能测试的完整流程。

智源向《节点AI》透露了一个真实数据:同一个算子,Cog的生成速度是Claude Code的两倍,token消耗减少一半,生成代码的执行效率更高。

如果这个数据可靠,它意味着算子适配从手搓变成了自动化流水线,对整个国产芯片生态的推广效率是很大提升。

在覆盖范围上,FlyOS 2.0通过FlagScale插件体系,向上对接主流AI框架,向下连接芯片厂商的原生能力,把推理、训练、强化学习全流程拉通。目前已经支持18家芯片厂商、32款AI芯片。

我们了解到,FlyOS 2.0不是智源一家能做出来的。据介绍,项目背后有20家芯片厂商、76家企业的共同参与,所有协作都在开源平台上进行。

开源的现实账怎么算?

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

开源带来协作规模,但也绕不开一个现实的问题,谁来持续投入?

北京智源人工智能研究院副院长兼总工程师林咏华对这个问题的回应比较坦率。她告诉《节点财经》,智源做FlyOS的初衷是技术探索本身,目前还没有急着把核心技术直接商业化。

“这件事技术难度非常高,也非常深,需要聚合各方力量共同突破。核心技术团队以及合作伙伴,现在更关注的仍然是技术探索本身。”

但这并不意味着商业化被搁置。

林咏华透露,已经有不少操作系统厂商和系统集成商在与智源接触,希望基于FlyOS打造商业发行版。未来大致会形成两条路径并行的格局:智源继续推进统一技术栈的深度,芯片架构还在不断演进,存算一体、近存计算、3D堆叠等新方向都会带来新的适配挑战;商业化发行则交给更靠近市场的合作伙伴。

这种分工在开源世界并不陌生,开源操作系统Linux和Red Hat的关系就是一个参照。但能不能真正跑通,取决于FlyOS的技术底座是否足够扎实,以及围绕它的生态能否持续长出商业价值。

为了降低参与门槛,林咏华表示,我们和北大计算机系老师一起,在 48 小时内打造了一套全新的 AI 系统课程。课程的全部材料也都会开源到 Git 平台上,任何老师都可以下载、加工、改造成自己的课程,再教授给学生,不会收取任何版权费用。

推理时代的真正考验是什么?

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

推理时代对基础设施的要求,和训练时代有本质不同。

训练是可以砸钱买英伟达显卡实现放大,而推理是相对分散的。这意味着多芯片适配是推理规模化的刚需。

FlyOS 2.0的价值,在于它指向了一个正确的问题:如果AI推理要真正铺开,底层必须有一个足够通用的软件层来实现硬件的分散化。

目前来看,芯片架构还在快速分化,整个生态内玩家对于统一技术栈的投入还要持续。

智源现在做的事,相当于一个开始,

林咏华告诉《节点AI》,”我们更希望吸引到的,是那些能够提出颠覆式创新想法的人。这样的想法未必今天已成共识,但正因如此,它才可能帮助我们去探索那些仍属于无人区的方向。”

追求确定性在快速变化的时代,无异于自废武功,对一个做基础设施的技术团队来说,最难的,与最让人兴奋的就是为明天行业发展做投入,且惠及生态内合作伙伴,这是开源精神的体现。智源研究院的做法是集思广益,不断招揽人才,与生态伙伴,在AI时代不断探索向前。

*题图由AI生成

节点声明:本内容为作者独立观点,不代表节点财经立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。

(0)
节点财经的头像节点财经
红旗、华为、吉利同时找他合作,这个「最不显眼」的传承人做对了什么?
上一篇 2026年 3月 29日 10:46
量子之歌发布Q1财报:营业收入、净利润创新高
下一篇 2023年 12月 15日 13:37

相关推荐

  • 2022华为终端:余承东打出一套「组合拳」

    华为将像“鲶鱼”一样,从产品、体验、场景等多个维度,从抽象的思维、认知到具象的模式、布局,激活行业内部的创新因子,并锻造新的生命力,带领商用市场朝着广泛连接、高效协同、自然人机交互、安全可靠的“新范式”跃迁。

    2022年 11月 25日
  • 回头看A股,这次要重演「519行情」?

    文 / 三生  今天的行情让人想起两句股市里的俗语,一句是“千金难买牛回头”,一句是“牛市多暴跌,熊市多暴涨”。总结下来的意思,就是告诉大家,无论是牛市还是熊市,都会有剧烈波动和震荡,最后考验的都是人性的贪婪和恐惧。 今天大A的走势,应该就让很多跑步进场的股民体验了一把“过山车”。沪指开盘涨超10%,指数一度突破3600点,但随后不断收窄至2%,最…

    2024年 10月 9日
  • 燕之屋:请来王一博,是什么效果?

    文 / 三生 上市之后业绩“变脸”的公司不少,但像燕之屋这么快的不多。 提起燕窝,你的第一印象是什么?作为中国传统美食,燕窝以往都是被归为高端食材。但是,随着生活水平的提高,现在燕窝产品的目标已经已扩大至孕妇、老年人及年轻人,市场规模不断扩大。 根据国燕委发布的《2023—2024年燕窝行业白皮书》介绍,2023年,我国燕窝市场规模达到623亿元,三年复合增…

    2024年 10月 18日
  • 「白牌商家」拿什么来爱拼多多?

    过去的竞争是更多是线上竞争,这次升级为“一体化的竞争”,可以说是更高纬更凶残更全面的生态战。

    2023年 6月 20日
  • “卷王”宁德时代,市值较高点没了8474亿

    文|雷达财经 莫恩盟 编辑|深海 当初“996”让无数打工人破防、引来外界口诛笔伐之后,宁德时代近日却被媒体爆出了工作时长更甚的“896”工作制,公司号召员工“奋斗一百天”。 “奋斗一百天”的传闻在互联网上发酵数日之后,宁德时代“大当家”曾毓群于6月25日进行发声回应,“奋斗一百天,就是号召大家去练好基本功,我们没有强迫大家。” 有媒体还报道称,经向宁德时代…

    2024年 7月 8日