01、

“智能体所使用的Token(词元)正变成一种新资源,像过去的石油一样重要,一个智能体的Token消耗量,达到传统对话应用的百倍到千倍。”世界人工智能大会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民提出了这一判断。

Token成为关键资源,国产算力如何突破重围?AI配套设施怎样跟上AI快速发展的步伐?大会上,不少国产算力及AI设施企业谈了他们的探索路径。

摩尔线程张建中:构建三大“AI工厂”争夺Token经济市场

“年初至今,Token的消耗量,无论是看月份还是天数,都在髙速增长。”摩尔线程创始人、董事长兼首席执行官张建中这样认为。

为什么Token消耗量激增?张建中给出了他的看法:“现在大模型不只被人使用,智能体、代理、分身都在用。”

智能体催生出新经济模式,即“Token(词元)经济”,尤其从今年年初OpenClaw全球走红后。据央视报道,我国每天Token需求量从2024年初的约1000亿,到2026年3月底的140万亿,增长了上千倍。

“举个例子,普通人最快能一目十行,但对AI来说,家里所有书柜的书几分钟就能看完。这种超高阅读、生成、理解、计算能力,让Token消耗呈指数增长。”张建中解释道。

同时,目前先进的基本模型每两个月会迭代一次,词元消耗量快速上升,由此带来的算力需求呈指数级增长。

张建中说,摩尔线程正基于夸娥智算集群,建设三大“AI工厂”:专门做模型训练的“模型训练工厂”,用于提升推理效率的“词元生产工厂”,以及高效连接数字和物理世界、离消费者最近的“智能体生产工厂”。

张建中坦言,他常听到国内模型公司担心使用国产训练平台会浪费时间,“大家完全不用愁,我们拥有更好的硬件和软件技术,大量实验结果为证。我们还随时能提供本地化服务,这肯定比国外公司强。”

无问芯穹夏立雪:通过智能发展智能

“计算需求在指数级攀升,现在,单靠线性增长的产能去堆算力,已经填补不了供需持续扩大的鸿沟。”无问芯穹联合创始人兼CEO夏立雪表示。这背后,是AI产业竞争逻辑的根本转变——行业不再单纯比算力规模,而是看算力能否高效利用。换言之,单纯“堆”算力已不管用。

长期以来,中国算力资源来自不同地区、不同厂商、不同代的集群,国产芯片与海外GPU并存,架构和软件栈各不相同。夏立雪认为,算力的异质化、碎片化问题是全球现象,而把不同区域、跨区域的算力资源高效整合起来,是扩大智能资源规模的关键。

如何让这些分散、差异化的算力真正“活”起来?夏立雪提出的答案是——“前店后厂一中心”。

其中“一中心”是指充当“算力集散中心”的自主式基础设施平台——它需要把分散的、异构的算力资源统一汇集、弹性调度、按需分配,为模型与应用层提供充足、稳定、可扩展的算力基础。

“前店”是指“AI生产力商店”——面向文娱游戏、医疗、法律、能源等行业,与行业合作推出解决方案,把Token真正转化为产业生产力。

“后厂”是指建设一座“Token工厂”,用最高效方式服务Token的规模化和高质量生产。他用千卡到万卡规模进行完整推理服务的过程,说明了Token工厂内部的可优化空间,“从网关、路由,到底层推理实例,每层都可优化、处处有提升空间。”

经过大规模生产环境验证,这套系统的价值逐渐显现:运维人效提升5倍以上,关键故障处理效率提高6倍,不仅为大规模GPU训练和推理业务提供了更稳定、高效的基础设施保障,也让运维人员能从重复劳动中解放出来,专注更有价值的技术创新。

商汤科技杨帆:国产AI基础设施迎来发展良机

“未来5年,(AI基础设施的)国产化替代绝不仅是GPU(图形处理器)替代,而是背后整个AI上游硬件生态体系的重构,为行业带来全新发展空间。”商汤科技联合创始人、大装置事业群总裁杨帆指出,AI基础设施正面临重要变化趋势:Token市场爆发式增长、下游需求迅速增加;国产芯片商业化快速成熟,以国产算力为核心的智算中心加速建设。在多重因素推动下,国产AI基础设施规模化商用的良机全面到来。

商汤大装置以“算力+平台+服务”全栈能力,构建面向智能体AI时代的基础设施系统。在算力层,商汤大装置聚焦国产算力“从落地可用”到“规模化商用”的目标,实现多项关键技术突破。凭借异构混合推理,商汤大装置让主流国产芯片MFU(模型浮点运算利用率)提升到85%到152%,整体推理性价比达到国际巨头英伟达专为超大规模AI训练和高性能计算设计的NVIDIA H系列的1.25倍。目前,商汤大装置每天服务Token量已达2.42万亿,预计2026年全年服务规模增长25倍。

进入Token经济时期,如何让每一度电持续创造更多价值的Token,成为AI基础设施发展的重要议题。围绕“算电协同”,商汤大装置与晶科科技、中国联通上海市分公司、华能上海、宁德时代浦泉资本、协鑫能科、达卯科技等伙伴签订战略协议,共建面向源网荷储一体化的算电协同生态,推动能源系统与AI基础设施深度融合。

来源:北京日报客户端

记者:孙奇茹

文章配图-1