铁齿铜牙纪晓岚

观察｜从超节点到基础服务商，国产“Token经济”全链路是否已跑通？_我的网站

一 |     　　英伟达高管最新宣布，Groq 3 LPX机架已进入全面量产阶段，这标志着该公司史上最大规模收购案所获得的技术正式实现商业化。    刚刚落幕的2026世界人工智能大会（WAIC），集聚了国产算力全链路厂商，从上游芯片公司、中游服务器厂商，到下游基础设施服务商悉数到场。　　当地时间周一（8月24日），英伟达高级总监Dion Harris表示，Groq机架将与Vera中央处理器和Rubin图形处理器一同部署在新型云服务商Nebius的数据中心，并将于今年晚些时候上线。　　英伟达加速生产Groq芯片并向客户提供产品，凸显出低延迟推理的重要性日益提升。“Token”（词元）成为本届展会最突出的关键词，整条产业链正加速向“Token经济”全面转型。

二 |          国产算力差异化产品          本届WAIC堪称国产算力的高光时刻。低延迟推理能够让AI智能体更快响应，避免用户长时间等待，在编程等应用中尤其重要。既有华为昇腾950、曙光8000等重量级超节点产品重磅亮相，也有沐曦、摩尔线程、燧原等厂商推出的多款超节点方案，还有东方算芯、思朗科技等带来富有创新特色的差异化产品。         尽管受制于芯片制程与产能等现实瓶颈，国产芯片厂商仍在稳步推进产品迭代，持续提升性能表现。

三 | 　　Harris说道，云服务商可以针对这类token（词元）收取更高费用，“对于那些提供token服务的企业而言，这让他们能够为那些对延迟极其敏感的用户和客户提供高级服务套餐。超节点这一创新产品形态，正在为国产大模型训练及大规模推理提供坚实算力支撑。         华为昇腾950与曙光8000均在WAIC现场真机展出，具备为国产顶级大模型提供高规格算力的能力。”　　去年12月，英伟达与Groq达成200亿美元交易，获得了Groq的芯片技术授权，多位核心员工也加入了英伟达，创始人Jonathan Ross更是担任了英伟达首席软件架构师。沐曦、摩尔线程、燧原等厂商也已逐步走出推理场景，开始进入大模型训练赛道。         东方算芯、思朗科技等企业在细分领域展现了独特的创新价值，有效弥补了关键环节的技术短板。　　今年3月，英伟达发布了为Vera Rubin平台研发的推理加速器Groq 3 LPX。Groq架构在芯片裸片上集成了500兆字节的高速静态随机存储器（SRAM），以减少与内存相关的瓶颈。　　据了解，Groq芯片由三星制造，而英伟达的GPU则由台积电生产。每一个LPX机架可整合256颗Groq 3，英伟达援引Artificial Analysis的基准测试称，整合后的机架每秒可处理3400个token。         东方算芯在大会期间发布了全球首颗软件定义近存计算3D芯片——DF1000。该芯片依托“软件定义芯片技术”与“近存计算技术”两大核心突破，将互连间距从数十微米压缩至亚微米级别，从而实现数量级提升的互连密度与带宽密度，兼具高算力与大带宽优势。　　当下， 这一领域竞争激烈。

四 | AMD今年早些时候宣布，将把其机架级系统与Cerebras的芯片进行整合。

五 | Cerebras近期刚刚上市，业务重点同样是低延迟推理。　　近期，OpenAI推出的“Ultrafast”模式承诺每秒可处理750个token，由Cerebras提供支持。　　需要指出的是，低延迟芯片并不能取代作为AI芯片主力的GPU。其在14纳米成熟工艺下，即可达到媲美国际4纳米先进制程的性能表现。         思朗科技则是一家专注于科学智能的高科技半导体独角兽。

六 | 依托MaPU自主创新架构，思朗打造出国内首款专为AI4S而生的“天穹”3D科学计算机，构建起我国在科学智能领域的专属算力底座。目前，思朗专用一体机在生物分子模拟、量子模拟等前沿方向上已展现出显著加速效果，在处理复杂科学计算任务时，其执行效率与扩展能力相较传统通用架构具备代际优势。GPU既能够执行训练，也能够进行推理，同时具备足够的灵活性，可以适应新技术和新模型。　　Groq这类低延迟芯片则主要专注于模型服务中的一个环节，即“解码”（decode）阶段。Harris也提到：“这并不是要取代GPU，而是要针对工作负载的不同环节，使用价格合适、处理能力合适的处理器。         澎湃新闻记者也注意到，今年WAIC上，各厂商不再一味比拼单卡性能，而是更强调整体解决方案的竞争力，为产业向“Token经济”转型做好系统化准备。比如，摩尔线程直接提出布局三大“AI工厂”，以通用算力支撑全场景需求。”　　英伟达目前正在加快Vera Rubin系统的出货速度。黄仁勋先前曾预计，到2027年，当前一代Blackwell芯片和新一代Vera Rubin系统的累计销售额将达到1万亿美元。　　黄仁勋当时表示，他计划将面向编程应用的数据中心空间中约四分之一分配给Groq芯片。

七 | “我的数据中心其余部分将100%采用Vera Rubin。”（文章来源：财联社）。摩尔线程创始人、董事长兼首席执行官张建中表示，基于夸娥（KUAE）智算集群打造的“模型训练工厂”“词元生产工厂”“智能体生产工厂”三大AI工厂，凭借全场景通用优势，可支撑从模型训练到推理、从数字世界到物理世界的多元算力需求。         国产芯片已打通推理盈亏线          本次WAIC上，众多AI Infra（人工智能基础设施）厂商集中亮相。他们是嫁接芯片和算力用户的中间桥梁，他们需要把芯片优化成专业的Token。其中，是石科技是一家专注于国产芯片优化的头部服务商。         在此背景下，是石科技通过构建“HPC+AI”超智融合的全栈式大规模集群解决方案，打通了从底层芯片到上层应用的层层壁垒，并正式推出“国产Token优化工厂——拓元（Vectron）”。

八 |          “拓元”的定位，是将每一份算力高效转化为稳定、优质的Token——同等算力投入下产出更多有效Token，同等模型部署下实现更快推理响应，同等显存条件下更稳健地支持超长上下文运行。         是石科技联合创始人毛运航在接受采访时表示，国产芯片虽受制于设计、产能等因素，但始终在稳步迭代。“目前来看，国产芯片在推理端已经具备大规模应用的条件。我们也取得了一些实际成果，能够打通盈亏线，做成一个真正可盈利的商业模型。

九 | ”          是石科技创始人兼董事长闫博文认为，当前AI竞争正从“比谁拥有更多GPU”转向“比谁让算力产生更大价值”，或者说，从追求更大规模、更多参数、更强训练能力的单一目标，转向对更低成本、更高效率、更强应用能力的综合追求。“如果算力利用效率持续提升，将释放万亿级算力价值空间。”          截至目前，“拓元”已兼容10余款国产算力芯片，可适配20余个主流模型，每日Token吞吐量达千亿级。其服务客户涵盖头部互联网企业、头部大模型厂商，以及高端制造、航空航天、生物制药、新能源等行业，应用场景覆盖编程辅助、文生视频、社区智能体、企业级AI助理等多个方向。

十 |          “AI时代比拼的不只是算力，更是驾驭算力的能力。”闫博文表示。         来自中国信息通信研究院的数据显示，我国AI日均Token调用量从2024年初的1000亿，飙升至2026年3月底的140万亿，短短两年时间涨幅突破千倍。         词元调用数据爆发式增长，不仅直观折射出国内AI应用的蓬勃活力，更释放出一个强烈信号：以Token为基本单位的“Token经济”已从概念走向现实，正深刻重塑数字经济的底层运行逻辑。

Current article:http://wik.diuhuairandaikaomangshangnen.buzz/jn6u/mf8j9h.html

Published on:01:07:25