导语：下一个“法拉利”LPU，要末找到“金主”客户，要末拥有“公共”搭档。

当AI从练习走向推理时代以后，单一通用架构最先涉及效率界限。变化由此发生——“只用GPU打全国”的故事难以延续，专业化分工逐渐成为芯片行业的共鸣。

愈来愈多企业测验考试将差别计较使命拆解给差别类型芯片处置惩罚。

google于新一代TPU上推进训推分散；Anthropic押注存内计较架构；SambaNova推出“CPU+GPU+RDU”体系方案；Cerebras则选择以晶圆级芯片挑战传统GPU集群。

此中最具代表性的案例，是被黄仁勋“捧红”的Groq。

跟着Groq LPU（Language Processing Unit，语言处置惩罚单位）被纳入英伟达Vera Rubin平台，原本被视为“小众线路”的LPU第一次进入主流AI基础举措措施系统。对于在行业而言，这不仅宣告了一种新芯片得到承认，更象征着推理时代最先接管差别芯片处置惩罚差别使命的逻辑。

海内市场一样感触感染到这股风向。缭绕数据流架构、SRAM高带宽存储以和其他推理加快标的目的，各种新方案不停涌现，想要讲出本身那版LPU故事的玩家也接连冒头。（更多技能故事及贸易黑幕，接待添加作者微信Evelynn7778交流）

当AI芯片专业化分工趋向日渐开阔爽朗，LPU毕竟是一种阶段性热门，还有是推理时代持久存于的新工种？而当赛道逐渐变患上拥堵，LPU也许是一种建立的需求，但自力LPU公司会是一门建立的买卖吗？

被遗忘十年的LPU，为何忽然红了？

用25%的Groq LPU搭配75%的Vera Rubin来应答源源不停的高价值Token天生需求，这是英伟达给出的最新方案。

打法暗地里，是Agent时代对于法则的改写：AI运用再也不只是一次性问答，连续推理的事情流正于激发Token大水；基础举措措施竞争不停升维，从单芯片机能比拼迈向体系层级的效率优化。

在是，Transformer推理历程中的每一一道工序最先被从头测量及打磨。

开始被看清的是Prefill与Decode——一个更存眷算力密度，另外一个更依靠相应速率及体系吞吐能力。

但行业很快发明，纵然于Decode内部，差别事情负载的最年夜诉求也不尽不异：Attention（留意力机制）忙在搬运及读取海量KV Cache，年夜量Token天生使命则落于FFN（前馈神经收集）身上。

当差异被瞥见，分工协作的需求也愈发火急。差别类型芯片最先进入推理体系，各自负担最擅长的事情。

Groq LPU恰是于这一配景下从头进入市场视线，作为Vera Rubin平台中的新增脚色，以LPX体系情势专攻FFN相干事情流。

某种水平上，这也开释了“推理再也不绑订单一架构”的旌旗灯号。

“超低延迟推理等不合适GPU处置惩罚的极度场景，就能够交付给LPU。”芯片架构师方晓暗示，“相称在开了一条高速通道专门办事客户。”

事实上，LPU并不是横空出生避世。Groq建立在2016年，其焦点架构设计一样降生在上一个AI时代。但已往很永劫间里，这种专用芯片始终没有进入主流市场。

迁移转变点呈现于体系级立异成为行业共鸣以后。

据悉，2025年头英伟达初次向互助伙伴开放NVLink互联生态后，Groq自动追求接入时机，但愿得到这一原本用在GPU之间通讯的和谈撑持。

跟着GPU与LPU协同运行的可能性获得验证，两边互助最先具有实际基础。而英伟达自身战略的变化，带来更年夜的想象空间。

AI体系架构师徐师长教师不雅察到，将来针对于Transformer推理范式设计的新型芯片会愈来愈多。“经由过程单颗芯片实现领先的时间正于缩短。”他暗示，“而依附体系级架构立异，英伟达的领先上风极可能从几个月拉长到1-2年。”

换句话说，对于在英伟达而言，引入LPU并不是为了代替GPU，而是但愿找到更合适负担特定推理使命的脚色。（关在当前业内异构方案的真实落地环境，接待添加作者微信Evelynn7778交流）

专业化分工为LPU带来新的机缘，但可否把时机酿成市场，倒是另外一回事。当愈来愈多企业最先扎堆LPU赛道，一个更实际的问题正浮出水面：LPU被寄与厚望的技能上风，含金量到底有多年夜？

LPU的两张王牌，有几多含金量？

LPU最常被说起的“看家”本事之一，是Groq引以为傲的编译器和其静态调理能力。

方晓认为，外界对于LPU最年夜的曲解，是将其上风简朴归结为单芯片机能。

“单芯片简直定性延迟并不是LPU独占，所有ASIC都能做到。真正难的是多芯片间、机柜间及集群间的切确编排。”于她看来，这才是LPU最深的护城河，也是海内非年夜厂企业很难冲破的壁垒。

但曾经于年夜厂卖力芯片软件栈设计的Tim对于此持保留立场，认为编译能力的价值与模子形态紧密亲密相干。

于CNN时代，模子布局富厚、算子种类繁多，编译器拥有很多年夜显身手的可能。但跟着Transformer成为行业主流，年夜模子的焦点算子不停收敛，年夜量层布局高度反复。

“这反而收窄了编译器可以或许阐扬的优化空间。”Tim直言。

与此同时，MoE（Mixture of Experts，混淆专家）等动态架构的鼓起，也于减弱全静态体系的上风。

“此刻这个时代，险些所有顶流模子都有MoE布局。”Tim说，“推理时具有的动态性，对于全静态体系其实不是尤其友爱。”

他进一步注释，差别哀求于推理历程中激活的专家组归并不不异，而这些信息于编译阶段没法提早获知。

对于此，Mark也表达了近似不雅点，他开办的非GPU芯片企业，今朝已经得到多家头部美元基金投资。

“为了包管体系始终根据预定节拍运行，编译器只能先为最坏环境做筹算。”他指出，“被固化的硬件侧也需要保留必然冗余来维持总体同步，这使患上部门理论上风会被抵消。”

缭绕LPU的软件能力，业内还没有形成同一结论。比拟之下，另外一张存储“王牌”SRAM好像更易被量化。不少从业者暗示，这才是LPU最焦点的竞争力。

英伟达公然的数据显示，单颗Groq 3 LPU SRAM带宽为150 TB/s，约莫是采用H100 HBM3的45倍。于256颗LPU构成的LPX机柜中，总带宽进一步被推高至40 PB/s（注：1 PB/s=1000 TB/s）。

除了高带宽能力外，芯片行业从业者杨越认为这一起线的上风还有于在绕开了HBM供给链及进步前辈封装的限定。

于当前AI芯片成本布局中，存储的影响力连续上升。Epoch AI数据显示，HBM占AI芯片组件成本的比例已经经从2024年头的52%增加至2025年末的63%。

当愈来愈多成本被HBM吞噬时，市场最先从头审阅SRAM线路的价值，但不合依旧存于。

资深芯片产物卖力人顾玥直言：“SRAM实在是LPU巨年夜的缺陷。”她认为，SRAM最年夜的特色是快，但价钱是容量小、单元成本高。

“它更像芯片里的法拉利，卖点是机能，而不是性价比。”顾玥形容道。

不外，IO本钱开创合股人赵占祥其实不彻底认同这类见解。他认为，纯真比力存储单价并无太年夜意义。

“比拟SRAM只有几百MB，HBM动辄几十GB甚至上百GB。即便SRAM单元价格比HBM贵，但于容量差距眼前，HBM终极负担的总成本反而可能更高。”

SRAM也有本身的容量焦急。有十余年经验的芯片计较架构专家晓东指出，SRAM直接集成于芯片内部，需要与计较单位同享统一块硅片。这象征着面积分配始终是一道难题。

“DRAM一个存储单位只需要1个晶体管及1个电容，而SRAM需要6个晶体管。”他进一步增补，“一样面积下，SRAM能存放的数据自然更少。”

公然数据显示，Groq 3 LPU集成约500MB SRAM，而TPU 8i约为384MB。虽然Cerebras WSE-3依附晶圆级集成方案将容量晋升至44GB，但价钱是良率及成本的两重暴击。

会商SRAM自制还有是昂贵有差别的角度。而更值患上拷问的实在于在：推理时代毕竟该用甚么指标权衡价值？

Mark认为是Token。于他看来，一场从“体系成本”到“Token成本”的评价系统切换正于发生。

已往几年，行业习气会商“几多张卡可以部署一个模子”。是以，年夜量厂商都于夸大用更少GPU完成部署。

“但当推理部署范围年夜到必然水平时，最小体系成本已经经再也不是首要考量。”Mark说。

他举例称，一些方案虽然可以用8张GPU完成模子部署，但推理成本未必最低。而于DeepSeek公然采用144张卡构建推理集群后，行业最先意想到另外一种可能性。

“只管总体体系成本显著提高，但更年夜的集群范围换来了更高的带宽、更高的Token吞吐量以和更低的单元Token成本。”Mark阐发。

由此SRAM的价值也将被从头考量。只是这套逻辑是否可以或许持久建立，仍有待查验。

不合还没有消散，LPU的上风价钱也真实存于。但至少有一点已经经形成共鸣：LPU已经经拿到了推理体系的入场券。

而其接下来要回覆的，是市场一直追问的另外一个实际问题——这是一门可以或许连续赚钱的买卖吗？（有关推理加快芯片的更多远景，可添加作者微信Evelynn7778互通有没有。）

推理时代需要「法拉利」，但谁来买单？

于得到英伟达加持以前，Groq已经依附自力的端到端推理部署能力，拿下沙特推理基础举措措施项目、于欧洲部署年夜型算力中央，并进入Meta的Llama生态。

从这个角度看，Groq的能力其实不彻底来自技能。

“选择押注这条赛道的企业必然要有方针客户。”赵占祥注释，“由于软件再怎么编译，终极还有是要针对于详细运用举行优化。”

换句话说，LPU的贸易化难点不只于在技能实现，还有取决在是否有人愿意买单。但一个不容轻忽的问题是——最需要LPU的人，往往也最有能力自研。

徐师长教师不雅察到，已经经有年夜模子公司及互联网年夜厂最先步履。“相对于在GPU来讲，LPU会简朴许多，只要给一两年时间就能做出来。”他暗示。（更多年夜厂推理加快芯片自研黑幕及进展，接待添加作者微信Evelynn7778一路交流）

但潜于客户变敌手还有不是最坏的动静。“创企想靠LPU活不下去，需要找到‘公共’。英伟达是于拥有‘公共’的基础上，再增长一辆‘法拉利’，属在锦上添花。”顾玥直言。

Mark指出，这类分工将来还有会继承深化。“Attention及FFN之间的解耦水平很高，中间通讯带宽要求其实不高。”是以于他看来，异构体系其实不会带来外界想象中的巨年夜成本。

Tim也认为，将来推理方案年夜几率会以异构形态存于。“当每一一点优化都能带来上亿美元回报时，研发成本很轻易被摊薄。”

不外即便异构趋向建立，市场对于在自力LPU公司的远景依然存于疑虑。

据赵占祥不雅察，许多企业已经经于摸索近似线路——用年夜容量SRAM及漫衍式存储来完成推理的事情负载。“只不外此刻同一叫LPU”。他画龙点睛。（作者持久跟踪相干项目进展，接待添加微信Evelynn7778交流）

方晓遐想到DPU的成长过程。2020年先后，跟着DPU观点鼓起，年夜量创业公司涌入赛道，几年已往后，不少企业转型。于她看来，LPU有可能重演近似脚本，缘故原由之一于在漫长的市场培育周期。

赵占祥注释，任何一种新计较架构都需要时间沉淀，恰如英伟达GPU历经十年才实现年夜范围普和。

但这对于在创业企业来讲，倒是最致命的危害。作为高度专用化的ASIC，LPU自然依靠当前主流模子架构。假如将来基础模子改弦更张，相干优化价值也可能被从头评估。

对于此，Mark也从另外一角度给出回应：“这反而给了创业公司时机，由于年夜厂未必愿意负担这类高危害。”

而晓东则相对于乐不雅。他指出，从CNN时代的AlexNet引爆现代深度进修海潮最先，已往十余年AI范式虽然不停演进，但底层逻辑并未发生底子转变。将来的新架构更多是Transformer的Plus版。

Tim也给出了近似判定：“只要模子仍旧需要从海量常识中筛选、挪用及组合信息，对于高带宽的需求就不会消散。基在这个需求来设计芯片，纵然Transformer被替换，芯片自己也不会是以作废。”

市场从不缺少新芯片的故事。真正决议一家LPU企业可否活下来的，未必是它拥有多进步前辈的架构，而是它可否于市场成熟以前找到客户、场景与生态。

究竟，推理时代也许确凿需要愈来愈多“法拉利”。但对于在年夜大都创业公司而言，比造出一辆法拉利更难的，是找到阿谁愿意持久采办“公共+法拉利”组合的人。

作者连续存眷AI算力芯片上下流，更多信息可添加作者微信Evelynn7778交流。

#文中方晓、顾玥、杨越、晓东、Mark及Tim均为假名。

雷峰网(公家号：雷峰网)雷峰网

雷峰网原创文章，未经授权禁止转载。详情见转载须知。