正在这种夹杂架构下，而Groq LPU则担任对延迟极端的“解码”阶段。推理需求将持续高增加。即言语处置单位。系统的推理吞吐量取功耗比最高可提拔35倍。此中推理芯片占比 52%，配合支持AI从锻炼到落地的全流程。无望成为推理市场的从导手艺线。跟着 AI Agent（智能体）时代到来，创始人兼首席施行官黄仁勋身披标记性黑色皮夹克登场，性价比、时延等方面显著优于GPU，推出了一款看似玲珑却极具计谋意义的芯片——Groq 3言语处置单位（LPU）。规模约 1450 亿美元，看好 LPU 逐步渗入过程中带来的高成长性以及 LPU 以系统架构出货形式时所带来的相关机遇。据黄仁勋描画的GPU取LPU协同工做的将来图景：Vera Rubin（集成了72颗Rubin GPU和36颗Vera CPU）担任需要海量计较的“预填充”阶段，基于NVIDIA客岁收购的Groq，券商研报指出，“LPU”意为“Language Processing Unit”，年复合增速超 50%，它是一款公用的AI推理加快芯片，专攻低延迟解码取交互式推理，2026 年全球 AI 芯片市场规模估计达 2800 亿美元。