投资动态
每瓦智能的拐点：多硅异构推理云平台如何突破算力瓶颈
a16z Growth宣布投资Gimlet Labs，称其为首个多硅推理云平台，旨在通过异构计算提升每瓦功耗的智能产出，解决AI推理市场的算力瓶颈与成本压力。
核心要点
- AI推理是增长最快的市场之一，面临电力、土地、涡轮、变压器、数据中心、GPU、先进节点晶圆和高带宽内存等物理输入的短缺。
- 五家美国超大规模服务商预计明年资本支出达1万亿美元，NVIDIA联手资本伙伴动员超5000亿美元建设AI工厂。
- 算力扩展速度无法匹配推理需求的软件级复合增长，需在相同功耗内获取更多智能。
- 推理已不再是单一工作负载，涵盖延迟敏感型、吞吐量优先、成本优化等多种场景，且代理可将任务路由至小型专用模型与大型推理模型。
- 硬件架构多样化，包括算力优化、内存容量/带宽优化、低延迟互联等，单一处理器难以兼顾所有维度。
关键判断
- AI推理市场是资本主义历史上增长最快的市场之一，但正面临几乎所有关键物理输入（电力、土地、涡轮、变压器、数据中心、GPU、先进节点晶圆和高带宽内存）的短缺。
- 美国五家超大规模服务商预计明年资本支出达1万亿美元，NVIDIA正联合资本伙伴动员超过5000亿美元用于AI工厂建设，显示出行业正进行前所未有的资本投入。
- 当前算力提升速度无法匹配推理需求的软件级复合增长，必须在相同功耗约束下实现更高的智能产出。
- 推理已不再是单一工作负载，而是涵盖延迟敏感型、吞吐量优先、成本优化等多种场景，代理可以将任务路由至小型专用模型与大型推理模型。
- 硬件架构正向算力优化、内存容量/带宽优化、低延迟互联等多样化方向演进，单一处理器难以同时满足所有维度的需求。
未来推演
判断：未来 3-9 个月，Agent 产品会更快从能力展示转向审批明确、可回滚、可观测的执行流程。
时间跨度：未来 3-9 个月
为什么是现在：文章对价值判断已经不再停留在对话体验，而是落在流程接入、执行闭环和控制能力上。
重点信号：产品是否增加审批节点、案例是否从演示转向生产流程、用户是否更重视可观测性
置信度：高