【都在喊“缺卡”，90%的AI芯片却被“浪费”了？】 全球最昂贵的浪费，正发生在最聪明的公司里。 当你因额度用尽而项目停摆时，AI公司总说“缺算力”。但事实可能并非如此。Epoch AI分析师估算，到2025年底，OpenAI等效拥有约170万块H100 GPU，相较2023年的10万块暴增17倍。英伟达市值突破3万亿美元，科技巨头每季砸下数百亿美元抢购芯片，似乎印证“算力即石油”的叙事。 然而，在播客Latent Space中，AI基础设施公司AMP创始人Anjney Midha指出：“像xAI这样的前沿实验室，GPU利用率可能不到10%。”这揭示了一个结构性行业秘密：大量算力被闲置。 MFU（模型浮点运算利用率）是衡量GPU有效算力的关键指标。若花5亿美元建集群但MFU仅10%，实际有效算力仅相当于5000万美元，其余4.5亿在空转。这些全球顶尖团队投入巨资却让90%算力闲置，问题显然不在个别管理失误。 Epoch AI分析师Josh You在报告中指出，前沿实验室的算力采购速度远超消耗速度，大量资源处于“储备”或“闲置”状态。Fujitsu 2024年《AI基础设施状态报告》显示，超75%企业在峰值负载下GPU利用率仍低于70%。VentureBeat甚至判断：“95%的AI基础设施开支被浪费。” 以一块H100云实例每小时30-50美元计，一个20块GPU的小型集群若利用率仅20%，每年浪费约20万美元。对拥有数万块GPU的实验室而言，损失可达数亿美元。这让人想起1990年代末电信业的“暗光纤”泡沫——铺设的光纤95%从未使用。但区别在于，当时缺乏需求，而如今AI算力需求明确存在。 问题出在哪里？aixenergy研究显示，AI训练中GPU有30%-65%时间在等待数据，即“数据饥饿”。GPU计算速度极快，但存储IO跟不上，导致高速公路上“收费站”成为瓶颈。更隐蔽的是，即使GPU处于“深层空闲状态”，仍消耗大量电力。Epoch AI数据显示，GPU占数据中心总功耗约40%，空转也在烧钱。 此外，行业常用“集群级SM利用率”作为监控指标，但该指标常包含无效操作，如数据搬运、内存同步等。因此，即便显示利用率70%，真实有效计算可能仅一半。峰值利用率如同“最佳季度营收”，不能代表日常效率。 当问题源于结构而非规模，盲目堆量只会放大浪费。解法也需结构性调整。Midha提出“outputmaxxing”（产出最大化）概念，并指出当前最佳实践者的MFU约为60%-70%，而行业均值远低于此。若将利用率从10%提升至60%，等同于不花钱将有效算力扩大6倍。 这与云计算早期相似：2000年代初企业服务器平均利用率仅10%-15%，后经虚拟化、容器化技术，如今云服务器利用率普遍达60%-70%。AI算力正处于类似拐点，系统性优化方案正在酝酿。 商业模式也在推动转变。早期“固定费用许可”模式鼓励浪费，因边际成本为零。如今行业转向按使用量计费，闲置成本从“背景噪音”变为“紧急事项”。每个空转周期都直接计入账单，“产出最大化”成为财务刚需。 环境压力同样倒逼效率革命。Towards Data Science指出，GPU闲置导致大量“无效碳排放”——电能未产出智能，仅转化为热能。Fujitsu等公司已发布白皮书聚焦“最大化GPU利用率”，DevZero、Prodia等基础设施企业也纷纷探讨优化策略。 长期以来，AI竞赛叙事聚焦“规模”：谁有最多GPU、最大模型、最高投入。但效率从未上头条。实际上，将利用率从15%提至50%，其价值可能超过多购10万块GPU。 Midha的“产出最大化”暗示范式转移：AI护城河正从“买更多算力”转向“榨取更多智能”。前者是资本消耗战，后者是工程精密战。前者的上限取决于银行账户和英伟达产能，后者的上限取决于对计算物理、分布式系统和数据工程的理解深度。 这不仅是一次优化，更是一门新学科的诞生。历史上每次基础设施革命都经历“疯狂建设—发现浪费—效率革命”的循环。铁路、电力、互联网、云计算皆如此。AI算力如今走到拐点。 但此次不同在于，过去优化的是“笨资源”（蒸汽、电力、带宽），而今优化的是用于创造智能的资源。唤醒一块空转GPU，不只是提升利用率百分比，更是增加世界上正在思考的硅基大脑数量。 或许，AI时代最关键的问题从来不是“能制造多少算力”，而是“已有算力中有多少真正在思考”。 （来源：半导纵横） （原文标题：都在喊“缺卡”，90%的AI芯片却被“浪费”了？）