Google 称 AI 伺服器记忆体成本破 75%，推软硬体双轨策略

AI 摘要

一句话摘要: Google称AI伺服器记忆体成本占硬件75%，推出TPU分流与量化算法双轨策略应对。 关键事实: 高效能记忆体占AI伺服器物料清单成本超75%，Google推出TPU 8i与TPU 8t分别针对低延迟推论和超大规模训练，TurboQuant算法将键值快取从32位元压缩至3位元且零精度损失。 涉及主体: Google Cloud, Alphabet, Nikhil Cherian, TPU 8i, TPU 8t, TurboQuant, SEMICON Taiwan 可能影响: 记忆体成本成为AI算力核心瓶颈，推动软硬体协同优化成为行业趋势，可能加速高带宽记忆体供应链竞争与替代技术研发。 是否值得继续跟踪: 是，Google的软硬体双轨策略代表头部云厂商应对记忆体瓶颈的典型路径，其量化算法与硬件分流设计可能影响下一代AI基础设施架构标准。 噪音/炒作风险: 低，内容基于官方技术论坛发言，涉及具体硬件参数与算法效果，具备可验证性，且记忆体成本问题已有行业共识。