文章来源：
腾赚网
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 wulanwray@foxmail.com 举报，一经查实，本站将立刻删除。
谷歌新算法压缩AI内存6倍
303
0
3月26日，谷歌发布全新AI内存压缩算法TurboQuant，号称能在不牺牲精度的前提下，将大模型键值缓存（KV Cache）内存占用减少6倍以上，推理性能提升8倍。这项技术直击当前AI落地的核心瓶颈——内存吃紧，立刻引发硅谷震动。美股存储芯片股应声大跌，美光、西部数据、希捷单日跌幅均超4%，SK海力士、三星在亚洲时段也快速下挫。
TurboQuant通过两步实现高效压缩：先用PolarQuant随机旋转向量、分段量化，保住关键特征；再用仅1比特的QJL算法精准抹除残留误差。它无需预训练、不挑模型，已在Gemma、Mistral等开源长上下文模型上实测验证，在LongBench、Needle In A Haystack等主流基准中全面领先。不过摩根士丹利提醒，该技术仅优化推理阶段的缓存，并不减少模型权重本身对高带宽内存（HBM）的需求。更关键的是，效率提升可能催生更多AI应用——就像蒸汽机越高效，煤炭越抢手，TurboQuant或许不是给内存需求“降温”，而是点燃新一轮算力扩张。
