英伟达推Groq加持新推理芯片

腾赚网 96 0

让理财更简单:万0.86超低手续费>>【>>戳我进入<<】

英伟达要推新“推理怪兽”了。3月圣何塞GTC大会上,一款专为OpenAI等客户打造的AI处理器将亮相,核心是整合初创公司Groq的“语言处理单元”——这玩意儿不靠堆核,专攻让大模型秒回问题,效率吊打传统GPU。

OpenAI已成头号客户,但动作耐人寻味:一边签下英伟达新品,一边砸数十亿美元牵手Cerebras。谷歌TPU也在加速取代GPU。训练时代靠算力堆,推理时代拼的是省电、省钱、跑得快。英伟达90%的GPU江山,正被“代理式AI”的浪潮悄悄冲刷。

抱歉,评论功能暂时关闭!