英伟达计划推出全新AI推理芯片整合Groq技术欲重塑市场格局

英伟达计划推出全新AI推理芯片整合Groq技术欲重塑市场格局

英伟达正在为AI推理计算设计全新系统,将整合初创公司Groq设计的芯片。这款新平台将于下月在圣何塞举办的英伟达GTC开发者大会上正式公布。

推理芯片成竞争焦点

推理计算已成为行业激烈竞争的焦点。竞争对手谷歌和亚马逊均已推出芯片,与英伟达旗舰产品抗衡。部分知情人士称,OpenAI已同意成为这款新处理器的最大客户之一。

上周五,OpenAI在宣布将向英伟达大规模采购专用推理算力时,已间接提及这款新处理器,同时英伟达还对其进行了300亿美元投资。

英伟达计划推出全新AI推理芯片 整合Groq技术欲重塑市场格局 新闻

面临性能瓶颈

英伟达在GPU领域占据主导地位,掌控着90%以上的市场份额。但随着市场向推理方向转移,部分客户正施压英伟达,要求推出能更高效支撑AI应用的芯片。

随着企业纷纷部署AI智能体等工具,许多企业发现GPU成本过高、功耗过大,且并不完全适配模型实际运行需求。英伟达面临巨大压力,亟需研发成本更低、能效更高的推理芯片。

整合Groq技术

英伟达于去年底同意以200亿美元获得Groq关键技术授权,并引进其核心管理团队。Groq所设计的芯片采用与英伟达截然不同的架构,名为语言处理单元,在推理功能上效率极高。