辉达GPU的挑战者速度可快10倍?(图
人工智慧(AI)浪潮推升芯片需求,市场焦点过去多年集中在辉达(NVIDIA),但随着AI应用从模型训练逐渐转向大规模推理,一批专注特殊用途芯片的新创企业开始浮现,其中来自美国矽谷的AI芯片公司D-Matrix,正试图以低功耗、高效率的推理芯片切入辉达长期主导的AI资料中心市场。
D-Matrix成立于2019年,主要目标并非直接取代辉达在AI训练市场的GPU,而是锁定生成式AI普及后快速成长的“AI推理”需求,透过专为推理任务打造的加速器,降低企业部署大型AI服务时面临的能源成本与延迟问题。
目前AI产业仍由辉达GPU掌握核心地位,尤其在大型语言模型(LLM)训练领域,CUDA软体生态与硬体优势形成强大护城河。
不过,随着云端巨头持续扩大AI基础建设投资,市场对不同类型AI加速芯片的需求增加,也让新创企业迎来切入机会。
处理小型算力任务速度可达辉达GPU的10倍
D-Matrix认为,推理工作与模型训练需求不同,更重视低延迟、低功耗与成本效率,因此不一定需要使用高阶GPU,而是可以透过专用芯片完成。
《金融时报》报道指出,包括D-Matrix、Groq与Cerebras等AI芯片新创,都正在寻找突破辉达主导地位的方法,并聚焦于AI推理市场,希望受惠AI技术繁荣带来的红利。
Cerebras执行长Andrew Feldman受访表示:“战胜巨头的办法就是推出远胜于它的产品,以我的经验来看,更好的产品通常会胜出。”
D-Matrix推出的核心产品为Corsair AI加速平台,采用数位记忆体内运算(Digital In-Memory Compute, DIMC)架构,试图解决传统AI芯片中“计算单元与记忆体距离过远”造成的资料搬移瓶颈。
公司表示,AI推理过程大量涉及资料传输,而传统GPU架构需要频繁在处理器与记忆体间交换资料,造成能源消耗与延迟增加。 D-Matrix透过将运算能力更靠近记忆体,希望提升效率。
根据D-Matrix公布资料,Corsair平台主打AI推理应用,号称在处理小型算力任务时,速度可达辉达GPU的10倍,能耗仅为5分之1,试图在AI数据中心推理市场切入辉达长期主导的高效能运算版图。
D-Matrix采用基于SRAM的记忆体内运算架构,减少对传统外部记忆体频繁存取的需求。
D-Matrix股东包括微软、淡马锡
D-Matrix推出Corsair AI推理芯片后,市场也开始重新检视辉达在AI芯片市场的竞争压力。消息公布后,辉达股价于6月9日盘中一度受到压力,最低下探至199.34美元,跌幅达4.5%,重新跌破200美元关卡;不过市场抛售情绪随后收敛,终场仅下跌0.22%,收在208.19美元。
D-Matrix的发展也受到大型科技公司的关注。路透等媒体报道,D-Matrix曾获得微软旗下创投基金M12投资,2023年完成1.1亿美元募资,投资者包括新加坡淡马锡(Temasek)与微软M12等。
到了后续融资阶段,彭博报道指出,D-Matrix完成2.75亿美元募资,公司估值达约20亿美元,投资方包括卡达投资局、新加坡企业发展局(EDBI)、淡马锡,以及微软M12等既有投资人。
D-Matrix联合创始人兼执行长Sid Sheth受访时表示,“这是一个正在形成的上兆美元市场”。 Sid Sheth不愿透露Corsair具体客户有哪些,但他透露,许多知名超大规模资料中心、AI实验室已承诺采购,Corsair预计本月开始出货,其中9成客户都在美国,海外客户则在中东和东南亚。

[物价飞涨的时候 这样省钱购物很爽]
好新闻没人评论怎么行,我来说几句
D-Matrix成立于2019年,主要目标并非直接取代辉达在AI训练市场的GPU,而是锁定生成式AI普及后快速成长的“AI推理”需求,透过专为推理任务打造的加速器,降低企业部署大型AI服务时面临的能源成本与延迟问题。
目前AI产业仍由辉达GPU掌握核心地位,尤其在大型语言模型(LLM)训练领域,CUDA软体生态与硬体优势形成强大护城河。
不过,随着云端巨头持续扩大AI基础建设投资,市场对不同类型AI加速芯片的需求增加,也让新创企业迎来切入机会。
处理小型算力任务速度可达辉达GPU的10倍
D-Matrix认为,推理工作与模型训练需求不同,更重视低延迟、低功耗与成本效率,因此不一定需要使用高阶GPU,而是可以透过专用芯片完成。
《金融时报》报道指出,包括D-Matrix、Groq与Cerebras等AI芯片新创,都正在寻找突破辉达主导地位的方法,并聚焦于AI推理市场,希望受惠AI技术繁荣带来的红利。
Cerebras执行长Andrew Feldman受访表示:“战胜巨头的办法就是推出远胜于它的产品,以我的经验来看,更好的产品通常会胜出。”
D-Matrix推出的核心产品为Corsair AI加速平台,采用数位记忆体内运算(Digital In-Memory Compute, DIMC)架构,试图解决传统AI芯片中“计算单元与记忆体距离过远”造成的资料搬移瓶颈。
公司表示,AI推理过程大量涉及资料传输,而传统GPU架构需要频繁在处理器与记忆体间交换资料,造成能源消耗与延迟增加。 D-Matrix透过将运算能力更靠近记忆体,希望提升效率。
根据D-Matrix公布资料,Corsair平台主打AI推理应用,号称在处理小型算力任务时,速度可达辉达GPU的10倍,能耗仅为5分之1,试图在AI数据中心推理市场切入辉达长期主导的高效能运算版图。
D-Matrix采用基于SRAM的记忆体内运算架构,减少对传统外部记忆体频繁存取的需求。
D-Matrix股东包括微软、淡马锡
D-Matrix推出Corsair AI推理芯片后,市场也开始重新检视辉达在AI芯片市场的竞争压力。消息公布后,辉达股价于6月9日盘中一度受到压力,最低下探至199.34美元,跌幅达4.5%,重新跌破200美元关卡;不过市场抛售情绪随后收敛,终场仅下跌0.22%,收在208.19美元。
D-Matrix的发展也受到大型科技公司的关注。路透等媒体报道,D-Matrix曾获得微软旗下创投基金M12投资,2023年完成1.1亿美元募资,投资者包括新加坡淡马锡(Temasek)与微软M12等。
到了后续融资阶段,彭博报道指出,D-Matrix完成2.75亿美元募资,公司估值达约20亿美元,投资方包括卡达投资局、新加坡企业发展局(EDBI)、淡马锡,以及微软M12等既有投资人。
D-Matrix联合创始人兼执行长Sid Sheth受访时表示,“这是一个正在形成的上兆美元市场”。 Sid Sheth不愿透露Corsair具体客户有哪些,但他透露,许多知名超大规模资料中心、AI实验室已承诺采购,Corsair预计本月开始出货,其中9成客户都在美国,海外客户则在中东和东南亚。

[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注: | 在此页阅读全文 |
| 延伸阅读 |
推荐:
辉达GPU的挑战者速度可快10倍?(图