您现在的位置是:主页 > 品牌 > 微软 >
Meta与微软抛弃英伟达H100,转而选择AMD新推出的AI芯片
发布时间:2023年12月07日 15:23:57 微软 人已围观
简介Meta、微软以及OpenAI于12月6日在AMD的投资者活动中宣布,未来将采用AMD最新发布的人工智能芯片Instinct MI300X。与其他公司一样,他们认识到图形处理器在人工智能模型创建与部署中的重要...
财联社12月7日讯(编辑 周子意)Meta、微软以及OpenAI于12月6日在AMD的投资者活动上确认,他们将在未来采用AMD新推出的人工智能(AI)芯片Instinct MI300X。
图形处理器(GPU)在开发和运行像OpenAI的ChatGPT这样的人工智能应用中至关重要。尽管英伟达在人工智能市场依旧占据主导地位,许多科技公司却在积极寻求替代方案,以降低开支。
Meta与微软等公司的最新表态正好反映了这一趋势。
在此次会议上,AMD推出的首款产品是Instinct MI300X加速器,其由8个MI300X GPU构成,能够提供高达1.5TB的HBM3内存。
与英伟达的H100 HGX相比,Instinct MI300X加速器在处理大语言模型推理的吞吐量和延迟表现上更为出色,在各类AI和高性能计算(HPC)任务中尤为优越。
分析人士指出,如果AMD的高端芯片在明年初顺利投放市场,并且其性能能够满足科技公司和云服务商构建AI模型的需求,那么这无疑会对英伟达持续上升的AI芯片销售构成竞争挑战。
AMD首席执行官苏姿丰在周三的会议上表示:“现在外界对云计算的大型处理器和大型GPU的关注度非常高。”
AMD所面临的挑战
AMD当前最大的挑战在于,依赖于英伟达芯片作为基础计算支持的公司,是否愿意投入时间和资金来增加对其他GPU供应商的采购。对此,苏姿丰认为,AMD仍需加大努力。
价格方面同样至关重要。周三,AMD并未透露MI300X的定价。苏姿丰向记者指出,AMD必须将其芯片的定价设定在低于英伟达的水平,以说服客户进行采购。目前,英伟达的GPU芯片每块售价约为4万美元。
在软件层面,AMD向投资者和合作伙伴表示,已对名为ROCm的软件套件进行了改进,解决了一个关键缺陷,而该缺陷正是为什么目前很多人工智能开发者更倾向于选择英伟达的原因之一。
AMD还在会上推出了最新版本的ROCm 6开源软件平台,显著提升了AI加速的性能。
此外,AMD还透露,它已与一些对GPU需求迫切的公司达成了使用该芯片的协议。
众多支持者
在AMD的投资者活动上,多个公司参与了支持,包括微软、Meta、OpenAI和甲骨文等。
Meta表示,将利用MI300X GPU来处理AI推理工作负载。
微软的首席技术官Kevin Scott指出,该公司将在Azure网络服务上开发MI300X芯片的访问权限。
OpenAI表示,将在一款名为Triton的软件产品中支持AMD的GPU。Triton并不像GPT那样是大型语言模型,而是一种类似Python的开源编程语言。
甲骨文也宣布,他们的云计算服务将采用该芯片。
有趣的是,最近市场研究公司Omdia Research发布的报告显示,