AMD全面发力AI芯片挑战英伟达，差距还有多大？

AMD制造的片挑AI芯片“几乎”与业界领先的英伟达AI芯片一样快  。这是战英根据Databricks旗下的AI软件开发商MosaicML的一项研究得出的结论 。研究发现 
，伟达在训练大型语言模型和执行其他AI密集型任务时
，差距AMD的片挑AI芯片达到了英伟达同类产品的80%。

MosaicML将AMD MI250与Nvidia A100进行了对比 ，战英并训练了不同大小的伟达大型语言模型

英伟达的芯片目前在训练AI模型(例如用于运行ChatGPT或Midjourney的建站模板模型)方面占据主导地位。这些产品的差距成功和对计算能力的需求将英伟达的估值推至1万亿美元 ，并引发了GPU的片挑短缺。

MosaicML对比测试AMD的战英M1250 GPU与英伟达的A100 GPU

MosaicML最近将AMD的M1250 GPU与英伟达的A100 GPU进行了对比测试。这两款设备都比各自开发的伟达顶级芯片落后一代，它们被用来训练大型语言模型，差距研究人员发现
，免费模板片挑AMD和英伟达的战英芯片在训练模型时都能“开箱即用”，AMD M1250 GPU的伟达性能约为英伟达A100 GPU的80% 。

MosaicML训练了10亿到130亿个参数的模型，类似于企业中用于为大型公司数据集的搜索和汇总提供AI驱动工具的模型。他们在4个GPU的单个节点上进行训练，发现MI250 GPU的吞吐量在A100 GPU的80%以内 。MI250在每秒浮点运算和内存方面略有优势 ，亿华云允许每个GPU训练更大的模型。

该公司计划在更大的GPU集群上对更大的模型进行分析，以确认AMD系统是否可以在大规模下运行 ，并正在与超大规模厂商合作。他们还计划创建推理基准 ，并在两个系统上使用扩散模型等其他模型来测试更广泛的选项。

虽然这两款芯片并不是这两家公司的顶级产品 ，但它们都被广泛用于数据中心和训练AI模型 。MosaicML表示  ，模板下载新的机器学习训练硬件对于在英伟达GPU供应紧张的情况下提高计算可用性是必要的。

软件驱动的AMD

MosaicML表示 ，AMD的性能与该公司去年发布的新版本软件有关，该软件与开源AI软件PyTorch交互。MosaicML首席技术官Hanlin Tang表示 ，AMD对MI250 GPU的进一步软件更新将使其在今年年底之前达到英伟达A100 GPU的性能 。

他表示
，云计算AMD在软件优化方面做得特别好 
，尽管在硬件性能方面存在差异，但仍能跟上英伟达的发展步伐 。Tang表示，用户并不需要更改代码库或重新编写大型语言模型，就可以切换到采用AMD的产品 。他表示  ，它们本质上是可以互换的。

Tang表示，AMD并没有委托MosaicML进行这项研究。MosaicML开发的软件旨在使企业更容易创建AI模型并在内部进行培训
 ，服务器租用而不是依赖OpenAI或其他大型AI实验室的工具。他指出，这项研究是为了表明除了英伟达的芯片之外还有其他选择
。

他说，“总的来说，我们对AI训练硬件的未来市场非常乐观，有更多的选择意味着更多的计算供应 ，更低的市场价格 ，最终为想要训练自己的模型的用户降低成本。”

Databricks透露，该公司近日已经斥资13亿美元收购MosaicML
，这是该公司构建企业级开源AI模型生态系统的更广泛努力的一部分。这两家公司都在开发软件工具，使AI算法更小、更便宜地在大型数据集上运行
，但MosaicML软件将用于增强Databricks的服务。

在这份报告发布之际，英特尔日前宣布了从2025年开始在AI芯片领域展开竞争的长期计划。该公司正在转变战略 ，专注于制造与英伟达和AMD的硬件相抗衡的产品。

英特尔在上周宣布其FalconShores芯片将拥有288GB内存，并支持8位浮点计算，这对于训练AI模型非常重要。英特尔还声称，其Ponte Vecchio AI芯片的性能优于英伟达H100
。虽然Vecchio AI芯片的供应面临延期，但将成为美国阿贡国家实验室最新超级计算机的核心，预计今年将完成发货。

最新评论