NVIDIA携手VMware打造VMware Private AI Foundation with NVIDIA,加速推进生成式AI落地
2023年,携手以ChatGPT为代表的打造生成式AI迅速爆火,成为科技行业的加进生热点 。如何高效部署生成式AI应用,速推以此来加速业务创新 ,成式成为各大企业纷纷探索的落地重点 。
为了帮助企业加速推进生成式AI的携手应用落地,在VMware Explore 2023上,打造VMware联合NVIDIA ,加进生共同打造VMware Private AI Foundation with NVIDIA生成式AI平台。速推VMware Private AI Foundation with NVIDIA 将使企业能够自定义模型并运行各种生成式 AI 应用,成式如智能聊天机器人、落地助手 、服务器租用携手搜索和摘要等。打造该平台将作为全集成式解决方案 ,加进生采用 NVIDIA 提供的生成式 AI 软件和加速计算,基于 VMware Cloud Foundation 构建,并针对 AI 进行了优化。
据NVIDIA企业计算副总裁Justin Boitano介绍 ,VMware Private AI Foundation with NVIDIA不但能够让用户可以快速获取生成式AI所需要的高性能,而且还能够依托于NVIDIA Nemo框架和深度学习虚拟机 ,快速开发和部署LLM,加速LLM输出交付。
共同推动生成式AI应用落地
众所周知 ,生成式AI对于算力提出了更高的要求 。为了解决算力挑战,免费模板NVIDIA 不但推出了L40S 、H100等先进的 GPU ,而且还发布了NVIDIA BlueField-3数据处理单元 (DPU)。与此同时,为了帮助企业打造现代化的数据中心,VMware发布了VMware Cloud Foundation,以此来帮助企业从本地数据中心延伸到混合云。

在NVIDIA企业计算副总裁Justin Boitano看来 ,创建和自定义企业的生成式AI模型和应用程序,不但对性能提出了更高的要求 ,而且还需要解决企业面临的数据保护安全、源码下载IP安全和隐私等风险 。VMware云基础架构平台副总裁Paul Turner同样表示,面对外部环境的不确定性 ,快速发展的环境和不断变化的工具,企业创建生成式AI应用时,还需要综合考虑成本和复杂性等因素。

为此 ,NVIDIA和VMware基于企业面临的各种挑战,在VMware Explore 2023上共同打造了VMware Private AI Foundation with NVIDIA生成式AI平台 ,一方面基于NVIDIA L40S/NVIDIA H100和NVIDIA BlueField-3/ NVIDIA ConnectX-7底层硬件提供强大的算力保障;另一方面,利用 NVIDIA AI Enterprise 套件,高防服务器VMware Cloud Foundation用户能够在 NVIDIA 认证系统上安全地运行现代、加速的工作负载以及现有企业应用程序,实现LLM的快速开发、部署和输出交付。

据介绍,由于VMware云基础架构支持NVIDIA L40S GPU和NVIDIA BlueField-3智能网卡等硬件产品 ,能够在VMware Cloud Foundation直接加速人工智能工作负载的计算能力 。而在VMware Private AI Foundation with NVIDIA生成式AI平台上 ,用户仅需要创建项目 、自定义模型、构建Al助手、部署Al助手这4个步骤,即可完成生成式AI应用的亿华云开发与应用。

Justin Boitano表示 ,VMware Private Al Foundation with NVIDIA平台不但能够为用户提供更优化的性能,而且基于双方广泛的生态和合作伙伴,能够为用户带来更高的选择灵活性 ,与此同时还能够降低数据安全的风险。除此之外,能够大幅提高企业的生产力,降低开发流程,缩短开发部署应用周期。

据了解 ,源码库VMware Private Al Foundation with NVIDIA平台将采用的 NVIDIA NeMo 是 NVIDIA AI Enterprise(NVIDIA AI 平台的操作系统)中包含的端到端云原生框架,可助力企业在几乎任何地点构建、自定义和部署生成式 AI 模型。NeMo 集自定义框架、护栏工具包 、数据整理工具和预训练模型于一身 ,使企业能够以一种简单、经济且快速的方式来采用生成式 AI 。
除此之外 ,为将生成式 AI 部署到生产中,NeMo 使用 TensorRT for Large Language Models(TRT-LLM) ,以加速并优化 NVIDIA GPU 上最新 LLM 的推理性能 。通过 NeMo,VMware Private AI Foundation with NVIDIA 将使企业能够导入自己的数据,并在 VMware 混合云基础架构上构建和运行自定义生成式 AI 模型 。
十年合作加速虚拟化计算
NVIDIA与VMware自2013年开始合作以来 ,至今已有10年的历程。这10年来 ,双方在虚拟化、人工智能 、现代化数据中心等领域进行了深入的合作 ,致力于帮助企业用户构建现代化的数据中心 ,加速企业的创新与数字化转型 。

在AI领域 ,利用 NVIDIA AI Enterprise 套件和 NVIDIA 最先进的 GPU 和 数据处理单元 (DPU) ,VMware 和 NVIDIA 正在将共同努力改造基于 VMware Cloud Foundation 的现代数据中心 ,并将 AI 引入每个企业 ,并从本地数据中心延伸到混合云,从虚拟机延伸到容器。
据介绍,VMware Private AI Foundation with NVIDIA生成式AI平台 ,得到了联想、戴尔集团 、慧与等硬件厂商的大力支持 。戴尔科技 、慧与和联想即将推出采用 NVIDIA L40S GPU 和 NVIDIA BlueField 的服务器,以支持 VMware Private AI Foundation with NVIDIA,共同合作推动生成式AI平台的应用落地。
正发Justin Boitano所述,NVIDIA携手VMware打造的VMware Private AI Foundation with NVIDIA,将大幅减化生成式AI的开发与部署 ,加速推进生成式AI在各行各业的应用 ,助推行业创新,加速企业数字化转型 。
相关文章

直指word附件,勒索软件AstraLocker 2.0来袭!
近期,一种鲜为人知的名为AstraLocker的勒索软件发布了它的第二个主要版本,据威胁分析师称,它能快速发动攻击,并直接从电子邮件附件中删除其有效负载。这种方法是很少见的,因为所有典型的电子邮件攻击2025-12-07
以唯米X3全网通手机的综合评测(一款颠覆性的智能手机,助你开启全新体验)
在当今智能手机市场中,以唯米X3全网通手机作为一款备受瞩目的新品,凭借其优秀的配置和颠覆性设计,已经引起了广泛的关注。本文将对该手机进行综合评测,为读者提供全面的了解和参考。一:外观设计出众,颠覆传统2025-12-07
从Mac换到Win系统(轻松迁移你的Mac,掌握Win系统)
在数字时代,操作系统的选择成为了一个重要的决策,而将Mac系统转换为Windows系统,成为一种常见的选择。本文将为大家提供一份全面的安装教程,旨在帮助那些计划从Mac系统换到Windows系统的用户2025-12-07
2022年12月27日,由中国人民银行主管的《金融电子化》杂志社主办的“2022中国金融科技年会暨第十三届金融科技应用创新奖颁奖典礼”,对推动金融行业数字化转型的创新科技企业和项目进行了颁奖。凭借在金2025-12-07
1.摘要本文介绍了使用Go语言实现的基本HTTP代理功能。通过详细讲解代理服务器的工作原理,包括接收客户端请求、转发请求至目标服务器、接收目标服务器响应并返回给客户端等过程,大家可以了解HTTP代理的2025-12-07
三星J5088电视的全面评测(体验三星J5088电视的高品质画面与智能功能)
作为现代家庭娱乐的重要组成部分,电视机在我们的生活中扮演着重要的角色。近年来,随着科技的不断发展,电视技术也取得了长足的进步,提供了更加精彩和逼真的观看体验。三星作为电子产品领域的领导者,推出了一系列2025-12-07

最新评论