VMware Explore ——NVIDIA 今天宣布,全球领先的系统制造商将提供支持 AI 的服务器,支持今天与 NVIDIA 单独宣布的 VMware Private AI Foundation,帮助企业使用其专有业务数据定制和部署生成式 AI 应用程序。
NVIDIA AI-ready 服务器将包括NVIDIA L40S GPU、NVIDIA BlueField
-3 DPU和NVIDIA AI Enterprise 软件,使企业能够微调生成式 AI 基础模型并部署生成式 AI 应用程序,例如智能聊天机器人、搜索和摘要工具。这些服务器还提供 NVIDIA 加速的基础架构和软件,为 VMware Private AI Foundation with NVIDIA 提供支持。
全球领先的系统制造商(戴尔科技集团、惠普企业和联想)采用 NVIDIA L40S 的服务器将于年底上市,以加速企业人工智能的发展。
NVIDIA 创始人兼首席执行官黄仁勋表示:“新的计算时代已经开始。” “各个行业的公司都在竞相采用生成式人工智能。凭借我们由世界领先的软件和系统合作伙伴组成的生态系统,我们正在为世界各地的企业带来生成式人工智能。”
对于将与 NVIDIA 一起部署 VMware Private AI Foundation 的企业来说,NVIDIA AI 就绪服务器是一个理想的平台。
VMware 首席执行官 Raghu Raghuram 表示:“生成式 AI 正在加速数字化转型,企业需要一个完全集成的解决方案来更安全地构建应用程序,从而推动业务发展。” “通过 VMware、NVIDIA 和我们的服务器制造商合作伙伴的综合专业知识,企业将能够开发和部署具有数据隐私、安全性和控制能力的 AI。”
为企业中的生成式 AI 转型提供动力
NVIDIA AI 就绪服务器旨在为竞相采用生成式 AI 进行广泛应用的行业提供全栈加速基础设施和软件,包括药物发现、零售产品描述、智能虚拟助理、制造模拟和欺诈检测。
这些服务器采用NVIDIA AI Enterprise,这是 NVIDIA AI 平台的操作系统。该软件为 100 多个框架、预训练模型、工具包和软件提供生产就绪的企业支持和安全性,包括用于法学硕士的NVIDIA NeMo 、用于模拟的NVIDIA Modulus 、用于数据科学的NVIDIA RAPIDS
以及用于生产 AI 的NVIDIA Triton
推理服务器。
L40S GPU 专为处理具有数十亿个参数的复杂 AI 工作负载而设计,包括第四代 Tensor Core 和 FP8 Transformer Engine,与 NVIDIA A100 Tensor Core GPU 相比,可提供超过 1.45 petaflops 的张量处理能力和高达 1.7 倍的训练性能。
对于智能聊天机器人、助手、搜索和摘要等生成式 AI 应用,NVIDIA L40S 的生成式 AI 推理性能比 NVIDIA A100 GPU 高出 1.2 倍。
集成 NVIDIA BlueField DPU 可通过加速、卸载和隔离虚拟化、网络、存储、安全和其他云原生 AI 服务的巨大计算负载来进一步提高速度。
NVIDIA ConnectX -7 SmartNIC 提供先进的硬件卸载和超低延迟,为数据密集型生成 AI 工作负载提供一流的可扩展性能。
广泛的生态系统可加速企业生成式 AI 部署
全球领先的计算机制造商正在构建 NVIDIA AI 就绪型服务器,包括 Dell PowerEdge R760xa、适用于 VMware Private AI Foundation with NVIDIA 的 HPE ProLiant Gen11 服务器以及 Lenovo ThinkSystem SR675 V3。
戴尔科技集团董事长兼首席执行官 Michael Dell 表示:“生成式 AI 是创新的催化剂,有助于解决世界上一些最紧迫的挑战。配备 NVIDIA AI 就绪服务器的戴尔生成式 AI 解决方案将发挥关键作用通过推动前所未有的生产力水平和彻底改变行业运作方式来推动人类进步。”
HPE 总裁兼首席执行官 Antonio Neri 表示:“从为聊天机器人和数字助理提供支持,到帮助设计和开发新解决方案,生成式 AI 将为企业带来新的生产力水平。” “我们很高兴继续与 NVIDIA 密切合作,在一系列企业调优和推理工作负载解决方案中使用 NVIDIA 的 GPU 和软件,从而加速生成式 AI 的部署。”
联想董事长兼首席执行官杨元庆表示:“企业渴望采用生成式人工智能来推动智能转型。” “通过与 NVIDIA 和 VMware 合作,联想将进一步扩大我们在生成式 AI 领域的领导地位,并巩固我们在帮助客户开启 AI 之旅方面的独特地位。”
供货情况
配备 L40S GPU 和 BlueField DPU 的 NVIDIA AI 就绪服务器将于年底上市,云服务提供商预计将在未来几个月内提供实例。
【公司名称】四川旭辉星创科技有限公司
【代理级别】成都戴尔服务器工作站总代理
【销售经理】李经理
【联系方式】座机:028-85596747 手机:13540160369
【公司地址】成都市人民南路4段 桐梓林 商鼎国际2号楼1单元1913
请用微信扫描二维码