英伟达 L40S GPU 将于今秋上市：AI 推理性能比 A100 高 1.2 倍 2023-08-10 17:28:39

英伟达日前发布了全新的 NVIDIA L40S GPU，以及搭载该加速卡的 NVIDIA OVX 服务器系统。

据介绍，这款全新的 GPU 和 OVX 服务器适用于人工智能大模型训练和推理、三维设计和可视化、视频处理、工业数字化等多种用途。它们能够增强生成式 AI、图形和视频处理能力，满足不断增长的算力需求。

L40S GPU 是 L40 的升级版本，配备 48GB GDDR6 ECC 显存。它基于 Ada Lovelace 架构，包含第四代 Tensor Core 和 FP8 转换引擎，运算速度是上一代 GPU 的 5 倍。但是需要注意的是，L40S 与上一代一样不支持 NVLink。

据官方表示，对于具有数十亿个参数和多种数据模式（文本、视频）的复杂 AI 工作负载，L40S 的生成式 AI 推理性能比 A100 高 1.2 倍，训练性能高 1.7 倍。

每台英伟达 OVX 服务器系统最多可搭载 8 个 L40S 加速卡。其中，CoreWeave 是首批提供 L40S 计算平台的云服务商之一。此外，英伟达还提供了多种软件，用于辅助 AI 模型训练、数据分析和生成式人工智能等应用。

据官方介绍，英伟达 L40S GPU 将在今年秋季上市。厂商包括华硕、戴尔、技嘉、HPE、联想、QCT 和美超微等，将很快推出搭载 L40S GPU 的 OVX 系统。这些服务器将有助于推动人工智能的发展和应用。