微比恩 > 信息聚合 > 英伟达发布 L40S GPU:AI 推理性能较 A100 高 1.2 倍

英伟达发布 L40S GPU:AI 推理性能较 A100 高 1.2 倍

2023-08-10 18:12:09来源: IT之家

IT之家 8 月 10 日消息,英伟达日前发布了全新的 NVIDIA L40S GPU,以及搭载该 GPU 的 OVX 服务器系统,IT之家的小伙伴们可以在这里找到相应技术文档。▲ 图源 英伟达官网据悉,这款 L40S GPU 搭配最新发布的 OVX 服务器,可适用于 AI 大模型训练和推理、三维设计、可视化、视频处理、工业数字化等多种用途,相比 A100 GPU,这套“相得益彰”的 L40S 系统能够“增强生成式 AI、图形和视频处理能力,并满足不断增长的算力需求”。IT之家经过查询得知,L40S GPU 是英伟达此前 L40 GPU 的升级版本,配备 48GB GDDR6 ECC 显存,该 GPU 基于 Ada Lovelace 架构,搭载第四代 Tensor Core 和 FP8 转换引擎,运算速度是上一代的 5 倍。但依然不支持 NVLink。英伟达声称,L40S 的生成式 AI 推理性能比 A100 高 1.2 倍,训

关注公众号
标签: GPU AI