首页 > 科技周边 > 人工智能 > 英伟达推出 L40S GPU,AI 推理性能超过 A100 约 1.2 倍

英伟达推出 L40S GPU,AI 推理性能超过 A100 约 1.2 倍

王林
发布: 2023-08-10 21:01:06
转载
1709 人浏览过

据IT之家8月10日消息,英伟达最近推出了全新的NVIDIA L40S GPU和配备该GPU的OVX服务器系统,有关该技术的文档可以在这里找到

英伟达推出 L40S GPU,AI 推理性能超过 A100 约 1.2 倍

▲ 图片来源:英伟达官网

据悉,这款 L40S GPU 搭配最新发布的 OVX 服务器,可适用于 AI 大模型训练和推理、三维设计、可视化、视频处理、工业数字化等多种用途,相比 A100 GPU,这套“相得益彰”的 L40S 系统能够“增强生成式 AI、图形和视频处理能力,并满足不断增长的算力需求”。

根据IT之家的调查,我们了解到L40S GPU是英伟达之前L40 GPU的升级版,具备48GB GDDR6 ECC显存。该GPU基于Ada Lovelace架构,搭载第四代Tensor Core和FP8转换引擎,其计算速度是上一代的5倍。然而,仍然不支持NVLink

根据英伟达的说法,L40S 在生成式 AI 推理性能上比 A100 高出 1.2 倍,并且在训练性能上高出 1.7 倍。英伟达认为,对于“复杂的 AI 工作,具有数十亿个参数和多种数据模式”,L40S 的效能更加显著

英伟达宣布,他们将在今年秋季推出英伟达 L40S GPU。每台英伟达 OVX 服务器系统最多可支持8个L40S加速卡,但英伟达尚未公布该GPU的价格

英伟达宣布华硕、戴尔、技嘉、HPE、联想、QCT和美超微等厂商将很快推出搭载L40S GPU的OVX服务器系统

以上是英伟达推出 L40S GPU,AI 推理性能超过 A100 约 1.2 倍的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:sohu.com
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板