英伟达发布全球最强AI芯片H200:性能较H100提升近一倍

王林
发布: 2023-11-14 14:33:49
转载
916 人浏览过

英伟达发布全球最强AI芯片H200:性能较H100提升近一倍

快科技今日(11月14日)消息,在2023年全球超算大会(SC2023)上,芯片巨头英伟达发布了H100芯片的继任者,也是目前世界最强的AI芯片——H200。

英伟达发布全球最强AI芯片H200:性能较H100提升近一倍

H200的性能相较于H100有了60%到90%的直接提升

不仅如此,H200与H100一样都是基于英伟达Hopper架构打造,这也意味着两款芯片可以互相兼容,对于使用H100企业而言,可以无缝更换成最新的H200。

H200是英伟达首款采用HBM3e内存的芯片,具有更快的速度和更大的容量,非常适合用于大型语言模型的训练和推理

除了HBM3e内存外,H200的内存容量为141GB,带宽从H100的3.35TB/s增加到了4.8TB/s。

H200的性能提升最主要体现在大模型推理表现上,H200 在700亿参数的Llama2大模型上的推理速度比H100快了一倍,而且在推理能耗上H200相比H100直接降低了一半。

H200具备更高的显存带宽,对于显存密集型的高性能计算应用而言,这意味着可以更有效地访问操作数据。与中央处理器(CPU)相比,使用H200可以将结果的获取时间最多提升110倍

英伟达表示H200预计将于2024年第二季度出货,售价还暂未公布,不过在算力荒下,大科技公司们估计还是会疯狂囤货。

英伟达发布全球最强AI芯片H200:性能较H100提升近一倍

以上是英伟达发布全球最强AI芯片H200:性能较H100提升近一倍的详细内容。更多信息请关注PHP中文网其他相关文章!

相关标签:
来源:sohu.com
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板