2023年10月5日（北京时间），PyTorch社区正式发布了2.1版本。经过PyTorch社区与升腾的持续合作和共同努力，PyTorch 2.1版本已经同步支持升腾NPU。这意味着开发者可以直接在PyTorch 2.1上进行基于升腾的模型开发。未来，通过持续的社区技术贡献，升腾将与PyTorch社区版本同步演进和发布，共同推动AI技术创新和开源生态发展
图注:PyTorch 社区2.1版本的官方发布声明中宣布升腾NPU已成功对接
PyTorch在新版本中发布了更加完善的第三方设备接入机制,该特性由升腾主导,与PyTorch社区的核心维护者共同完成。基于该特性,三方AI算力设备无需对原有框架代码进行修改就能对接PyTorch框架,升腾也提供了官方认证的Torch NPU参考实现,可以指导三方设备便捷接入。
在早前版本中,由于缺少对于升腾算力设备的原生支持,开发者如果想在主流框架下调用升腾NPU实现加速,还需要花费数周时间进行模型迁移。而现在,基于新版本,用户可以在升腾NPU上直接享受原生PyTorch的开发体验,获得可以高效运行在升腾算力设备上的模型和应用。
升腾已经在PyTorch上适配了BLOOM、GPT-3、LLaMA等业界主流大模型，并对其进行了深度优化，使性能能够与业界持平。在最新的PyTorch版本上，升腾将与社区紧密合作，同步演进，不断提升模型加速能力
未来,升腾将通过持续的技术贡献,积极推动PyTorch社区多样性算力改进,优化PyTorch框架,帮助释放升腾算力,与PyTorch社区贡献者一起,共促AI技术创新和开源生态的快速发展。
以上是PyTorch+升腾 共促AI生态创新发展的详细内容。更多信息请关注PHP中文网其他相关文章！
