PyTorch+昇腾 共促AI生态创新发展

2023年10月5日（北京时间），PyTorch社区正式发布了2.1版本。经过PyTorch社区与昇腾的持续合作和共同努力，PyTorch 2.1版本已经同步支持昇腾NPU。这意味着开发者可以直接在PyTorch 2.1上进行基于昇腾的模型开发。未来，通过持续的社区技术贡献，昇腾将与PyTorch社区版本同步演进和发布，共同推动AI技术创新和开源生态发展

图注:PyTorch 社区2.1版本的官方发布声明中宣布昇腾NPU已成功对接

PyTorch在新版本中发布了更加完善的第三方设备接入机制,该特性由昇腾主导,与PyTorch社区的核心维护者共同完成。基于该特性,三方AI算力设备无需对原有框架代码进行修改就能对接PyTorch框架,昇腾也提供了官方认证的Torch NPU参考实现,可以指导三方设备便捷接入。

在早前版本中,由于缺少对于昇腾算力设备的原生支持,开发者如果想在主流框架下调用昇腾NPU实现加速,还需要花费数周时间进行模型迁移。而现在,基于新版本,用户可以在昇腾NPU上直接享受原生PyTorch的开发体验,获得可以高效运行在昇腾算力设备上的模型和应用。

昇腾已经在PyTorch上适配了BLOOM、GPT-3、LLaMA等业界主流大模型，并对其进行了深度优化，使性能能够与业界持平。在最新的PyTorch版本上，昇腾将与社区紧密合作，同步演进，不断提升模型加速能力

未来,昇腾将通过持续的技术贡献,积极推动PyTorch社区多样性算力改进,优化PyTorch框架,帮助释放昇腾算力,与PyTorch社区贡献者一起,共促AI技术创新和开源生态的快速发展。

以上是PyTorch+昇腾 共促AI生态创新发展的詳細內容。更多資訊請關注PHP中文網其他相關文章！