为什么我无法分配大型 Numpy 数组,如何修复它?

Barbara Streisand
发布: 2024-11-23 08:17:14
原创
273 人浏览过

Why Can't I Allocate a Large Numpy Array, and How Can I Fix It?

无法在 Numpy 中分配大数组:了解错误及其解决方法

面临“无法分配具有形状的数组”的问题尝试创建大型 Numpy 数组时出现的“和数据类型”错误可归因于过度使用处理模式system.

内存过量使用处理

在 Linux 系统中,内存过量使用处理决定了系统如何管理内存分配。过量使用模式 0(默认值)限制过多的内存请求,以确保系统稳定性。当达到过量使用限制时,分配内存可能会失败。

大数组分配的情况

在 Numpy 中分配大数组时,如提供的示例中所示如果形状为 (156816, 36, 53806),则所需的内存大小明显超过可用的物理内存。在给定的情况下,大约为 282 GB。

过量使用内存模式

此错误的解决方案在于通过设置 / 来启用“始终过量使用”模式proc/sys/vm/overcommit_memory 为 1。这会覆盖默认的启发式方法并允许内存分配,而不管可用的物理内存如何

稀疏数组和内存分配

需要注意的是,启用过度使用模式不会立即为整个数组分配物理内存。相反,内存是在页面写入时分配的。这意味着,如果数组是稀疏的,且大多数为零元素,则实际内存使用量将明显低于理论大小。

注意事项

虽然启用过度使用模式可以解决分配问题,但应谨慎使用。如果超出可用资源,过多的内存分配可能会导致系统性能下降。此外,必须将过量使用设置与实际资源可用性相匹配,以避免潜在的系统不稳定。

以上是为什么我无法分配大型 Numpy 数组,如何修复它?的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:php.cn
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
作者最新文章
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板