无法在 Numpy 中分配大数组:了解错误及其解决方法
面临“无法分配具有形状的数组”的问题尝试创建大型 Numpy 数组时出现的“和数据类型”错误可归因于过度使用处理模式system.
内存过量使用处理
在 Linux 系统中,内存过量使用处理决定了系统如何管理内存分配。过量使用模式 0(默认值)限制过多的内存请求,以确保系统稳定性。当达到过量使用限制时,分配内存可能会失败。
大数组分配的情况
在 Numpy 中分配大数组时,如提供的示例中所示如果形状为 (156816, 36, 53806),则所需的内存大小明显超过可用的物理内存。在给定的情况下,大约为 282 GB。
过量使用内存模式
此错误的解决方案在于通过设置 / 来启用“始终过量使用”模式proc/sys/vm/overcommit_memory 为 1。这会覆盖默认的启发式方法并允许内存分配,而不管可用的物理内存如何
稀疏数组和内存分配
需要注意的是,启用过度使用模式不会立即为整个数组分配物理内存。相反,内存是在页面写入时分配的。这意味着,如果数组是稀疏的,且大多数为零元素,则实际内存使用量将明显低于理论大小。
注意事项
虽然启用过度使用模式可以解决分配问题,但应谨慎使用。如果超出可用资源,过多的内存分配可能会导致系统性能下降。此外,必须将过量使用设置与实际资源可用性相匹配,以避免潜在的系统不稳定。
以上是为什么我无法分配大型 Numpy 数组,如何修复它?的详细内容。更多信息请关注PHP中文网其他相关文章!