目录
How Fast Is the Go 1.5 GC with Terabytes of RAM?
首页 后端开发 Golang Go 1.5 的垃圾收集器准备好进行 TB 级内存管理了吗?

Go 1.5 的垃圾收集器准备好进行 TB 级内存管理了吗?

Nov 30, 2024 pm 02:26 PM

Is Go 1.5's Garbage Collector Ready for Terabyte-Scale Memory Management?

How Fast Is the Go 1.5 GC with Terabytes of RAM?

背景:

Java 面临着 GC 中断时间过长的瓶颈,无法有效利用 TB 级内存。随着 Go GC 的优化,人们不禁好奇它是否能在 TB 级内存环境下实现足够短的 GC 中断时间。

问题:

  • Go 1.5 GC 是否已经准备好应对 TB 级内存?
  • 是否有相关的基准测试?
  • 是否可以使用一款带有 GC 的语言来管理如此庞大的内存?

答案:

要点:

  • 目前,单个 Go 进程无法使用 TB 级内存。Linux 上的最大限制为 512 GB,而实际测试中最高记录仅为 240 GB。
  • 在当前的后台 GC 模式下,GC 工作负载往往比 GC 中断时间更为关键。
  • GC 工作负载可以用 指针数量 * 分配速率 / 剩余内存 来表示。在使用大量内存的应用中,只有指针数量较少或分配较少的应用才能保持较低的 GC 工作负载。

详细内容:

Go 堆具有 512 GB 的限制,已实际测试的最大堆大小为 240 GB。

Go 1.5 GC 旨在减少 GC 中断时间,而不是减少 GC 工作。代码在 GC 扫描堆栈和全局变量中的指针时会被中断。

根据 GopherCon 2015 演讲中的图表,1.5 GC 在拥有约 18GB 堆的 GC 基准测试中具有较短的中断时间,如图所示:

[图表:GC 中断时间与堆大小关系,显示了 1.5 版本的改进]

在实际应用中,一些原本 GC 中断时间为 300ms 的进程报告下降至 4ms 和 20ms,另一个应用报告 95th 百分位数 GC 时间从 279ms 降低至 10ms。

Go 1.6 进一步优化,将部分工作置于后台。结果是,即使堆大小超过 200GB,测试中的最大中断时间仍然为 20ms,如下图所示:

[图表:1.6 GC 时间随堆大小变化,在 180GB 附近达到 20ms]

在 1.6 版本中,堆大小约为 8GB、每分钟分配约 150M 的应用,其中断时间从 20ms 降低至 3-4ms。

Twitch 使用 Go 来运行聊天服务,他们报告说在 1.7 版本中,暂停时间已减少到 1ms,而同时运行大量协程。

1.8 将堆栈扫描移出停止世界阶段,将大多数中断时间控制在 1ms 以内,即使是在大堆内存情况下。早期测试结果表明情况良好。有时,应用程序中仍然存在使协程难以中断的代码模式,从而有效延长了所有其他线程的中断时间,但总体来说,GC 的后台工作通常比 GC 中断时间更为重要。

一般性观察:

  • GC 的收集频率取决于内存使用速度。
  • 每个 GC 收集完成的工作量部分取决于正在使用的指针数量。(包括切片、接口值、字符串等中的指针)

换句话说,即使应用会访问大量内存,如果指针数量较少(例如,它处理相对较少的 []byte 缓冲区),并且分配速率很低(例如,因为在最容易溢出内存的场景中应用了 sync.Pool 来重用内存),则 GC 问题可能会不存在。

因此,如果您考虑使用包含数百 GB 堆的大型计算机,并且其本质上不适合 GC,我建议您考虑以下选项:

  1. 使用 C 或类似语言编写
  2. 将大量数据移出对象图,例如将其管理为嵌入式数据库(如 Bolt),放入外部数据库服务中,或者如果您需要更多缓存功能而不是数据库,可以使用类似 groupcache 或 memcache 的缓存工具。
  3. 运行使用较小堆的进程集,而不是一个大型进程。
  4. 精心设计原型、测试和优化,以避免内存问题。

以上是Go 1.5 的垃圾收集器准备好进行 TB 级内存管理了吗?的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

Golang的目的:建立高效且可扩展的系统 Golang的目的:建立高效且可扩展的系统 Apr 09, 2025 pm 05:17 PM

Go语言在构建高效且可扩展的系统中表现出色,其优势包括:1.高性能:编译成机器码,运行速度快;2.并发编程:通过goroutines和channels简化多任务处理;3.简洁性:语法简洁,降低学习和维护成本;4.跨平台:支持跨平台编译,方便部署。

Golang和C:并发与原始速度 Golang和C:并发与原始速度 Apr 21, 2025 am 12:16 AM

Golang在并发性上优于C ,而C 在原始速度上优于Golang。1)Golang通过goroutine和channel实现高效并发,适合处理大量并发任务。2)C 通过编译器优化和标准库,提供接近硬件的高性能,适合需要极致优化的应用。

Golang vs. Python:主要差异和相似之处 Golang vs. Python:主要差异和相似之处 Apr 17, 2025 am 12:15 AM

Golang和Python各有优势:Golang适合高性能和并发编程,Python适用于数据科学和Web开发。 Golang以其并发模型和高效性能着称,Python则以简洁语法和丰富库生态系统着称。

表演竞赛:Golang vs.C 表演竞赛:Golang vs.C Apr 16, 2025 am 12:07 AM

Golang和C 在性能竞赛中的表现各有优势:1)Golang适合高并发和快速开发,2)C 提供更高性能和细粒度控制。选择应基于项目需求和团队技术栈。

Golang vs. Python:性能和可伸缩性 Golang vs. Python:性能和可伸缩性 Apr 19, 2025 am 12:18 AM

Golang在性能和可扩展性方面优于Python。1)Golang的编译型特性和高效并发模型使其在高并发场景下表现出色。2)Python作为解释型语言,执行速度较慢,但通过工具如Cython可优化性能。

Golang的影响:速度,效率和简单性 Golang的影响:速度,效率和简单性 Apr 14, 2025 am 12:11 AM

GoimpactsdevelopmentPositationalityThroughSpeed,效率和模拟性。1)速度:gocompilesquicklyandrunseff,ifealforlargeprojects.2)效率:效率:ITScomprehenSevestAndArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdArdEcceSteral Depentencies,增强开发的简单性:3)SimpleflovelmentIcties:3)简单性。

C和Golang:表演至关重要时 C和Golang:表演至关重要时 Apr 13, 2025 am 12:11 AM

C 更适合需要直接控制硬件资源和高性能优化的场景,而Golang更适合需要快速开发和高并发处理的场景。1.C 的优势在于其接近硬件的特性和高度的优化能力,适合游戏开发等高性能需求。2.Golang的优势在于其简洁的语法和天然的并发支持,适合高并发服务开发。

Golang和C:性能的权衡 Golang和C:性能的权衡 Apr 17, 2025 am 12:18 AM

Golang和C 在性能上的差异主要体现在内存管理、编译优化和运行时效率等方面。1)Golang的垃圾回收机制方便但可能影响性能,2)C 的手动内存管理和编译器优化在递归计算中表现更为高效。

See all articles