未来数据中心的发展:人工智能与液体冷却的融合
生成式人工智能(AI)的快速崛起凸显了企业采用人工智能的惊人速度。根据Accenture最近的一份报告,98%的企业领导人表示人工智能将在未来三到五年的战略中扮演重要角色。麦肯锡分析师发现,近65%的企业计划在未来三年内增加对人工智能的投资
NVIDIA、AMD和Intel正在推出专为生成式人工智能和高性能计算(HPC)设计的新芯片,这种势头才刚刚开始。公共云提供商和新兴芯片企业也参与了竞争。IDC分析师预测,全球对人工智能软件、硬件和服务的支出将达到3000亿美元,超过今年预计的1540亿美元
然而,扩展人工智能仍然存在挑战,其中最重要的是涉及支持这些工作负载所需的数据中心基础设施的挑战。
数据中心越来越“热”
GPU是人工智能和机器学习中最常见的芯片,可以加速人工智能应用的计算过程。例如,NVIDIA的H100 GPU拥有800亿个晶体管,因此会产生大量热量,需要进行有效的冷却
传统上,在单个数据中心机架中达到10千瓦的配置被认为是高密度,但空气冷却仍然是冷却这些服务器的有效方法。尽管Uptime Institute发现很少有数据中心拥有超过30千瓦的机架,但极端密度正在出现。高性能计算的商品化和生成式人工智能的兴起正在增加电力需求,并使传统的空气冷却方法负担过重。
举例来说,NVIDIA最新的GPU的最大功耗比上一代芯片高出160%。机架配置很容易超过40千瓦范围,对于传统的风冷方法来说,难以管理。当今的数据中心必须持续发展,以有效管理这些增加的热负荷
冷却技术越来越重要
幸好,我们有多种液体冷却技术可以应对这个挑战,其中包括越来越受欢迎的后门热交换和直接芯片技术。新兴的浸入式冷却技术也有不同的类型,它们的本质是将IT组件浸入装满液体冷却剂的容器中
尽管浸入式冷却尚处于早期采用阶段,但分析师预测,该技术将在未来四年内成为主流,市场规模将从2021年的2.51亿美元增长到2027年的超过16亿美元。这将极大地影响数据中心基础设施需求,并且企业领导者必须知道他其数据中心运营商是否愿意在短期内进行必要的投资来支持这种转变。
液体冷却的优点和缺点
液体作为热导体的效率是空气的1,000倍,而且所需的基础设施更少。风冷系统需要复杂的制冷设备,包括冷却器、气泵、电缆、湿度控制和过滤系统,以及冗余备份系统,以确保服务器在停电时不会失去冷却
相比之下,液体冷却系统相对简单,但在当前数据中心基础设施中实施它可能会面临重大挑战,包括前期投资和复杂性。设置液体冷却系统可能会很复杂,可能需要专门的维护。此外,服务器设计可能需要进行调整,采用浸入式方法可能会导致原始设备制造商的保修失效,并且冷却系统泄漏可能会导致设备损坏和停机。数据中心运营商还必须考虑到使用液体冷却系统所涉及的新法规和环境标准
也就是说,液体或浸入式冷却系统不需要太多的备份或特殊的地板或通道密封策略。对能源消耗和成本的总体影响可能是巨大的。最近的一项研究结果发现,实施液体冷却可以减少近20%的设施电力,总数据中心电力减少10%以上。总使用效率(TUE)是一项新指标,旨在比较高性能计算环境中液体冷却与空气冷却的效率,结果显示,液体冷却的能源效率提高了15%以上。
过渡到液体冷却还有其他可持续发展的好处。液体冷却系统比空气冷却系统需要更少的水。改造数据中心可以采用新的思维方式来缩小其物理足迹和碳足迹。热再利用策略可以为周围的企业和社区提供能源。这些可能性令人兴奋,并且可能会像生成人工智能本身一样具有变革性。
现在需要了解什么
对于大多数企业而言,转型为本地数据中心可能过于复杂且昂贵。另一方面,当今大部分公共云基础设施并非为运行大规模人工智能应用而构建,而且云端承载大容量工作负载的成本不断上升,这促使许多组织寻找其他选择
考虑到这些挑战和机遇,拥有处理无数客户用例的基础设施经验的托管数据中心提供商,可能会为许多企业提供最佳解决方案。这个领域的领导者可以提供专业知识和支持,以指导组织完成转型。还与许多硬件原始设备制造商和液体冷却供应商建立了重要的关系,这些供应商将推动数据中心的发展,提供多样化的选择来满足客户的独特需求。
组织现在需要知道其数据中心运营商是否已经在计划,也许更重要的是,是否拥有可用的物理容量或适合安装所需的技术,以使下一代数据中心的发展成为可能。数据中心已经面临着将工作负载转移到满足其要求的最佳服务器的复杂挑战。随着人工智能和高性能计算工作负载的需求不断增加,添加根本上不同的冷却系统的额外挑战肯定会使这些障碍变得更加复杂。
目前正在投资这些策略的数据中心运营商将会处于有利的位置,能够帮助他们的客户积极应对这些挑战。人工智能正在改变一切,包括数据中心。现在是开始这次对话的时候了
以上是未来数据中心的发展:人工智能与液体冷却的融合的详细内容。更多信息请关注PHP中文网其他相关文章!

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

本站6月27日消息,剪映是由字节跳动旗下脸萌科技开发的一款视频剪辑软件,依托于抖音平台且基本面向该平台用户制作短视频内容,并兼容iOS、安卓、Windows、MacOS等操作系统。剪映官方宣布会员体系升级,推出全新SVIP,包含多种AI黑科技,例如智能翻译、智能划重点、智能包装、数字人合成等。价格方面,剪映SVIP月费79元,年费599元(本站注:折合每月49.9元),连续包月则为59元每月,连续包年为499元每年(折合每月41.6元)。此外,剪映官方还表示,为提升用户体验,向已订阅了原版VIP

通过将检索增强生成和语义记忆纳入AI编码助手,提升开发人员的生产力、效率和准确性。译自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。虽然基本AI编程助手自然有帮助,但由于依赖对软件语言和编写软件最常见模式的总体理解,因此常常无法提供最相关和正确的代码建议。这些编码助手生成的代码适合解决他们负责解决的问题,但通常不符合各个团队的编码标准、惯例和风格。这通常会导致需要修改或完善其建议,以便将代码接受到应

想了解更多AIGC的内容,请访问:51CTOAI.x社区https://www.51cto.com/aigc/译者|晶颜审校|重楼不同于互联网上随处可见的传统问题库,这些问题需要跳出常规思维。大语言模型(LLM)在数据科学、生成式人工智能(GenAI)和人工智能领域越来越重要。这些复杂的算法提升了人类的技能,并在诸多行业中推动了效率和创新性的提升,成为企业保持竞争力的关键。LLM的应用范围非常广泛,它可以用于自然语言处理、文本生成、语音识别和推荐系统等领域。通过学习大量的数据,LLM能够生成文本

大型语言模型(LLM)是在巨大的文本数据库上训练的,在那里它们获得了大量的实际知识。这些知识嵌入到它们的参数中,然后可以在需要时使用。这些模型的知识在训练结束时被“具体化”。在预训练结束时,模型实际上停止学习。对模型进行对齐或进行指令调优,让模型学习如何充分利用这些知识,以及如何更自然地响应用户的问题。但是有时模型知识是不够的,尽管模型可以通过RAG访问外部内容,但通过微调使用模型适应新的领域被认为是有益的。这种微调是使用人工标注者或其他llm创建的输入进行的,模型会遇到额外的实际知识并将其整合

编辑|ScienceAI问答(QA)数据集在推动自然语言处理(NLP)研究发挥着至关重要的作用。高质量QA数据集不仅可以用于微调模型,也可以有效评估大语言模型(LLM)的能力,尤其是针对科学知识的理解和推理能力。尽管当前已有许多科学QA数据集,涵盖了医学、化学、生物等领域,但这些数据集仍存在一些不足。其一,数据形式较为单一,大多数为多项选择题(multiple-choicequestions),它们易于进行评估,但限制了模型的答案选择范围,无法充分测试模型的科学问题解答能力。相比之下,开放式问答

本站6月18日消息,三星半导体近日在技术博客介绍了搭载其目前最新QLC闪存(v7)的下一代数据中心级固态硬盘BM1743。▲三星QLC数据中心级固态硬盘BM1743根据TrendForce集邦咨询4月的说法,在QLC数据中心级固态硬盘领域,仅有深耕多年的三星和SK海力士旗下Solidigm在当时通过了企业客户验证。相较上代v5QLCV-NAND(本站注:三星v6V-NAND无QLC产品),三星v7QLCV-NAND闪存在堆叠层数方面几乎翻了一倍,存储密度也大幅提升。同时v7QLCV-NAND的顺

机器学习是人工智能的重要分支,它赋予计算机从数据中学习的能力,并能够在无需明确编程的情况下改进自身能力。机器学习在各个领域都有着广泛的应用,从图像识别和自然语言处理到推荐系统和欺诈检测,它正在改变我们的生活方式。机器学习领域存在着多种不同的方法和理论,其中最具影响力的五种方法被称为“机器学习五大派”。这五大派分别为符号派、联结派、进化派、贝叶斯派和类推学派。1.符号学派符号学(Symbolism),又称为符号主义,强调利用符号进行逻辑推理和表达知识。该学派认为学习是一种逆向演绎的过程,通过已有的

编辑|KX在药物研发领域,准确有效地预测蛋白质与配体的结合亲和力对于药物筛选和优化至关重要。然而,目前的研究没有考虑到分子表面信息在蛋白质-配体相互作用中的重要作用。基于此,来自厦门大学的研究人员提出了一种新颖的多模态特征提取(MFE)框架,该框架首次结合了蛋白质表面、3D结构和序列的信息,并使用交叉注意机制进行不同模态之间的特征对齐。实验结果表明,该方法在预测蛋白质-配体结合亲和力方面取得了最先进的性能。此外,消融研究证明了该框架内蛋白质表面信息和多模态特征对齐的有效性和必要性。相关研究以「S
