目录
人工智能如何改变数据中心基础设施
在设计阶段采取整体方法
1、让更多利益相关者参与
2、将人工智能融入数据中心运营
3、避免虚假经济
解决基础设施难题
首页 科技周边 人工智能 人工智能如何改变数据中心设计

人工智能如何改变数据中心设计

Oct 10, 2023 pm 03:05 PM
人工智能 数据中心

人工智能如何改变数据中心设计

随着 2023 年至 2026 年间全球人工智能系统支出将翻一番,数据中心容量显然将迅速增加以满足需求。

然而,令人惊讶的是,过去一年许多数据中心运营商踩下了新项目的刹车并放缓了投资,2022-23 年间伦敦的空置容量下降了 6.3%。

这种反直觉的趋势背后有什么原因?为了解释这一点,我们需要了解与人工智能计算和支持其基础设施相关的一些问题

人工智能如何改变数据中心基础设施

数据中心的构建一直都是围绕着CPU供电展开的,以应对传统的计算工作负载。然而,AI计算需要GPU驱动的机架,与同等容量的CPU相比,它会消耗更多的电量、散发更多的热量并且占用更多的空间

实际上,这意味着人工智能计算能力通常需要更多的电源连接或替代冷却系统。可以重新表述为:这实际上意味着,人工智能计算能力通常需要更多的电源连接或者替代冷却系统

由于这是嵌入式基础设施,因此它被构建在数据中心综合体的结构中,即使在经济上并非完全不可能,更换成本也往往极高。

在实践中,运营商必须致力于在新的数据中心中划分多少空间专门用于人工智能和传统计算

如果犯了这个错误并过度致力于人工智能,可能会让数据中心运营商面临永久未充分利用和无利可图的能力

由于人工智能市场还处于起步阶段,这个问题更加严重,Gartner 声称目前正处于炒作周期中预期过高的顶峰。 因此,许多运营商选择在设计阶段犹豫不决,而不是过早地承诺人工智能计算在新数据中心项目中的比例。

在设计阶段采取整体方法

然而,运营商敏锐地意识到,如果他们不冒险推迟投资,就会失去市场份额和竞争优势。然而,考虑到数据中心基础设施的许多基本原理正在实时重写,这是一项艰巨的任务

为了平衡先行者的需求和抵消风险,运营商需要将其数据中心设计得在人工智能计算时代具有最大的效率和弹性。 这需要一种全新的、整体的设计方法。

1、让更多利益相关者参与

无论运营商决定如何区分人工智能和传统计算,具有人工智能计算能力的数据中心站点都将比传统设施复杂得多。 更高的复杂性通常意味着更多的故障点,特别是因为人工智能计算比传统计算有更多的需求。

因此,为了保证站点生命周期内的正常运行时间并降低出现代价高昂的问题的风险,团队需要在数据中心的规划阶段更加彻底。

特别是,设计阶段应在项目开始时寻求更多团队和专业知识的意见。 除了寻求电源和冷却方面的专业知识外,设计人员还应该尽早与运营、布线和安全团队合作,以了解潜在的瓶颈或故障来源

2、将人工智能融入数据中心运营

由于运营商现在在现场拥有人工智能计算,他们应该利用自己的能力利用人工智能来提高运营效率。 人工智能在数据中心的采用由来已久,该技术能够以极高的精度和质量执行工作流程。 例如,人工智能可以帮助:

  • 温湿度监测
  • 安全系统操作
  • 用电监控和分配
  • 硬件故障检测和预测性维护

通过在数据中心生命周期的每个阶段主动使用该技术,运营商可以显着提高运营效率和稳健性。人工智能非常适合帮助解决采用这些下一代数据中心新颖而复杂的布局时遇到的新挑战,例如通过故障检测和预测性维护

3、避免虚假经济

在高峰时段,人工智能会给数据中心带来更大的负载,比如在训练运行期间或者在生产中运行企业级模型时。在这个时候,人工智能计算通常会远远超出传统预期对功耗、冷却需求和数据吞吐量的限制

从最基本的层面来看,这意味着数据中心的底层材料承受更大的压力。如果这些底层材料或组件质量不高,这意味着它们更容易出现故障。由于人工智能计算意味着站点中组件和连接数量的急剧增加,这意味着在传统站点中运行良好的更便宜和质量较低的材料可能会导致运行人工智能计算的数据中心停止运行

为了避免节省资金的虚假经济风险,运营商应当避免购买劣质材料,如不合格的电缆。这些材料容易出现故障,需要频繁更换。更为严重的是,不合格材料和组件的故障通常会导致工厂停机或减速,从而影响盈利能力

解决基础设施难题

尽管人工智能计算的基础设施要求可能是运营商拖延投资的主要原因,但从长远来看,情况不会如此

随着市场的不确定性增加,企业将会在传统计算和人工智能计算之间分裂,朝着他们的“黄金领域”靠拢

在这种情况下,公司应确保在网站运营中具备一切可能的优势,以便在学习和成长的过程中取得成功

这意味着从一开始就进行整体设计,利用人工智能本身来发现其站点的新效率,并投资于能够满足人工智能计算更大需求的优质材料。

以上是人工智能如何改变数据中心设计的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳图形设置
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您听不到任何人,如何修复音频
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.聊天命令以及如何使用它们
4 周前 By 尊渡假赌尊渡假赌尊渡假赌

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

字节跳动剪映推出 SVIP 超级会员:连续包年 499 元,提供多种 AI 功能 字节跳动剪映推出 SVIP 超级会员:连续包年 499 元,提供多种 AI 功能 Jun 28, 2024 am 03:51 AM

本站6月27日消息,剪映是由字节跳动旗下脸萌科技开发的一款视频剪辑软件,依托于抖音平台且基本面向该平台用户制作短视频内容,并兼容iOS、安卓、Windows、MacOS等操作系统。剪映官方宣布会员体系升级,推出全新SVIP,包含多种AI黑科技,例如智能翻译、智能划重点、智能包装、数字人合成等。价格方面,剪映SVIP月费79元,年费599元(本站注:折合每月49.9元),连续包月则为59元每月,连续包年为499元每年(折合每月41.6元)。此外,剪映官方还表示,为提升用户体验,向已订阅了原版VIP

使用Rag和Sem-Rag提供上下文增强AI编码助手 使用Rag和Sem-Rag提供上下文增强AI编码助手 Jun 10, 2024 am 11:08 AM

通过将检索增强生成和语义记忆纳入AI编码助手,提升开发人员的生产力、效率和准确性。译自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。虽然基本AI编程助手自然有帮助,但由于依赖对软件语言和编写软件最常见模式的总体理解,因此常常无法提供最相关和正确的代码建议。这些编码助手生成的代码适合解决他们负责解决的问题,但通常不符合各个团队的编码标准、惯例和风格。这通常会导致需要修改或完善其建议,以便将代码接受到应

微调真的能让LLM学到新东西吗:引入新知识可能让模型产生更多的幻觉 微调真的能让LLM学到新东西吗:引入新知识可能让模型产生更多的幻觉 Jun 11, 2024 pm 03:57 PM

大型语言模型(LLM)是在巨大的文本数据库上训练的,在那里它们获得了大量的实际知识。这些知识嵌入到它们的参数中,然后可以在需要时使用。这些模型的知识在训练结束时被“具体化”。在预训练结束时,模型实际上停止学习。对模型进行对齐或进行指令调优,让模型学习如何充分利用这些知识,以及如何更自然地响应用户的问题。但是有时模型知识是不够的,尽管模型可以通过RAG访问外部内容,但通过微调使用模型适应新的领域被认为是有益的。这种微调是使用人工标注者或其他llm创建的输入进行的,模型会遇到额外的实际知识并将其整合

七个很酷的GenAI & LLM技术性面试问题 七个很酷的GenAI & LLM技术性面试问题 Jun 07, 2024 am 10:06 AM

想了解更多AIGC的内容,请访问:51CTOAI.x社区https://www.51cto.com/aigc/译者|晶颜审校|重楼不同于互联网上随处可见的传统问题库,这些问题需要跳出常规思维。大语言模型(LLM)在数据科学、生成式人工智能(GenAI)和人工智能领域越来越重要。这些复杂的算法提升了人类的技能,并在诸多行业中推动了效率和创新性的提升,成为企业保持竞争力的关键。LLM的应用范围非常广泛,它可以用于自然语言处理、文本生成、语音识别和推荐系统等领域。通过学习大量的数据,LLM能够生成文本

三星介绍 BM1743 数据中心级 SSD:搭载 v7 QLC V-NAND,可支持 PCIe 5.0 三星介绍 BM1743 数据中心级 SSD:搭载 v7 QLC V-NAND,可支持 PCIe 5.0 Jun 18, 2024 pm 04:15 PM

本站6月18日消息,三星半导体近日在技术博客介绍了搭载其目前最新QLC闪存(v7)的下一代数据中心级固态硬盘BM1743。▲三星QLC数据中心级固态硬盘BM1743根据TrendForce集邦咨询4月的说法,在QLC数据中心级固态硬盘领域,仅有深耕多年的三星和SK海力士旗下Solidigm在当时通过了企业客户验证。相较上代v5QLCV-NAND(本站注:三星v6V-NAND无QLC产品),三星v7QLCV-NAND闪存在堆叠层数方面几乎翻了一倍,存储密度也大幅提升。同时v7QLCV-NAND的顺

为大模型提供全新科学复杂问答基准与测评体系,UNSW、阿贡、芝加哥大学等多家机构联合推出SciQAG框架 为大模型提供全新科学复杂问答基准与测评体系,UNSW、阿贡、芝加哥大学等多家机构联合推出SciQAG框架 Jul 25, 2024 am 06:42 AM

编辑|ScienceAI问答(QA)数据集在推动自然语言处理(NLP)研究发挥着至关重要的作用。高质量QA数据集不仅可以用于微调模型,也可以有效评估大语言模型(LLM)的能力,尤其是针对科学知识的理解和推理能力。尽管当前已有许多科学QA数据集,涵盖了医学、化学、生物等领域,但这些数据集仍存在一些不足。其一,数据形式较为单一,大多数为多项选择题(multiple-choicequestions),它们易于进行评估,但限制了模型的答案选择范围,无法充分测试模型的科学问题解答能力。相比之下,开放式问答

你所不知道的机器学习五大学派 你所不知道的机器学习五大学派 Jun 05, 2024 pm 08:51 PM

机器学习是人工智能的重要分支,它赋予计算机从数据中学习的能力,并能够在无需明确编程的情况下改进自身能力。机器学习在各个领域都有着广泛的应用,从图像识别和自然语言处理到推荐系统和欺诈检测,它正在改变我们的生活方式。机器学习领域存在着多种不同的方法和理论,其中最具影响力的五种方法被称为“机器学习五大派”。这五大派分别为符号派、联结派、进化派、贝叶斯派和类推学派。1.符号学派符号学(Symbolism),又称为符号主义,强调利用符号进行逻辑推理和表达知识。该学派认为学习是一种逆向演绎的过程,通过已有的

SOTA性能,厦大多模态蛋白质-配体亲和力预测AI方法,首次结合分子表面信息 SOTA性能,厦大多模态蛋白质-配体亲和力预测AI方法,首次结合分子表面信息 Jul 17, 2024 pm 06:37 PM

编辑|KX在药物研发领域,准确有效地预测蛋白质与配体的结合亲和力对于药物筛选和优化至关重要。然而,目前的研究没有考虑到分子表面信息在蛋白质-配体相互作用中的重要作用。基于此,来自厦门大学的研究人员提出了一种新颖的多模态特征提取(MFE)框架,该框架首次结合了蛋白质表面、3D结构和序列的信息,并使用交叉注意机制进行不同模态之间的特征对齐。实验结果表明,该方法在预测蛋白质-配体结合亲和力方面取得了最先进的性能。此外,消融研究证明了该框架内蛋白质表面信息和多模态特征对齐的有效性和必要性。相关研究以「S

See all articles