如何减少人工智能不断增长的碳足迹
随着机器学习实验变得越来越复杂,它们的碳足迹正在膨胀。现在,研究人员已经计算了在不同地点的云计算数据中心训练一系列模型的碳成本1。他们的发现可以帮助研究人员减少依赖人工智能 (AI) 的工作所产生的排放。
研究小组发现,不同地理位置的排放存在显著差异。华盛顿西雅图艾伦人工智能研究所(Allen Institute For AI)机器学习研究员、该研究的共同负责人杰西·道奇(Jesse Dodge)表示,在同样的人工智能实验中,“效率最高的地区产生的排放约为效率最低的地区的三分之一”。
宾夕法尼亚州匹兹堡卡内基梅隆大学的机器学习研究员、气候变化 AI 组织的联合创始人 Priya Donti 表示,到目前为止,还没有任何好的工具可以测量基于云的人工智能产生的排放量。
“这是伟大的工作,有助于就如何管理机器学习工作负载以减少排放进行重要对话,”她说。
位置很重要
Dodge 和他的合作者(包括来自微软的研究人员)在训练 11 种常见 AI 模型的同时监控电力消耗,从支持谷歌翻译的语言模型到自动标记图像的视觉算法。他们将这些数据与为 16 台 Microsoft Azure 云计算服务器供电的电网排放量如何随时间变化的估计值结合在一起,以计算一系列地点的训练能耗。
由于全球电源的变化以及需求的波动,不同地点的设施具有不同的碳足迹。该团队发现,在美国中部或德国的数据中心训练 BERT(一种常见的机器学习语言模型)会排放 22-28 公斤的二氧化碳,具体取决于一年中的时间。这是在挪威进行相同实验产生的排放量的两倍多,挪威的大部分电力来自水力发电,而法国主要依赖核能。
每天进行实验的时间也很重要。例如,道奇说,在华盛顿的夜间训练人工智能,当该州的电力来自水力发电时,比在白天训练人工智能的排放量更低,因为白天的电力也来自燃气站。他上个月在首尔举行的公平、问责和透明计算机器协会会议上展示了这一结果。
人工智能模型的排放量也有很大差异。图像分类器 DenseNet 产生了与给手机充电相同的 CO 2排放量,同时训练了一种称为 Transformer 的中型语言模型(它比研究公司 OpenAI 制造的流行语言模型 GPT-3 小得多)在加利福尼亚州旧金山产生的排放量与典型的美国家庭一年产生的排放量大致相同。此外,该团队只进行了 Transformer训练过程的 13%;道奇说,完全训练它会产生“相当于燃烧一整辆装满煤的轨道车的数量级”的排放量。
他补充说,排放数据也被低估了,因为它们不包括诸如用于数据中心开销的电力或用于创建必要硬件的排放等因素。Donti 说,理想情况下,这些数字还应包括误差线,以说明给定时间电网排放的重大潜在不确定性。
更环保的选择
在其他因素相同的情况下,道奇希望这项研究可以帮助科学家选择用于实验的数据中心,以最大限度地减少排放。他说,“事实证明,这个决定是该学科中人们可以做的最有影响力的事情之一”。由于这项工作,微软现在正在向使用其 Azure 服务的研究人员提供有关其硬件电力消耗的信息。
英国布里斯托大学研究数字技术对环境可持续性影响的克里斯·普雷斯特(Chris Preist)表示,减少排放的责任应该由云提供商而不是研究人员承担。他说,供应商可以确保在任何时候,碳强度最低的数据中心使用最多。Donti 补充说,他们还可以采用灵活的策略,允许机器学习运行在减少排放的时候启动和停止。
道奇表示,进行最大规模实验的科技公司应该对排放的透明度以及尽量减少或抵消排放承担最大的责任。他指出,机器学习并不总是对环境有害。它可以帮助设计高效材料、模拟气候以及追踪森林砍伐和濒危物种。尽管如此,人工智能日益增长的碳足迹正成为一些科学家关注的主要原因。道奇说,尽管一些研究小组正在致力于追踪碳排放量,但透明度“尚未发展成为社区规范”。
“这项工作的重点是试图让这个主题变得透明,因为现在严重缺失,”他说。
参考文献:
1.Dodge, J. et al. Preprint at https://arxiv.org/abs/2206.05229 (2022)。
以上是如何减少人工智能不断增长的碳足迹的详细内容。更多信息请关注PHP中文网其他相关文章!

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

Video Face Swap
使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

本站6月27日消息,剪映是由字节跳动旗下脸萌科技开发的一款视频剪辑软件,依托于抖音平台且基本面向该平台用户制作短视频内容,并兼容iOS、安卓、Windows、MacOS等操作系统。剪映官方宣布会员体系升级,推出全新SVIP,包含多种AI黑科技,例如智能翻译、智能划重点、智能包装、数字人合成等。价格方面,剪映SVIP月费79元,年费599元(本站注:折合每月49.9元),连续包月则为59元每月,连续包年为499元每年(折合每月41.6元)。此外,剪映官方还表示,为提升用户体验,向已订阅了原版VIP

通过将检索增强生成和语义记忆纳入AI编码助手,提升开发人员的生产力、效率和准确性。译自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。虽然基本AI编程助手自然有帮助,但由于依赖对软件语言和编写软件最常见模式的总体理解,因此常常无法提供最相关和正确的代码建议。这些编码助手生成的代码适合解决他们负责解决的问题,但通常不符合各个团队的编码标准、惯例和风格。这通常会导致需要修改或完善其建议,以便将代码接受到应

大型语言模型(LLM)是在巨大的文本数据库上训练的,在那里它们获得了大量的实际知识。这些知识嵌入到它们的参数中,然后可以在需要时使用。这些模型的知识在训练结束时被“具体化”。在预训练结束时,模型实际上停止学习。对模型进行对齐或进行指令调优,让模型学习如何充分利用这些知识,以及如何更自然地响应用户的问题。但是有时模型知识是不够的,尽管模型可以通过RAG访问外部内容,但通过微调使用模型适应新的领域被认为是有益的。这种微调是使用人工标注者或其他llm创建的输入进行的,模型会遇到额外的实际知识并将其整合

想了解更多AIGC的内容,请访问:51CTOAI.x社区https://www.51cto.com/aigc/译者|晶颜审校|重楼不同于互联网上随处可见的传统问题库,这些问题需要跳出常规思维。大语言模型(LLM)在数据科学、生成式人工智能(GenAI)和人工智能领域越来越重要。这些复杂的算法提升了人类的技能,并在诸多行业中推动了效率和创新性的提升,成为企业保持竞争力的关键。LLM的应用范围非常广泛,它可以用于自然语言处理、文本生成、语音识别和推荐系统等领域。通过学习大量的数据,LLM能够生成文本

机器学习是人工智能的重要分支,它赋予计算机从数据中学习的能力,并能够在无需明确编程的情况下改进自身能力。机器学习在各个领域都有着广泛的应用,从图像识别和自然语言处理到推荐系统和欺诈检测,它正在改变我们的生活方式。机器学习领域存在着多种不同的方法和理论,其中最具影响力的五种方法被称为“机器学习五大派”。这五大派分别为符号派、联结派、进化派、贝叶斯派和类推学派。1.符号学派符号学(Symbolism),又称为符号主义,强调利用符号进行逻辑推理和表达知识。该学派认为学习是一种逆向演绎的过程,通过已有的

编辑|ScienceAI问答(QA)数据集在推动自然语言处理(NLP)研究发挥着至关重要的作用。高质量QA数据集不仅可以用于微调模型,也可以有效评估大语言模型(LLM)的能力,尤其是针对科学知识的理解和推理能力。尽管当前已有许多科学QA数据集,涵盖了医学、化学、生物等领域,但这些数据集仍存在一些不足。其一,数据形式较为单一,大多数为多项选择题(multiple-choicequestions),它们易于进行评估,但限制了模型的答案选择范围,无法充分测试模型的科学问题解答能力。相比之下,开放式问答

本站8月1日消息,SK海力士今天(8月1日)发布博文,宣布将出席8月6日至8日,在美国加利福尼亚州圣克拉拉举行的全球半导体存储器峰会FMS2024,展示诸多新一代产品。未来存储器和存储峰会(FutureMemoryandStorage)简介前身是主要面向NAND供应商的闪存峰会(FlashMemorySummit),在人工智能技术日益受到关注的背景下,今年重新命名为未来存储器和存储峰会(FutureMemoryandStorage),以邀请DRAM和存储供应商等更多参与者。新产品SK海力士去年在

编辑|KX在药物研发领域,准确有效地预测蛋白质与配体的结合亲和力对于药物筛选和优化至关重要。然而,目前的研究没有考虑到分子表面信息在蛋白质-配体相互作用中的重要作用。基于此,来自厦门大学的研究人员提出了一种新颖的多模态特征提取(MFE)框架,该框架首次结合了蛋白质表面、3D结构和序列的信息,并使用交叉注意机制进行不同模态之间的特征对齐。实验结果表明,该方法在预测蛋白质-配体结合亲和力方面取得了最先进的性能。此外,消融研究证明了该框架内蛋白质表面信息和多模态特征对齐的有效性和必要性。相关研究以「S
