生成式AI的成本和可持续性
所有使用DALL-E创建图像或让ChatGPT撰写学期论文的人都在消耗大量云资源。谁来为这一切买单?
译者 | 布加迪
审校 | 孙淑娟
人工智能(AI)对于任何平台(包括公共云)而言都是资源密集型的技术。大多数AI技术都需要大量的推理计算,因而提高了对处理器、网络和存储资源的需求,最终增加了电费、基础设施成本和碳排放量。
ChatGPT等生成式AI系统的崛起再次将这个问题推到了前台。考虑到这项技术大行其道,加上公司、政府和公众可能广泛使用该技术,可以预料耗电量增长曲线会呈现出令人担忧的弧线。
AI自20世纪70年代以来一直切实可行,但考虑到成熟完备的AI系统需要大量的资源才能正常工作,最初并没有多大的商业影响。我记得我在20多岁时设计的基于AI的系统需要超过4000万美元的硬件、软件和数据中心空间才能让它运行起来。顺便说一下,该项目与其他许多AI项目一样从未迎来发布日期,商业方案根本就不可行。
云计算改变了这一切。借助公共云,曾经难以企及的任务现在能够以足够显著的成本效益来处理。事实上,您可能已经猜到了,云计算的兴起与过去10年到15年AI的兴起相得益彰,我要说现在两者休戚相关。
云资源的可持续性和成本
其实不需要做太多的研究就能预测到这个领域会发生什么。市场对AI服务的需求将会飙升,比如现在非常流行的生成式AI系统以及其他AI和机器学习系统。引领这股热潮的将是通过创新寻求优势(比如智能供应链)的企业,或者甚至是成千上万希望生成式AI系统来撰写学期论文的大学生。
对AI的需求加大意味着对这些AI系统使用的资源的需求随之加大,比如公共云及其提供的服务。这一需求很可能会由更多容纳服务器和网络设备这些耗电大户的数据中心来满足。
公共云提供商就像任何其他公用资源提供商一样,会随着需求的增加而提高价格,就像我们看到民用电费季节性上涨一样(同样基于需求)。因此,我们通常控制用电量,在夏天将空调的温度开得高一点。
然而,更高的云计算成本可能不会对企业产生同样的影响。企业可能会发现这些AI系统并非可有可无,而是驱动某些关键业务流程所必需的。在许多情况下,它们可能会试图在内部节省资金,可能会采用减少员工数量以抵消AI系统的成本这种手段。生成式AI系统很快将取代许多信息工作者绝非什么秘密。
我们能做些什么呢?
如果对运行AI系统的资源的需求会导致更高的计算成本和碳排放量,我们能做些什么呢?答案或许在于找到更高效的方法让AI充分利用处理器、网络和存储等资源。
比如说,对流水线进行采样可以通过减少处理的数据量来加快深度学习。麻省理工学院(MIT)和IBM的研究表明,使用这种方法可以减少在大型数据集上运行神经网络所需的资源。然而这也限制了准确性,这对于一些商业用例而言是可以接受的,但不是对所有商业用例而言都可以接受。
另一种已经在其他技术领域应用的方法是内存中计算。这种架构可以通过避免数据进出内存来加快AI处理速度。相反,AI计算直接在内存模块中运行,这大大加快了速度。
其他方法正在开发中,比如改变物理处理器(使用协处理器处理AI计算以提高速度)或者采用量子计算等下一代计算模型。可以预料,大型公共云提供商会在近期纷纷宣布能够解决许多这些问题的技术。
您该怎么办?
本文倒不是说要避免AI,以降低云计算费用或拯救地球。AI是一种基础性的计算方法,大多数企业都可以利用它来创造巨大价值。
建议您在进行基于AI的开发项目或全新的AI系统开发项目时,应清楚地了解成本和可持续性方面的影响,两者密切相关。您必须做出成本/效益选择,这实际上回到了老话题:投入所需的成本、冒一定的风险后,可以为公司带来什么样的价值。这方面没什么新意。
我相信,这个问题基本上有望通过创新得到解决,无论创新是内存中计算、量子计算还是其他尚未出现的技术。AI技术提供商和云计算提供商都热衷于让AI更具成本效益和更节能环保,这是好消息。
原文标题:The cost and sustainability of generative AI,作者:David S. Linthicum
以上是生成式AI的成本和可持续性的详细内容。更多信息请关注PHP中文网其他相关文章!

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

热门话题

DALL-E 3 于 2023 年 9 月正式推出,是比其前身大幅改进的型号。它被认为是迄今为止最好的人工智能图像生成器之一,能够创建具有复杂细节的图像。然而,在推出时,它不包括

本站6月27日消息,剪映是由字节跳动旗下脸萌科技开发的一款视频剪辑软件,依托于抖音平台且基本面向该平台用户制作短视频内容,并兼容iOS、安卓、Windows、MacOS等操作系统。剪映官方宣布会员体系升级,推出全新SVIP,包含多种AI黑科技,例如智能翻译、智能划重点、智能包装、数字人合成等。价格方面,剪映SVIP月费79元,年费599元(本站注:折合每月49.9元),连续包月则为59元每月,连续包年为499元每年(折合每月41.6元)。此外,剪映官方还表示,为提升用户体验,向已订阅了原版VIP

大型语言模型(LLM)是在巨大的文本数据库上训练的,在那里它们获得了大量的实际知识。这些知识嵌入到它们的参数中,然后可以在需要时使用。这些模型的知识在训练结束时被“具体化”。在预训练结束时,模型实际上停止学习。对模型进行对齐或进行指令调优,让模型学习如何充分利用这些知识,以及如何更自然地响应用户的问题。但是有时模型知识是不够的,尽管模型可以通过RAG访问外部内容,但通过微调使用模型适应新的领域被认为是有益的。这种微调是使用人工标注者或其他llm创建的输入进行的,模型会遇到额外的实际知识并将其整合

本站7月31日消息,科技巨头亚马逊于周二在美国特拉华州联邦法院起诉了芬兰电信公司诺基亚,指控其侵犯了亚马逊十几项与云计算技术相关的专利。1.亚马逊在诉讼中表示,诺基亚滥用了亚马逊云计算服务(AWS)的相关技术,包括云计算基础设施、安全和性能方面的技术,来加强其自身的云服务产品。诉状称,亚马逊于2006年推出了AWS,其开创性的云计算技术早在2000年代初期就开始研发。“亚马逊是云计算领域的先驱,现在诺基亚却在未经许可的情况下使用亚马逊的专利云计算创新成果,”诉状中写道。亚马逊要求法院发布禁令,阻

编辑|ScienceAI问答(QA)数据集在推动自然语言处理(NLP)研究发挥着至关重要的作用。高质量QA数据集不仅可以用于微调模型,也可以有效评估大语言模型(LLM)的能力,尤其是针对科学知识的理解和推理能力。尽管当前已有许多科学QA数据集,涵盖了医学、化学、生物等领域,但这些数据集仍存在一些不足。其一,数据形式较为单一,大多数为多项选择题(multiple-choicequestions),它们易于进行评估,但限制了模型的答案选择范围,无法充分测试模型的科学问题解答能力。相比之下,开放式问答

编辑|KX在药物研发领域,准确有效地预测蛋白质与配体的结合亲和力对于药物筛选和优化至关重要。然而,目前的研究没有考虑到分子表面信息在蛋白质-配体相互作用中的重要作用。基于此,来自厦门大学的研究人员提出了一种新颖的多模态特征提取(MFE)框架,该框架首次结合了蛋白质表面、3D结构和序列的信息,并使用交叉注意机制进行不同模态之间的特征对齐。实验结果表明,该方法在预测蛋白质-配体结合亲和力方面取得了最先进的性能。此外,消融研究证明了该框架内蛋白质表面信息和多模态特征对齐的有效性和必要性。相关研究以「S

本站7月5日消息,格芯(GlobalFoundries)于今年7月1日发布新闻稿,宣布收购泰戈尔科技(TagoreTechnology)的功率氮化镓(GaN)技术及知识产权组合,希望在汽车、物联网和人工智能数据中心应用领域探索更高的效率和更好的性能。随着生成式人工智能(GenerativeAI)等技术在数字世界的不断发展,氮化镓(GaN)已成为可持续高效电源管理(尤其是在数据中心)的关键解决方案。本站援引官方公告内容,在本次收购过程中,泰戈尔科技公司工程师团队将加入格芯,进一步开发氮化镓技术。G

本站8月1日消息,SK海力士今天(8月1日)发布博文,宣布将出席8月6日至8日,在美国加利福尼亚州圣克拉拉举行的全球半导体存储器峰会FMS2024,展示诸多新一代产品。未来存储器和存储峰会(FutureMemoryandStorage)简介前身是主要面向NAND供应商的闪存峰会(FlashMemorySummit),在人工智能技术日益受到关注的背景下,今年重新命名为未来存储器和存储峰会(FutureMemoryandStorage),以邀请DRAM和存储供应商等更多参与者。新产品SK海力士去年在
