生成式人工智能的成本和可持续性
对于任何平台来说,人工智能都是资源密集型的,包括公共云。大多数人工智能技术需要大量的推理计算,这些推理计算综合下来对处理器、网络和存储的要求更高,而且也会带来更高的电费、基础设施成本和碳足迹。
以 ChatGPT 为例的生成式人工智能系统的崛起,使上述问题再次成为焦点。考虑到这项技术的普及,以及公司、政府和公众可能的大规模应用,我们可以看到电力消耗增长曲线呈现出令人担忧的弧度。
自 20 世纪 70 年代以来,人工智能技术一直都存在。由于一套成熟的人工智能系统的工作需要消耗大量的资源,因此,最初并没有产生太大的商业影响。记得我在 20 来岁时设计的人工智能系统,需要超过 4000 万美元的硬件、软件和数据中心空间才能保证它的运行。剧透一下:那个项目和其他许多人工智能项目都没有能真正发布。作为商业案例并不可行。
云计算改变了这一切。曾经无法企及的事情,现在有了公共云就有了足够的成本效益。事实上,正如你可能已经猜到的那样,在过去的 10 到 15 年里,云的崛起与人工智能的崛起大致一致。我想说的是,它们现在是紧密结合在一起的。
云资源的可持续性和成本
你真的不需要做太多的研究来预测这里会发生什么。对人工智能服务的需求将激增,比如现在正引发人们关注的生成式人工智能系统,以及其他人工智能和机器学习系统。这种激增将由那些寻求创新优势的企业引领,比如智能供应链,甚至成千上万的大学生希望有一个生成性人工智能系统来写他们的学期论文。
对人工智能的更多需求意味着对这些人工智能系统使用的资源的更多需求,如公共云及其提供的服务。这种需求很可能会被通过多的数据中心来实现,这些数据中心内容纳了耗电量巨大的服务器和网络设备。
公共云供应商就像任何其他公用事业资源供应商一样,会随着需求的增加而提高价格,就像我们看到家庭电费季节性上涨一样(也是基于需求)。因此,我们通常会缩减使用量,比如,在夏天将空调开到 24 度而不是 20 度。
然而,更高的云计算成本可能不会对企业产生同样的影响。企业可能会发现,这些人工智能系统是驱动某些关键业务流程的,也就并不是可有可无的。在许多情况下,他们可能会试图在企业内部节约资金,也许是通过减少员工数量来抵消人工智能系统的成本。生成性人工智能系统将很快取代许多信息工作者,这已不是什么秘密。
可以做什么?
如果运行人工智能系统的资源需求将导致更高的计算成本和碳输出,我们能做什么?答案也许在于为人工智能寻找更有效的方式来利用资源,如处理、网络和存储。
比如,采样流水线可以通过减少处理的数据量来加快深度学习。麻省理工学院和 IBM 的研究表明,你可以用这种方法减少在大型数据集上运行神经网络所需的资源。然而,它也限制了准确性,这对某些商业用例来说可能是可以接受的,但不是所有的商业用例都能接受。
另一种已经在其他技术领域使用的方法是内存计算。这种架构可以通过不将数据移入和移出内存来加快人工智能处理。相反,人工智能的计算直接在内存模块内运行,这大大加快了速度。
其他方法也正在开发中。比如改变物理处理器,使用协处理器进行人工智能计算,以提高运算速度,或者采用量子等下一代计算模型。你可以期待大型公共云供应商发布大量关于如何解决许多这类问题的技术公告。
你该怎么做?
我的建议肯定不是为了获得更低的云计算账单或拯救地球而避免人工智能。人工智能是一种基础的计算方法,大多数企业可以利用它来获取大量价值。
我建议你在进入一个人工智能启用或净新的人工智能系统开发项目时,要清楚地了解成本和对可持续性的影响,这两者是直接相关的。你必须做出成本/效益的选择,而这实际上又回到了你能为企业带来的成本和风险的价值。说来说去其实并没有什么新鲜事儿。
我确实相信,无论是内存还是量子计算,还是我们尚未看到的解决方案,大部分问题都将通过创新方式来解决。人工智能技术提供商和云计算提供商都热衷于使人工智能更具成本效益和绿色。这是个好消息。
来源:www.cio.com
以上是生成式人工智能的成本和可持续性的详细内容。更多信息请关注PHP中文网其他相关文章!

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

Video Face Swap
使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

热门话题

本站6月27日消息,剪映是由字节跳动旗下脸萌科技开发的一款视频剪辑软件,依托于抖音平台且基本面向该平台用户制作短视频内容,并兼容iOS、安卓、Windows、MacOS等操作系统。剪映官方宣布会员体系升级,推出全新SVIP,包含多种AI黑科技,例如智能翻译、智能划重点、智能包装、数字人合成等。价格方面,剪映SVIP月费79元,年费599元(本站注:折合每月49.9元),连续包月则为59元每月,连续包年为499元每年(折合每月41.6元)。此外,剪映官方还表示,为提升用户体验,向已订阅了原版VIP

通过将检索增强生成和语义记忆纳入AI编码助手,提升开发人员的生产力、效率和准确性。译自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。虽然基本AI编程助手自然有帮助,但由于依赖对软件语言和编写软件最常见模式的总体理解,因此常常无法提供最相关和正确的代码建议。这些编码助手生成的代码适合解决他们负责解决的问题,但通常不符合各个团队的编码标准、惯例和风格。这通常会导致需要修改或完善其建议,以便将代码接受到应

大型语言模型(LLM)是在巨大的文本数据库上训练的,在那里它们获得了大量的实际知识。这些知识嵌入到它们的参数中,然后可以在需要时使用。这些模型的知识在训练结束时被“具体化”。在预训练结束时,模型实际上停止学习。对模型进行对齐或进行指令调优,让模型学习如何充分利用这些知识,以及如何更自然地响应用户的问题。但是有时模型知识是不够的,尽管模型可以通过RAG访问外部内容,但通过微调使用模型适应新的领域被认为是有益的。这种微调是使用人工标注者或其他llm创建的输入进行的,模型会遇到额外的实际知识并将其整合

想了解更多AIGC的内容,请访问:51CTOAI.x社区https://www.51cto.com/aigc/译者|晶颜审校|重楼不同于互联网上随处可见的传统问题库,这些问题需要跳出常规思维。大语言模型(LLM)在数据科学、生成式人工智能(GenAI)和人工智能领域越来越重要。这些复杂的算法提升了人类的技能,并在诸多行业中推动了效率和创新性的提升,成为企业保持竞争力的关键。LLM的应用范围非常广泛,它可以用于自然语言处理、文本生成、语音识别和推荐系统等领域。通过学习大量的数据,LLM能够生成文本

机器学习是人工智能的重要分支,它赋予计算机从数据中学习的能力,并能够在无需明确编程的情况下改进自身能力。机器学习在各个领域都有着广泛的应用,从图像识别和自然语言处理到推荐系统和欺诈检测,它正在改变我们的生活方式。机器学习领域存在着多种不同的方法和理论,其中最具影响力的五种方法被称为“机器学习五大派”。这五大派分别为符号派、联结派、进化派、贝叶斯派和类推学派。1.符号学派符号学(Symbolism),又称为符号主义,强调利用符号进行逻辑推理和表达知识。该学派认为学习是一种逆向演绎的过程,通过已有的

编辑|ScienceAI问答(QA)数据集在推动自然语言处理(NLP)研究发挥着至关重要的作用。高质量QA数据集不仅可以用于微调模型,也可以有效评估大语言模型(LLM)的能力,尤其是针对科学知识的理解和推理能力。尽管当前已有许多科学QA数据集,涵盖了医学、化学、生物等领域,但这些数据集仍存在一些不足。其一,数据形式较为单一,大多数为多项选择题(multiple-choicequestions),它们易于进行评估,但限制了模型的答案选择范围,无法充分测试模型的科学问题解答能力。相比之下,开放式问答

本站8月1日消息,SK海力士今天(8月1日)发布博文,宣布将出席8月6日至8日,在美国加利福尼亚州圣克拉拉举行的全球半导体存储器峰会FMS2024,展示诸多新一代产品。未来存储器和存储峰会(FutureMemoryandStorage)简介前身是主要面向NAND供应商的闪存峰会(FlashMemorySummit),在人工智能技术日益受到关注的背景下,今年重新命名为未来存储器和存储峰会(FutureMemoryandStorage),以邀请DRAM和存储供应商等更多参与者。新产品SK海力士去年在

编辑|KX在药物研发领域,准确有效地预测蛋白质与配体的结合亲和力对于药物筛选和优化至关重要。然而,目前的研究没有考虑到分子表面信息在蛋白质-配体相互作用中的重要作用。基于此,来自厦门大学的研究人员提出了一种新颖的多模态特征提取(MFE)框架,该框架首次结合了蛋白质表面、3D结构和序列的信息,并使用交叉注意机制进行不同模态之间的特征对齐。实验结果表明,该方法在预测蛋白质-配体结合亲和力方面取得了最先进的性能。此外,消融研究证明了该框架内蛋白质表面信息和多模态特征对齐的有效性和必要性。相关研究以「S
