首页 科技周边 人工智能 在人工智能基础设施方面,您应该选择边缘或云?

在人工智能基础设施方面,您应该选择边缘或云?

May 08, 2023 pm 11:58 PM
人工智能 云计算 边缘计算

如今,边缘计算一直是热门话题。被誉为近年来最令人兴奋的技术转变,关于其变革力量的讨论很多!

随着越来越强大的 AI/ML 算法重新定义“智能”以及更便宜、更强大的“边缘”设备的可用性,这种炒作在很大程度上是真实的。但是,如果要考虑边缘计算的历史,它会比最近的兴趣让我们相信的更早。

在人工智能基础设施方面,您应该选择边缘或云?

事实上,计算和智能最初始于边缘,当时大多数应用程序几乎不存在高带宽网络连接。即使在 1990 年代后期,远程部署在工厂或现场的关键测量设备通常也具有处理传入传感器数据的专用计算能力。然而,这些设备中的算法在“智能”方面只是初级的:主要是信号处理或数据转换。

随着网络能力的提高和连接性的提高,基于云的计算在 2000 年代后期开始受到关注。与此同时,强大的人工智能算法作为一种从大量结构化和非结构化数据中解锁有意义信息的手段而备受关注。在短短十年内,云 AI 已成为 AI 应用程序的首选。

但是,向云的转变也带来了几个问题:数据上传和下载成本、网络可靠性和数据安全等等。与此同时,随着价格实惠但功能强大的边缘设备的兴起,边缘计算在处理能力和成本或占地面积之间的权衡正在减少。似乎我们现在又回到了考虑“边缘计算”作为构建智能应用程序的可行且有吸引力的选择。

随着关于边缘人工智能和云人工智能哪个更好的辩论越来越激烈,任何熟悉这两个框架的人都可能会回答“这要看情况了!”。原因是边缘和云基础设施不是竞争的,而是互补的框架。

在过去的几年里,两者都经历了巨大的发展和完善,特别是作为人工智能开发和部署的基础。与任何技术选择一样,选择实际上可归结为具体的应用:目标、价值驱动因素、经济性以及对功耗、尺寸和连接性的任何限制。因此,在尝试建立正确的基础设施之前,必须了解云和边缘人工智能的利弊。

当寻求灵活性、可扩展性和易于部署时,基于云的人工智能是一个有吸引力的选择。如今,大多数云服务提供商为人工智能模型的培训和部署提供了强大的框架,并提供了按需付费的包,几乎没有前期承诺或投资。云提供了几乎没有限制的计算和存储选项,使其特别适合大型人工智能模型。

但对于需要连续评估传感器或图像数据的实时应用程序来说,这可能会成为一个笨拙的选择,因为它们必须来回传输数据,从而导致巨大的成本。这种数据传输也使得云在很大程度上不适合需要闭环控制或即时行动的低延迟应用程序。

另一方面, 边缘人工智能是自动报警或闭环控制的实时数据分析的合理选择。虽然边缘基础设施确实需要在边缘硬件上进行前期投资,但运营成本与云相比要低得多。

今天,有各种各样的边缘人工智能硬件选项可用,包括npu(神经处理单元)、TPU(张量处理单元)以及带有专用人工智能加速器的SOC(片上系统)和SoMs(模块上系统)。人工智能的低成本和低功耗硬件是一个活跃的研究领域,并有可能提供更好的选择。另一方面,基于人工智能的消费应用必须处理相当多样化的边缘设备(手机、平板电脑、个人电脑等),这使得边缘部署成为一个潜在的令人生畏的前景。

因此,边缘基础设施可能不利于快速原型开发,也不容易扩展。虽然联合学习,AI模型的分布式训练的概念允许在边缘进行训练和部署,但云仍然是训练需要足够计算能力的大型模型的逻辑选择。

但解决方案不一定是非此即彼的选择。随着应用程序过渡到更多基于微服务的架构,它们可以分解为具有自己特定部署框架的更小的功能或微服务。因此,不必在云和边缘之间进行选择,重点可以放在针对特定应用程序优化使用两者。

例如,一个应用程序可能从云上的快速原型开始。随着它的发展,需要低延迟和实时决策的功能可以转移到边缘,而那些需要规模和灵活性的功能可以保留在云中。模型训练或再训练可以在云端集中管理,而边缘的一些联邦学习可以在本地提高准确性。同样,敏感数据可以在边缘处理,更通用的数据可以转移到云端。

组织、开发人员和从业者最好不要将云和边缘视为不同的替代方案,而是将其视为从边缘到云的连续统一体,中间有许多不同的基础设施选项。这包括不同类型的边缘——运营边缘、网络边缘、移动端点等,以及网络上不同类型的分布式处理——私有云、公共云、小云、雾计算等。

虽然复杂性可能是一个挑战,但找到正确的技术组合开始为组织提供一个独特的机会,以最大限度地提高人工智能的价值,同时最大限度地降低成本和风险。

以上是在人工智能基础设施方面,您应该选择边缘或云?的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
2 周前 By 尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
4 周前 By 尊渡假赌尊渡假赌尊渡假赌

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

字节跳动剪映推出 SVIP 超级会员:连续包年 499 元,提供多种 AI 功能 字节跳动剪映推出 SVIP 超级会员:连续包年 499 元,提供多种 AI 功能 Jun 28, 2024 am 03:51 AM

本站6月27日消息,剪映是由字节跳动旗下脸萌科技开发的一款视频剪辑软件,依托于抖音平台且基本面向该平台用户制作短视频内容,并兼容iOS、安卓、Windows、MacOS等操作系统。剪映官方宣布会员体系升级,推出全新SVIP,包含多种AI黑科技,例如智能翻译、智能划重点、智能包装、数字人合成等。价格方面,剪映SVIP月费79元,年费599元(本站注:折合每月49.9元),连续包月则为59元每月,连续包年为499元每年(折合每月41.6元)。此外,剪映官方还表示,为提升用户体验,向已订阅了原版VIP

使用Rag和Sem-Rag提供上下文增强AI编码助手 使用Rag和Sem-Rag提供上下文增强AI编码助手 Jun 10, 2024 am 11:08 AM

通过将检索增强生成和语义记忆纳入AI编码助手,提升开发人员的生产力、效率和准确性。译自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。虽然基本AI编程助手自然有帮助,但由于依赖对软件语言和编写软件最常见模式的总体理解,因此常常无法提供最相关和正确的代码建议。这些编码助手生成的代码适合解决他们负责解决的问题,但通常不符合各个团队的编码标准、惯例和风格。这通常会导致需要修改或完善其建议,以便将代码接受到应

七个很酷的GenAI & LLM技术性面试问题 七个很酷的GenAI & LLM技术性面试问题 Jun 07, 2024 am 10:06 AM

想了解更多AIGC的内容,请访问:51CTOAI.x社区https://www.51cto.com/aigc/译者|晶颜审校|重楼不同于互联网上随处可见的传统问题库,这些问题需要跳出常规思维。大语言模型(LLM)在数据科学、生成式人工智能(GenAI)和人工智能领域越来越重要。这些复杂的算法提升了人类的技能,并在诸多行业中推动了效率和创新性的提升,成为企业保持竞争力的关键。LLM的应用范围非常广泛,它可以用于自然语言处理、文本生成、语音识别和推荐系统等领域。通过学习大量的数据,LLM能够生成文本

微调真的能让LLM学到新东西吗:引入新知识可能让模型产生更多的幻觉 微调真的能让LLM学到新东西吗:引入新知识可能让模型产生更多的幻觉 Jun 11, 2024 pm 03:57 PM

大型语言模型(LLM)是在巨大的文本数据库上训练的,在那里它们获得了大量的实际知识。这些知识嵌入到它们的参数中,然后可以在需要时使用。这些模型的知识在训练结束时被“具体化”。在预训练结束时,模型实际上停止学习。对模型进行对齐或进行指令调优,让模型学习如何充分利用这些知识,以及如何更自然地响应用户的问题。但是有时模型知识是不够的,尽管模型可以通过RAG访问外部内容,但通过微调使用模型适应新的领域被认为是有益的。这种微调是使用人工标注者或其他llm创建的输入进行的,模型会遇到额外的实际知识并将其整合

云计算巨头掀起法律战:亚马逊状告诺基亚专利侵权 云计算巨头掀起法律战:亚马逊状告诺基亚专利侵权 Jul 31, 2024 pm 12:47 PM

本站7月31日消息,科技巨头亚马逊于周二在美国特拉华州联邦法院起诉了芬兰电信公司诺基亚,指控其侵犯了亚马逊十几项与云计算技术相关的专利。1.亚马逊在诉讼中表示,诺基亚滥用了亚马逊云计算服务(AWS)的相关技术,包括云计算基础设施、安全和性能方面的技术,来加强其自身的云服务产品。诉状称,亚马逊于2006年推出了AWS,其开创性的云计算技术早在2000年代初期就开始研发。“亚马逊是云计算领域的先驱,现在诺基亚却在未经许可的情况下使用亚马逊的专利云计算创新成果,”诉状中写道。亚马逊要求法院发布禁令,阻

为大模型提供全新科学复杂问答基准与测评体系,UNSW、阿贡、芝加哥大学等多家机构联合推出SciQAG框架 为大模型提供全新科学复杂问答基准与测评体系,UNSW、阿贡、芝加哥大学等多家机构联合推出SciQAG框架 Jul 25, 2024 am 06:42 AM

编辑|ScienceAI问答(QA)数据集在推动自然语言处理(NLP)研究发挥着至关重要的作用。高质量QA数据集不仅可以用于微调模型,也可以有效评估大语言模型(LLM)的能力,尤其是针对科学知识的理解和推理能力。尽管当前已有许多科学QA数据集,涵盖了医学、化学、生物等领域,但这些数据集仍存在一些不足。其一,数据形式较为单一,大多数为多项选择题(multiple-choicequestions),它们易于进行评估,但限制了模型的答案选择范围,无法充分测试模型的科学问题解答能力。相比之下,开放式问答

SOTA性能,厦大多模态蛋白质-配体亲和力预测AI方法,首次结合分子表面信息 SOTA性能,厦大多模态蛋白质-配体亲和力预测AI方法,首次结合分子表面信息 Jul 17, 2024 pm 06:37 PM

编辑|KX在药物研发领域,准确有效地预测蛋白质与配体的结合亲和力对于药物筛选和优化至关重要。然而,目前的研究没有考虑到分子表面信息在蛋白质-配体相互作用中的重要作用。基于此,来自厦门大学的研究人员提出了一种新颖的多模态特征提取(MFE)框架,该框架首次结合了蛋白质表面、3D结构和序列的信息,并使用交叉注意机制进行不同模态之间的特征对齐。实验结果表明,该方法在预测蛋白质-配体结合亲和力方面取得了最先进的性能。此外,消融研究证明了该框架内蛋白质表面信息和多模态特征对齐的有效性和必要性。相关研究以「S

你所不知道的机器学习五大学派 你所不知道的机器学习五大学派 Jun 05, 2024 pm 08:51 PM

机器学习是人工智能的重要分支,它赋予计算机从数据中学习的能力,并能够在无需明确编程的情况下改进自身能力。机器学习在各个领域都有着广泛的应用,从图像识别和自然语言处理到推荐系统和欺诈检测,它正在改变我们的生活方式。机器学习领域存在着多种不同的方法和理论,其中最具影响力的五种方法被称为“机器学习五大派”。这五大派分别为符号派、联结派、进化派、贝叶斯派和类推学派。1.符号学派符号学(Symbolism),又称为符号主义,强调利用符号进行逻辑推理和表达知识。该学派认为学习是一种逆向演绎的过程,通过已有的

See all articles