AI芯片,全球缺货!
谷歌CEO将AI革命比作人类对火的使用,但现在为该行业提供燃料的数字火种——AI芯片,很难获得。
驱动AI运行的新一代先进芯片几乎都是由英伟达制造的,随着ChatGPT爆火出圈,市场对英伟达图形处理芯片(GPU)的需求远远超过了供应。
帮助企业构建聊天机器人等AI模型的初创公司Lamini的联合创始人兼首席执行官Sharon Zhou表示:
“因为存在短缺,所以关键在于你的朋友圈。”
“就像疫情期间的厕纸一样。”
由于这种情况的存在,ChatGPT的创建者OpenAI等客户受到了亚马逊和微软等云服务提供商计算能力的限制。为了开发和运营越来越复杂的模型并帮助其他公司构建AI服务,AI开发者需要使用服务器计算能力。
就连世界上人脉最广的科技企业家也在努力确保供应。在5月16日举行的AI国会听证会上,OpenAI首席执行官Sam Altman表示,由于计算能力瓶颈,如果使用ChatGPT的人少一些会更好。
5月23日,特斯拉CEO马斯克在《华尔街日报》CEO理事会峰会上表示:
“目前,GPU比毒品更难获得。”
不过,马斯克还是好很多。
据《华尔街日报》报道,今年早些时候说要寻求甲骨文计算能力的一些初创公司突然被告知,一位买家已经抢购了甲骨文的大部分备用服务器空间。据知情人士透露,这些新创公司已被告知,买家为马斯克,他正在开发一款名为X.AI的竞争产品,用以挑战OpenAI的市场地位。
初创公司想尽各种办法解决短缺
如果没有高级图形处理芯片,大型的语言模型在人工智能中的执行速度会大大降低,这是初创公司的创始人们的共同观点。英伟达的先进图形处理芯片有出色的并行计算能力,这对于AI的运行非常关键。
瑞银分析师估计,早期版本的ChatGPT大约需要10000个英伟达图形处理芯片;而马斯克估计,更新版本所需的先进处理器数量是这个的3到5倍。
英伟达最近表示,该公司正在扩大供应,以满足不断增长的需求。英伟达CEO黄仁勋周日表示,该公司已经提高了用于生成式人工智能的新款旗舰芯片H100的产量。
AI初创公司和投资人都在使出浑身解数来解决芯片短缺问题。一些投资人正在梳理他们的计算网络以获取备用计算能力,另一些投资人则在安排大容量处理器和服务器的订单,以和其他AI初创公司共享。
一些初创公司正在缩小他们的AI模型,以提高效率;还有一些创始人,则是寻求打通和亚马逊和微软的销售人员的关系。
Sharon Zhou from Lamini stated that they have the necessary chips.。Lamini系其与一位前英伟达工程师共同创立。但她和许多其他创始人都拒绝透露是怎么获得这些芯片的。
许多AI创始人预计,AI芯片短缺至少会持续到明年。
创始人和投资者表示,即使AI芯片有着落的公司,他们仍然需要等待数周才能使用到。一位AI初创公司的CEO说:
“即使你已经预付了费用,也不意味着GPU会在第二天或下周送到你那里,你只能等。”
全球最大的服务器制造商之一美超微(Supermicro)的首席执行官表示,该公司图形芯片系统的未交货订单达到了有史以来的最高水平,该公司正急于增加产能。
二级市场火了,英伟达也涨疯了
缺货情况带火了AI芯片的二级市场,部分涉及大型加密公司,这些公司在币圈繁荣时期购买芯片进行挖矿,现在在数字货币市场低迷时期不再需要芯片。
对英伟达产品的需求推动该公司的股票今年上涨了约167%。AI芯片成本各不相同,一些零售商以约3.3万美元的价格出售英伟达的先进AI芯片,不过由于需求旺盛,它们在二级市场上的售价可能更高。
人工智能研究公司General Intelligent的首席执行官Kanjun Qiu自去年以来一直在为自己的服务器购买先进的图形芯片,这让她得以度过目前的短缺。
最近一名风险投资家给她发了一条信息,询问是否有多余的产能可以出租给其他初创公司。Qiu还没有决定是否放弃她的芯片。
以上是AI芯片,全球缺货!的详细内容。更多信息请关注PHP中文网其他相关文章!

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

热门话题

11月14日消息,英伟达(Nvidia)在当地时间13日上午的“Supercomputing23”会议上正式发布了全新的H200GPU,并更新了GH200产品线其中,H200依然是建立在现有的HopperH100架构之上,但增加了更多高带宽内存(HBM3e),从而更好地处理开发和实施人工智能所需的大型数据集,使得运行大模型的综合性能相比前代H100提升了60%到90%。而更新后的GH200,也将为下一代AI超级计算机提供动力。2024年将会有超过200exaflops的AI计算能力上线。H200

6月19日消息,据中国台湾媒体报道,谷歌(Google)为了研发最新的面向服务器的AI芯片,已经找来联发科合合作,并计划交由台积电5nm制程代工,计划明年初量产。报道称,消息人士透露,这次谷歌与联发科的合作,将由联发科提供串行器及解串器(SerDes)方案,并协助整合谷歌自研的张量处理器(TPU),助力谷歌打造最新的服务器AI晶片,性能将比CPU或GPU架构更强大。业界指出,谷歌目前的多项服务都与AI有关,早在多年前就投入到了深度学习技术当中,发现运用GPU来进行AI运算成本十分昂贵,因此谷歌决

号称世界最强AI芯片英伟达H200亮相后,业内开始期待英伟达更强大的B100芯片,与此同时,今年以来最红的初创AI公司OpenAI已经开始研发更强大、更复杂的GPT-5模型。国泰君安在最新的研报中指出,性能无边的B100与GPT5预计在2024年发布,重磅升级或释放前所未有的生产力。该机构表示,看好AI进入快速发展的成长期,能见度持续至2024年。相较于前几代产品,B100和GPT-5究竟有多强大?英伟达和OpenAI已经给出了预告:B100速度可能是H100的4倍以上,而GPT-5可能会实现超

KL730在能效方面的进步使得解决了人工智能模型落地方面最大的瓶颈——能源成本,相较于行业及以往耐能的芯片,提高了3到4倍KL730芯片支持最先进的轻量级GPT大语言模型,如nanoGPT,并提供每秒0.35-4tera的有效计算能力AI公司耐能今日宣布发布KL730芯片,该芯片集成了车规级NPU和图像信号处理(ISP),将安全而低能耗的AI能力赋能到边缘服务器、智能家居及汽车辅助驾驶系统等各类应用场景中。总部位于圣迭戈的耐能以其开创性的神经处理单元(NPU)而闻名耐能最新款芯片KL730旨在实

当全球还在为英伟达H100芯片痴迷并疯狂购买以满足持续增长的AI算力需求之时,当地时间周一,英伟达悄然推出了最新的AI芯片H200,用于AI大模型的训练,相比于其前一代产品H100,H200的性能提升了约60%到90%。H200是英伟达H100的升级版,与H100同样基于Hopper架构,主要升级包括141GB的HBM3e显存,显存带宽从H100的3.35TB/s增加到了4.8TB/s。据英伟达官网消息,H200也是公司第一款使用HBM3e内存的芯片,这种内存速度更快,容量更大,因此更适合大语言

根据原话,可以将其重写为:(全球TMT2023年8月16日讯)AI公司耐能,总部位于圣迭戈,以其开创性的神经处理单元(NPU)而闻名,宣布发布KL730芯片。该芯片集成了车规级NPU和图像信号处理(ISP),并将安全而低能耗的AI能力赋予边缘服务器、智能家居及汽车辅助驾驶系统等各类应用场景KL730芯片在能效方面取得了巨大的突破,相较于以往的耐能芯片,其能效提升了3至4倍,比主要行业同类产品提高了150%~200%。该芯片具备每秒0.35-4tera的有效计算能力,可以支持最先进的轻量级GPT大

谷歌CEO将AI革命比作人类对火的使用,但现在为该行业提供燃料的数字火种——AI芯片,很难获得。驱动AI运行的新一代先进芯片几乎都是由英伟达制造的,随着ChatGPT爆火出圈,市场对英伟达图形处理芯片(GPU)的需求远远超过了供应。帮助企业构建聊天机器人等AI模型的初创公司Lamini的联合创始人兼首席执行官SharonZhou表示:“因为存在短缺,所以关键在于你的朋友圈。”“就像疫情期间的厕纸一样。”这种情况限制了亚马逊和微软等云服务提供商向ChatGPT的创建者OpenAI等客户提供的计算能

微软正在开发AI优化芯片,以降低训练生成式AI模型(例如为OpenAIChatGPT聊天机器人提供动力的模型)的成本。TheInformation近日援引两位知情人士的话说,至少从2019年开始,微软就一直在研发代号为“Athena”的新芯片组。微软和OpenAI的员工已经可以使用新芯片,并正在使用这些芯片在GPT-4等大型语言模型上测试芯片的性能。训练大型语言模型需要摄取和分析大量数据,以便为AI创建新的输出内容来模仿人类对话,这是生成式AI模型的一大标志,这个过程需要大量(大约数万个)针对A
