AI晶片,全球缺貨!
GoogleCEO將AI革命比作人類對火的使用,但現在為該行業提供燃料的數位火種——AI晶片,很難獲得。
驅動AI運作的新一代先進晶片幾乎都是由英偉達製造的,隨著ChatGPT爆火出圈,市場對英偉達圖形處理晶片(GPU)的需求遠遠超過了供應。
幫助企業建立聊天機器人等AI模型的新創公司Lamini的共同創辦人兼執行長Sharon Zhou表示:
「因為有短缺,所以關鍵在於你的朋友圈。」
「就像疫情期間的衛生紙一樣。」
由於這種情況的存在,ChatGPT的創建者OpenAI等客戶受到了亞馬遜和微軟等雲端服務供應商運算能力的限制。為了開發和運作越來越複雜的模型並幫助其他公司建立AI服務,AI開發者需要使用伺服器運算能力。
就連世界上人脈最廣的科技創業家也在努力確保供應。 在5月16日舉行的AI國會聽證會上,OpenAI執行長Sam Altman表示,由於運算能力瓶頸,如果使用ChatGPT的人少一些會更好。
5月23日,特斯拉CEO馬斯克在《華爾街日報》CEO理事會高峰會上表示:
「目前,GPU比毒品更難取得。」
不過,馬斯克還是好很多。
根據《華爾街日報》報道,今年稍早說要尋求甲骨文運算能力的一些新創公司突然被告知,一位買家已經搶購了甲骨文的大部分備用伺服器空間。知情人士透露,這些新創公司已被告知,買家為馬斯克,他正在開發一款名為X.AI的競爭產品,以挑戰OpenAI的市場地位。
新創公司想盡各種辦法解決短缺
如果沒有高階圖形處理晶片,大型的語言模型在人工智慧中的執行速度會大大降低,這是新創公司的創始人們的共同觀點。英偉達的先進圖形處理晶片具有出色的平行運算能力,這對於AI的運作非常關鍵。
瑞銀分析師估計,早期版本的ChatGPT大約需要10000個英偉達圖形處理晶片;而馬斯克估計,更新版本所需的先進處理器數量是這個的3到5倍。
英偉達最近表示,該公司正在擴大供應,以滿足不斷增長的需求。 英偉達CEO黃仁勳週日表示,該公司已經提高了用於生成式人工智慧的新旗艦晶片H100的產量。
AI新創公司和投資人都在使出渾身解數來解決晶片短缺問題。一些投資者正在梳理他們的運算網路以獲取備用運算能力,有些投資人則在安排大容量處理器和伺服器的訂單,以與其他AI新創公司共享。
一些新創公司正在縮小他們的AI模型,以提高效率;還有一些創辦人,則是尋求打通和亞馬遜和微軟的銷售人員的關係。
Sharon Zhou from Lamini stated that they have the necessary chips.。 Lamini係其與一位前英偉達工程師共同創立。但她和許多其他創始人都拒絕透露是怎麼獲得這些晶片的。
許多AI創辦人預計,AI晶片短缺至少會持續到明年。
創辦人和投資者表示,即使AI晶片有著落腳的公司,他們仍然需要等待數週才能使用。 一位AI新創公司的CEO說:
「即使你已經預付了費用,也不代表GPU會在第二天或下週送到你那裡,你只能等。」
全球最大的伺服器製造商之一美超微(Supermicro)的執行長表示,該公司圖形晶片系統的未交貨訂單達到了有史以來的最高水平,該公司正急於增加產能。
二級市場火了,英偉達也漲瘋了
缺貨情況帶火了AI晶片的二級市場,部分涉及大型加密公司,這些公司在幣圈繁榮時期購買晶片進行挖礦,現在在數位貨幣市場低迷時期不再需要晶片。
對英偉達產品的需求推動該公司的股票今年上漲了約167%。 AI晶片成本各不相同,一些零售商以約3.3萬美元的價格出售英偉達的先進AI晶片,不過由於需求旺盛,它們在二級市場上的售價可能更高。
人工智慧研究公司General Intelligent的執行長Kanjun Qiu自去年以來一直在為自己的伺服器購買先進的圖形晶片,這讓她得以度過目前的短缺。
最近一名創投家給她發了一封訊息,詢問是否有多餘的產能可以出租給其他新創公司。 Qiu還沒決定是否要放棄她的晶片。
以上是AI晶片,全球缺貨!的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

11月14日消息,英偉達(Nvidia)在當地時間13日上午的「Supercomputing23」會議上正式發布了全新的H200GPU,並更新了GH200產品線其中,H200依然是建立在現有的HopperH100架構之上,但增加了更多高頻寬記憶體(HBM3e),從而更好地處理開發和實施人工智慧所需的大型資料集,使得運行大模型的綜合性能相比前代H100提升了60%到90%。而更新後的GH200,也將為下一代AI超級電腦提供動力。 2024年將會有超過200exaflops的AI運算能力上線。 H200

6月19日消息,根據中國台灣媒體報道,Google(Google)為了研發最新的面向伺服器的AI晶片,已經找來聯發科合合作,併計劃交由台積電5nm製程代工,計劃明年初量產。報導稱,消息人士透露,這次谷歌與聯發科的合作,將由聯發科提供串行器及解串器(SerDes)方案,並協助整合谷歌自研的張量處理器(TPU),助力谷歌打造最新的伺服器AI晶片,效能將比CPU或GPU架構更強大。業界指出,Google目前的多項服務都與AI有關,早在多年前就投入到了深度學習技術當中,發現運用GPU來進行AI運算成本十分昂貴,因此谷歌決

在號稱世界最強AI晶片英偉達H200亮相後,業界開始期待英偉達更強大的B100晶片,與此同時,今年以來最紅的新創AI公司OpenAI已經開始研發更強大、更複雜的GPT-5模型。國泰君安在最新的研究中指出,性能無邊的B100與GPT5預計在2024年發布,重磅升級或釋放前所未有的生產力。該機構表示,看好AI進入快速發展的成長期,能見度持續至2024年。相較於前幾代產品,B100和GPT-5究竟有多強大?英偉達和OpenAI已經給出了預告:B100速度可能是H100的4倍以上,而GPT-5可能會實現超

KL730在能源效率方面的進步使得解決了人工智慧模型落地方面最大的瓶頸——能源成本,相較於行業及以往耐能的晶片,提高了3到4倍KL730晶片支援最先進的輕量級GPT大語言模型,如nanoGPT,並提供每秒0.35-4tera的有效運算能力AI公司耐能今日宣布發表KL730晶片,該晶片整合了車規級NPU和影像訊號處理(ISP),將安全且低能耗的AI能力賦能到邊緣伺服器、智慧家庭及汽車輔助駕駛系統等各類應用場景。總部位於聖迭戈的耐能以其開創性的神經處理單元(NPU)而聞名耐能最新晶片KL730旨在實

當全球仍在為英偉達H100晶片痴迷並瘋狂購買以滿足持續增長的AI算力需求之時,當地時間週一,英偉達悄然推出了最新的AI芯片H200,用於AI大模型的訓練,相比於其前一代產品H100,H200的性能提升了約60%到90%。 H200是英偉達H100的升級版,與H100同樣基於Hopper架構,主要升級包含141GB的HBM3e顯存,顯存頻寬從H100的3.35TB/s增加到了4.8TB/s。根據英偉達官網消息,H200也是公司第一款使用HBM3e內存的晶片,這種內存速度更快,容量更大,因此更適合大語言

谷歌CEO將AI革命比作人類對火的使用,但現在為該行業提供燃料的數位火種——AI晶片,很難獲得。驅動AI運作的新一代先進晶片幾乎都是由英偉達製造的,隨著ChatGPT爆火出圈,市場對英偉達圖形處理晶片(GPU)的需求遠遠超過了供應。幫助企業建立聊天機器人等AI模型的新創公司Lamini的聯合創始人兼首席執行官SharonZhou表示:「因為存在短缺,所以關鍵在於你的朋友圈。」「就像疫情期間的衛生紙一樣。」這種情況限制了亞馬遜和微軟等雲端服務供應商向ChatGPT的創建者OpenAI等客戶提供的運算能

微軟正在開發AI優化晶片,以降低訓練生成式AI模型(例如為OpenAIChatGPT聊天機器人提供動力的模型)的成本。 TheInformation近日引述兩位知情人士的話說,至少從2019年開始,微軟就一直在研發代號為「Athena」的新晶片組。微軟和OpenAI的員工已經可以使用新晶片,並正在使用這些晶片在GPT-4等大型語言模型上測試晶片的效能。訓練大型語言模型需要攝取和分析大量數據,以便為AI創建新的輸出內容來模仿人類對話,這是生成式AI模型的一大標誌,這個過程需要大量(大約數萬個)針對A

韓國兩大科技巨頭三星電子和Naver公司已經同意共同開發一款生成式人工智慧企業平台,以與ChatGPT等全球人工智慧工具競爭。在他們的人工智慧合作中,韓國最大的線上搜尋引擎服務商Naver將從三星獲得與半導體相關的數據來創建一個生成式人工智慧,然後將由三星進一步升級。熟悉此事的人表示,一旦開發完成,該可用於韓語的人工智慧工具將由三星的設備解決方案(DS)部門使用,該部門包括其半導體業務。這兩位合作夥伴的目標是在十月儘早推出這款人工智慧工具。在實地測試之後,三星計劃將企業生成式人工智慧工具的使用
