谷歌聲稱其第四代TPU優於英偉達GPU但業界認為後者領導地位難撼動

PHPz
發布: 2023-05-09 13:10:12
轉載
868 人瀏覽過

Google日前聲稱,公司在AI超級運算能力方面可以勝過英偉達。但業界認為,這項消息並不可能對英偉達這家市場領導者造成太大困擾。

Google最近發布一份研究報告稱,採用其TPU驅動的AI超級電腦與運行Nvidia A100 GPU的同等機器比具有更好的性能和能效。

Google已將4000個第四代TPU串聯在一起,構建了一台超級計算機,並稱這台超級計算機的運行速度要比採用Nvidia A100 GPU的同等機器快1.7倍,效率高出1.9倍。

谷歌聲稱其第四代TPU優於英偉達GPU但業界認為後者領導地位難撼動

Google在俄克拉荷馬州運行的TPU v4驅動的超級電腦

英偉達從生成式AI的繁榮發展中受益,用戶對Nvidia A100 GPU的需求激增。 A100主要用於訓練大型語言AI模型,例如OpenAI的GPT-4。

業界認為,隨著英偉達新的GPU H100即將上市,該公司不太可能對Google的這項成就感到擔憂。

Google自從2020年以來一直在內部使用TPU v4,並在去年向其Google雲端平台的客戶提供了這些晶片。該公司最大的大型語言模型 PaLM就是使用兩台4000 TPU超級電腦進行訓練的。

Google研究人員Norm Jouppi和傑出工程師David Patterson在發表的一篇關於該系統的部落格文章中解釋說:「採用光電路交換機可以輕鬆繞過故障組件。這種靈活性甚至允許我們改變超級電腦互連的拓撲結構,以加速機器學習模型的效能。」

GlobalData負責半導體市場開發的Mike Orme表示,採用光電路交換器是Google提升超級電腦效能的關鍵。他解釋說:「雖然每個TPU的處理速度都比不上最好的英偉達AI晶片,但谷歌用於連接晶片和在晶片之間傳遞數據的光電路交換技術彌補了性能差異。」

英偉達技術已經成為訓練AI模型的黃金標準,一些大型科技公司購買了數千個Nvidia A100 GPU,試圖在AI的技術競爭中超越對手。而OpenAI用於訓練GPT-4的超級電腦配備了1萬個英偉達GPU,每個零售價高達1萬美元。

谷歌聲稱其第四代TPU優於英偉達GPU但業界認為後者領導地位難撼動

Nvidia A100 GPU

最新消息顯示,A100即將被英偉達的最新型號H100取代。在MLPerf (一個追蹤處理器效能的開放AI工程聯盟)日前發布的推理基準測試報告中,H100在功率和效率方面位居行業榜首。

谷歌聲稱其第四代TPU優於英偉達GPU但業界認為後者領導地位難撼動

Nvidia H100 GPU

英偉達聲稱,H100 GPU的運行速度是Google拿來比較的A100 GPU的9倍。 這種速度優勢將消除Google光電路交換技術帶來的優勢。

Google90%的AI訓練都使用TPU,但儘管其晶片功能強大,但Orme預計Google並不會將其推向第三方使用,因為Google並沒有在AI晶片商用市場與英偉達晶片進行競爭的野心,其TPU專門用於Google資料中心或其AI超級電腦。 ”

為什麼谷歌以外的用戶很少會使用這項技術?Orme認為是因為谷歌雲在公共雲市場上的份額很小。根據Synergy Research Group發布的調查數據,谷歌雲的市場份額為11%,落後AWS和微軟Azure的34%及21%。

同時,Google也與英偉達達成協議,將向Google雲端客戶提供H100 GPU算力,這反映了英偉達在未來一段時間內仍將維持市場領導者地位,連Google也離不開。

以上是谷歌聲稱其第四代TPU優於英偉達GPU但業界認為後者領導地位難撼動的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:51cto.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
最新問題
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板