IT之家 10 月 24 日消息,IBM Research 日前推出 AI 晶片 NorthPole,該晶片靈感號稱“來自人類大腦的運作”,推論性能據稱超越 4nm GPU,適用於邊緣運算等範疇。
IT之家經過查詢得知,NorthPole 晶片是 IBM 曾在 2014 年「模擬人腦運作」的 TrueNorth 晶片的後繼者,晶片開發同樣由 TrueNorth 晶片負責人 Dharmendra Modha 所主導。
▲ 圖源 IBM
據悉,在傳統的半導體產業中,晶片主要遵循相同的基本架構,處理單元與儲存資訊是相互分開的,這種架構雖然簡化了晶片設計模式,卻也因傳輸速度趕不上處理速度而出現了“馮・諾伊曼瓶頸(von Neumann Bottleneck)”,而Dharmendra Modha 則認為,人腦是目前所知最節能的處理器,從而持續尋找以數字方式複製人腦的方法。
IBM 目前推出的NorthPole 晶片,相對於傳統晶片最大的不同點在於“晶片內建記憶體”,在沒有“馮・諾伊曼瓶頸”的情況下,NorthPole 晶片的AI 推論能力優於市面上競品。
雖然NorthPole 採用12nm 工藝,於800 平方毫米上安置了220 億個晶體管,擁有256 個核心,於8-bit 精度下每核心每個週期可執行2048 次操作,若是在4-bit 或2 -bit 精度下,操作次數則可翻倍。
▲ 搭載 NorthPole 的 PCIe 卡,圖源 IBM
在具體架構上,NorthPole 號稱模糊了運算與儲存間的界線,這讓 NorthPole 容易整合至系統,且明顯減少了搭載晶片的設備負載。
IBM Research 在ResNet-50 模型上測試NorthPole,相較於同樣基於12nm 製程的GPU 競品,NorthPole 每秒辨識幀數的能源效率是競品的25 倍,而且不管是在延遲或運算空間的要求上,表現都優於市面上所有主流架構,甚至凌駕基於4nm 製程的GPU。
不過,NorthPole 的優勢同時也是它的弱點所在,NorthPole 只能輕鬆讀取集成在芯片中的本地數據信息,讀取外界數據時,便沒有計算速度優勢。
Dharmendra Modha 聲稱,雖然 NorthPole 無法用來承載 GPT-4,但應該可滿足許多企業所需的模型推論要求。
目前 IBM Research 仍在研究 NorthPole 的適用領域,研究人員許多需要即時處理大量資料的邊緣運算可能非常適合 NorthPole,例如自動駕駛、遙感通訊等領域,NorthPole 均有用武之地。
廣告聲明:文內含有的對外跳轉連結(包括不限於超連結、二維碼、口令等形式),用於傳遞更多訊息,節省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。
以上是IBM 推出 AI 晶片 NorthPole:內建記憶體,號稱可'模擬人腦運作”的詳細內容。更多資訊請關注PHP中文網其他相關文章!