首頁 > 網路3.0 > CRAM:一種新的晶片設計,可以將人工智慧協定的功耗降低幾個數量級

CRAM:一種新的晶片設計,可以將人工智慧協定的功耗降低幾個數量級

WBOY
發布: 2024-08-12 21:03:14
原創
883 人瀏覽過

人工智慧 (AI) 及其能源需求繼續為第四次工業革命提供動力。今天,任何人都可以使用先進的人工智慧工具

CRAM:一種新的晶片設計,可以將人工智慧協定的功耗降低幾個數量級

人工智慧(AI)及其能源需求繼續為第四次工業革命提供動力。如今,任何人都可以存取先進的人工智慧工具並將其整合到自己的系統中,以提高效率並減少工作量。隨著人工智慧應用需求的增加,驅動這些演算法所需的能量也會增加。因此,環保人士已經指出了圍繞該技術的可持續性問題。值得慶幸的是,一組研究人員創造了一種高效的替代方案。這是你需要知道的。

不斷增長的人工智慧能源需求造成能源危機

新的人工智慧系統不斷以越來越高的頻率推出。最新的全球能源使用預測預測,人工智慧能源消耗將從 2022 年的 460 太瓦時 (TWh) 翻一番,到 2026 年達到 1,000 TWh。這些協定包括推薦器、大語言模型 (LLM)、影像和視訊處理和創建、Web3服務等等。

根據研究人員的研究,人工智慧系統所需的資料傳輸相當於「從片外主記憶體讀取三個64 位元來源運算元和向片外主記憶體寫入一個64 位元目標運算元時計算所用能量的200 倍」。因此,降低人工智慧 (AI) 運算應用的能耗是開發人員最關心的問題,他們需要克服這一障礙以實現大規模採用並使技術成熟。

值得慶幸的是,明尼蘇達大學的一群創新工程師已經提出了一個可能的解決方案,可以將人工智慧協定的功耗降低幾個數量級。為了完成這項任務,研究人員引入了一種新的晶片設計,該設計改進了當今大多數晶片中的馮諾依曼架構。

馮諾依曼建築

約翰·馮·諾依曼 (John von Neumann) 於 1945 年徹底改變了計算機領域,他將邏輯單元和內存單元分開,在當時實現了更高效的計算。在這種佈置中,邏輯和資料儲存在不同的實體位置。他的發明提高了性能,因為它允許同時訪問兩者。

今天,大多數電腦仍然使用馮諾依曼結構,硬碟儲存程序,隨機存取記憶體 (RAM) 儲存程式指令和臨時資料。今天的 RAM 使用各種方法來完成此任務,包括利用電容器的 DRAM 和具有多個電路的 SRAM。

值得注意的是,這種結構幾十年來一直運作良好。然而,邏輯和記憶體之間不斷傳輸資料需要大量能量。這種能量傳遞隨著資料需求和計算負載的增加而增加。因此,它會造成效能瓶頸,隨著運算能力的增加而限制效率。

嘗試改善能源需求

多年來,人們進行了​​許多嘗試來改進馮諾依曼的架構。這些嘗試創造了記憶過程的不同變化,目的是讓這兩個動作在物理上更接近。目前,三個主要變體包括。

近記憶體處理

此升級使邏輯在物理上更接近記憶體。這是使用 3D 堆疊基礎設施完成的。將邏輯移得更近可以減少傳輸計算所需資料所需的距離和能量。這種架構提高了效率。

記憶體計算

目前改進計算架構的另一種方法是記憶體計算。值得注意的是,這種類型的晶片有兩種變體。最初的版本將邏輯集群整合在單一晶片上的記憶體旁邊。這種部署可以消除前代產品中使用的電晶體。然而,許多人認為這種方法對於記憶體結構來說並不“真實”,因為它仍然具有單獨的記憶體位置,這意味著資料傳輸導致的初始效能問題存在,儘管規模較小。

真正的記憶體

最終類型的晶片架構是「真正的記憶體中」。為了符合這種類型的架構,記憶體需要直接執行計算。這種結構增強了功能和效能,因為邏輯操作的資料保留在其位置。研究人員最新版本的真正記憶體架構是 CRAM。

(補習班)

計算隨機存取記憶體 (CRAM) 可實現真正的記憶體運算,因為資料是在同一數組中處理的。研究人員修改了標準 1T1M STT-MRAM 架構,使 CRAM 成為可能。 CRAM 佈局將微型電晶體整合到每個單元中,並建立​​在基於磁性隧道接面的 CPU 之上。

這種方法提供了更好的控制和性能。然後,該團隊在每個單元中堆疊了額外的電晶體、邏輯線 (LL) 和邏輯位元線 (LBL),從而在同一儲存體中實現即時計算。

CRAM 的歷史

當今的人工智慧系統需要一種新的結構來滿足其運算需求,同時又不減少永續性問題。在認識到這項需求後,工程師決定首次深入研究 CRAM 功能。他們的研究結果發表在 NPJ 科學雜誌上,題為「基於磁性隧道結的計算隨機存取記憶體的實驗演示」。

第一個 CRAM 利用了 MTJ 裝置結構。這些自旋電子裝置透過使用電子自旋而不是晶體管來傳輸和存儲,從而改進了先前的儲存方法

以上是CRAM:一種新的晶片設計,可以將人工智慧協定的功耗降低幾個數量級的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板