CRAM：一種新的晶片設計，可以將人工智慧協定的功耗降低幾個數量級

人工智慧 (AI) 及其能源需求繼續為第四次工業革命提供動力。今天，任何人都可以使用先進的人工智慧工具

人工智慧（AI）及其能源需求繼續為第四次工業革命提供動力。如今，任何人都可以存取先進的人工智慧工具並將其整合到自己的系統中，以提高效率並減少工作量。隨著人工智慧應用需求的增加，驅動這些演算法所需的能量也會增加。因此，環保人士已經指出了圍繞該技術的可持續性問題。值得慶幸的是，一組研究人員創造了一種高效的替代方案。這是你需要知道的。

不斷增長的人工智慧能源需求造成能源危機

新的人工智慧系統不斷以越來越高的頻率推出。最新的全球能源使用預測預測，人工智慧能源消耗將從 2022 年的 460 太瓦時 (TWh) 翻一番，到 2026 年達到 1,000 TWh。這些協定包括推薦器、大語言模型 (LLM)、影像和視訊處理和創建、Web3服務等等。

根據研究人員的研究，人工智慧系統所需的資料傳輸相當於「從片外主記憶體讀取三個64 位元來源運算元和向片外主記憶體寫入一個64 位元目標運算元時計算所用能量的200 倍」。因此，降低人工智慧 (AI) 運算應用的能耗是開發人員最關心的問題，他們需要克服這一障礙以實現大規模採用並使技術成熟。

值得慶幸的是，明尼蘇達大學的一群創新工程師已經提出了一個可能的解決方案，可以將人工智慧協定的功耗降低幾個數量級。為了完成這項任務，研究人員引入了一種新的晶片設計，該設計改進了當今大多數晶片中的馮諾依曼架構。

馮諾依曼建築

約翰·馮·諾依曼 (John von Neumann) 於 1945 年徹底改變了計算機領域，他將邏輯單元和內存單元分開，在當時實現了更高效的計算。在這種佈置中，邏輯和資料儲存在不同的實體位置。他的發明提高了性能，因為它允許同時訪問兩者。

今天，大多數電腦仍然使用馮諾依曼結構，硬碟儲存程序，隨機存取記憶體 (RAM) 儲存程式指令和臨時資料。今天的 RAM 使用各種方法來完成此任務，包括利用電容器的 DRAM 和具有多個電路的 SRAM。

值得注意的是，這種結構幾十年來一直運作良好。然而，邏輯和記憶體之間不斷傳輸資料需要大量能量。這種能量傳遞隨著資料需求和計算負載的增加而增加。因此，它會造成效能瓶頸，隨著運算能力的增加而限制效率。

嘗試改善能源需求

多年來，人們進行了​​許多嘗試來改進馮諾依曼的架構。這些嘗試創造了記憶過程的不同變化，目的是讓這兩個動作在物理上更接近。目前，三個主要變體包括。

近記憶體處理

此升級使邏輯在物理上更接近記憶體。這是使用 3D 堆疊基礎設施完成的。將邏輯移得更近可以減少傳輸計算所需資料所需的距離和能量。這種架構提高了效率。

記憶體計算

目前改進計算架構的另一種方法是記憶體計算。值得注意的是，這種類型的晶片有兩種變體。最初的版本將邏輯集群整合在單一晶片上的記憶體旁邊。這種部署可以消除前代產品中使用的電晶體。然而，許多人認為這種方法對於記憶體結構來說並不“真實”，因為它仍然具有單獨的記憶體位置，這意味著資料傳輸導致的初始效能問題存在，儘管規模較小。

真正的記憶體

最終類型的晶片架構是「真正的記憶體中」。為了符合這種類型的架構，記憶體需要直接執行計算。這種結構增強了功能和效能，因為邏輯操作的資料保留在其位置。研究人員最新版本的真正記憶體架構是 CRAM。

（補習班）

計算隨機存取記憶體 (CRAM) 可實現真正的記憶體運算，因為資料是在同一數組中處理的。研究人員修改了標準 1T1M STT-MRAM 架構，使 CRAM 成為可能。 CRAM 佈局將微型電晶體整合到每個單元中，並建立​​在基於磁性隧道接面的 CPU 之上。

這種方法提供了更好的控制和性能。然後，該團隊在每個單元中堆疊了額外的電晶體、邏輯線 (LL) 和邏輯位元線 (LBL)，從而在同一儲存體中實現即時計算。

CRAM 的歷史

當今的人工智慧系統需要一種新的結構來滿足其運算需求，同時又不減少永續性問題。在認識到這項需求後，工程師決定首次深入研究 CRAM 功能。他們的研究結果發表在 NPJ 科學雜誌上，題為「基於磁性隧道結的計算隨機存取記憶體的實驗演示」。

第一個 CRAM 利用了 MTJ 裝置結構。這些自旋電子裝置透過使用電子自旋而不是晶體管來傳輸和存儲，從而改進了先前的儲存方法

以上是CRAM：一種新的晶片設計，可以將人工智慧協定的功耗降低幾個數量級的詳細內容。更多資訊請關注PHP中文網其他相關文章！