目前的人工智慧世界耗電且計算有限。模型開發的軌跡很快，但隨著這種進步，需要大幅增加運算能力。現有的基於電晶體的計算正在接近其物理極限，並且已經難以滿足這些不斷增長的計算需求。
大型企業已經嘗試透過開發自己的客製化晶片解決方案來解決這個問題。然而，硬體瓶頸可能過於嚴重，無法用傳統的電子處理器來克服。那麼，技術如何才能充分滿足對運算能力呈指數級增長的需求呢？
在大型語言模型中，超過90%的計算任務都使用矩陣乘法。透過以結構化的方式執行乘法和加法的基本運算，矩陣乘法能夠支援人工智慧的各種功能模組。這不僅適用於語言模型，而且幾乎適用於所有神經網路的基礎：它可以實現大規模神經元之間的連接，進行影像分類和物體檢測的捲積運算，處理順序資料等。雖然這是一個簡單的概念，但對於有效地操作和轉換支援人工智慧和其他無數應用的資料來說至關重要，因此矩陣乘法的重要性無法高估
隨著人工智慧模型變得越來越龐大，我們必須進行更多的矩陣運算，這意味著我們需要更強大的運算能力。為了滿足這種需求，即便是目前，電子產品也已經達到極限了。還有其他解決方案嗎？
光纖已經以多種方式用於改變我們的生活，最引人注目的是光纖網路中的光通訊。光學計算自然是下一步。數位電子學需要大量電晶體來執行最簡單的算術運算，而光學計算則利用物理定律進行計算。輸入資訊被編碼為光束，並利用光學的自然特性(例如乾涉和繞射)執行矩陣乘法。資訊可以以多種波長、偏振和空間模式進行編碼，從而允許無限量的並行處理，並且計算實際上以光速進行。
隨著登納德縮放定律和摩爾定律的結束，是時候重新審視計算的基礎知識了。數位電子產品本質上局限於「2D」的佈局——電晶體閘極和電路製造在晶圓上，計算是透過2D平面上不同單元之間的資訊流動進行。這種2D運算架構需要不斷增加的電晶體密度，導致嚴重的互連問題，並遭受臭名昭著的記憶體瓶頸。隨著3D堆疊記憶體的發展，2D設計的變革現已開始，但整個產業的適應還有很長的路要走。
現在，光學可以透過在3D空間中自然地執行計算來徹底改變遊戲規則。添加新維度可以放鬆傳統計算中的許多限制。互連組件更容易，能源效率更高，並且它允許不斷增加的吞吐量(在給定時間內可以執行多少計算)，而不影響延遲(每次計算執行的速度)。這對3D光學來說是完全獨特的：無論是將10個數字相乘還是10,000個數字相乘，這一切都會以光速同時發生。這對光學處理器的可擴展性產生了巨大的影響，使其能夠達到目前數位處理器速度的1000倍。
除了3D光學固有的可擴展性之外，光學器件的時脈速度可以提供比傳統電子裝置快100倍的速度，並且波長復用的能力為進一步提高100倍打開了大門。將這一切結合在一起，能夠以指數方式擴展計算速度，並具有更高的吞吐量、更低的延遲和更高的可靠性，而這些只有3D光學矩陣乘法才能提供
無論應用如何，矩陣乘法構成了所有人工智慧運算的支柱。值得注意的是，3D光學帶來的高吞吐量和低延遲對於資料中心的人工智慧推理任務特別有價值，這是一個由即時回應能力和效率推動的應用程式。
3D光學運算相較於傳統的電子或整合光子學，在頻寬、延遲、速度和可擴展性方面有了顯著的提升。此外，它還與現有機器學習演算法相容，因此有望徹底改變所有人工智慧應用
以上是人工智慧的未來：光學矩陣乘法的革命性影響的詳細內容。更多資訊請關注PHP中文網其他相關文章！
