為什麼 BLAS 比我的矩陣乘法實作快得多？

BLAS 在矩陣乘法方面的卓越性能

您已經見證了您自己的矩陣乘法函數與布拉斯。這就提出了兩個問題：

1。 BLAS 如何達到極致效能？

BLAS 根據複雜度和最佳化技術分為三個層級：

• 等級 1： 對向量進行運算以及向量化的好處。
• 2 級： 句柄矩陣向量運算並利用多處理器架構。
• 第 3 級： 執行矩陣-矩陣運算並最佳化快取層次結構。此最佳化對於 3 級函數的顯著效能提升至關重要。

2.為什麼您的實現速度較慢？

您的實作缺乏 BLAS 使用的快取最佳化。矩陣-矩陣乘法中的 O(N^3) 運算會導致記憶體和快取之間發生大量資料移動。透過實現最大限度地減少快取衝突的專用演算法，BLAS 顯著加速了這一過程。

雖然現代編譯器有助於最佳化程式碼，但它們無法完全彌補 BLAS 實作中使用的專業技術（如 ATLAS、GotoBLAS 和 OpenBLAS）。

BLAS 使用的演算法

BLAS 確實不使用像Coppersmith–Winograd 或Strassen 這樣的複雜演算法，因為：

• 提供快取優化實現的潛在困難。
• 缺乏數值穩定性，這禁止它們在 LAPACK 的計算內核中使用.
• 時間複雜度的高常數因子，使得它們只對異常大的情況有利矩陣。

以上是為什麼 BLAS 比我的矩陣乘法實作快得多？的詳細內容。更多資訊請關注PHP中文網其他相關文章！