首頁 科技週邊 人工智慧 蘋果為自家晶片打造開源框架MLX,實現Llama 7B並在M2 Ultra上運行

蘋果為自家晶片打造開源框架MLX,實現Llama 7B並在M2 Ultra上運行

Dec 14, 2023 pm 11:49 PM
晶片 蘋果 開源

2020 年 11 月,蘋果推出 M1 晶片,其速度之快、功能之強大一時令人驚艷。 2022 年蘋果又推出了 M2,今年 10 月,M3 晶片正式登場。

蘋果在發布晶片時,非常注重其晶片的AI模型訓練和部署能力

蘋果推出的ML Compute 可用於在Mac上進行TensorFlow 模型的訓練。 PyTorch 則支援在 M1 版本的 Mac 上進行 GPU 加速的 PyTorch 機器學習模型訓練,使用蘋果 Metal Performance Shaders (MPS) 作為後端來實現。這些使得 Mac 用戶能夠在本地訓練神經網路。

蘋果宣布推出專門用於機器學習的開源陣列框架,該框架將在蘋果晶片上運行,名為MLX

苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

MLX 是為機器學習研究人員專門設計的框架,旨在有效地訓練和部署AI 模型。框架的設計概念簡單易懂。研究人員能夠輕鬆地擴展和改進 MLX,以便快速地探索和測試新的想法。 MLX 的設計靈感來自於NumPy、PyTorch、Jax 和ArrayFire 等框架

苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

##專案位址:https://github .com/ml-explore/mlx

MLX 計畫貢獻者之一、Apple 機器學習研究團隊(MLR)研究科學家Awni Hannun 展示了一段使用MLX 框架實作Llama 7B 並在M2 Ultra 上運行的影片。

苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

MLX快速地引起了機器學習研究人員的注意。 TVM,MXNET和XGBoost的作者,CMU助理教授以及OctoML CTO的陳天奇轉推表示:「蘋果晶片又有新的深度學習框架了。」

苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

#有人認為蘋果再次「重蹈覆轍」,這是對MLX 的評價

#為了保持原始意思不變,需要將內容改寫成中文。不需要出現原始句子

MLX 特性、範例

#在這個專案中,我們能夠觀察到MLX具備以下幾個主要特點

熟悉的API。 MLX 擁有非常像 NumPy 的 Python API,以及功能齊全的 C API(與 Python API 非常相似)。 MLX 還有更進階的套件(例如 mlx.nn 和 mlx.optimizers),它們的 API 很像 PyTorch,可以簡化建立更複雜的模型。

可組合函數變換。 MLX 擁有自動微分、自動向量化和計算圖最佳化的可組合函數變換。

惰性計算

。 MLX 中的計算是惰性的,陣列只有在需要時才被實例化。

苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

動態圖建構

。 MLX 中的計算圖建置是動態的,改變函數參數的形狀不會導致編譯變慢,而且 debug 很簡單、容易上手。

######多重裝置#########。任何支援的裝置上(如 CPU 和 GPU)都可以運作操作。 ###############統一記憶體#########。 MLX 與其他框架的顯著差異在於統一內存,陣列共享記憶體。 MLX 上的操作可以在任何支援的裝置類型上運行,無需移動資料。 ############此外,專案提供了多種使用MLX 框架的範例,例如MNIST 範例,可以很好地幫助您學習如何使用MLX########## ###########圖片來源:https://github.com/ml-explore/mlx-examples/tree/main/mnist############除了上述範例,MLX 也提供了其他更實用的例子,例如:#######
  • Transformer 語言模型訓練;
  • LLaMA 大規模文字生成與LoRA 微調;
  • Stable Diffusion 生成圖片;
  • OpenAI 的Whisper 語音辨識。

更詳細的文件可參考:https://ml-explore.github.io/mlx/build/html/install.html

#

以上是蘋果為自家晶片打造開源框架MLX,實現Llama 7B並在M2 Ultra上運行的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱門文章

倉庫:如何復興隊友
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒險:如何獲得巨型種子
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
1 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱門文章

倉庫:如何復興隊友
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒險:如何獲得巨型種子
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
1 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱門文章標籤

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

蘋果華為都想做的無按鍵手機,被小米先做出來了? 蘋果華為都想做的無按鍵手機,被小米先做出來了? Aug 29, 2024 pm 03:33 PM

蘋果華為都想做的無按鍵手機,被小米先做出來了?

deepseek ios版下載安裝教程 deepseek ios版下載安裝教程 Feb 19, 2025 pm 04:00 PM

deepseek ios版下載安裝教程

Bybit交易所鏈接為什麼不能直接下載安裝? Bybit交易所鏈接為什麼不能直接下載安裝? Feb 21, 2025 pm 10:57 PM

Bybit交易所鏈接為什麼不能直接下載安裝?

芝麻開門交易平台下載手機版 gateio交易平台下載地址 芝麻開門交易平台下載手機版 gateio交易平台下載地址 Feb 28, 2025 am 10:51 AM

芝麻開門交易平台下載手機版 gateio交易平台下載地址

抖音的豆包功能怎麼開啟 抖音的豆包功能怎麼開啟 Nov 28, 2024 pm 07:39 PM

抖音的豆包功能怎麼開啟

gate.io芝麻開門下載中文教程 gate.io芝麻開門下載中文教程 Feb 28, 2025 am 10:54 AM

gate.io芝麻開門下載中文教程

歐易okx安卓和蘋果下載鏈接怎麼找 歐易okx安卓和蘋果下載鏈接怎麼找 Feb 21, 2025 pm 05:39 PM

歐易okx安卓和蘋果下載鏈接怎麼找

LCD iPhone成為歷史!蘋果將徹底拋棄:一個時代終結 LCD iPhone成為歷史!蘋果將徹底拋棄:一個時代終結 Sep 03, 2024 pm 09:38 PM

LCD iPhone成為歷史!蘋果將徹底拋棄:一個時代終結

See all articles