首頁 > 科技週邊 > 人工智慧 > 讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

王林
發布: 2023-06-06 08:06:09
轉載
1207 人瀏覽過

AI,人工智慧,這個東西其實一旦都不新鮮。

從早年的科幻作品,到後來的逐步落地,從1997年IBM超級電腦「深藍」擊敗國際象棋大師卡斯帕羅夫,到2016年Google AlphaGo戰勝圍棋冠軍李世石,AI一直都在進步,也一直在演化。

但因為算力演算法、技術能力、應用場景等方面的種種限制,AI一直有些空中樓閣的感覺。

直到出現了ChatGPT,AI才真正引燃了普通人的熱情,讓我們發現,AI竟然如此強大,又如此唾手可得,讓眾多個體、企業為之興奮,為之癲狂。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

眾所周知,足夠強大與合理的硬體、演算法,是實現高效、實用AI的兩大基石,而在這一番AI熱潮中,NVIDIA之所以春風得意,就得益於其在高效能運算領域多年來的佈局和深耕,非常適合超大規模的雲端AI開發。

當然,AI無論實作方式或應用場景都是多種多樣的,既有雲側的,也有端側的。

NVIDIA的重點在雲端和生成式AI,Intel在雲端生成式、端側判定式同時出擊,而隨著越來越多的AI跑在端側,更貼近普通用戶日常體驗,所帶來的提升越來越明顯,Intel更是大有可為。

端側AI有幾個突出的特點:

一是使用者規模龐大,應用程式場景也越來越廣泛;

二是延遲很低,畢竟不需要依賴網路將指令、資料傳到雲端處理再回傳;

三是隱私安全,不用擔心個人資料、商業機密等上傳後外洩;

四是成本更低,不需要大規模伺服器和運算,只需本地設備即可完成。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

端側AI,說起來大家可能會覺得很陌生,但其實,人們習以為常的背景模糊、視覺美顏、聲音美化(音頻降噪)、視頻降噪、圖像分割等等,都是端側AI的典型應用場景,背後都是AI在努力。

這些應用要獲得更好的效果,就需要更完善、複雜的網路模型,對於算力的需求自然也在快速成長。

例如噪音抑制,算力需求已經是兩年前的50倍,背景分割也增加了10倍以上。

更不要說生成式AI模型出現後,對算力的渴求更是飛躍式的,直接就是數量級的提升,無論是Stable Diffusion,還是語言類GTP,模型參數都是非常誇張的。

例如GPT3的參數量達到了1750億左右,相比GPT2增加了幾乎500倍,GPT4估計可達到萬億級。

這些都對硬體、演算法提出了更苛刻的要求。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

Intel自然也早就開始關注並投入AI,無論是伺服器級的至強,還是消費級的酷睿,都在以各種方式參與AI,“XX代智能酷睿處理器”的說法就在很大程度上源於AI。

在此之前,Intel AI方案主要是在CPU、GPU的架構、指令集層面進行加速。

例如從十代酷睿和二代可擴展至強加入的基於深度學習的DL Boost,包括VNNI向量神經網路指令、BF16/INT8加速等等。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

例如11代酷睿加入的高斯網路加速器GNA 2.0,相當於NPU的角色,只需消耗很低的資源,就能高效進行神經推理計算。

例如代號Sapphire Rapids的四代可擴展至強上的AMX高級矩陣擴展,使得AI實時推理和訓練性能提升了多達10倍,大型語言模型處理速度提升了足有20倍,同時配套的軟體和工具開發也更加完善豐富。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

在Intel看來,沒有單一的硬體架構適用於所有的AI場景,不同硬體各有特點,有的算力強大,有的延遲超低,有的全能,有的專攻。

AI作為基礎設施也有各種各樣的場景應用和需求,負載、延遲都各不相同,例如即時語音和影像處理不需要太強的算力,但是對延遲很敏感。

這時候,Intel XPU策略有著相當針對性的特殊優勢,其中CPU適合對延遲敏感的輕量級AI處理,GPU適合重負載、高並行的AI應用。

Intel另一個無可比擬的優勢就是穩固、龐大的x86生態,無論應用或開發,都有廣泛的群眾基礎。

現在,Intel又有了VPU。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

將在今年稍後發布的Meteor Lake,將首次整合獨立的VPU單元,而且是所有型號標配,可以更有效率地執行特定AI運算。

Intel VPU單元的技術來源來自Intel 2017年收購的AI新創公司Movidius,其設計的VPU架構是革命性的,只需要1.5W功耗就能實現4TOPS的強大算力,能效比簡直逆天,最早用於無人機避障等,如今又走入了處理器之中,與CPU、GPU協同發力。

VPU本質上是專為AI設計的一套新架構,可以高效地執行一些矩陣運算,特別擅長稀疏化處理,其超低的功耗、超高的能效非常適合一些需要長期開啟並執行的場景,例如視訊會議的背景虛化、移除,例如串流媒體的手勢控制。

之所以在已經有了CPU、GPU的情況下,還要做一個VPU,Intel的出發點是如今很多端側應用是在筆記本上進行,對於電池續航非常敏感,高能效的VPU用在移動端就恰如其分。

另一個因素是CPU、GPU作為通用運算平台,本身就任務繁重,再給它們增加大量AI負載,執行效率就會大打折扣。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

具體到應用場景,VPU也是非常廣泛的,比如說視訊會議,現在的CPU AI已經可以實現自動構圖(Auto-Framing)、眼球追蹤、虛擬頭像/人像、姿勢辨識等等。

加入低功耗、高算力的VPU之後,還可以強化背景模糊、動態降噪等處理,讓效果更加精準,比如說背景中的物體該模糊的一律模糊、人手/頭髮等不該模糊的不再模糊。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

有了高效的硬體、合適的場景,還需要同樣高效的軟體,才能釋放全部實力、實現最佳效果,這對於擁有上萬名軟體研發人員的Intel來說,真不是事兒。

Meteor Lake還沒有正式發布,Intel已經與眾多生態夥伴在VPU方面展開了合作適配,獨立軟體開發商們也非常積極。

例如Adobe,很多濾鏡、自動化處理、智慧化摳圖等,都可以用VPU來跑步。

例如Unreal Engine虛幻引擎的數位人,像是虛擬主播,VPU都能很好地即時捕捉、渲染處理。

Blender、Audacity、OBS、GIMP……這個名單可以拉出很長一串,而且還在增加。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

更重要的是,CPU、GPU、VPU並非各行其是,而是可以聯合起來,充分發揮各自的優勢,達到最好的AI體驗效果。

比如說基於GIMP裡面就有一個基於Stable Diffusion的插件,可以大幅降低一般使用者使用生成式AI的門檻,它就能充分調動CPU、GPU、VPU各自的加速能力,把整個模型分散到不同IP之上,彼此配合,獲得最佳效能。

其中,VPU可以承載VNET模組運行,GPU用來負責編碼器模組執行,透過這樣的合作,產生一張複雜的圖片也只需20秒左右。

在這其中,VPU的功耗是最低的,CPU次之,GPU則是最高的。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

Intel已經充分意識到AI對於PC體驗增強的重要性,而為了迎接這項挑戰,Intel正在硬體、軟體兩個層面全力推進,對AI在的端側的發展、普及打下堅實的基礎。

硬體層面,CPU、GPU、VPU將組成無所不在的底層平台;軟體層面,OpenVINO等各種標準化開發軟體將大幅推動應用場景的挖掘。

未來,搭載Meteor Lake平台的輕薄筆記本就可以輕鬆運行Stable Diffusion這種大模型來實現文生圖,大大降低AI的應用門檻,無論判定式AI還是生成式AI都能高效執行,最終實現真正的AI無所不在。

讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU

以上是讓AI無所不在! Intel祭出全新VPU:超高能源效率碾壓GPU的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:sohu.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板