五年後AI所需算力超100萬倍!十二家機構聯合發表88頁長文:「智慧運算」是解藥
人工智慧就是一個「拼財力」的產業,如果沒有高效能運算設備,別說開發基礎模型,就連微調模型都做不到。
但如果只靠拼硬件,單靠當前運算效能的發展速度,遲早有一天無法滿足日益膨脹的需求,所以還需要配套的軟體來協調統籌運算能力,這時候就需要用到「智慧運算」技術。
最近,來自之江實驗室、中國工程院、國防科技大學、浙江大學等多達十二個國內外研究機構共同發表了一篇論文,首次對智慧運算領域進行了全面的研究,涵蓋了理論基礎、智慧與運算的技術融合、重要應用、挑戰與未來前景。
論文連結:https://spj.science.org/doi/10.34133/icomputing.0006
這也是第一篇正式提出智慧運算的定義及其統一理論架構的評論文章,全文結構如下。
AI開啟大規模算力時代
#人類社會正在從資訊社會進入智慧社會,運算已經成為規範和推動社會發展的關鍵因素。在萬物互聯的數位文明新時代,傳統的數據計算遠遠無法滿足人類對更高智慧水準的日益增長的需求。
人們對智慧運算的興趣日益濃厚,加上運算科學的發展,對物理世界的智慧感知,以及對人類意識認知機制的理解,共同提升了運算的智能水平,加速了知識的發現與創造。
近年來,計算和資訊科技快速發展,由於深度學習的空前普及和成功,人工智慧(AI)已被確立為人類探索機器智慧的前沿領域,並在此基礎上取得了一系列突破性的研究成果,包括:
Yann LeCun提出的捲積神經網路(CNN);Yoshua Bengio在深度學習的因果推理領域的貢獻;Geoffrey Hinton,人工智慧的先驅之一,在2006年提出了深度置信網路(Deep Brief Network)模型和反向傳播優化演算法。
J̈urgen Schmidhuber提出了廣為使用的循環神經網路(RNN)和長短期記憶(LSTM),並成功用於處理序列數據,如語音、視訊和時序資料。
2016年3月,DeepMind推出的人工智慧圍棋程式AlphaGo與世界頂級人類圍棋大師李世石展開對戰,引起了全世界前所未有的關注,這場劃時代的人機大戰以人工智慧的壓倒性勝利而告終,並成為將人工智慧的浪潮推向一個全新的高度的催化劑。
人工智慧的另一個重要推動者是大型預訓練模型的出現,這些模型已經開始廣泛用於自然語言和圖像處理,在遷移學習的幫助下處理各種各樣的應用。
例如,GPT-3已經證明,一個具有高度結構複雜性和大量參數的大型模型可以提高深度學習的效能,在GPT-3的啟發下,湧現了大量的大規模深度學習模型。
智慧與運算
運算能力是支撐智慧運算的重要因素之一。
鑑於資訊社會中天文數字般的資料來源、異質的硬體配置和不斷變化的運算需求,智慧運算主要透過垂直和水平架構來滿足智慧任務的運算能力要求。
#垂直架構(vertical architectures)的特點是同質化的運算基礎設施,主要透過應用智慧方法提高資源利用效率來提升運算能力。
相較之下,水平架構(horizontal architecture)協調和安排異質和廣域(wide-area)計算資源以最大限度地提高協作計算的效率。
例如,2020年4月,為了因應全球COVID-19研究的運算需求,Folding@home在三週內聯合40萬名運算志工實現了2.5Exaflops的計算量,比世界上任何一台超級電腦的運算能力都要強。
儘管在智慧和運算方面已經取得了巨大的成功,但這兩個領域仍然面臨著一些難題。
智能的挑戰
#使用深度學習的人工智慧目前在可解釋性、通用性、可進化性和自主性方面仍沒有解決。
目前大多數的人工智慧技術與人類智慧相比,只能發揮微弱的作用,而且只在特定的領域或任務中發揮作用,實現強大且通用的人工智能仍有很長的路要走。
最後,從基於數據的智慧升級到更多樣化的智慧形式,包括感知智慧、認知智慧、自主智慧和人機融合智慧等,也存在著重大的理論和技術挑戰。
運算的挑戰
#數位化浪潮帶來了前所未有的應用、連線、終端機和使用者的成長,以及產生的資料量,都需要龐大的運算能力。
例如,人工智慧所需的運算能力每100天翻一番,也就是說,預計在未來五年內將增加超過100萬倍。
隨著摩爾定律逐漸失效,要跟上如此快速成長的運算能力要求變得很有挑戰性。
##智慧社會中的大規模任務的處理依賴於各種具體計算資源的有效組合,傳統的硬體模式不能很好地適應智慧演算法,極大地限制了軟體的發展。
何為智慧運算?
時至今日,仍然沒有一個被廣泛接受的智慧運算定義。有些研究人員將智慧運算視為人工智慧和運算技術的結合,但這種觀點將智慧運算的定義限制在人工智慧領域內,同時忽略了人工智慧固有的限制以及人類、機器和事物之間三元互動的重要角色。
另一個學派將智慧計算(intelligent computing)視為計算智慧(computational intelligence),模仿人類或生物智慧來實現解決特定問題的最佳演算法,並將智慧計算主要視為一種演算法創新。
在這篇論文中,研究人員從解決複雜的科學和社會問題的角度提出了智慧運算的新定義,同時考慮到世界的三個基本空間,即人類社會空間、物理空間和資訊空間的日益緊密融合。
# Intelligent Computing的定義 智慧運算是指在支援世界互聯的數位文明時代,包含了新的運算理論方法、架構系統和技術能力的領域。智慧計算根據具體的實際需要,以最小的成本完成計算任務,匹配足夠的計算能力,調用最好的演算法,並能獲得最佳的結果。 智慧運算的新定義是針對人類社會、物理世界和資訊空間三者融合中快速成長的運算需求而提出的。智慧運算以人為本,追求高運算能力、高能源效率、高智慧、高安全。 其目標是提供普遍、高效、安全、自主、可靠和透明的運算服務,以支援大規模複雜的運算任務。 圖1顯示了智慧運算的整體理論框架,它體現了支持人類-物理-資訊整合的各種計算範例。 首先,智慧運算既不是現有電腦、雲端運算、邊緣運算以及其他運算技術(如神經形態運算、光電運算與量子計算)的替代品,也並非簡單整合。相反,它是一種計算形式,透過根據任務要求系統地、全面地優化現有的計算方法和資源來解決實際問題。 相較之下,現有的主要運算學科,如超級運算、雲端運算和邊緣運算,屬於不同的領域:超級運算旨在實現高運算能力,雲端運算強調跨平台/裝置的便利,而邊緣運算則追求服務品質和傳輸效率。 智慧運算動態地協調邊緣運算、雲端運算和超級運算領域之間的資料儲存、通訊與運算,建構了各種跨領域的智慧型運算系統,支援端到端的雲端協作、雲端協作和超級運算互聯。 智慧運算應充分利用現有的運算技術,更重要的是促進新的智慧運算理論、架構、演算法和系統的形成。 其次,智慧運算概念的提出是為了解決未來人類-物理-資訊空間融合發展中的問題。 隨著大數據時代資訊科技應用的發展,實體空間、數位空間和人類社會之間的界線變得越來越模糊。 人類世界已經演變成一個新的空間,其特徵是人類、機器和事物的緊密融合,社會系統、資訊系統和物理環境構成了一個動態耦合的大系統,在這個系統中,人、機器和事物以高度複雜的方式整合和互動,這促進了未來新計算技術和應用場景的發展和創新。
以上是五年後AI所需算力超100萬倍!十二家機構聯合發表88頁長文:「智慧運算」是解藥的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

DMA在C 中是指DirectMemoryAccess,直接內存訪問技術,允許硬件設備直接與內存進行數據傳輸,不需要CPU干預。 1)DMA操作高度依賴於硬件設備和驅動程序,實現方式因係統而異。 2)直接訪問內存可能帶來安全風險,需確保代碼的正確性和安全性。 3)DMA可提高性能,但使用不當可能導致系統性能下降。通過實踐和學習,可以掌握DMA的使用技巧,在高速數據傳輸和實時信號處理等場景中發揮其最大效能。

使用C 中的chrono庫可以讓你更加精確地控制時間和時間間隔,讓我們來探討一下這個庫的魅力所在吧。 C 的chrono庫是標準庫的一部分,它提供了一種現代化的方式來處理時間和時間間隔。對於那些曾經飽受time.h和ctime折磨的程序員來說,chrono無疑是一個福音。它不僅提高了代碼的可讀性和可維護性,還提供了更高的精度和靈活性。讓我們從基礎開始,chrono庫主要包括以下幾個關鍵組件:std::chrono::system_clock:表示系統時鐘,用於獲取當前時間。 std::chron

交易所內置量化工具包括:1. Binance(幣安):提供Binance Futures量化模塊,低手續費,支持AI輔助交易。 2. OKX(歐易):支持多賬戶管理和智能訂單路由,提供機構級風控。獨立量化策略平台有:3. 3Commas:拖拽式策略生成器,適用於多平台對沖套利。 4. Quadency:專業級算法策略庫,支持自定義風險閾值。 5. Pionex:內置16 預設策略,低交易手續費。垂直領域工具包括:6. Cryptohopper:雲端量化平台,支持150 技術指標。 7. Bitsgap:

C 在實時操作系統(RTOS)編程中表現出色,提供了高效的執行效率和精確的時間管理。 1)C 通過直接操作硬件資源和高效的內存管理滿足RTOS的需求。 2)利用面向對象特性,C 可以設計靈活的任務調度系統。 3)C 支持高效的中斷處理,但需避免動態內存分配和異常處理以保證實時性。 4)模板編程和內聯函數有助於性能優化。 5)實際應用中,C 可用於實現高效的日誌系統。

在C 中測量線程性能可以使用標準庫中的計時工具、性能分析工具和自定義計時器。 1.使用庫測量執行時間。 2.使用gprof進行性能分析,步驟包括編譯時添加-pg選項、運行程序生成gmon.out文件、生成性能報告。 3.使用Valgrind的Callgrind模塊進行更詳細的分析,步驟包括運行程序生成callgrind.out文件、使用kcachegrind查看結果。 4.自定義計時器可靈活測量特定代碼段的執行時間。這些方法幫助全面了解線程性能,並優化代碼。

在C 中處理高DPI顯示可以通過以下步驟實現:1)理解DPI和縮放,使用操作系統API獲取DPI信息並調整圖形輸出;2)處理跨平台兼容性,使用如SDL或Qt的跨平台圖形庫;3)進行性能優化,通過緩存、硬件加速和動態調整細節級別來提升性能;4)解決常見問題,如模糊文本和界面元素過小,通過正確應用DPI縮放來解決。

在MySQL中,添加字段使用ALTERTABLEtable_nameADDCOLUMNnew_columnVARCHAR(255)AFTERexisting_column,刪除字段使用ALTERTABLEtable_nameDROPCOLUMNcolumn_to_drop。添加字段時,需指定位置以優化查詢性能和數據結構;刪除字段前需確認操作不可逆;使用在線DDL、備份數據、測試環境和低負載時間段修改表結構是性能優化和最佳實踐。

C 中使用字符串流的主要步驟和注意事項如下:1.創建輸出字符串流並轉換數據,如將整數轉換為字符串。 2.應用於復雜數據結構的序列化,如將vector轉換為字符串。 3.注意性能問題,避免在處理大量數據時頻繁使用字符串流,可考慮使用std::string的append方法。 4.注意內存管理,避免頻繁創建和銷毀字符串流對象,可以重用或使用std::stringstream。
