首頁 科技週邊 人工智慧 TPC 聯盟成立:目標數兆以上參數 AI 模型,推進科學發現

TPC 聯盟成立:目標數兆以上參數 AI 模型,推進科學發現

Nov 18, 2023 pm 07:29 PM
ai 模型

11 月 16 日消息,業內領先的科研機構、美國國家超級計算中心和諸多 AI 領域龍頭公司,近日聯合組建了萬億參數聯盟(Trillion Parameter Consortium,簡稱 TPC)。

TPC 联盟成立:目标万亿以上参数 AI 模型,推进科学发现由DALL-E 3 產生

#根據報道,本站獲悉,TPC 聯盟由全球各實驗室、科研機構、學術界和工業界的科學家組成,旨在共同推進用於科學發現的人工智慧模型,並特別關注擁有一萬億或更多參數的巨型模型

TPC 聯盟目前正致力於開發可擴展的模型架構和訓練策略,同時組織和整理用於模型訓練的科學數據,以優化AI 庫在當前和未來的百萬兆次級計算平台上的應用

TPC 旨在創建一個開放的研究人員社區,為科學和工程問題開發大規模生成式AI 模型,特別是,將啟動聯合項目,以避免重複工作並共享方法、途徑、工具、知識和工作流程。透過這種方式,該聯盟希望最大限度地發揮這些計畫對更廣泛的人工智慧和科學界的影響。

TPC的目標是建立一個由資源、數據和專業知識組成的全球網路。自成立以來,該聯盟已經成立了多個工作小組,旨在解決建構大規模人工智慧模型的複雜性

培訓所需的百萬兆次級運算資源將由美國能源部(DOE)的幾個國家實驗室以及日本、歐洲和其他國家/ 地區的幾個TPC 創始合作夥伴提供。即使有這些資源,培訓也需要幾個月的時間。

美國能源部阿貢國家實驗室計算、環境和生命科學副主任、芝加哥大學電腦科學教授里克史蒂文斯表示:「在我們的實驗室和與世界各地的合作機構在合作的過程中,我們的團隊正在開始開發一系列用於科學研究的前沿人工智慧模型,並準備使用大量先前未被開發的科學數據進行訓練。」

以上是TPC 聯盟成立:目標數兆以上參數 AI 模型,推進科學發現的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
1 個月前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳圖形設置
1 個月前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您聽不到任何人,如何修復音頻
1 個月前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.聊天命令以及如何使用它們
1 個月前 By 尊渡假赌尊渡假赌尊渡假赌

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

Flash Attention穩定嗎? Meta、哈佛發現其模型權重偏差呈現數量級波動 Flash Attention穩定嗎? Meta、哈佛發現其模型權重偏差呈現數量級波動 May 30, 2024 pm 01:24 PM

MetaFAIR聯合哈佛優化大規模機器學習時所產生的資料偏差,提供了新的研究架構。據所周知,大語言模型的訓練常常需要數月的時間,使用數百甚至上千個GPU。以LLaMA270B模型為例,其訓練總共需要1,720,320個GPU小時。由於這些工作負載的規模和複雜性,導致訓練大模型存在著獨特的系統性挑戰。最近,許多機構在訓練SOTA生成式AI模型時報告了訓練過程中的不穩定情況,它們通常以損失尖峰的形式出現,例如Google的PaLM模型訓練過程中出現了多達20次的損失尖峰。數值偏差是造成這種訓練不準確性的根因,

TPC 聯盟成立:目標數兆以上參數 AI 模型,推進科學發現 TPC 聯盟成立:目標數兆以上參數 AI 模型,推進科學發現 Nov 18, 2023 pm 07:29 PM

11月16日消息,業界領先的科研機構、美國國家超級計算中心和諸多AI領域龍頭公司,近日聯合組建了萬億參數聯盟(TrillionParameterConsortium,簡稱TPC)。由DALL-E3生成根據報道,本站獲悉,TPC聯盟由全球各實驗室、科研機構、學術界和工業界的科學家組成,旨在共同推進用於科學發現的人工智能模型,並特別關注擁有一兆或更多參數的巨型模型TPC聯盟目前正致力於開發可擴展的模型架構和訓練策略,同時組織和整理用於模型訓練的科學數據,以優化AI庫在當前和未來的百萬兆次級運算平台

微軟推出 XOT 技術,加強語言模式的推理能力 微軟推出 XOT 技術,加強語言模式的推理能力 Nov 17, 2023 pm 05:45 PM

11月15日消息,微軟近日推出了名為「EverythingofThought」(XOT)的方法,靈感來自GoogleDeepMind的AlphaZero,利用緊湊的神經網絡,來增強AI模型推理能力。微軟和喬治亞理工學院、華東師範大學合作開發了該演算法,整合了強化學習(reinforcementlearning)和蒙特卡羅樹搜尋(MCTS)能力,在複雜決策環境中,進一步提高解決問題的有效性。本站注意:微軟研究團隊表示,XOT方法可以使語言模型在不熟悉的問題上擴展,在Gameof24、8-Puzzle和P

谷歌旗下 DeepMind 開發出 RoboCat AI 模型,能控制多種機器人執行一系列任務 谷歌旗下 DeepMind 開發出 RoboCat AI 模型,能控制多種機器人執行一系列任務 Jun 26, 2023 pm 04:07 PM

6月26日消息,Google旗下DeepMind表示,該公司已經開發出一種名為RoboCat的人工智慧模型,可以控制不同的機器人手臂執行一系列任務。僅僅這一點並不特別新穎,但DeepMind聲稱,該模型是第一個能夠解決和適應多種任務的模型,並且使用不同的、真實世界的機器人來完成。 RoboCat的靈感來自DeepMind的另一個AI模型Gato,後者可以分析和處理文字、圖像和事件。 RoboCat的訓練數據包括模擬和真實機器人的圖像和動作數據,這些數據來自於虛擬環境中的其他機器人控制模型、人類控制的機器人

Databricks 發佈大數據分析平台 Spark 使用 AI 模型 SDK:一鍵產生 SQL 與 FySpark 語言圖表程式碼 Databricks 發佈大數據分析平台 Spark 使用 AI 模型 SDK:一鍵產生 SQL 與 FySpark 語言圖表程式碼 Jul 17, 2023 pm 05:53 PM

7月10日訊息,Databricks日前發布大數據分析平台Spark所使用的AI模型SDK,開發者寫程式碼時,可用英文下指令,編譯器就會將英文指令轉換為PySpark或SQL語言程式碼,以提升開發者效率。 ▲圖來源Databricks網站據悉,Spark是一款開源大數據分析工具,每年超過10億次下載、在全球208個國家和地區使用。 ▲圖來源Databricks網站Databricks表示,微軟的AI程式助理GitHubCopilot固然強大,但使用門檻也相當高,Databricks的SDK相對較具普適性,更容易

Google DeepMind 公佈的「FunSearch」訓練法:讓 AI 模型能夠解決複雜離散數學問題 Google DeepMind 公佈的「FunSearch」訓練法:讓 AI 模型能夠解決複雜離散數學問題 Dec 17, 2023 pm 08:15 PM

12月15日消息,GoogleDeepMind日前公佈了一種名為「FunSearch」的模型訓練法,號稱能夠計算包含「上限級問題」、「裝箱問題」在內的一系列「涉及數學、電腦科學領域的複雜問題」。需要進行改寫的內容是:▲圖來源:GoogleDeepMind(以下簡稱DeepMind)據悉,FunSearch模型訓練法主要為AI模型引入了一個「評估器(Evaluator)」系統,AI模型輸出一系列「創意解題方法”,“評估器”則負責評判模型輸出的解題辦法,反覆迭代後,就能訓練出數學能力更強的AI模型。谷歌的DeepM

微軟發布最新 AI 服務條款:禁止反向工程等活動 微軟發布最新 AI 服務條款:禁止反向工程等活動 Aug 16, 2023 pm 05:53 PM

微軟於8月16日公佈了其AI服務條款,並宣布該條款將於9月30日生效。這次更新的主要內容是針對生成式AI,特別是與相關用戶的使用以及負責任的開發實踐相關的內容微軟強調官方不會保留用戶與必應聊天的對話記錄,也不會將這些聊天數據用於訓練BingEnterpriseChat的AI模型這五個關鍵政策要點涵蓋了多個領域,包括禁止使用者試圖對AI模型進行逆向工程以防止揭示底層組件;除非明確允許,否則禁止透過Web抓取等方式提取資料;一項重要條款限制使用者使用AI資料來建立或增強其他AI服務以下是微軟新增的條款內

微軟推出 LLaVA-Med AI 模型,可對醫學病理案例進行分析 微軟推出 LLaVA-Med AI 模型,可對醫學病理案例進行分析 Jun 15, 2023 pm 03:06 PM

6月14日消息,日前微軟研究人員展示了LLaVA-Med模型,該模型主要用於生物醫學方面的研究,可根據CT、X光圖片等推測出患者的病理狀況。據悉,微軟研究人員與一群醫院合作,獲得了使用生物醫學影像文字對應大型資料集來訓練多模態AI模型。此資料集包括胸部X光、MRI、組織學、病理學和CT影像等,覆蓋範圍相對全面。 ▲圖來源微軟微軟使用GPT-4,基於VisionTransformer和Vicuna語言模型,在八個英偉達A100GPU上對LLaVA-Med進行訓練,其中包含“每個影像的所有預分析資訊”,

See all articles