祖克柏大力支持開源AGI:全力培訓Llama 3,預計年底達到35萬H100
小扎宣布新目標:All in 開源AGI。
不錯,小札又All in了,正是OpenAIGoogle必爭之地。
不過在AGI之前,著重強調了是Open Sourse(開源)的。
圖片
此舉受到不少好評,一如此前LIama系列大模型開源之時。
圖片
圖片
不過這次又一波All in,不禁讓網友想起上一波All in了:元宇宙去哪了? ? ?
圖片
但必須要說的是,此次列的Flag確實更具體一些,甚至也透露了一些關鍵資料。
例如,
- 年底將有35萬塊H100,而包括其他GPU在內,總算力將相當於60萬塊H100。
- FAIR團隊的工作將與GenAI團隊更為緊密。
- LIama 3即將到來。
最後他還打了個小廣告。他們正在打造以AI為中心的新型運算設備,例如Ray Ban Meta 智慧眼鏡。
看來元宇宙還在繼續。
小札又All in了
現在,小札正式宣布加入AGI之爭。
雖然沒有明確的時間表,但作為長期願景,明確表示兩個關鍵點:
負責任地開源,並廣泛提供,讓每個人都能從中獲益。
而為了實現這個目標,主要有兩件事:
第一,將現有兩大AI研究工作團隊(FAIR 和 GenAI)緊密結合在一起。
依照LeCun的話說,就是兩個成為兄弟部門。
圖片
並表示,Llama-3 is coming!
第二,建造大規模的運算基礎設施:今年底將擁有35萬塊H100,總算力相當於60萬個H100。
以2.5萬美元至3萬美元出售價來計算,總算力價值將達到150億美元至180億美元。
先前曾有機構預計,2023年英偉達朝Meta的H100出貨量能達到15萬塊,同微軟持平,並且至少是其他公司的三倍。
為此小札表示,我們已經建立了這樣的能力,其規模可能比任何其他單獨的公司都大。
有網友算了算運算能力直呼:大腦大小的模型即將到來。
圖片
不過也有人質疑,英偉達應該生產不了那麼多。
圖片
但有Meta領導現身說法:H100是包含現有在內,總共35萬塊。
圖片
除此之外,也強調了硬體裝置上的進展。
大佬們對於AGI的評價
在小札宣布這一消息之前,不少大佬在達沃斯世界經濟論壇上發表了不少關於AGI的評論。
像LeCun則在The Expanding Universe of Generative Models這一論壇上強調了AGI實作路徑中開源的重要性。
我們之所以能在人工智慧領域看到如此快速的進步,是因為人們進行了開放研究。
即使他經常對AGI很快到來(當然不是在未來五年內)表示懷疑,但AGI還是到來了。
圖片
而Transformer主創Aidan Gomez則表示:
目前我們還沒有完成擴展,我們還需要繼續努力。
至於像OpenAI CEO奧特曼表示,人類等級的人工智慧很快到來,但對世界的改變遠比我們想像的要小。
通用人工智慧(AGI)可能會在「相當接近的未來」得到開發。
對於AGI的發展,你們怎麼看?
以上是祖克柏大力支持開源AGI:全力培訓Llama 3,預計年底達到35萬H100的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

本站6月27日訊息,剪映是由位元組跳動旗下臉萌科技開發的一款影片剪輯軟體,依託於抖音平台且基本面向該平台用戶製作短影片內容,並相容於iOS、安卓、Windows 、MacOS等作業系統。剪映官方宣布會員體系升級,推出全新SVIP,包含多種AI黑科技,例如智慧翻譯、智慧劃重點、智慧包裝、數位人合成等。價格方面,剪映SVIP月費79元,年費599元(本站註:折合每月49.9元),連續包月則為59元每月,連續包年為499元每年(折合每月41.6元) 。此外,剪映官方也表示,為提升用戶體驗,向已訂閱了原版VIP

透過將檢索增強生成和語意記憶納入AI編碼助手,提升開發人員的生產力、效率和準確性。譯自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。雖然基本AI程式設計助理自然有幫助,但由於依賴對軟體語言和編寫軟體最常見模式的整體理解,因此常常無法提供最相關和正確的程式碼建議。這些編碼助手產生的代碼適合解決他們負責解決的問題,但通常不符合各個團隊的編碼標準、慣例和風格。這通常會導致需要修改或完善其建議,以便將程式碼接受到應

大型語言模型(LLM)是在龐大的文字資料庫上訓練的,在那裡它們獲得了大量的實際知識。這些知識嵌入到它們的參數中,然後可以在需要時使用。這些模型的知識在訓練結束時被「具體化」。在預訓練結束時,模型實際上停止學習。對模型進行對齊或進行指令調優,讓模型學習如何充分利用這些知識,以及如何更自然地回應使用者的問題。但是有時模型知識是不夠的,儘管模型可以透過RAG存取外部內容,但透過微調使用模型適應新的領域被認為是有益的。這種微調是使用人工標註者或其他llm創建的輸入進行的,模型會遇到額外的實際知識並將其整合

如果AI模型給的答案一點也看不懂,你敢用嗎?隨著機器學習系統在更重要的領域中得到應用,證明為什麼我們可以信任它們的輸出,並明確何時不應信任它們,變得越來越重要。獲得對複雜系統輸出結果信任的一個可行方法是,要求系統對其輸出產生一種解釋,這種解釋對人類或另一個受信任的系統來說是可讀的,即可以完全理解以至於任何可能的錯誤都可以被發現。例如,為了建立對司法系統的信任,我們要求法院提供清晰易讀的書面意見,解釋並支持其決策。對於大型語言模型來說,我們也可以採用類似的方法。不過,在採用這種方法時,確保語言模型生

編輯|ScienceAI問答(QA)資料集在推動自然語言處理(NLP)研究中發揮著至關重要的作用。高品質QA資料集不僅可以用於微調模型,也可以有效評估大語言模型(LLM)的能力,尤其是針對科學知識的理解和推理能力。儘管目前已有許多科學QA數據集,涵蓋了醫學、化學、生物等領域,但這些數據集仍有一些不足之處。其一,資料形式較為單一,大多數為多項選擇題(multiple-choicequestions),它們易於進行評估,但限制了模型的答案選擇範圍,無法充分測試模型的科學問題解答能力。相比之下,開放式問答

編輯|KX在藥物研發領域,準確有效地預測蛋白質與配體的結合親和力對於藥物篩選和優化至關重要。然而,目前的研究並沒有考慮到分子表面訊息在蛋白質-配體相互作用中的重要作用。基於此,來自廈門大學的研究人員提出了一種新穎的多模態特徵提取(MFE)框架,該框架首次結合了蛋白質表面、3D結構和序列的信息,並使用交叉注意機制進行不同模態之間的特徵對齊。實驗結果表明,該方法在預測蛋白質-配體結合親和力方面取得了最先進的性能。此外,消融研究證明了該框架內蛋白質表面資訊和多模態特徵對齊的有效性和必要性。相關研究以「S

本站8月1日消息,SK海力士今天(8月1日)發布博文,宣布將出席8月6日至8日,在美國加州聖克拉拉舉行的全球半導體記憶體峰會FMS2024,展示諸多新一代產品。未來記憶體和儲存高峰會(FutureMemoryandStorage)簡介前身是主要面向NAND供應商的快閃記憶體高峰會(FlashMemorySummit),在人工智慧技術日益受到關注的背景下,今年重新命名為未來記憶體和儲存高峰會(FutureMemoryandStorage),以邀請DRAM和儲存供應商等更多參與者。新產品SK海力士去年在

本站7月5日消息,格芯(GlobalFoundries)於今年7月1日發布新聞稿,宣布收購泰戈爾科技(TagoreTechnology)的功率氮化鎵(GaN)技術及智慧財產權組合,希望在汽車、物聯網和人工智慧資料中心應用領域探索更高的效率和更好的效能。隨著生成式人工智慧(GenerativeAI)等技術在數位世界的不斷發展,氮化鎵(GaN)已成為永續高效電源管理(尤其是在資料中心)的關鍵解決方案。本站引述官方公告內容,在本次收購過程中,泰戈爾科技公司工程師團隊將加入格芯,進一步開發氮化鎵技術。 G
