OpenAI被曝將發布全新開源大模型,網友:GPT平替?
OpenAI終於要「Open」了!
最新爆料,他們正準備發布全新的開源語言模型。在
GPT-2之後,這尚屬四年來首次。
不少網友戳戳手錶示期待:這是要發自己的開源平替了嗎?
畢竟目前最好的開源模型與GPT-4還相去較遠。僅就參數而言,兩者之間的數量相差三個數量級,一個為200億,另一個為1.3兆。
OpenAI要Open了
既然如此,那麼OpenAI此舉「會改變整個大模型的競爭格局嗎?」。
不少網友表示,首當其衝的可能就是LLaMA大模型即羊駝家族。
畢竟ChatGPT誕生以來,各種開源方案層出不窮,但大部分都受到Meta這個大模型啟發。
例如史丹佛的Alpaca、柏克萊的Vicuna、Kaola,還有ColossalChat,以及國內哈工大基於中文醫學知識的LLaMA微調模型華駝…這些開源模型有一些甚至已經被優化到可以在手機端設備運作。
而UC伯克利打造的大模型Chatbot Arena排行榜最新顯示,眾多開源模型緊跟在GPT-4和Claude之後。
不過是否會是「平替」這一點,還得等最終發布才會知道。
以及OpenAI會不會用這個模型,與其他同類開源模型競爭也暫未可知。
根據The Information引用知情人士報道,可以肯定的是,這個開源新模型將不太可能與GPT產生競爭關係。
同時,又有人在點名Google:這下Google的壓力越來越大。
有關開源與護城河也在這當中引發了熱議。
開源與護城河
開源還是閉源? This is A question.
前段時間,一份谷歌的內部文件在網上激起千層浪,當中核心觀點十分明確:
##開源大模型迅猛發展,正在侵蝕OpenAI和Google的陣地。並且表示,「除非改變閉源的立場,否則開源替代品將最終使它們(包括ChatGPT)黯然失色」。 就這點來說,這場大模型軍備競賽中,Google和OpenAI都沒有護城河。 很多開源問題已經被解決,例如可以在較低功率的裝置上運作、可擴展的個人AI、多模態等。 即便現在OpenAI與Google在模型品質上有一定優勢,但這個差距正在快速縮小。 過去幾週內,開源AI領域的每個團隊都有著持續不斷地進展,不管是從模型還是在應用的維度。 例如AI新創公司Together,在上個月基於LLaMA建立開源大模型和雲端平台,如今籌集到2000萬美元種子輪資金。 這種趨勢甚至還延續到了線下,不少人為開源運動而狂歡和慶祝。 「開源中心」HuggingFace除了上線一系列大模型工具,甚至還在線上下「Woodstock of AI」的聚會,吸引了5000多人參加。 而Stable Diffusion背後公司Stability AI與開發了PyTorch Lightning 的Lightning AI,也打算舉行一場開源交流會。 在不少人看來,OpenAI和Google開了個不好的先例:不受監控的模型,其危險是真實存在的。 儘管這些大型科技公司的模型可能無法完全複製,開源社群了解這些「秘方」中的基本成分。但現在任何人都無法知道其成分。 對於這件事,你怎麼看呢? 參考連結:
[1]https://www.reuters.com/technology/openai-readies-new-open-source-ai-model-information-2023-05-15/
[2]https://www.theinformation.com/articles/open-source-ai-is-gaining-on-google-and-chatgpt
[3]https://venturebeat.com/ai/ open-source-ai-continues-to-celebrate-as-big-tech-mulls-over-moats/
以上是OpenAI被曝將發布全新開源大模型,網友:GPT平替?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

AI Hentai Generator
免費產生 AI 無盡。

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

熱門話題

想像一下,一個人工智慧模型,不僅擁有超越傳統運算的能力,還能以更低的成本實現更有效率的效能。這不是科幻,DeepSeek-V2[1],全球最強開源MoE模型來了。 DeepSeek-V2是一個強大的專家混合(MoE)語言模型,具有訓練經濟、推理高效的特點。它由236B個參數組成,其中21B個參數用於啟動每個標記。與DeepSeek67B相比,DeepSeek-V2效能更強,同時節省了42.5%的訓練成本,減少了93.3%的KV緩存,最大生成吞吐量提高到5.76倍。 DeepSeek是一家探索通用人工智

本月初,來自MIT等機構的研究者提出了一種非常有潛力的MLP替代方法—KAN。 KAN在準確性和可解釋性方面表現優於MLP。而且它能以非常少的參數量勝過以更大參數量運行的MLP。例如,作者表示,他們用KAN以更小的網路和更高的自動化程度重現了DeepMind的結果。具體來說,DeepMind的MLP有大約300,000個參數,而KAN只有約200個參數。 KAN與MLP一樣具有強大的數學基礎,MLP基於通用逼近定理,而KAN基於Kolmogorov-Arnold表示定理。如下圖所示,KAN在邊上具

特斯拉機器人Optimus最新影片出爐,已經可以在工廠裡打工了。正常速度下,它分揀電池(特斯拉的4680電池)是這樣的:官方還放出了20倍速下的樣子——在小小的「工位」上,揀啊揀啊揀:這次放出的影片亮點之一在於Optimus在廠子裡完成這項工作,是完全自主的,全程沒有人為的干預。而且在Optimus的視角之下,它還可以把放歪了的電池重新撿起來放置,主打一個自動糾錯:對於Optimus的手,英偉達科學家JimFan給出了高度的評價:Optimus的手是全球五指機器人裡最靈巧的之一。它的手不僅有觸覺

目標偵測在自動駕駛系統當中是一個比較成熟的問題,其中行人偵測是最早得以部署演算法之一。在多數論文當中已經進行了非常全面的研究。然而,利用魚眼相機進行環視的距離感知相對來說研究較少。由於徑向畸變大,標準的邊界框表示在魚眼相機當中很難實施。為了緩解上述描述,我們探索了擴展邊界框、橢圓、通用多邊形設計為極座標/角度表示,並定義一個實例分割mIOU度量來分析這些表示。所提出的具有多邊形形狀的模型fisheyeDetNet優於其他模型,並同時在用於自動駕駛的Valeo魚眼相機資料集上實現了49.5%的mAP

FP8和更低的浮點數量化精度,不再是H100的「專利」了!老黃想讓大家用INT8/INT4,微軟DeepSpeed團隊在沒有英偉達官方支援的條件下,硬生在A100上跑起FP6。測試結果表明,新方法TC-FPx在A100上的FP6量化,速度接近甚至偶爾超過INT4,而且比後者擁有更高的精度。在此基礎之上,還有端到端的大模型支持,目前已經開源並整合到了DeepSpeed等深度學習推理框架中。這項成果對大模型的加速效果也是立竿見影──在這種框架下用單卡跑Llama,吞吐量比雙卡還要高2.65倍。一名

如果AI模型給的答案一點也看不懂,你敢用嗎?隨著機器學習系統在更重要的領域中得到應用,證明為什麼我們可以信任它們的輸出,並明確何時不應信任它們,變得越來越重要。獲得對複雜系統輸出結果信任的一個可行方法是,要求系統對其輸出產生一種解釋,這種解釋對人類或另一個受信任的系統來說是可讀的,即可以完全理解以至於任何可能的錯誤都可以被發現。例如,為了建立對司法系統的信任,我們要求法院提供清晰易讀的書面意見,解釋並支持其決策。對於大型語言模型來說,我們也可以採用類似的方法。不過,在採用這種方法時,確保語言模型生

寫在前面項目連結:https://nianticlabs.github.io/mickey/給定兩張圖片,可以透過建立圖片之間的對應關係來估計它們之間的相機姿態。通常,這些對應關係是二維到二維的,而我們估計的姿態在尺度上是不確定的。一些應用,例如隨時隨地實現即時增強現實,需要尺度度量的姿態估計,因此它們依賴外部的深度估計器來恢復尺度。本文提出了MicKey,這是一個關鍵點匹配流程,能夠夠預測三維相機空間中的度量對應關係。透過學習跨影像的三維座標匹配,我們能夠在沒有深度測試的情況下推斷度量相對

在软件技术的前沿,UIUC张令明组携手BigCode组织的研究者,近日公布了StarCoder2-15B-Instruct代码大模型。这一创新成果在代码生成任务取得了显著突破,成功超越CodeLlama-70B-Instruct,登上代码生成性能榜单之巅。StarCoder2-15B-Instruct的独特之处在于其纯自对齐策略,整个训练流程公开透明,且完全自主可控。该模型通过StarCoder2-15B生成了数千个指令,响应对StarCoder-15B基座模型进行微调,无需依赖昂贵的人工标注数
