突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩
突發! OpenAI開人了,理由:涉嫌資訊外洩。
一位是失蹤的首席科學家Ilya盟友,超級對齊(Superalignment)團隊核心成員Leopold Aschenbrenner。
另一位也不簡單,是LLM推理團隊研究員Pavel Izmailov,曾經也在超級對齊團隊幹過。
目前尚不清楚這兩個人到底洩漏了啥訊息。
訊息被爆出後,不少網友表示「挺震驚」:
不久前我還看過Aschenbrenner的貼文,感覺他正處於事業上升期,沒想到會有這樣的轉變。
圖片
還有網友認為:
OpenAI失去Aschenbrenner,Ilya Sutskever也被邊緣化,該公司對於建構安全AI的承諾看起來更加不可信了。
圖片
OpenAI人才流動,與GoogleMeta互挖牆腳已經見怪不怪,但開除形式的人事調動,還是去年11月董事會叛變之後的第一回。
兩人曾經都是Ilya的部下
據了解,Leopold Aschenbrenner於一年前加入OpenAI。此前他曾在Future Fund工作過,再往前追溯,19歲從哥倫比亞大學畢業,也曾在牛津大學做過經濟成長的研究。
Pavel Izmailov這邊,他也是紐約大學CILVR小組成員,本人透露2025年秋將加入紐約大學Tandon CSE、Courant CS擔任助理教授。
目前,兩人的X首頁還都備註著與OpenAI的關係。
圖片
圖片
最近這個月兩個人都沒有發新推文,不過置頂貼文倒是很亮眼。
沒錯,都是超級對齊團隊的第一篇論文,兩人都是這篇論文的作者。
這就不得不說到這個團隊,組團於去年7月份,是OpenAI為應對不同時間尺度上大模型可能會產生的安全問題,成立的三大安全團隊之一。
圖片
超級對齊團隊負責遙遠的未來,給超越人類的超級智慧安全性奠定基礎,由Ilya Sutskever和Jan Leike領導。
雖然OpenAI看起來似乎在安全方面很重視,但其內部對AI的安全開發存在很大分歧已不是什麼秘密。
這種分歧甚至被認為是去年11月OpenAI董事會內訌的最大原因:
圖片
網傳Ilya Sutskever成為「政變」帶頭人,就是因為看到了一些東西讓他內心不安。
而Ilya帶領的這個超級對齊團隊,很多成員也是站在Ilya這邊,在後來支持奧特曼的比心接龍活動中,這個超級對齊團隊成員也基本上保持了沉默。
圖片
隨著OpenAI內訌事件的平息,奧特曼成為贏家,Ilya Sutskever離開董事會幾乎沒再公開露頭,超級對齊團隊現在是個什麼情況咱也不知道。
再說回到這次兩位研究員被解僱。
兩人曾經都是Ilya部下,the information也表示Aschenbrenner是Ilya盟友、與優先考慮解決AI危險性的運動有關。
所以,也有網友猜測這次裁員是奧特曼的「秋後算帳」。
和Q*洩密有關?
除此之外,網友比較關心還有洩密的內容究竟是什麼。
目前猜測的焦點還是放在Q*,也就是董事會叛變大戲的導火線之一。
根據網友評論,Jimmy apples似乎發過相關推文,但沒多久我們看到連結打開時已是推文被刪的大狀態…
圖片
從遺留的蛛絲馬跡來看,好像大概也許還是跟Q*有關。
圖片
目前Q*從傳聞,已經變成被正式確認的存在,但關於它的一切,奧特曼本人目前都守口如瓶。
圖片
總之自從Q*之後,OpenAI內部開始出現理念分歧。
經歷一連串風波後,93%的員工簽署聯名信與奧特曼共存亡,調查結果公佈後奧特曼無罪重返董事會。
看似風平浪靜,上下一心致力於實現AGI背後,裂痕仍舊存在。
參考連結:
[1]https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking
[ 2]https://x.com/BenjaminDEKR/status/1778536771837694353
[3]https://twitter.com/leopoldasch
[4]https://twitter.com/Pavel_Izmailov
#[5 ]https://www.reddit.com/r/singularity/comments/1c1qo04/openai_superalignment_researcher_fired_for/
以上是突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

AI Hentai Generator
免費產生 AI 無盡。

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

熱門話題

2023年,AI技術已成為熱門話題,對各行業產生了巨大影響,程式設計領域尤其如此。人們越來越認識到AI技術的重要性,Spring社群也不例外。隨著GenAI(GeneralArtificialIntelligence)技術的不斷進步,簡化具備AI功能的應用程式的創建變得至關重要和迫切。在這個背景下,"SpringAI"應運而生,旨在簡化開發AI功能應用程式的過程,使其變得簡單直觀,避免不必要的複雜性。透過"SpringAI",開發者可以更輕鬆地建立具備AI功能的應用程序,將其變得更加易於使用和操作

OpenAI最近宣布推出他們的最新一代嵌入模型embeddingv3,他們聲稱這是效能最出色的嵌入模型,具備更高的多語言效能。這一批模型被劃分為兩種類型:規模較小的text-embeddings-3-small和更強大、體積較大的text-embeddings-3-large。這些模型的設計和訓練方式的資訊披露得很少,模型只能透過付費API存取。所以就出現了很多開源的嵌入模型但是這些開源的模型與OpenAI閉源模型相比如何呢?本文將對這些新模型與開源模型的效能進行實證比較。我們計劃建立一個數據

如果AI模型給的答案一點也看不懂,你敢用嗎?隨著機器學習系統在更重要的領域中得到應用,證明為什麼我們可以信任它們的輸出,並明確何時不應信任它們,變得越來越重要。獲得對複雜系統輸出結果信任的一個可行方法是,要求系統對其輸出產生一種解釋,這種解釋對人類或另一個受信任的系統來說是可讀的,即可以完全理解以至於任何可能的錯誤都可以被發現。例如,為了建立對司法系統的信任,我們要求法院提供清晰易讀的書面意見,解釋並支持其決策。對於大型語言模型來說,我們也可以採用類似的方法。不過,在採用這種方法時,確保語言模型生

作者丨TimAnderson編譯丨諾亞出品|51CTO技術堆疊(微訊號:blog51cto)Zed編輯器專案目前仍處於預發布階段,已在AGPL、GPL和Apache許可下開源。此編輯器以高性能和多種AI輔助選擇為特色,但目前僅適用於Mac平台使用。內森·索博(NathanSobo)在一篇貼文中解釋道,Zed專案在GitHub上的程式碼庫中,編輯器部分採用了GPL許可,伺服器端元件則使用了AGPL許可證,而GPUI(GPU加速用戶介面)部分則採用了Apache2.0授權。 GPUI是Zed團隊開發的一款

不久前OpenAISora以其驚人的視訊生成效果迅速走紅,在一眾文生視訊模型中突顯重圍,成為全球矚目的焦點。繼2週前推出成本直降46%的Sora訓練推理復現流程後,Colossal-AI團隊全面開源全球首個類Sora架構視頻生成模型“Open-Sora1.0”,涵蓋了整個訓練流程,包括數據處理、所有訓練細節與模型權重,攜手全球AI熱愛者共同推動影片創作的新紀元。先睹為快,我們先看一段由Colossal-AI團隊發布的「Open-Sora1.0」模型生成的都市繁華掠影影片。 Open-Sora1.0

微軟、OpenAI開年被曝預將大筆資金砸向人形機器人新創公司。其中,微軟計畫掏出9,500萬美元,OpenAI跟投500萬美元。彭博社消息稱,這家公司本輪預計共融資5億美元,投前估值或將達19億美元。是什麼吸引了他們?不妨先來看看這家公司的機器人成果。只見這個機器人通體銀黑,外觀酷似好萊塢科幻大片中的機器人形象:現在,他正在將一顆咖啡膠囊放進咖啡機裡:如果沒放正,還會自主調整,無需任何人為遠程遙控:不過一會兒,一杯咖啡就可以端走享用:有木有家人們已經認出來了,沒錯,這款機器人就是前段時間

Ollama是一款超實用的工具,讓你能夠在本地輕鬆運行Llama2、Mistral、Gemma等開源模型。本文我將介紹如何使用Ollama實現對文本的向量化處理。如果你本地還沒有安裝Ollama,可以閱讀這篇文章。本文我們將使用nomic-embed-text[2]模型。它是一種文字編碼器,在短的上下文和長的上下文任務上,效能超越了OpenAItext-embedding-ada-002和text-embedding-3-small。啟動nomic-embed-text服務當你已經成功安裝好o

突發! OpenAI開人了,理由:涉嫌資訊外洩。一位是失蹤的首席科學家Ilya盟友,超級對齊(Superalignment)團隊核心成員LeopoldAschenbrenner。另一位也不簡單,是LLM推理團隊研究員PavelIzmailov,曾經也在超級對齊團隊幹過。目前尚不清楚這倆到底洩漏了啥訊息。消息曝光後,不少網友表示「挺震驚」:不久前我還看過Aschenbrenner的貼文,感覺他正處於事業上升期,沒想到會有這樣的轉變。圖片還有網友認為:OpenAI失去Aschenbrenner,I
