元 OpenAI 従業員のウィリアム・サンダース氏は、会社を「タイタニック号」、自分自身を「氷山」と表現しています。

OpenAIの元従業員で同社の「スーパーアライメントチーム」のメンバーであるウィリアム・サンダース氏は、不運なR.M.S.の失敗と同じように、会社が悲劇と衝突するコースにあると感じたため会社を辞めたと最近明らかにした。 1912 年のタイタニック号。

OpenAI の元従業員は、同社を不運な R.M.S. に例えました。 1912年のタイタニック号では、AIの影響を感じたため出発したと述べた。同社は悲劇との衝突コースにあった

OpenAIの「スーパーアライメントチーム」のメンバーであるウィリアム・サンダース氏は2022年に会社を辞めた。

Business Insiderが発見したように、サンダース氏はテクノロジージャーナリストのアレックス・カントロウィッツ氏のポッドキャストのエピソードで解説を行った。 。

サンダース氏はカントロウィッツ氏に、OpenAIでの3年間、会社が「アポロ計画に近い、それともタイタニック号に近い」道を進んでいるのかと時々自問したと語った。

彼の論拠は慎重さによるもののようだ。科学的努力の結果、アポロ宇宙計画は挫折にもかかわらず成功しましたが、タイタニック号は成功にもかかわらず失敗でした。今すぐ 65% 割引を請求してください!

タイタニックサンダースは、同社の一般的な精神を、合理的な安全予防策の実施よりも製品開発を優先するものであると OpenAI が説明しています。

彼は、安全性への懸念を表明した従業員が処罰され、リーダーシップが利益を重視するオフィスの様子を描いています。

「時間が経つにつれて、指導者によって行われている決定は、タイタニック号を建造するホワイト・スター・ラインに似ているように本当に感じるようになりました。」

このやり方に反対したのは氷山サンダースが初めてではない。 OpenAIはビジネスを行っているとされている。同社の別居中の共同創設者の一人、イーロン・マスク氏は最近、同社が当初の使命から逸脱しすぎたとして同社を訴えた。これは、マスク氏が何年もOpenAIに関与しておらず、現在は直接の競合相手であるxAIを独自に運営しているという事実にもかかわらずである。その後、訴訟は取り下げられました。

ライバルの AI 企業である Anthropic は、OpenAI が信頼と安全性を十分に重視していないという懸念から、元 OpenAI 従業員と共同創設者によって 2021 年に設立されました。

その一方で、Ilya Sutskever 氏は、現在は別居している別の共同創設者で元主任科学者は、2024年5月に会社を辞めて自分の会社を立ち上げ、当時OpenAIチームが安全に目標を達成できると「確信している」と書いていた。

非常に多くの従業員が船から飛び降り、少なくとも 1 人がタイタニック号の喩えで騒ぐ中、当面の疑問は、氷山は誰、あるいは何なのかということです。

このアナロジーの乗客が私たち、つまり全人類であるとすれば、氷山は ChatGPT とそれに類するシステムが準備の整っていない社会にもたらす実存的脅威を表しています。 AI が私たちよりも賢く、有能になり、その危害の可能性からすべての人を守るための十分な「救命ボート」を私たちが持っていない場合、私たちは悲劇に向かう可能性があります。

しかし、乗客が OpenAI が人間と同じくらい賢い AI を開発するのを待っている株主や利害関係者であり、それが決して実現しないのであれば、おそらく氷山は生成 AI バブルの崩壊を表していることになるでしょう。

関連: 人間レベルのAIがすぐに実現しなければ、大手テック企業は財政再建に直面する

以上が元 OpenAI 従業員のウィリアム・サンダース氏は、会社を「タイタニック号」、自分自身を「氷山」と表現しています。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。