ChatGPT は人気があるのに、OpenAI は広く注目されていないのはなぜですか?

ビッグ データ ダイジェストの作成

著者: Caleb

ChatGPT が現在どれほど人気が​​あるかは誰もが知っていると思います。

ARK ベンチャー キャピタルのチーフ フューチャリスト、ブレット ウィントンの統計によると、ChatGPT の 1 日あたりのアクティビティが 1,000 万件を超えるまでに 2 か月もかかりませんでした。比較として、最後の驚異的なソフトウェアである Instagram がこの偉業を達成するのに 355 日かかりました。

1月中旬、ニューヨーク・タイムズ紙は、ノーザン・ミシガン大学の哲学教授アントニー・オーマンが「クラス全員が読んだ」という記事を読んで驚いたと報じた。世界の宗教に関するコースを採点しているとき。最優秀論文」。学生たちは、簡潔な段落、適切に配置された例、厳密な議論を使用して、ブルカ禁止の道徳的意味を探求します。しかし、オーマン氏の尋問により、学生は論文がChatGPTを使用して書かれたことを認めた。

同様の例はたくさんあります。

OpenAI が世論の「嵐の頂点」に急速に押し上げられたのは、まさに ChatGPT が世界規模で爆発的に普及したことによるものです。

OpenAI は現在、チャットボットの軍拡競争をリードしていると言えます。 ChatGPTを例に挙げると、Microsoftとの数十億ドル規模の協力関係の公開は、GoogleとAmazonが製品ラインに人工知能を緊急導入するよう刺激しただけでなく、OpenAIもベインと協力してコカ・コーラの業務に機械学習を導入した。他の企業パートナーにも拡大する予定です。

OpenAI の人工知能が大きなビジネスになったことは間違いありませんが、実はこれは OpenAI の当初の計画とは多少異なります。

「人類の未来は人間によって決定されるべきです」

先週金曜日、OpenAI CEO のサム アルトマンは、「AGI とその先への計画」というタイトルのブログ投稿を公開しました。

記事リンク:

https://www.php.cn/link/3187b1703c3b9b19bb63c027d8efc2f1

記事内では、同氏は、OpenAI の汎用人工知能 (AGI) は現時点では要件を満たすには程遠いと主張し、多くの人がそれが全人類に利益をもたらすことができるのか、そして「すべての人に驚くべき新しい能力をもたらす可能性があるのか​​」と疑問に思っています。

アルトマンは、広範で理想主義的な言葉を使って、人工知能の発展を止めるべきではないと主張し、「人類の未来は人間によって決定されるべきである」と暗に OpenAI を指摘しました。

ChatGPT が普及した時期とほぼ同じ時期に、このブログ投稿と OpenAI の最近の行動は、OpenAI の論調と使命が設立当時と比較してどれほど変わったかを常に皆に思い出させます。

OpenAI は、初期の頃は単なる非営利団体でした。同社は常にAGI開発に注力してきましたが、設立時には利益を追求せず、開発コードを無償で共有することを約束しました。

現在、こうした約束はどこにも見つかりません。

OpenAI の原動力はスピードと利益になりました

2015 年、アルトマン、マスク、ピーター ティール、リード ホフマンは、非営利研究組織 OpenAI の設立を発表しました。 OpenAIは設立声明の中で、その研究が「経済的利益の創出に制約されることなく、人類全体に最も利益をもたらす可能性が最も高い方法で人工知能を進歩させる」ことに取り組んでいることを発表した。同ブログではまた、「私たちの研究には経済的義務がないため、人間へのポジティブな影響にもっと集中できる」と述べ、すべての研究者に「論文、ブログ投稿、コード、私たちの特許（もしあれば）は世界と共有される」ことを奨励していると述べている。 。

8年後、私たちは透明性がなく、人によるポジティブな影響によって動かされていない会社に直面しています。むしろ、マスク氏を含む多くの批評家が信じているように、OpenAI の動機はスピードと利益になった。

同時に、OpenAI はテクノロジーをリリースしています。もちろん落とし穴はありますが、人間の労働者を犠牲にして職場の自動化シフトを進める準備はまだあります。たとえばGoogleは、コードを自動的に完成させる人工知能によって効率が向上し、数千人の従業員の解雇につながったことを強調した。

OpenAI の初期の頃、メディアや専門家は、OpenAI を、目的が不明確な人工知能の基礎研究を実施するためのオープンな方法として構想していました。共同創設者のグレッグ・ボックマンはかつてこう語った。「私たちの今の目標は…可能な限り最善のことを行うことだ。それは少し漠然としている。」

これも、2018 年の会社の方向転換に目に見えない形で貢献しました。当時、OpenAIは資本リソースに何らかの指示を求め、「当社の主な受託者責任は人間に対するものである。当社の使命を達成するには多大なリソースを動員する必要があると予想している」と述べた。

2019 年 3 月までに、OpenAI は非営利の肩書を完全に捨て、「利益制限付き」部門を設立しました。これにより、OpenAI は投資の受け入れを開始し、投資家の 100 倍を上限とする利益を投資家に提供することになります。

この決定はGoogleなどの大手テクノロジー企業との競争とみなされ、すぐに同社は希望どおりマイクロソフトからも10億ドルの投資を受けることになった。 OpenAIは営利企業を発表するブログ投稿で同じレトリックを使い続け、その使命は「汎用人工知能が全人類に利益をもたらすことを保証する」ことであると宣言した。

しかし、Motherboard が書いているように、利益が主な目標であるベンチャーキャピタリストが人類を救うことができるとは信じがたいです。

OpenAI は依然として国民の信頼に値するのでしょうか?

2019 年、OpenAI は GPT-2 言語モデルを発表およびリリースしたときに世間の反発に直面しました。

同社は当初、「技術の悪意のある応用に関する懸念」を理由に、トレーニング済みモデルのソースコードを公開しないと述べていた。これは有益な人工知能の開発に対する同社の取り組みを部分的に反映しているが、あまり「オープン」ではない。

批評家は、なぜ OpenAI がツールを発表しながらリリースしないのか疑問に思い、多くの人は単なる宣伝行為だと考えていました。 OpenAIがこのモデルをGitHubでリリースしたのは3か月後で、この動きは「特に強力な生成モデルに関しては、人工知能を責任を持ってリリースするための重要な基盤」であると述べた。

2020 年に社内で数日間過ごした調査記者のカレン・ハオ氏によると、OpenAI の社内文化は、もはや慎重で研究主導のアプローチを反映し始めていませんでした。開発プロセスはむしろ前進することに重点が置かれており、それが「AI 誇大宣伝サイクル」に貢献しているという非難にもつながっています。また、従業員は会社の新しい規約を遵守するために、当面の業務について黙秘することも求められるようになった。

「同社が公に信奉していることと、密室でどのように運営されているかの間にはずれがあります。時間の経過とともに、熾烈な競争と増大する財務圧力により、透明性、オープン性、コラボレーションという創業の理想が損なわれてきました。」ハオさんは書いた。

しかし全体として、GPT-2 の発売は OpenAI にとって間違いなく祝う価値のある出来事であり、今日に至るまでの同社の発展の重要な基礎でもあります。現在政策調査部長を務めるマイルズ・ブランデージ氏は会議で「これは間違いなく、サクセスストーリーの枠組みの一部だ」と述べ、「ストーリーのその部分は次のようなものだ。われわれは野心的なことを行い、今では何人かの人々がそれを再現している。このイノベーションの利点についても説明できるはずです。」

それ以来、OpenAI は GPT-2 リリース方式の誇大広告の部分を保持しましたが、オープン性を排除しました。 2020 年に GPT-3 が正式に発売され、すぐに Microsoft に「独占的に」ライセンスが供与されました。 GPT-3 のソース コードはまだ公開されていませんが、OpenAI は現在 GPT-4 に向けて集中的に準備中です。モデルは ChatGPT の API を通じてのみ公開されており、OpenAI はモデルへのアクセスを保証する有料レイヤーも開始しました。

もちろん、これを行うにはいくつかの考慮事項があります。 1つ目はお金です。 OpenAIはAPI発表ブログで、「この技術の商用化は、当社が現在進行中のAI研究、安全性、政策活動の費用を賄うのに役立つ」と述べた。 2 番目の理由は、大企業を支援することへの偏見です。 「大企業以外の者が、基盤となるテクノロジーの恩恵を受けることは困難です。」最後に、同社は、悪用に対処できるため、オープンソースではなく API 経由でリリースする方が安全であるとも述べています。

「皆さんは、AGI が速いと言い続けていますが、Web サイトには一貫した定義さえありません」とコンピューター科学者の Timnit Gebru 氏は Twitter で述べました。

ワシントン大学の言語学教授エミリー・M・ベンダーはツイッターで、「彼らは（権力の譲渡が必要となる）現実世界の本当の問題を解決したくない。彼らはそれを望んでいる」と述べた。彼らは、人間と「一致する」方法でそうする恵みを備えた「超知性」を創造できるだけでなく、神であると信じています。」

この人工知能は、同社が当初想定していたように、責任を持って共有され、オープンに開発され、利益を目的としないのでしょうか?それとも、多くの厄介な欠陥を抱えながらも、主に OpenAI の収益を生み出すために急いで廃止されるのでしょうか? OpenAI は SF の未来をクローズドソースにし続けるのでしょうか?

ChatGPT と結合された後、Microsoft の Bing チャットボットは「執着」状態になり、常にユーザーを騙したり叱ったり、誤った情報を広めたりします。学生が不正行為にアプリを使用することに対する教育者の懸念が高まっているにもかかわらず、OpenAI は独自のチャットボットによって生成されたテキストを確実に検出できません。

また、人々は言語モデルを簡単にジェイルブレイクしており、OpenAI が周囲に設けたガードレールを無視しており、ランダムな単語やフレーズを入力するとボットがクラッシュします。 OpenAI は基礎となるモデルのコードを共有しておらず、おそらく OpenAI 自体がどのように機能するかを完全に理解している可能性が低いため、その理由を明確に言うことはできません。

これらすべてを念頭に置いて、私たちは皆、OpenAI が大衆に求めている信頼に値するかどうかを慎重に検討する必要がありますが、それに実質的な対応はしていません。

関連レポート: https://www.php.cn/link/b4189d9de0fb2b9cce090bd1a15e3420

以上がChatGPT は人気があるのに、OpenAI は広く注目されていないのはなぜですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。