著者 | Xu Jiecheng
査読者 | Yun Zhao
人工知能について語るとき、DeepMind は何があっても避けては通れない名前です。世界で最も有名なAI研究会社の1つとして、イ・セドルを一気に破り、人工知能の発展において最も輝かしいマイルストーンを生み出したのは、囲碁ロボットAlphaGoだった。現在、この偉大な人工知能企業は、オーナーである Google のチャットボットの反撃における最後の切り札となったようです。
最近、Google の Blueshift 大規模モデル チームの共同リーダーである Behnam は、Blueshift チームが DeepMind と協力して、双方の大規模言語モデルの研究開発能力をさらに強化すると発表しました。 。統合されたチームは、AlphaCode、AlphaFold、Google Research などの多くのトッププロジェクトの主要リーダーである DeepMind のチーフサイエンティスト、Oriol Vinyals 氏が率いることになります。
Google と DeepMind の間のこの協力は、表面的には論理的であるように見えますが、実際には2014 年に同社が買収されて以来、DeepMind と Google の関係は調和しているとは言いがたいものでした。
DeepMind CEO 兼共同創設者 Demis Hassabis
DeepMind は長い間、社内で次のように考えていました。企業は非営利団体と同じ組織構造を持つ必要があり、人工知能における自社の研究とイノベーションは民間企業によって管理されるのではなく、全人類に利益をもたらすために活用されるべきです。また、DeepMind の一部の研究者は、自分たちは学者であるべきだと信じており、Google と取引する際には、Google の複雑な官僚機構を非常に軽蔑しています。この関係では、DeepMind は傲慢で反抗的な天才少年に似ていますが、Google は裕福だが子供の考えに影響を与えることができない年老いた父親に似ています。
そしてちょうど 2021 年に、DeepMind は Google と「分離」しましたが、最終的に Google は、独立した「ドリーム チーム」になりたい人たちを維持するために、その強力な資金力とコントロールに依存しました。しかしそれ以来、DeepMind と Google の関係はますますぎこちなくなり、一部の DeepMind 従業員は Google の監視を避けるために通信に暗号化メッセージを使用することさえありました。 Google がそのような時点で DeepMind を有効化することを選択した場合、Google は最後にして最も強力な切り札を世界に示す準備ができている可能性が最も高いと思われます。
Googleの究極の選択として、大規模言語モデル研究においてDeepMindはどのような強みを持つのか?この両者の協力はGoogleがこの逆転を勝ち取るのに役立つでしょうか?
実際、DeepMind は昨年 9 月の時点で、チャット ロボット Sparrow に関する論文を発表しました。報道によると、Sparrowが使用する基本モデルには700億以上のパラメータがあり、人間のフィードバックに基づいた強化学習フレームワークを採用しているという。また、生成するコンテンツの正確性とセキュリティを制御するために、Sparrow は Google を通じてインターネット検索を実行し、ユーザーと会話するときや質問に答えるときに生成するコンテンツを検証することができます。
さらに、モデルの動作の絶対的な安全性を確保するために、DeepMind の研究者はモデル用の独自の対話ルールのセットも開発し、対話テストを使用して Sparrow がこれらのルールに違反するように誘導しました。ルール。違法な会話を含む情報データを取得した後、研究者らはそれを使用して、Sparrow が間違いを犯した可能性がある場合に即座に制限するための新しい制御モデルを独自にトレーニングしました。
Sparrow 対話処理モデル
最終テスト結果によると、事実に関する質問が行われた場合、この時点でSparrow が提供する回答は非常に信頼性が高く、生成されたコンテンツの 78% 以上が明確な証拠によって裏付けられています。そしてこれは、ChatGPT、Bard、または New Bing に最も欠けている機能でもあります。
Sparrow (パラメータ 700 億) は、モデル パラメータの点で ChatGPT (パラメータ 1,750 億) と比較することはできませんが、重要な点は、現在 Google にも大きなモンスターが配置されている場所がないということです。 - 吟遊詩人 (パラメータ 1,370 億)。 Google と DeepMind が、この両当事者間の協力において Bard と Sparrow の機能をうまく統合できれば、おそらく今日のチャットボット市場を破壊することになるでしょう。さらに注目に値するのは、つい最近、DeepMind の創設者兼 CEO の Hassabis が、Sparrow の内部ベータ版が 2023 年に正式にリリースされると公に述べたことです。この点に関して、一部の業界関係者は、ハサビス氏が言及したスパローは、スキンが変更され最適化された吟遊詩人である可能性が最も高いと予測しています。
Bard カンファレンスでの失敗以来、Google は状況を救う方法を見つけようと努めてきました。現在、DeepMind とのこの協力は非常に正しい選択であると思われます。しかし、それでも、Google に残された時間は残り少なくなってきています。
今日のチャット ロボット市場では、トップクラスの間で競争が行われる明らかな傾向が見られます。先行者利益を得るために New Bing に依存していた Microsoft は、その後すぐに、New Bing が悪意のあるコンテンツを生成する問題のため、ユーザーとの日常会話の数を制限しました。しかし、最近のニュースによると、Microsoft は OpenAI のサポートを受けてこの問題の解決に着手し、New Bing の会話制限を短期的には緩和、あるいは解除する予定であるとのことです。
ここ数日で、Meta Company も LLaMA-13B と呼ばれる新しい大規模言語モデルを発表し、それは ChatGPT の規模のわずか 10 分の 1 であると主張しました。この場合、ほとんどのベンチマークで GPT-3 よりも優れたパフォーマンスを示します。さらに、この件に詳しい関係者によると、シリコンバレーのアイアンマン・マスク氏も近い将来、新しい人工知能研究所の設立を準備しており、ChatGPTと同様の競争相手を開発したいと考えており、この研究所の最初の研究者は、 OpenAI、DeepMind を使用。
これらの新星と比較しても、Google は現在、モデルと製品の成熟度において大きな優位性を持っており、DeepMind の追加により多くの重要な支援がもたらされることは間違いありません。しかし、前方に迎撃があり、前方に追手がいる危険な状況で、グーグルはディープマインドのエースカードに頼って包囲を突破し、今度は王座に戻ることができるだろうか?この問いに関しては、まだ明確な答えは見えていません。
参考リンク:
https://analyticsindiamag.com/google-does-not-deserve-deepmind/
https://www .deepmind.com/blog/building-safer-dialogue-agents
https://m.thepaper.cn/baijiahao_14479005
https://openreview.net/pdf?id=YoS -abmWjJc
以上がDeepMindが「第2の逆襲」を再開し、イ・セドルへの挑戦を表明!の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。