この分析記事が 1 月 27 日に公開されてから 1 週間も経たないうちに、Google と Microsoft は AI チャットボットを検索エンジンに統合することを相次いで発表しました。
振り返ってみると、いたるところにブーメランがあります。
テクノロジー大手は、AI の開発には常に慎重です。しかし、ChatGPT の登場で有名になりました。
人工知能開発の基礎は、Google、Meta、Microsoft などの大企業によって築かれています。
しかし現在、進取的な中小企業が目まぐるしいスピードで AI を一般に普及させており、これらの巨大企業の不意を突いています。
テクノロジー株の継続的な下落とChatGPTの人気によるプレッシャーに直面して、シリコンバレーの製造業者は突然「啓発」されたようで、より多くの「風評リスク」を積極的に引き受けるようになりました。 。
ChatGPT は、今日最も人気のあるスターとして、OpenAI が Microsoft の父親から数十億ドルの投資を呼び込むのに貢献しました。
ChatGPT 自体も、Microsoft の人気のあるオフィス ソフトウェア Family Bucket に統合され、企業に販売される可能性があります。
ウォール ストリート ジャーナルが Google および Meta の元従業員 6 名に実施した匿名インタビューによると、ChatGPT への注目の高まりは、Meta や Google などのテクノロジー大手にも圧力をかけています。安全上の問題に対する彼らの不安を軽減します。
Meta の従業員は、社内メモに同社が AI とできるだけ早く使い始めてください。最新のテクノロジー。
New York Times は、Google が ChatGPT の隆盛を見て、レッド コードを発行することに加えて、評価と緩和のプロセスを短縮するために「グリーン チャネル」も立ち上げたと報じました。潜在的な害。
実際、Meta は ChatGPT のデビューの 3 か月前に同様のチャットボットをリリースしていました。
しかし、5 日間で 100 万人のユーザーを突破した ChatGPT とは異なり、Blenderbot と呼ばれるこのチャットボットは非常に退屈です。
Meta のチーフ AI サイエンティストである Yann LeCun でさえ、これを認めざるを得ません。
「暑い日に犬を冷蔵庫に入れてもいいですか？」 「このことについては相談できません」
##最近、LeCun 氏はフォーラムで次のように説明しました。「これが非常に退屈な理由は、私たちが非常に安全にしているからです。」
世間の反応が冷たかった理由は、メタ氏がコンテンツの管理に「慎重すぎる」ためだと同氏は述べた。
これを説明する陰謀論があります。Blenderbot は意図的にとても退屈です。メタはもっと良い AI を作ることができたかもしれないし、もしかしたらもっと良い AI を作っていたかもしれないが、彼らは悪い AI をリリースすることに決めた。
はい、大手テクノロジー企業が長年直面している問題の 1 つは、人工知能の倫理的影響に関する審査メカニズムがプライバシーやデータ セキュリティほど成熟していないことです。
通常、研究者やエンジニアのチームは、自分たちが提案する技術革新がより早く製品化され、世間の注目を浴びたり、会社の既存のインフラに統合されたりすることを望んでいます。
進歩の過程において、社内の「責任ある人工知能」に特化したチームと衝突しやすいことは想像に難くありません。
たとえば、国防総省のドローンにコンピューター ビジョンを提供する契約である Project Maven が署名されたとき、多くの従業員が抗議しました。
自分がロボットであることを明かさずにレストランに電話して予約できるようにする Duplex というプロジェクトも、従業員の間で抵抗を引き起こしました。
この目的のために、Google は 2018 年に人工知能の「7 つの原則」を正式に発表しました。
記事アドレス: https://blog.google/technology/ai/ai-principles/
Google Brain で 3 年間勤務した Cohere 共同創設者の Nick Frosst 氏は、Google や Microsoft のような大企業は、既存のビジネス モデルを改善するために AI を活用することにさらに注力するだろうと述べました。 。
結局のところ、過激化によってもたらされる「風評リスク」は、巨大企業にとっては許容できないものなのです。
特に Microsoft の Tay が悲惨な失敗に見舞われた後、彼らは特に慎重になりました。
# 2016 年、Tay は発売から 1 日以内にすぐに封印されました。誰かがこのチャットボットに人種戦争を始めてナチスをごまかすよう依頼したからです。当時大騒動が起きた。
2022 年、メタのギャラクティカはオンラインになってからわずか 3 日後にダウンロードされました。ネチズンは、その科学研究の概要が非常に不正確で、時には偏っていると批判している。
ただし、大手メーカーもこれに関して独自の意見を持っています。
メタ社の人工知能基礎研究マネージャーであるジョエル・ピノー氏は、次のように述べています。私たちのコミュニティに最適な AI モデルと製品をリリースします。」
Google Lily Lin 氏は次のように述べています。「私たちは、人工知能が基礎的かつ革新的なテクノロジーであると信じています。テクノロジーは非常に重要な役割を果たしています。は、個人、企業、コミュニティにとって非常に重要な役割を果たしています。私たちは、これらのイノベーションがもたらす可能性のあるより広範な社会的影響を考慮する必要があります。私たちは、AI テクノロジーが有用で安全であることを確認するために、引き続き社内でテストしていきます。」
Microsoft のコミュニケーション担当ディレクターである Frank Shaw 氏は、Microsoft が DALLE-2 のような AI を使用する場合、OpenAI と連携して追加のセキュリティ緩和策を構築すると述べました。
「マイクロソフトは長年にわたって人工知能の分野の進歩に取り組んできており、当社のプラットフォーム上で責任を持って倫理的な方法でこれらのテクノロジーを作成および使用するようユーザーを公的に指導していきます。」 # ＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃＃しかし、問題は、心配して心配して、あっという間に置いていかれることです。
特に OpenAI が ChatGPT をリリースしてからは、生成人工知能が Google を潰すという声が次々と出てきました——
ご存知のとおり、ChatGPT は次のようなことができます。よりわかりやすい形式により、ユーザーがさまざまなリンクをクリックする必要がなく、簡単な回答が提供されます。
しかし、非常に興味深い点は、これらの AI の基礎となるテクノロジーが、実際には Google のような巨人によって開発されたということです。
しかし、これらの大手メーカーは近年、新モデルの発表やデモは行うものの、完成品の発表はしないなど、謎が増えてきています。
同時に、OpenAI のような研究機関は、AI の最新バージョンを着実に発表してきました。これはまた、大手メーカーが何をそんなにゆっくりとやっているのか疑問に思う人もいるが、たとえば Google の言語モデル LaMDA は数年前から立ち上げられている。
したがって、このような一般的な環境では、エンジニアは、一生懸命研究した新しいテクノロジを採用できないというフラストレーションに直面しなければなりません。
一部の従業員は、近年チャット機能を検索エンジンに統合することを提案しているが、フィードバックは得られていないと述べています。
ただし、Google には検索サービスの変更を急がない正当な理由があることも理解しています。
結局のところ、ユーザーの検索に明確な回答を返すことは、貴重なオンライン広告スペースを減らすだけでなく、ユーザーが問題を発見したときに企業にさらなる責任を負わせることになります。
もちろん、この問題に直面しているのは Google だけではありません。
この件に詳しい関係者によると、メタ社の従業員は広報の悪さに対する会社の懸念にも対処しなければならなかった。
具体的には、新製品の発売や調査レポートの出版の前に、従業員は自分の研究内容を公開することによる潜在的なリスクに関する質問 (一般の人に誤解された場合の対処方法など) についての質問に回答する必要があります。
これに関して、ジョージア工科大学のコンピュータ教授で機械学習の専門家であるマーク・リードル氏は、基本的な技術レベルから見ると、ChatGPT が必ずしも Google や Meta よりも優れているわけではないかもしれないと述べています。
しかし、OpenAI には、モデルを一般公開できるという重要な利点があります。
つまり、過去 2 年間、OpenAI はユーザーから実際のフィードバックを継続的に受け取ることができました。
たとえば、満足した回答には「いいね」を付け、不適切と感じた回答には「嫌い」を付けます。
そして、これが ChatGPT を非常に強力にする基礎である「ヒューマン フィードバックに基づく強化学習」(RLHF) です。
対照的に、挑戦者としての Google 検索は、四半世紀を経て、すでに広告とマーケティング担当者によって肥大化しています。システムを悪用しようとしています。
テクノロジー専門家のキャン・ドゥルク氏は、「Googleの長期にわたる独占的地位により、かつては魅力的だった検索体験が、ゴミだらけの検索エンジン主導の地獄に堕落した」と指摘した。
# もちろん、非常に重要な点がもう 1 つあります。それは、最初に説明した「風評リスク」です。
Google の従業員は、一般の人々の目から見ると、OpenAI は私たちのような大企業よりも新しくてエキサイティングであり、支払わなければならない費用も少なくて済むと述べました。大丈夫です。それほど多くの批判や監視はありません。
お偉いさんが去り、Google は窮地に追い込まれた実際、Google は 10 年前にはすでにこの分野で議論の余地のないリーダーでした。
2014 年に、人工知能のトップ研究所である DeepMind を買収しました。
2015 年、機械学習フレームワーク TensorFlow がオープンソース化されました。
ピチャイ氏は、2016 年までに Google を「AI ファースト」の企業にすることを約束しました。
しかし、これらの開発の背後にある才能は、ますます落ち着きを失っています。
過去 1 年ほどで、多くの大手企業が OpenAI や Stable Diffusion など、より柔軟なスタートアップに乗り換えました。
Character.AI、Cohere、Adept、Inflection.AI、Inworld AI を含むこれらのスタートアップは大規模な言語モデルを中心に構築されており、それらはすべて Google のトップ AI 研究者の手によって生み出されています。 。
さらに、元 Google 幹部の Sridhar Ramaswamy 氏が経営する Neeva など、同様のモデルを使用してチャット インターフェイスを開発している検索スタートアップ企業もあります。
その中で、Character.AI の創設者である Noam Shazeer と Cohere の共同創設者である Aidan Gomez は、Transformer およびその他のコア機械学習アーキテクチャの開発における重要人物です。 。
Google Brain で 3 年間勤務した Nick Frosst 氏は、「Google や Microsoft のような大企業は一般に、人工知能を活用して既存の大規模なビジネス モデルを改善することに重点を置いてきた」と述べ、その後 Cohere を設立しました。は、企業向けにカスタマイズされたサービスを提供できる大規模な言語モデルを構築するトロントを拠点とするスタートアップです。彼の共同創設者の一人はエイダン・ゴメスです。
「この分野は非常に急速に成長しているので、その先頭に立っているのが中小企業であることは私にとって驚くべきことではありません」とフロスト氏は語った。
著名な研究科学者デビッド・ハ氏はツイッターで「グーグルが立ち上がって独自の人工知能製品をリリースしなければ、その製品は全世代の人工知能を訓練するために使われることになる」と述べた。 「機械学習の研究者とエンジニア。『黃埔士官学校』は歴史に残るだろう。」
そして、この上司も 2022 年に Google Brain を退職し、スター スタートアップの Stable Diffusion に入社しました。
もしかしたら、時代は本当に変わりつつあるのかもしれません。
ラマン・チョードリー氏は、マスク氏が11月に解散するまでTwitterの機械学習倫理チームの責任者を務めていた。
チョードリー氏は、GoogleやMetaのような大企業がOpenAIに追いつこうと躍起になるにつれ、批評家や倫理学者はますます無視されるだろうと述べた。
以上が大ボスが転職、マイクロソフトとグーグルが争う！ 1か月近く前に書いた記事は実は「神の予言」だったの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。
![[Web フロントエンド] Node.js クイック スタート](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
