16 人のトップ学者が AGI について議論します! LSTMの父でありマッカーサー・ジーニアス・グラント受賞者のマーカス氏が集結

Montreal.AIとニューヨーク大学名誉教授のゲイリー・マーカスが主催する年次人工知能討論会が、1年間の休止期間を経て、先週金曜日の夜に再開され、2020年と同様にオンラインカンファレンスとして再び開催されました。

今年の討論会 – AI 討論 3: AGI 討論 – は、汎用人工知能、つまり人間に近いレベルの推論能力を無数に統合できるマシンの概念に焦点を当てました。

動画リンク: https://www.youtube.com/watch?v=JGiLz_Jx9uI&t=7s

このディスカッションは、人工知能に関連する 5 つのトピックに焦点を当て、3 時間半続きました。認知と神経科学、常識、アーキテクチャ、倫理と道徳、政策と貢献 。

コンピュータ サイエンスの多くの著名人に加え、計算神経科学者のコンラッド コーディング氏を含む 16 人の専門家も参加しました。

この記事では、5 人の偉人たちの見解を簡単にまとめています。興味のある読者は、上のリンクからビデオ全体をご覧ください。

モデレーター: マーカス

著名な評論家として、マーカスはニューヨーカー誌の記事「「ディープラーニング」は人工知能は開発における革命なのか?」を引用しました。 》と、またしてもAIの発展に冷や水を浴びせた。

マーカス氏は、リー・フェイフェイ氏のチームがImageNetのリリースに成功してから10年に渡る人工知能への熱狂の波とは裏腹に、全能のマシンを構築するという「願い」は実現していないと述べた。

DeepMind の神経科学者 Dileep George

Google DeepMind の神経科学者である Dileep George は、かつて「先天性」という概念と呼ばれる手法を提案しました。の。

簡単に言えば、人間の心に「組み込まれている」特定のアイデアです。

では、人工知能については、先天性にもっと注意を払う必要があるのでしょうか?

これに関して、ジョージは、初期状態から特定の安定した状態までのあらゆる種類の成長と発展には 3 つの要素が関係していると述べました。

1 つ目は初期状態の内部構造、2 つ目は入力データ、3 つ目は普遍的な自然法則です。

「私たちが発見するすべての領域において、生来の構造が驚くべき役割を果たしていることが判明しました。」

典型的な例と考えられる人たちへ言語の習得と同じように、学習を分析し始めると、データが学習にほとんど影響を与えていないことがわかります。

言語は、どのような文化のどの子供でも習得できるという事実が証明しているように、人類の誕生以来変わっていません。

ジョージは、言語が人工知能の中核となり、人間をこれほどユニークな種たらしめている理由を理解する機会を私たちに与えてくれると信じています。

ワシントン大学教授 Yejin Choi

ワシントン大学コンピューターサイエンス教授 Yejin Choi は、AI のパフォーマンスは今後ますます驚くべきものになるだろうと予測しています。今後数年。

しかし、ネットワークの深さがわからないため、彼らは敵対的なケースや特殊なケースで間違いを犯し続けるでしょう。

「機械にとって、言語と知性の暗黒物質は常識かもしれません。」

もちろん、ここで言う暗黒物質は、人間にとっては簡単でも、機械にとっては難しいものです。

Jürgen Schmidhuber (LSTM の父)

Marcus 氏は、現在では大規模な言語モデルから大量の知識を得ることができるが、実際にはこのパラダイムを変革する必要があると述べました。なぜなら、言語モデルは実際には複数の種類の入力を「奪われている」からです。

スイス人工知能研究所IDSIAの所長であり、LSTMの父でもあるユルゲン・シュミットフーバー氏は、「今日議論している内容のほとんどは、少なくとも原則的には、将軍によって採用されたものである」と答えた。何年も前の目的。ニューラル ネットワークは解決されました。」そのようなシステムは「人間未満」です。

シュミットフーバー氏は、コンピューティングパワーが数年ごとに安価になるにつれ、「古い理論」が戻ってきていると述べた。 「これらの古いアルゴリズムを使用すると、当時はできなかった多くのことができるようになります。」

次に、IBM 研究者のフランチェスカ ロッシ氏は、シュミットフーバー氏に質問をしました。 「必要な機能のないシステムがまだ表示されますか? どう思いますか? 定義されたテクノロジーがまだ現在のシステムに導入されていませんか?」

この点に関して、シュミットフーバー氏は、現在の主な問題は次のとおりであると考えています。は計算コスト:

リカレント ネットワークは任意のアルゴリズムを実行でき、その最も優れた側面の 1 つは学習アルゴリズムも学習できることです。大きな問題は、どのようなアルゴリズムを学習できるのかということです。より良いアルゴリズムが必要になるかもしれません。学習アルゴリズムを改善するためのオプション。

最初のこのようなシステムは 1992 年に登場しました。私は 1992 年に最初の論文を書きました。当時、それに関して私たちにできることはほとんどありませんでした。今日、私たちは何百万、何十億もの重みを持たせることができます。

私の生徒たちとの最近の研究では、これらの古い概念がところどころにいくつかの改良を加えることで突然うまく機能し、バックプロパゲーションよりも優れた新しい学習アルゴリズムを学習できることがわかりました。

ジェフ・クルーン、ブリティッシュ・コロンビア大学准教授

ブリティッシュ・コロンビア大学のコンピューター・サイエンス准教授、ジェフ・クルーンが議論したテーマは「AI生成アルゴリズム」です。 : AGI への最速の道。」

クルーン氏は、今日の人工知能は「人工的な道」を歩んでおり、これはさまざまな学習ルールや目的関数が人間によって手動で完了する必要があることを意味すると述べました。

この点に関して、彼は、将来的には手動の設計方法が最終的には自動生成に取って代わられるだろうと信じています。

続いてクルーン氏は、AI開発を推進するための「メタ学習アーキテクチャ」「メタ学習アルゴリズム」「自動生成」という「3つの柱」を提案した。効果的な学習環境とデータ。

ここでクルーン氏は、「第4の柱」として「人間データの活用」を追加することを提案している。たとえば、Minecraft 環境で実行されるモデルは、人間がゲームをプレイするビデオから学習することで「大幅な改善」を達成できます。

最後に、クルーン氏は、2030 年までに AGI を達成できる可能性は 30% であり、それには新しいパラダイムは必要ないと予測しています。

ここで AGI が「経済的に価値のある人間の仕事の 50% 以上を完了する能力」と定義されていることは注目に値します。

要約

ディスカッションの最後に、マーカスは参加者全員に次の質問に答える時間を 30 秒与えました。 、人工知能のどの問題を私たちが今最も勉強する必要があるか、あるいは人工知能がますます主流かつ中心になりつつある世界にどのように備えるべきか、その提案は何ですか?」

Choi 「特に多様性に重点を置いて、AIと人間の価値観の調和に取り組む必要があります。これは、より広範に、堅牢性、一般化、説明可能性などの課題に対処する上で、私たちが直面する本当に重要な課題の1つだと思います。」

ジョージさんは、研究の方向性の観点から「大規模研究に取り組むのか、基礎研究に取り組むのかをまず決めてください。軌道が異なるからです。」とアドバイスしてくれました。 ##

クルーン: 「AGI が登場します。AI を開発している研究者には、エンジニアリング、アルゴリズム、メタ学習、エンドツーエンド学習などに基づくテクノロジーに取り組むことをお勧めします。これらは、次のような理由からです。」 AI 以外の研究者にとって、おそらく最も重要な問題はガバナンスです。たとえば、AGI を開発するときのルールは何ですか? 誰がルールを決めますか? そして、研究者をどのように回避させるかなどです。

#夜の終わりに、マーカスは前回の討論会でのスピーチを思い出した:「人工知能を育てるには村が必要だ。」

「今ではそれがさらに真実だと思います」と彼は言いました。 「AI はかつては子供でしたが、今では成熟した判断力がまだ十分に発達していないやんちゃなティーンエイジャーに似ています。」

彼は次のように結論付けました。「この瞬間は刺激的であると同時に危険でもあります」 》

以上が16 人のトップ学者が AGI について議論します! LSTMの父でありマッカーサー・ジーニアス・グラント受賞者のマーカス氏が集結の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。