破壊をもたらさないことをライフワークとする「現代人工知能の父」ユルゲン・シュミットフーバーへの独占インタビュー

テクノロジーとビジネスの間に大きな矛盾があるとき、ユルゲン・シュミットフーバーは人々の記憶に残るでしょう。人工知能技術の開発を一時停止する4月の公開書簡から、ジェフリー・ヒントン氏がAIのリスクについてもっと「自由に」話せるようになるために今月初めにグーグルを退社するまで。今世紀で最も想像力豊かで物議を醸したテクノロジーが、ついに最後の岐路に立たされています。

過去 2 年間で、ユルゲン シュミットフーバーの脚光は、チューリング賞を受賞した人工知能の 3 人の巨人 (ヨシュア ベンジオ、ジェフリー ヒントン、ヤン ルカン) の影に隠れていました。そのため、一般の人々は無意識のうちにこの人工知能の思想家とテクノロジーを評価していました。パイオニア 比較的過小評価されている立場にあります。

彼がチューリング賞を逃した理由を理解するには、おそらく南京大学人工知能学部長の周志華教授のコメントが参考になるでしょう。ヒントンが間違いなく 1 位であり、ルカンとシュミットフーバーの両方が貢献しています。それは非常に大きなものです。しかし、HLB は常に一緒にバンドルされており、シュミットフーバーは明らかにその小さなグループに属していません。賞を獲得するには、ノミネートと投票が必要であり、人気も重要です「しかし、それは問題ではありません。LSTM のような教科書レベルの貢献があるので、彼は十分に冷静です。」

1990 年の初めに、シュミットフーバーは、教師なしの敵対的生成ニューラル ネットワークを明らかにしました。これらのニューラル ネットワークは、人工的な好奇心を達成するために、ミニマックス ゲームで互いに競合します。 1991 年に、彼はニューラル高速重み付けプログラムを導入しました。これは正式には、線形化された自己注意を備えた現在トランスフォーマーと呼ばれるものに相当します。現在、このコンバータは有名な ChatGPT を駆動しています。 2015 年、彼のチームは、以前のネットワークよりも何倍も深いハイウェイ ニューラル ネットワークを立ち上げました。

シュミットフーバーはそのキャリアを通じて、その画期的な業績によりさまざまな賞や栄誉を受賞しました。 2013 年には、機械学習分野への多大な貢献が認められ、ヘルムホルツ賞を受賞しました。 2016 年には、「ディープ ラーニングとニューラル ネットワークへの先駆的な貢献」により、IEEE Neural Network Pioneer Award を受賞しました。ヨシュア・ベンジオ、ジェフリー・ヒントン、ヤン・ルカンがチューリング賞を受賞する前から、ユルゲン・シュミットフーバーはすでに「現代人工知能の父」として知られていたことにも注目すべきである。

彼の意見はしばしば「主流」の反対側に立っていますが、多くの場合は正しいです。シュミットフーバー氏は今年初めにフォーブス中国との独占インタビューに応じ、最近では人工知能に関する懸念についてフォーブス寄稿者ヘシー・ジョーンズからの一連の質問に答えた。関連する会話を次のように整理しました:

Forbes China: ChatGPT の出現後、ディープ ラーニングやニューラル ネットワークなどのテクノロジーは根本的な変化をもたらしましたか?

シュミットフーバー: 実際にはいいえ、ChatGPT は本質的に学習ニューラル ネットワークであり、その基礎は過去 1000 年に築かれました。しかし、継続的なハードウェア アクセラレーションのおかげで、現在ははるかに大規模なネットワークを構築することが可能です。以前よりもニューラル ネットワークにインターネット全体を供給し、テキスト (「チャット」など) や画像の一部を予測することを学習します。 ChatGPT のインテリジェンスは主にこれらの巨大なスケールの結果です。

ChatGPT のベースとなるニューラル ネットワークは、いわゆる「注意コンバーター」です。私がこのことに満足しているのは、30 年以上前に現在「線形自己注意を備えたトランスフォーマー」と呼ばれるものを出版したからです (J. Schmidhuber. Learning to control fast-weight Memory: An Alternative to Recurrent Nets. Neural Computation , 4( 1):131-139、1992)。これらは、個別のストレージと制御を備えた、私がニューラル高速重み付けプログラマーと呼んでいるもの (正規化を除く) と同等であり、アテンションという用語は 1993 年に ICANN で導入されました。

Forbes China: 中国に行かれたことがありますが、中国における人工知能技術の発展についてどう思いますか?中国は米国のような技術先進国にどうやって追いつくべきでしょうか？

シュミットフーバー: ディープラーニングの基本的なアルゴリズムのほとんどはヨーロッパ人によって発明されましたが、米国の大企業はこれらのアルゴリズムの商業化においてより良い仕事をしてきました。中国企業が遅れをとっているとは思わない。これらの基本的なメソッドはすでに公開されており、オープンソースです。必要なのは、高速なコンピューター、大量のデータ、そしてエンジニアリングの人材です。私は何度も中国を訪れており、中国にはすべてが揃っており、すでに人工知能に関する論文を最も多く出版している国であることを知っています。したがって、私は中国の人工知能について非常に楽観的です。

Forbes China: 現在、ほとんどのコンピューティング能力とデータは一部の業界大手の手に渡っています。中小零細企業や新興企業はどのようにして障壁を突破できるのでしょうか?

シュミットフーバー:40年前、私はある裕福な男性を知っていました。彼はポルシェを持っています。しかし、最も驚くべきことは、ポルシェに携帯電話が搭載されていることです。そのため、衛星経由で、同じようなポルシェに乗っている他の人に電話をかけることができます。

今日、誰もがポルシェに搭載されているものよりも多くの点で優れた安価なスマートフォンを持っています。そして、人工知能が発展するにつれて、それも進化します。覚えておいてください。5 年ごとに、AI の価格は 10 分の 1 になります。誰もが大量の安価な AI を自分のために働いてくれるでしょう。 (これはムーアの法則よりも古い法則であり、歯車の発見以来 1,000 年近く存在しています。)

実は、当社 NNAISENSE のモットーは「人工知能はすべての人のためのもの」です。私たちの人工知能はすでに人間の生活をより長く、より健康に、より楽に、より幸せにしています。人工知能は少数の大企業によって管理されることはありません。いいえ、誰もが安価だが強力な人工知能を手に入れ、さまざまな方法で自分の生活を改善するでしょう。

Forbes China: 人工知能とディープラーニングの分野では、起業家や新興企業にはどのようなチャンスがあると思いますか?

シュミットフーバー: 私たちが設立した会社、NNAISENSE の観点からお話します。発音は「ネイセンス」（英語で「誕生」）と似ていますが、一般的なニューラルネットワーク人工知能に基づいているため、綴りは異なります。現在、AI による利益のほとんどは仮想世界で得られ、広告のマーケティングや販売に使用されています。これは、アリババ、アマゾン、フェイスブック、テンセント、グーグル、百度など、環太平洋地域の大手プラットフォーム企業が行っていることです。しかし、マーケティングが世界経済に占める割合はほんの一部に過ぎません。映画と同じように、より大きな部品も人工知能によって侵略されます。私たちのようなスタートアップにはチャンスがたくさんあります。

Forbes China: ChatGPT によってもたらされた素晴らしい体験を考慮して、人工知能が人間の仕事を置き換える傾向は何だと思いますか?

Schmidhuber: ChatGPT を使用すると、ユーザーは突然、すべてのトピックや質問に対してよく練られた答えを持っているような非常に知識豊富な人物と話しているような気分になれます。 「これについての記事の要約をこのライターのスタイルで書く」などの複雑なタスクでも、多くの場合、後で簡単に編集するだけですぐに解決できることがあります。このようなスマートな AI コンパニオンによって、多くのデスクタスクが大幅に簡素化されるでしょう。

現在、ある程度のパフォーマンスを発揮している人工知能の種類はどれですか?その答えは、デスクトップ ワーカーに役立つ人工知能です。例としては、法律試験の質問に答えること、会社の文書を要約すること、仮想世界 (ビデオ ゲームなど) で敵に勝つこと、またはインターネット上のユーザーの動きを追跡して、ユーザーに合わせた広告を配信することが含まれます。

Forbes China: 倫理、道徳、プライバシー、セキュリティの観点から AI が直面する課題についてどう思いますか?

シュミットフーバー: それは AI 間の軍拡競争となり、一部の AI は特定の倫理的および道徳的基準、プライバシーとセキュリティを求めて戦いますが、他の AI は慈善的ではありません。

Forbes China: 現在の AI 開発はあなたの予測と一致していますか?ディープラーニングは今後どのように発展していくのでしょうか？

シュミットフーバー: 15歳くらいからの私の主な目標は、私よりも賢い自己改善型人工知能を構築して引退することでした。現在の展開は私の予測と一致しています。

1941 年以来、5 年ごとにコンピューターの価格が 10 分の 1 になったことを思い出してください。この指数関数的な傾向を単純に推定すると、21 世紀には人間の全脳の生の計算能力の 1,000 倍もの安価なコンピューターが登場すると予測されます。間もなく、これらのデバイスが数百万、数十億、数兆台登場するでしょう。

以下は、人工知能に関する一連の問題に関するフォーブス寄稿者ヘシー・ジョーンズとシュミットフーバーとの会話です。文章が明確で一貫性があることを保証するために、以下は編集されています。

ジョーンズ: あなたは AI 兵器に関する警告書に署名しました。しかし、あなたは最近出版された「人工知能における大規模モデル実験の停止: 公開書簡」に署名しませんでした。何か理由がありますか?

シュミットフーバー: 人工知能の危険性について公に警告している人の多くは、単に宣伝を求めているだけだということに気づきました。多くの AI 研究者、企業、政府はこの書簡を完全に無視するため、この最新の書簡が重大な影響を与えるとは思えません。

「私たち」という言葉は、その公開書簡の中で「私たち全員」、つまり人間を指して何度も使用されました。しかし、これまで何度も指摘してきたように、誰もが共感できる「私たち」は存在しません。 「良い」とは何かについて、10 人の異なる人に尋ねれば、10 通りの異なる意見が聞こえるでしょう。これらのビューの中には、完全に互換性のないものもあります。多くの人たちの大きな葛藤を忘れないでください。

書簡には、「そのような一時停止をすぐに導入できない場合は、政府が介入すべきである。」とも書かれているが、問題は、政府が違えば、何が自分にとって良いのか、何が他人にとって良いのかについて、異なる見解を持っていることだ。権力 A は、もし私たちがこれをしなければ、権力 B が私たちに対して有利になるためにおそらく秘密裏にそれを行うだろうと言うでしょう。 C大国もD大国も同様です。

ジョーンズ: 現在の生成 AI テクノロジーに対するこの懸念は誰もが認識しています。さらに、OpenAI CEO のサム・アルトマン氏自身も、このテクノロジーの存在に対する脅威を公に認め、人工知能の規制を求めています。あなたの観点から見ると、AI は人類に存続の脅威をもたらしますか?

シュミットフーバー: 人工知能は確かに兵器化することができ、さまざまな人工知能の軍拡競争が起こることは間違いありませんが、人工知能が新たな実存的脅威をもたらすわけではありません。人工知能兵器による脅威は、核爆弾や水爆による以前の脅威に比べると小さく見えます。私たちは半世紀前の水爆ロケット技術をもっと恐れるべきです。 1961 年のツァーリ ボンバ (1960 年代初頭の冷戦中にソ連が開発した水爆) の破壊力は、第二次世界大戦中のすべての兵器を合わせたものよりほぼ 15 倍でした。 1980年代以来、各国は劇的な核軍縮に取り組んできましたが、世界には依然として、人工知能の助けなしで2時間で人類文明を消滅させるのに十分な量の核弾頭があります。私は、まったく無害な AI 兵器よりも、古代の存在の脅威について心配しています。

ジョーンズ: あなたは人工知能を核爆弾の脅威に例えていますが、現在のテクノロジーは人間によって習得され、「最終的には」それを非常に正確な方法で使用できるようになる危険性があることに気づきました。標的型ドローン攻撃など、グループ内の個人にさらなる危害を与えること。一部の人が指摘したように、これまでになかったツールセットを人々に提供し、悪者がテクノロジーを持っていなかったために以前よりもさらに悪いことをできるようにします。

シュミットフーバー: 原理的には、これは恐ろしいことのように聞こえますが、私たちの既存の法律は、人工知能を活用したこれらの新しい兵器に対処するのに十分です。銃で人を殺したら刑務所行き、ドローンで人を殺した場合も同様です。法執行機関は新たな脅威や新たな武器をよりよく理解し、それらに対抗するためのより優れたテクノロジーを手に入れることができるでしょう。ドローンで遠くから目標を狙うには、ある程度の追跡とある程度の知能が必要で、これは伝統的に熟練した人間によって行われてきましたが、私にとっては、現行兵器のような伝統的な武器の改良版にしか見えません。古い銃よりも少しだけ賢くなっています。

ジョーンズ: 潜在的な実存的脅威とは、人間がこのテクノロジーをどの程度制御できるかということです。私たちは、初期の日和見主義のケースをいくつか見ていますが、あなたが言ったように、前向きな進歩よりもメディアの注目を集める傾向があります。しかし、それはすべてバランスがとれるということでしょうか？

シュミットフーバー: 歴史的に、技術的な進歩が防衛と保護の両方の武器の進歩につながるという長い伝統があります。棒から石、斧から火薬、大砲からロケット、そしてドローンに至るまで、これは人類の歴史に多大な影響を与えてきましたが、歴史を通して、自らの目的を達成するためにテクノロジーを利用する人々もまた、彼らと同じ技術に直面してきました。対戦相手もこのテクニックを自分に対して使うことを学んでいます。これは何千年にもわたる人類の歴史の中で繰り返されてきましたし、これからも続くでしょう。私は、新たな AI 軍拡競争が、昔ながらの核弾頭ほどの存続の脅威をもたらすとは思いません。

あなたは非常に重要なことを言いました。一部の人々はこのテクノロジーのメリットよりもデメリットについて話すことを好みますが、AI 研究開発の 95% は人々をより幸せにし、人間の生命と健康を促進することであるため、これは誤解を招きます。

ジョーンズ: 有益であり、現在の手法を根本的に変えてブレークスルーを達成できる人工知能研究の進歩について話しましょう。

シュミットフーバー: わかりました! たとえば、11 年前、私たちのチームとポスドクの Dan Ciresan は、ディープラーニングを使用した医療画像コンテストで初めて優勝しました。私たちは、無害な細胞と前がん段階の細胞を区別することを目的として、女性の乳房細胞を分析しました。多くの場合、訓練を受けた腫瘍専門医がこれらの決定を下すには長い時間がかかります。私たちのチームはがんについて何も知りませんでしたが、ネットワークが最初は非常に愚かだったにもかかわらず、大量のデータで人工ニューラル ネットワークをトレーニングすることができました。他のすべての方法よりも優れたパフォーマンスを発揮します。今日では、乳がんだけでなく、放射線医学や動脈内のプラークの検出など、多くの分野で使用されています。当社が過去 30 年間にわたって開発したニューラル ネットワークの一部は、現在、何千ものヘルスケア アプリケーションで使用されており、糖尿病や新型コロナウイルス感染症などの病気を検出しています。これは最終的には医療のあらゆる分野に浸透するでしょう。このタイプの AI からの良い結果は、AI を犯罪に使用する人目を引く新しい方法よりもはるかに重要です。

ジョーンズ: アプリケーションは強化された結果の産物です。大規模な導入は、人々が誤った方向に導かれていると信じさせたり、逆にテクノロジーが人々の生活にプラスの影響を与えていると信じさせたりします。

シュミットフーバー: 後者の可能性が高いシナリオです。私たちは、悪い AI ではなく良い AI を必要とするという多大な商業的プレッシャーにさらされています。なぜなら、企業はあなたに物を売りたがるのに、あなたは自分にとって良いと思うものしか買わないからです。したがって、この単純なビジネス上のプレッシャーの下では、悪い AI ではなく、良い AI に大きなバイアスがかかることになります。しかし、人々の生活を改善する人工知能に関するドキュメンタリーよりも、シュワルツェネッガー映画の終末的なシーンの方が人々の注目を集める可能性が高い。

ジョーンズ: 人々は良い物語、つまり敵対者や葛藤がありながらも、最終的にはハッピーエンドを迎える物語に惹かれるのだと思います。これは、人間の本性についてのあなたの評価、そして歴史には暴力的で破壊的な傾向があるにもかかわらず、ある程度は自己修正する傾向があるという事実と一致しています。

シュミットフーバー: 皆さんがご存知のテクノロジーを例に挙げてみましょう - 敵対的生成ネットワーク (GAN、敵対的生成ネットワーク)。これは、フェイク ニュースや偽情報アプリケーションに関連して、今日簡単に使用されています。実際、GAN が発明された目的は、今日の用途とは程遠いものです。

GAN という名前は 2014 年に付けられましたが、基本原理は 90 年代初頭にありました。 30年以上前、私はそれを「人工好奇心」と呼んでいました。これは、小さな 2 つのネットワーク システムに創造性を注入する非常に簡単な方法です。この創造的な AI は、単に人間を卑劣に模倣しようとしているのではなく、独自の目標を作成しています。説明しましょう:

これで 2 つのネットワークができました。ネットワークは出力を生成していますが、それはあらゆるアクションである可能性があります。次に、2 番目のネットワークがこれらのアクションを観察し、それらのアクションの結果を予測しようとします。あるアクションがロボットを動かし、その後何か別のことが起こる一方で、もう一方のネットワークは何が起こるかを予測しようとしているだけです。

ここで、2 番目のネットワークの予測誤差を減らすことで、人工的な好奇心を実現できます。これは、1 番目のネットワークの報酬でもあります。最初のネットワークは報酬を最大化したいと考えているため、2 番目のネットワークを驚かせるような状況、つまり、うまく予測することを学習していない状況を引き起こすアクションを発明します。

偽の画像を出力する場合、最初のネットワークは 2 番目のネットワークをだますのに十分な品質の画像を生成しようとし、後者は環境の反応 (画像は本物か偽物か) を予測しようとします。 ? 2 番目のシステムは、より高い予測力を持とうとしますが、1 番目のネットワークは画像の生成において改良を続け、2 番目のネットワークが画像が本物か偽物かを判断できなくなります。したがって、2 つのシステムは互いに戦争状態にあります。 2 番目のネットワークは予測誤差を削減し続けますが、1 番目のネットワークは予測システムの誤差を最大化しようとします。

このゼロサム ゲームを通じて、最初のネットワークはこれらの説得力のある偽の出力を生成することがますますうまくなり、ほぼ完全に本物に見える画像を生成しました。したがって、ゴッホの興味深い画像セットを入手したら、ゴッホ自身がアートワークを作成しなくても、彼のスタイルを使用して新しい画像を生成できます。

ジョーンズ: 将来について話しましょう。あなたは、「従来の人類は、宇宙全体に知性を広める上で重要な役割を果たさない」と言いました。

シュミットフーバー: まず、2 種類の人工知能を概念的に区別しましょう。最初のタイプの人工知能は、人間によって導かれるツールです。彼らは、糖尿病や心臓病を正確に検出し、病気の発症を事前に防ぐなど、特定のことを行うように訓練されています。この場合、AIのターゲットとなるのは人間です。そしてさらに興味深いのは、AI が独自の目標を設定していることです。彼らは独自の実験を発明し、そこから学び、視野は広がり続け、最終的には現実世界でますます一般的な問題解決者になります。彼らは親の管理下になく、学ぶことのほとんどは自分で考え出した実験を通じて行われます。

たとえば、ロボットがおもちゃを回転させていると、ロボットはカメラからのビデオが時間の経過とともに変化するのを見て、このビデオの変化を学習し始め、特定の方法でおもちゃを回転させる方法を学習します。 . 、その三次元の性質が特定の視覚的な変化をどのように生み出すか。最終的には、まるで小さな科学者のように、重力がどのように機能するか、世界の物理学がどのように機能するかなどを学ぶことになります。

そして、私は何十年も前から、この増幅版の人工知能の科学者たちが、将来さらに視野を広げ、最終的には物理的リソースのほとんどが得られる場所に行き、より大規模でより多くの人工知能を構築したいと考えていると予測してきました。もちろん、これらの資源のほとんどは地球から遠く離れた宇宙にあり、人間にとっては非友好的ですが、適切に設計された AI 制御ロボットや自己複製ロボット工場にとっては友好的です。したがって、ここで私たちはもはや私たちの小さな生物圏について話しているのではなく、代わりに、はるかに大きな宇宙の残りの部分について話しているのです。数百億年以内に、好奇心旺盛で自己改善する人工知能が、人間には不可能な方法で目に見える宇宙に植民地化するでしょう。 SF のように聞こえますが、全面核戦争のような世界的大惨事がこの技術が空に到達する前に阻止されない限り、1970 年代以来、このシナリオに代わる合理的な選択肢を見つけることができませんでした。 ■

Forbes China の独占記事です。許可なく転載しないでください

ヘッダー画像の出典: Getty Images ‍‍‍‍‍‍

エキサイティングな情報を見逃さないでください

▽

以上が破壊をもたらさないことをライフワークとする「現代人工知能の父」ユルゲン・シュミットフーバーへの独占インタビューの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。