最近、DeepMind の創設者である Demis Hassabis が Lex Fridman のポッドキャストにゲストとして出演し、多くの興味深い点について話しました。
ハサビス氏はインタビューの冒頭で、チューリングテストは何十年も前から提案されているベンチマークであり、チューリングテストは人間の行動や反応に基づいているため時代遅れであると率直に述べました。 AIシステムには意識があるというGoogleのエンジニアが少し前に報告したのと同様の「茶番」に陥りがちだ。研究者は言語モデルと対話し、客観的ではないモデルの判断に自分たちの認識をマッピングする。
2015 年の設立以来、人工知能分野における DeepMind の開発は、何度も世界に驚きをもたらしてきました。ゲーム プログラム AlphaGo からタンパク質予測モデル AlphaFold に至るまで、深層強化学習の技術的ブレークスルーは、科学者たちは長年にわたって主要な科学的問題に取り組んできましたが、その背後にあるチームの考え方と動機は興味深いものです。
ハサビス氏へのこのインタビューでは、AI が人間の知能の限界を超えるという興味深い点についても語っています。人間は時間の経過とともにこの 3 次元の世界に慣れてきたかもしれませんが、AI は 12 次元から世界を理解する知性を獲得し、ツールの性質を取り除くことができるかもしれません。なぜなら、私たちの人間の理解にはまだ多くの欠点があるからです。世界。
以下は Demis Hassabis 氏のインタビューです:
#レックス・フリッドマン: プログラミングが好きになったのはいつですか?
デミス・ハサビス: 私は 4 歳くらいからチェスを始め、8 歳のときにチェスのトーナメントで獲得した賞金で最初のコンピューターを購入しました。Taiwan zxその後、プログラミングに関する本を購入しました。初めてゲームを作るためにコンピュータを使い始めたとき、私はコンピュータに夢中になりました。コンピュータは魔法のようなもので、心の延長だと思いました。コンピュータに何かタスクを依頼すると、次の日目覚めた時にはすでにそれが解決されていたのです。
もちろん、すべての機械はある程度これを行い、人間の自然な能力を強化します。たとえば、人間が走るよりも速く移動できる車などです。しかし、人工知能は機械が行うことのできるあらゆる学習を究極的に表現したものであるため、私の考えは自然に人工知能にも広がりました。レックス・フリッドマン: 人工知能に夢中になったのはいつですか?寝ている間にプログラムを書いて数学的演算を実行できるだけでなく、数学的演算よりも複雑なタスクも実行できることを私が理解し始めたのはいつ頃でしたか?
デミス・ハサビス: それは大きくいくつかの段階に分けることができます。
私は青少年チェス チームのキャプテンでした。10 歳か 11 歳の頃、プロのチェス選手になることを計画していました。これが私の最初の夢でした。 12歳で私はグランドマスターレベルに到達し、ジュディス・ポロガーに次ぐ世界第2位のチェスプレイヤーになりました。チェスのスキルを向上させようとすると、まず思考プロセスを改善する必要がありますが、脳はどのようにしてこれらのアイデアを思いつくのでしょうか?なぜ間違いが起こるのでしょうか？この思考プロセスを改善するにはどうすればよいでしょうか? 80 年代初頭から中期のチェス コンピューターと同様に、私はカスパロフのブランド版を所有することに慣れていました。これは、今日ほど強力ではありませんが、練習することで改善できるものでした。そのとき私は、これはすごい、誰かがこのボードでチェスをプレイできるようにプログラムしたのだ、と思いました。私は、1984 年に出版された David Levy 著の「The Chess Computer Handbook」を購入しました。これは非常に興味深い本で、チェス プログラムがどのように作成されるかを完全に理解することができました。
レックス・フリッドマン: AI との主な関係をいくつか教えていただけますか?ゲーム内で AI システムを作成するには何が必要ですか?
Demis Hassabis: 私は子供の頃からゲームの訓練を受け、その後、ゲームをデザインし、ゲーム用の AI を書く段階を経ました。 1990 年代に私が書いたすべてのゲームには、コア コンポーネントとして人工知能が含まれていました。なぜゲーム業界でこんなことをしたかというと、当時はゲーム業界がテクノロジーの最先端で、ジョン・カーマックやクエイクといった人たちがそれをゲームでやっているように見えたからです。コンピューター グラフィックスのために発明されたものの、後に AI にとって重要であることが判明した GPU のように、私たちは今でもその恩恵を受けています。だから当時私は、このゲームには最先端の人工知能が搭載されているのだと思いました。
初期の頃、私は「Black and White」というゲームに参加しました。これは、コンピューター ゲームにおける強化学習の応用の最も奥深い例です。ゲーム内で小さなペットを訓練することができ、ペットはあなたの扱い方から学習します。下手に扱うと、村人やあなたが管理する小さな部族に対して意地悪になります。でも、上手に扱えば優しくなりますよ。
レックス フリッドマン: ゲームの善と悪のマッピングにより、自分の選択によって結果が決まることに気づきました。ゲームはこのような哲学的な意味をもたらすことができます。
デミス・ハサビス: ゲームは、プレーヤーとしてエンターテイメントを受動的に消費するだけでなく、実際に代表者として積極的に参加できるという点で、ユニークなメディアだと思います。だからこそ、ゲームはある意味、映画や書籍などの他のメディアよりも実体があるのだと思います。
私たちは当初から AI について深く考え、実証済みのオープン AI アルゴリズムの実験場としてゲームを使用してきました。これが、Deepmind が当初、メインのテスト プラットフォームとして多数のゲームを使用した理由です。ゲームは非常に効率的であり、AI システムがどのように改善しているか、その思考の方向性、および改善されているかどうかを確認するための指標が簡単に得られるためです。段階的な改善を行っています。
レックス・フリッドマン: チェスで人間に勝てるマシンを作ることができないと仮定すると、組み合わせの複雑さゆえに囲碁は壊れないゲームだと考える人もいるでしょう。しかし最終的には、AI 研究者がこのマシンを構築し、人間は自分たちが思っているほど賢くないことに気づきました。
デミス・ハサビス: これは興味深い思考の旅です。特に 2 つの視点 (AI クリエイターとゲームプレイヤー) から理解すると、さらに魔法のように感じます。同時に少しほろ苦い。
カスパロフはチェスを知的な「ショウジョウバエ」と呼んでいますが、チェスは当初から AI と密接な関係にあったため、私はこの表現がとても気に入っています。チューリングやシャノンを含むすべての AI 実践者、そしてこの分野の先祖全員がチェス プログラムを書こうとしたことがあると思います。チューリングも有名なチェス プログラムを書きましたが、コンピューターが遅すぎて実行できないため、鉛筆と紙を使って手動でプログラムを実行し、友達と話し合って一緒にプレイしました。
DeepBlue は、チェス、コンピューター、人工知能について私が愛するすべてのものを組み合わせた、大きな瞬間として登場しました。 1996年にはガルリ・カスパロフを破った。その後、ディープブルーよりもカスパロフの心に感銘を受けたのは、カスパロフは人間の精神であり、チェスでコンピューターと同じレベルに到達できるだけでなく、自転車に乗るなど、人間ができることはすべてできるからです。多言語を話すこと、政治活動への参加など。
DeepBlue にはチェスの栄光の瞬間がありましたが、本質的にはチェスのグランドマスターの知識を他のことはできないプログラムに蒸留していました。したがって、このシステムには何か賢い点が欠けていると思います。だからこそ私たちは AlphaGo をやろうとしたのです。
レックス・フリッドマン: チェスの人間的な側面について簡単に話しましょう。ゲームデザインの観点から、チェスはゲームであるからこそ魅力があるとおっしゃいました。ビショップ（チェスの司教）とナイト（チェスのナイト）の間に創造的な緊張があるかどうか説明していただけますか？ゲームが何世紀にもわたって魅力的であり続けられる理由は何でしょうか?
デミス・ハサビス: 私もこの問題について考えています。実際、多くの優れたチェスプレイヤーは、必ずしもゲームデザイナーの観点からこの問題を考えているわけではありません。
なぜチェスはこれほど魅力的なのでしょうか?重要な理由は、さまざまなポジションのダイナミクスだと思います。ポジションがクローズドかオープンかがわかり、ビショップとナイトの動きがどのように異なるかを考え、チェスはこれら 2 つのバランスを取るために進化しました。 、おおよそ 3 点です。
レックス・フリッドマン: つまり、力関係は常に存在し、残りのルールがゲームを安定させようとしていると考えているのですね。
デミス・ハサビス: これは鶏が先か卵が先かというような状況かもしれませんが、この 2 つは美しいバランスを保っています。司教、騎士、騎士は異なる力を持っています。 . しかし、その価値は宇宙全体で平等です。過去数百年にわたって人間によってバランスが保たれてきたため、ゲームに創造的な緊張感が与えられていると思います。
レックス フリッドマン: AI システムは人間をゲームのデザインに引きつけることができると思いますか?
デミス・ハサビス: これは興味深い質問です。創造性が、何か独創的で目的に役立つものを思いつくことであると定義される場合、最低レベルの創造性は補間された表現のようなものであり、基本的な AI システムはこの能力を備えています。何百万もの猫の写真を見せてから、通常の猫を見せます。これは補間と呼ばれます。
AlphaGo と同様に、推測することができます。 AlphaGo は何百万もの対局を行った後、ゲーム内で 37 手を打つなど、素晴らしい新しいアイデアをいくつか思いつきました。これは、私たちが何百年、何千年もゲームをプレイしてきたにもかかわらず、人類が思いつきもしなかった戦略を提供します。 。
この上にはもう 1 つのレベルがあります。それは、既成概念にとらわれずに考えて真のイノベーションを実行できるかどうかです。手を考える代わりにチェスを発明できませんか?チェス、あるいはチェスや囲碁に似たものが発明される可能性はあるでしょうか?
いつか AI がそれを実現できると思いますが、問題はこのタスクをプログラムにどのように割り当てるかです。私たちはまだ、高レベルの抽象概念を人工知能システムに具体化することができず、高レベルの概念や抽象概念を真に理解するという点ではまだ何かが欠けています。現状では、それらを組み合わせたり合成したりすることはできますし、AI が補間や推論を行うこともできますが、実際にはどれも発明ではありません。
Lex Fridman: ルール セットを考え出して最適化し、そのルール セットに基づいて複雑な目標を策定することは、現時点では私たちにはできません。しかし、特定のルールセットを取得して実行し、AI システムがゼロから学習するのにどれくらい時間がかかるかを確認することは可能でしょうか?
デミス・ハサビス: 実際に考えてみましたが、これはゲームデザイナーにとって素晴らしいことです。ゲームを何千万回もプレイするシステムがあれば、一夜にして自動バランス ルールを実装できるかもしれません。ゲーム内のユニットやルールは、方程式やパラメーターを通じて調整して、ゲームのバランスをより高めることができます。これは、基本セットを与えて、モンテカルロ法検索などを通じてそれを探索するようなもので、非常に強力なツールになります。
そして、自動的にバランスをとるには、通常、何百ものゲームから何千時間ものトレーニングが必要です。StarCraft、Blizzard などのゲームのバランスを取るのは驚くべき作業であり、毎年テスターが必要です。したがって、ある時点でこれらのことが十分に効果的になると、一晩で実行したくなるかもしれません。
レックス・フリッドマン: 私たちはシミュレーションの中で生きていると思いますか?
デミス・ハサビス: はい。ニック・ボストロムが最初にシミュレーション理論を提案したのは有名ですが、私はそれをあまり信じていません。ある意味、私たちはある種のコンピューターゲームの中にいるか、あるいは私たちの子孫が何らかの形で 21 世紀の地球を再形成しているのです。
物理学と宇宙を理解する最良の方法は、情報の宇宙として計算の観点から理解することです。実際、情報は現実の最も基本的な単位です。物質やエネルギーと比較すると、物理学者は E=mc² と言い、これが宇宙の基礎となります。しかし、情報はおそらく宇宙を記述する最も基本的な方法であり、それ自体でエネルギーや物質を適切なものとして特定できると私は考えています。したがって、私たちはある種のシミュレーションの中にいると言えます。しかし、私は何十億ものシミュレーションを捨てるというこうした考えには同意しません。
レックス・フリッドマン: マシンという一般的な用語についてのあなたの理解、つまりコンピューターについての理解に基づいて、宇宙にはコンピューターの能力を超えるものがあると思いますか?ロジャー・ペンローズの意見に同意しませんか？
デミス・ハサビス: ロジャー・ペンローズは非常に有名で、多くの優れた議論に参加しています。私は彼の古典的な本「皇帝の新しい脳」を読みました。彼は脳内の意識について説明しています。 . さらに量子的なものが必要です。また、私は仕事の中で、実際にチューリング マシンや古典的コンピューティングを限界まで押し上げることについて、よく考えてきました。古典的コンピューティングの限界は何ですか?また、私は神経科学も研究しました。これが、神経科学または生物学の観点から脳内に量子の存在があるかどうかを確認するために、博士課程でこの方向を選択した理由です。
これまでのところ、ほとんどの神経科学者や生物学者は、脳内の量子システムや効果の証拠はなく、そのほとんどは古典的な理論と生物学の知識を使用して説明できると言うでしょう。しかし同時に、AI システムを含め、チューリング マシンができることから始めることは、特に過去 10 年間において継続的なプロセスです。普遍的なチューリング マシンや古典的なコンピューティング パラダイムがどこまで実現できるかは賭けませんが、おそらく脳内で起こっていることは、形而上学や量子的なものを必要とせずにマシン上でエミュレートできるでしょう。
#2Al for Scienceレックス・フリッドマン: さて、AlphaFold について話しましょう。人間の思考もこの同様の神経から来ていると思いますか?精神的に直接働くのではなく、サイバー、バイオコンピューティングをどろどろに？
デミス・ハサビス: 私の意見では、宇宙最大の奇跡は、私たちの頭蓋骨の中にわずか数ポンドのドロドロが存在することです。頭蓋骨は脳でもあり、最大のものでもあります。宇宙の既知の構造、複雑な物体。これは驚くほど効率的なマシンだと思います。それが私が常に AI を構築したいと思っていた理由の 1 つです。 AI のようなエージェントを構築し、それを人間の心と比較することで、心の独自性とその本当の秘密、意識、夢、創造性、感情、その他すべてについて歴史的に疑問を抱くことができるかもしれません。
現在、これを実現するためのツールが多数あります。すべての神経科学ツール、FMI マシンは記録でき、インテリジェントなシステムを構築するための AI コンピューティング能力もあります。人間の心ができることは驚くべきことであり、人間がコンピューターのようなものを作り、これらの問題について考え、研究しているという事実は、人間の心が証明されており、宇宙と人間の心をより明確に理解するのに役立ちます。私たちは、宇宙が自らの美しさを理解しようとするメカニズムであるとも言えます。
別の観点から見ると、生物学の基本的な構成要素は人間の心と体の理解にも使用できます。基本的な構成要素から始めてモデルをシミュレーションして構築することは驚くべきことです。より大きな構成要素を構築することもできますそして、より大きく、より複雑なシステム、さらには人間の生物学全体まで。
もう一つ、解決不可能と考えられているタンパク質のフォールディング問題がありますが、AlphaFold はタンパク質のフォールディング問題を解決しましたが、これは構造生物学の歴史における最大の進歩の 1 つです。タンパク質はすべての生命にとって不可欠であり、体のあらゆる機能はタンパク質に依存しています。
タンパク質は、その基本的な構成要素と考えることができる遺伝子配列 (アミノ酸配列とも呼ばれます) によって指定されます。それらは体内および自然界で三次元構造に折り畳まれ、この三次元構造が体内での機能を決定します。さらに、薬や病気に興味があり、薬剤化合物を使ってタンパク質の作用を阻害したい場合には、タンパク質表面の結合部位の立体構造を理解することが前提条件となります。
注: 2021 年 7 月、DeepMind は、欧州分子生物学研究所 (EMBL) と協力して構築されたデータベースを通じて、AlphaFold の予測結果を初めて一般公開しました。データベースには、すべてのヒトタンパク質の 98% が含まれていました。
レックス フリッドマン: タンパク質の折り畳み問題の本質は、アミノ酸配列から一次元の文字列を取得できるかということです。三次元構造をコンピューターで瞬時に予測できるのでしょうか?これは 50 年以上にわたり生物学における大きな課題でした。ノーベル賞受賞者のクリスチャン・アンフィンセンは 1972 年に、アミノ酸配列から三次元構造への移行は達成できるのではないかと推測していると初めて述べました。
デミス・ハサビス: クリスチャン・アンフィンセンによるこの文は、閉じ込められてあまりうまく行われていない計算生物学の 50 の周辺分野全体に扉を開きました。
AlphaFold が登場する前は、これはすべて実験的に行われていました。タンパク質を結晶化するのは非常に困難でした。一部のタンパク質は膜タンパク質のように結晶化できないため、高価な電子顕微鏡または X 線結晶構造解析を使用する必要があります。三次元構造を取得し、その構造を視覚化するために使用できます。 AlphaFold を使用すると、2 人で数秒で三次元構造を予測できます。
Lex Fridman: データセットがあり、このデータセットに基づいてトレーニングされ、アミノ酸をマッピングする方法が学習されています。信じられないことに、この小さな化学コンピューターは分散方式で計算を非常に高速に行うことができます。
デミス・ハサビス: おそらく、生命の起源について議論する必要があるでしょう。実際、タンパク質自体は、驚くべき小さな生物学的かつ動物的な機械です。レビンタールのパラドックスを提唱した科学者サイラス レビンタールは、平均的なタンパク質の長さは 2,000 アミノ酸塩基であり、タンパク質の折り畳み方法は 10 ～ 300 種類ある可能性があると大まかに計算しました。そして自然界では、物理学がこの問題を何らかの形で解決し、タンパク質は数ミリ秒、あるいは 1 秒のうちに体内で折りたたまれます。
レックス・フリッドマン: シーケンスには独自の形成方法があり、広大な可能性の真っただ中で安定を保つ方法を見つけます。場合によっては機能不全などの症状が発生することもありますが、ほとんどの場合、それは明らかではない独自のマッピングです。
デミス・ハサビス: 健康には通常、独自のマッピングがある場合、病気となると、正確には何が問題になるのでしょうか?たとえば、アルツハイマー病に関する仮説の 1 つは、ベータアミロイドが間違った方法で折りたたまれ、その結果、アミロイドがニューロンに絡まるというものでした。
したがって、健康、機能、病気を理解するには、それらがどのように構造化されているかを理解する必要があり、これらが何をしているのかを知ることは非常に重要です。次のステップでは、タンパク質が何かと相互作用すると、その形状が変化します。したがって、生物学では、それらは必ずしも静的であるとは限りません。
Lex Fridman: おそらく、ゲームとは異なる実際の物理システムである AlphaFold について、いくつかの解決策を提供できるかもしれません。この中で解決するのが非常に難しいことは何ですか?どのソリューションが関連していますか?
デミス・ハサビス: AlphaFold は、私たちがこれまでに構築した中で最も複雑で、おそらく最も意味のあるシステムです。
私たちは元々、AlphaGo と AlphaZero をゲーム関連のものとして構築しましたが、最終的な目標は単にゲームを解読するだけでなく、それらを一般的な学習システムのガイドとして使用し、現実世界の課題を解決することです。私たちはタンパク質のフォールディングなどの科学的課題にさらに取り組みたいと考えており、AlphaFold は私たちの最初の重要な実証ポイントです。
データの観点から見ると、イノベーションの数には、タンパク質のフォールディングを解明するために組み合わせる約 30 の異なる構成アルゴリズムが必要です。大きなイノベーションのいくつかは物理学と進化生物学に関するもので、ハードコーディングを設定してタンパク質の結合角などを制限しますが、学習システムには影響を与えず、システムは引き続き例から物理学を学習できます。
タンパク質が約 150,000 個しかないと仮定すると、40 年間の実験の後でも、発見されるタンパク質の構造は約 50,000 個だけです。トレーニング セットは通常使用されるものよりもはるかに小さいですが、自己抽出などのさまざまなテクニックが使用されます。したがって、AlphaFold を使用して非常に信頼性の高い予測を行う場合、AlphaFold をトレーニング セットに戻してトレーニング セットを大きくすることが重要です。
実際には、この問題を解決するには多くの革新が必要です。AlphaFold が生成するのは、タンパク質内のすべての分子間のペアごとの距離のマトリックスであるヒストグラムです。これらは個別に最適化する必要があります。3 つのプロセスを作成するプロセス次元構造。 AlphaFold を真にエンドツーエンドで作成するには、中間のステップを省略して、アミノ酸の塩基配列から三次元構造まで直接行うことができます。
機械学習からも、エンドツーエンドであればあるほど、システムの性能が向上することがわかり、システムは人間の設計者よりも制約を学習するのが得意です。この場合、3D 構造は、手動で次のステップに進む必要がある中間ステップがあるよりも優れています。最良のアプローチは、勾配と学習をエンドポイントから目的の最終出力、入力までシステム全体に流すことです。
レックス・フリッドマン: アルファフォールドのアイデアに関して、それは生物学の長い旅の初期のステップかもしれません。同じ方法で、より複雑な生物学的システムの構造と機能を予測できると思いますか? 、複数タンパク質の相互作用? 機能; 出発点として、ますます大規模なシステムをシミュレートし、最終的には人間の脳や人体のようなものをシミュレートできますか?これは長期的なビジョンだと思いますか?
デミス・ハサビス: もちろん、私たちが十分に堅牢な生物学的システムを手に入れたら、病気の治療と生物学の理解が私のやるべきことリストの最上位にあり、それは重要なことの 1 つです。私が個人的に AlphaFold を推している理由は、AlphaFold は始まりに過ぎないからです。
AlphaFold はタンパク質の構造という大きな問題を解決しますが、生物学は動的であり、私たちが研究するものはすべてタンパク質と液体の結合です。分子と反応し、経路を構築し、最終的には仮想細胞を形成することが私の夢です。私はクリック研究所の生物学者ポール・ナースを含め、多くの生物学者の友人と話をしてきました。生物学や病気の発見にとって、仮想セルの構築は素晴らしいものです。仮想セル上で多くの実験を行い、最終段階で研究室に入って検証できるからです。
新薬の発見に関しては、ターゲットを特定してから候補薬が見つかるまでに約10年かかりますが、作業のほとんどを仮想セルで実行できれば、その時間は桁違いに短縮される可能性があります。 。仮想細胞を実現するには、生物学のさまざまな部分の相互作用についての理解を深めなければなりません。私たちは数年ごとにポールとこのことについて話します。昨年の AlphaFold の後、私は今がついにそれを実行できる時だと言いました、そして Paul はとても興奮していました。私たちは彼の研究室と協力関係にあります。 AlphaFold に基づいて、生物学において驚くべき進歩が起こるだろうと私は信じていますし、AlphaFold がオープンソース化された後、すでにこれを行っているコミュニティがあることもわかります。
いつか、人工知能システムは、インターネットや公衆衛生上のコンテンツを処理するだけでなく、一般相対性理論のような問題も解決できるようになるかもしれないと私は思います。それが何を思いつくかを見るのは非常に興味深いでしょう。これは、囲碁の良い手を思いつくだけではなく、囲碁を発明する創造性についての以前の議論に少し似ています。ノーベル賞のような賞を獲得したければ、人間の科学者や創造者に指示させるのではなく、囲碁を発明する必要があっただろう。
レックス・フリッドマン: 多くの人は科学を巨人の肩の上に立っていると考えていますが、問題はあなたが実際に巨人の肩の上にどれだけ乗っているのかということです。おそらくそれは、異なるタイプの過去の結果を吸収し、最終的には新しい視点を備えた画期的なアイデアを提供しているだけかもしれません。
デミス・ハサビス: これは大きな謎です。私は、過去 10 年、さらには今後数十年の間に、さまざまな分野で多くの新しい大きな進歩が現れると信じています。交差点では、一見無関係に見えるこれらのフィールドの間にいくつかの新しいつながりが見つかります。深い思考は、神経科学的思考と AI 工学的思考を横断した分野であると主張することもできます。
Lex Fridman: あなたは「深層強化学習によるトカマクプラズマの磁性制御」に関する論文を持っているので、深層強化学習を使用して核融合を解き、高温プラズマの制御を行うことを目指しています。なぜ AI が最終的にこの問題を解決できるのか説明できますか?
デミス・ハサビス: ここ 1 ～ 2 年で、私たちの仕事は非常に興味深く、実り多かったです。私が長年にわたって集めてきた科学分野に関連した、夢のプロジェクトの多くを立ち上げました。数年のプロジェクト。私たちがこれを推進する手助けができれば、変革的な影響を与える可能性があり、科学的な挑戦自体は非常に興味深い問題です。
現在、核融合は主に物理学、材料、科学、工学の分野で多くの課題に直面しており、これらの大型核融合炉をどのように構築してプラズマを封じ込めるかという課題に直面しています。
私たちはローザンヌ工科大学（EPFL）およびスイス工科大学と協力しており、彼らは私たちに使用を許可してくれる試験炉を持っています。それは、あらゆる種類のかなりクレイジーな実験を試みる素晴らしい実験炉です。私たちが注目しているのは、核融合などの新しい分野に参入する際に、何がボトルネックになっているのかということです。第一原理から考えると、核融合の動作を妨げる根本的な問題は何でしょうか?
この場合、プラズマ制御は完璧です。このプラズマは摂氏 100 万度で太陽よりも熱く、明らかにこれを含む物質は存在しません。したがって、非常に強い超伝導磁場がなければなりませんが、問題は、プラズマが非常に不安定であるということです。原子炉の中に多くの星を保持しているようなもので、プラズマが何をするかを事前に予測し、磁場を何百万もの単位で動かすことで制御できます。次に何をするか。
これを強化学習の予測問題として考えると、これは完璧に思えます。磁場を移動したり切断したりできるコントローラーはありますが、以前は従来のコントローラーでした。瞬間的にプラズマに反応できない、ハードコードする必要があるという制御可能なルールがあればいいのにと思います。
レックス・フリッドマン: AI がついに核融合を解決しました。
デミス・ハサビス: 昨年、私たちはプラズマを特定の形状に固定することでこの問題を解決するという論文をネイチャー誌に発表しました。実際には、プラズマをさまざまな形に彫刻し、制御し、記録的な時間保持するのとほぼ同じです。これは核融合における未解決の問題です。
それを構造に含めて維持することが重要であり、ドロップなどと呼ばれる、エネルギー生成を促進するいくつかの異なる形状があります。私たちは、核融合分野で解決できる次の問題は何なのかを検討するために、多くの核融合スタートアップと話し合っています。
Lex Fridman: 論文のタイトル「分数電子問題の解決による密度関数のフロンティアの推進」にも魅力的な側面があります。この作品について説明してもらえますか？将来、AI は任意の量子力学システムをモデル化してシミュレーションできるようになるでしょうか?
デミス・ハサビス: 人々は、2 つの要素が一緒になったときにどのように相互作用するかを観察しながら、密度関数の近似と電子雲の説明を書こうとしました。そして、私たちがやろうとしているのは、シミュレーションを学習し、より多くの種類の化学を説明できる化学関数を学習することです。
これまでのところ、AI は高価なシミュレーションを実行できますが、対象となるのは非常に小さく非常に単純な分子だけであり、大きな材料をシミュレーションすることはできませんでした。したがって、関数の近似を構築してその方程式を示し、電子が何をしているかを説明した後、すべての材料科学と特性は電子がどのように相互作用するかによって支配されます。
Lex Fridman: 実際のシミュレーション結果に近づけるために、関数を使用してシミュレーションを要約します。このタスクの難しさは、複雑なシミュレーションを実行し、初期条件とシミュレーション パラメーターからマッピング タスクを学習し、関数を学習することにあります。そうなるだろうか？
デミス・ハサビス: これは難しいですが、良いニュースは、私たちがそれをやったということです。コンピューティング クラスター上で多数のシミュレーション、分子動力学シミュレーションを実行できるようになりました。 , そのため、大量のデータが生成されます。この場合、データが生成される。そこで、必要なだけデータを作成できるゲームエミュレータを使用してデータを生成します。クラウドに無料のコンピューターがあれば、これらの計算を実行できます。
レックス・フリッドマン: 生命の起源をどのように理解していますか?
デミス・ハサビス: AI の究極の用途は、科学を極限まで加速することだと思います。知識の木のようなものです。想像すると、これが宇宙で得られる知識のすべてですが、これまでのところ、私たちはその表面をかろうじてなぞったにすぎません。 AI はこのプロセスをスピードアップし、この知識ツリーを可能な限り探索します。
レックス・フリッドマン: 直感的には、人間の認知の限界を考えると、人間の知識の木は非常に小さいことがわかります。ツールがあっても、まだ理解できないことはたくさんあります。これが、人間以外のシステムがさらに進化できる理由かもしれません。
デミス・ハサビス: はい、その可能性は非常に高いです。
しかしまず、これらは 2 つの異なるものです。私たちが今日何を理解しているのか、人間の心は何を理解できるのか、私たちが理解したい全体像は何なのか、ここに 3 つの同心円があります。これらを 3 本の大きな木と考えることも、この木の枝をさらに探索することもできます。 AI を使ってさらに詳しく調べていきます。
さて問題は、私たちが理解できるものの全体とは何かと考えると、シミュレーションの外のことや宇宙の外のことなど、理解できないものもあるかもしれません。
レックス・フリッドマン: 人間の脳は時間の経過とともにこの三次元世界の状態に慣れてしまっているからです。
デミス・ハサビス: しかし、私たちのツールはそれを超えることができます。 11 次元または 12 次元にすることができます。
私がよく挙げる例は、ゲイリー・カスパロフとチェスをしたとき、チェスのようなことについて話し合いました。チェスがとても上手な人なら、ゲイリーの手を思いつくことはできませんが、彼は説明してくれるでしょう。これは事後推論と考えることができます。さらに詳しい説明があります。おそらく、これを発明することはできませんが、ヴィヴァルディやモーツァルトを鑑賞し、その美しさを鑑賞するのと同じように、理解して鑑賞することはできます。
レックス・フリッドマン: もっと突飛な質問をしたいのですが。たとえば、地球の外に異星文明が存在すると思いますか?
デミス・ハサビス: 私の個人的な意見は、現時点では私たちは孤立しているということです。私たちはすでに、宇宙で他の文明からの信号を見つけようとするさまざまな天体望遠鏡やその他の検出技術を持っていますが、多くの異星文明が同時にこれを行っている場合、宇宙から騒々しい音が聞こえるはずです。しかし実際には、信号を受信できませんでした。
多くの人は、世界には異星文明が存在すると主張するでしょうが、私たちは実際にそれらを適切に探索したことがないか、間違った波長帯を探索したか、間違った機器を使用した可能性があります。エイリアンは非常に異なる形態で存在します。 「しかし、私はこれらの意見には同意しません。私たちは実際に多くの探査を行ってきました。本当に地球外文明がそんなにたくさんあるのなら、私たちはずっと前にそれらを発見していたはずです。」
興味深いことに、地球が孤独な文明である場合、グレート フィルターの観点からすると、これは非常に慰めになります。これは、私たちがグレート フィルターを通過したことを意味します。
生命の起源についての先ほどの質問に戻りますが、生命は信じられないほどの出来事から始まりましたが、これらのことがどのように起こったのかは誰も知りません。地球以外のどこかでバクテリアのような単細胞生命体が存在していても驚かないと思います。しかし、ミトコンドリアを捕捉して私たち自身の目的に使用する能力に基づいて、多細胞生命の出現は前例のないほど困難です。
図: デミス・ハサビスが言及した偉大なフィルター理論
レックス・フリッドマン: 真の知性を得るには意識が必要だと思いますか? ?
デミス・ハサビス: 私は個人的に、意識と知恵は二重に分離されていると信じています。そのため、知恵がなくても意識を達成することはできますし、その逆もまた同様です。
たとえば、多くの動物は自己認識があり、社交的で夢を見ることもできます。動物はある程度の自己認識を持っていると定義できますが、知的ではありません。しかし同時に、あるタスクでは非常に賢い人工知能は、チェスをしたり、他のタスクをうまく実行したりできますが、自己認識を持っていません。
レックス フリッドマン: 少し前に、Google のエンジニアは、特定の言語モデルには知覚力があると考えていましたが、知覚力のある言語モデルに遭遇したことがありますか?システムが「認識」されている場合、この状況をどのように理解しますか?
デミス・ハサビス: 私は、世界中のどの AI システムも意識や感覚を持っているとは思いません。これが、毎日 AI と対話するときの私の本当の気持ちです。いわゆる知覚は私たちの脳そのものの投影に近く、言語モデルであり知恵と密接に関係しているため、人間はシステムを擬人化することが容易です。チューリングテストは人間の反応や判断に基づいているため、私がチューリングテストには欠陥があると考えるのはこのためです。
私たちは、ダニエル・デネットやデイヴィッド・チャーマーズのような一流の哲学者や、意識について深く考えてきた他の人々と意識について話し合うべきです。意識の定義は現在一般的に受け入れられているものはありませんが、敢えて言うなら情報を処理する際に生じる感覚だと思います。
レックス・フリッドマン: 暗い、個人的な質問をさせてください。世界で最も強力な超人工知能システムを作成すると言いました。古いことわざにあるように、絶対的な権力は腐敗します。システムを制御する可能性が最も高いのはあなたであるため、絶対的な権力は腐敗する可能性が高くなります。検討していただけますか?
デミス・ハサビス: 私はこの腐敗に対する防御策について常に考えています。
人類にとって最善の利益となるツールやテクノロジーにより、私たちは多くの困難な課題に直面する急進的な世界に突入することができます。 AI は問題の解決に役立ち、最終的には人類を究極の繁栄に導き、さらにはエイリアンを発見することもできます。 AIの作成者、AIが依存する文化、AIが持つ価値観、AIシステムの構築者はすべて、AIの開発に影響を与えます。たとえ AI システムが自ら学習するとしても、その知識の多くには、その作成者の特定の既存の文化や価値観の残滓が組み込まれています。
異なる文化により、私たちはこれまで以上に分断されています。おそらく、私たちが極度に豊かな時代に入り、資源が不足しなくなると、激しい競争は必要なくなり、より良い協力へと移行できるようになるでしょう。
レックス・フリッドマン: 資源が大幅に制限されると、いくつかの残虐行為が発生します。
デミス・ハサビス: 資源不足は、競争と破壊の原因の 1 つです。人類は皆、親切で安全な世界に住みたいと望んでいます。そのため、私たちは次の問題を解決する必要があります。希少性の質問です。
しかし、これだけでは平和を達成するのに十分ではありません。腐敗を生み出すものは他にもあるからです。 AI は 1 人の個人や組織によって運用されるべきではありません。私は、AI は世界、人間のものであるべきであり、誰もが AI に対して発言権を持つべきだと思います。
レックス・フリッドマン: 高校生や大学生に何かアドバイスはありますか? 若者が AI に携わりたい、あるいは自分の力で世界に影響を与えたいという願望を持っている場合、どうすればそれを実現できますか?自分の心からの仕事?誇りに思えるキャリア?理想の人生を見つけるにはどうすればいいですか？
デミス・ハサビス: 私はいつも若者に 2 つの文を言いたいのですが、最初の文は「あなたの本当の情熱はどこにありますか?」です。若者はできるだけ世界を探検すべきです。私たちが若いときは、十分な時間があり、冒険のリスクを冒すことができます。自分独自の方法で物事間のつながりを見つけることは、自分の情熱を見つけるための素晴らしい方法だと思います。
2 番目の文は、「自分自身を知れ」です。最適な働き方、最適な労働時間、最適な学習方法、ストレスへの対処方法を理解するには、多くの時間がかかります。若者は、さまざまな環境で自分自身を試し、弱点を改善し、自分にしかないスキルや強みを見つけ、それを磨くことが、この世界での将来の価値観になります。
これら 2 つを組み合わせ、情熱を見つけ、独自の強力なスキルを開発できれば、信じられないほどのエネルギーを獲得し、世界に大きな変化をもたらすことができるでしょう。
以上がデミス・ハサビス氏: AI は私たちが想像していたよりも強力ですの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。
![[Web フロントエンド] Node.js クイック スタート](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
