元 Tesla 取締役で OpenAI の専門家である Karpathy 氏: 自動運転に気を取られていました。AI エージェントが未来です!

最近、OpenAI の共同創設者であり、TeslaAI の元ディレクターであり、現在は OpenAI に戻っている Andrej Karpathy 氏が、開発者イベントで AI エージェントに関する見解を共有しました。

7 年前、AI エージェントを研究する時期はまだ成熟していませんでした。

彼は OpenAI での初期の仕事について初めて話しました (2016 年) ）、当時の業界のトレンドは、強化学習手法を使用して AI エージェントを改善する方法を研究することでした。

多くのプロジェクトが、Atari のようなゲームをベースにした AI プレーヤーを作成しています。

写真

当時彼がやりたかったのは、より幅広い用途を持つ製品でした。

しかし、当時の技術的な限界により、結果は芳しくなかったので、彼と OpenAI は方向を変え、より大きな言語モデルの開発を開始しました。

もちろん、この間は自動運転に気を取られていました。

しかし、5 年が経った今、AI エージェントは再び非常に有望な方向性になりました。

AI エージェントを研究するための新しい技術的手段が登場したため、状況は 2016 年とはまったく異なります。

最も単純な例は、2016 年のように強化学習手法を使用して AI エージェントを研究する人はもういないということです。

現在の研究方法と方向性は、当時は想像もできませんでした。

AI エージェントはクレイジーな未来を表しますが、それは少し遠いかもしれません

将来、AGI が登場することができれば、 AIエージェントの能力を最大限に発揮します。

将来の AI エージェントは 1 人の個人ではなく、多くの AI エージェント組織、あるいは AI エージェント文明が存在することになるでしょう。

写真

これは非常にエキサイティングな、さらにはクレイジーな未来になる可能性があります。

しかし同時に、誰もが目を覚まし、落ち着いていなければなりません。

テクノロジーのトレンドによっては、簡単に考えたり想像したりできる場合もありますが、製品を実装するのは難しいからです。

自動運転など、多くのテクノロジーがこのカテゴリに分類されます。

技術的なビジョンを思い描くのは簡単で、街区を走行する車のデモンストレーションも簡単に作成できますが、製品を作成するには 10 年かかる場合があります。

同様に、VR も同じ状況です。

写真

AI エージェントもこのテクノロジーのカテゴリに属する​​可能性があります。適用シナリオは容易に想像でき、その見通しは次のとおりです。しかし、それには長期にわたる技術開発と蓄積が必要です。

AI エージェントは神経科学からインスピレーションを得る必要がある

ディープ ラーニングの初期開発と同じように、AI エージェントの開発は次のことからインスピレーションを受ける可能性があります。神経科学。

AI エージェントと神経科学の関係について考えるのは興味深いです。

特に現在、多くの人が大規模な言語モデルを AI エージェント ソリューションの一部と考えています。

しかし、人間のすべての認知能力を備えた完全なデジタル エンティティを構築するにはどうすればよいでしょうか?

明らかに、私たちは皆、自分たちが行っていることを計画し、考え、反映するための何らかの基礎的なシステムが必要であることに同意します。

これは神経科学が役立つかもしれません。

たとえば、海馬は脳の非常に重要な部分です。

しかし、記憶を保存したり、タグ付けや検索を実装したりするために、AI エージェントの中で海馬の役割を果たすのは何でしょうか?

私たちは視覚野と聴覚野を構築する方法については一般的に理解していますが、AI エージェントにおいてそれが何を意味するのか正確にはわかっていないことがまだたくさんあります。

たとえば、潜在意識の座である視床は、AI エージェントでは何に相当するのでしょうか?

#これらは非常に興味深い質問です。

私は特別にデイビッド・イーグルマン著の神経科学に関する本「脳と行動」を持ってきましたが、この本は非常に興味深く、啓発的でした。

初期の AI 研究がニューロンを設計するときに行ったように、神経科学から興味深いインスピレーションを引き出すことは、私たちがもう一度試すべき方向かもしれません。

ここにいる全員が業界の最前線にいる

必ずしもご存知ないかもしれませんが、ここにいる全員が構築した AI エージェント今日ではすでに業界の最前線にあり、最先端の AI エージェント機能を備えています。

現在、OpenAI などの大規模な言語モデルに取り組んでいる機関の中に、この分野の最前線にいる機関はないと思います。

最前線にいるのはここにいる皆さんです。

たとえば、OpenAI は、Transformer 言語モデルのトレーニングに非常に優れています。

#論文で別のトレーニング方法が提案されている場合は、OpenAI 社内 Slack グループの全員で次のように議論します。

「この方法 2 を試してみました」半年前に試しましたが、うまくいきませんでした。」

私たちは、モデルのトレーニング方法の詳細について非常に明確に理解しています。

しかし、AI エージェントに関する論文が出たら、私たち全員が非常に興味を持ち、これはすごいと思うでしょう。

私たちのチームは過去 5 年間を別の場所で過ごしてきたからです。

写真

この分野では、私たちはあなた以上の知識はありませんが、私たちはあなたと同じレベルの競争に立っています。他のみんなも。

だからこそ、ここにいる皆さんは AI エージェントの最前線にいると思いますが、これは AI エージェントの開発にとって非常に重要です。

以上が元 Tesla 取締役で OpenAI の専門家である Karpathy 氏: 自動運転に気を取られていました。AI エージェントが未来です!の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。