ロボットは、特にインテリジェント テクノロジーのサポートにより、無限の可能性を秘めたテクノロジーです。最近、革新的なアプリケーションを備えたいくつかの大規模モデルは、ロボットが世界を認識して理解し、意思決定や計画を立てるのに役立つ、ロボットの知的頭脳の可能性があると考えられています。最近、CMU の Yonatan Bisk 氏と Google DeepMind の Fei Xia 氏が率いる共同チームが、ロボット工学分野における基本モデルの応用と開発を紹介するレビュー レポートを発表しました。
#人類は、さまざまな環境に自律的に適応できるロボットの開発を常に夢見てきました。しかし、この夢の実現は長くて困難な道のりです。
これまで、ロボット認識システムでは通常、従来の深層学習手法が使用されており、教師あり学習モデルをトレーニングするには大量のラベル付きデータが必要でした。ただし、クラウドソーシングを通じて大規模なデータセットにラベルを付けるには、非常にコストがかかります。
さらに、従来の教師あり学習手法には汎化機能に一定の制限があります。これらのトレーニング済みモデルを特定のシナリオやタスクに適用するには、通常、ドメイン適応テクノロジの慎重な設計が必要であり、多くの場合、さらなるデータ収集と注釈が必要になります。同様に、従来のロボットの計画および制御方法でも、環境、エージェント自体、および他のエージェントのダイナミクスを正確にモデリングする必要があります。これらのモデルは特定の環境やタスク用に構築されることが多く、条件が変化するとモデルを再構築する必要があります。これは、古典的なモデルの伝達性能にも限界があることを示しています。
実際、多くのユースケースでは、効果的なモデルを構築するのは費用がかかりすぎるか、まったく不可能です。深層（強化）学習ベースの動作計画および制御方法はこれらの問題の軽減に役立ちますが、依然として分布の変化と汎化能力の低下に悩まされています。
汎用ロボット システムの開発には多くの課題がありますが、自然言語処理 (NLP) とコンピューター ビジョン (CV) の分野は、NLP 大規模な開発を含め、最近急速に進歩しています。言語モデル (LLM)、高忠実度の画像生成のための拡散モデル、強力なビジュアル モデル、およびゼロショット/少数ショット生成などの CV タスクのためのビジュアル言語モデル。
いわゆる「基礎モデル」は、実際には大規模な事前トレーニング モデル (LPTM) です。彼らは強力な視覚能力と言語能力を持っています。最近、これらのモデルはロボット工学の分野にも適用されており、ロボット システムにオープンワールドの認識、タスク計画、さらには動作制御機能を与えることが期待されています。ロボット工学の分野で既存の視覚および/または言語の基本モデルを使用することに加えて、一部の研究チームは、操作のための動作モデルやナビゲーションのための動作計画モデルなど、ロボットタスクの基本モデルを開発しています。これらの基本的なロボット モデルは、強力な汎用化機能を示し、さまざまなタスクや特定のソリューションにさえ適応できます。
ロボットタスクに視覚/言語基本モデルを直接使用する研究者もおり、これはさまざまなロボットモジュールを単一の統一モデルに統合する可能性を示しています。
ロボット分野では視覚と言語の基本モデルが有望視されており、新たなロボット基本モデルも開発されているが、ロボット分野では依然として難しい課題が多い。解決するために。
実際の展開の観点から見ると、モデルは多くの場合、再現不可能であったり、さまざまなロボット形式に一般化できなかったり (複数の身体を備えた一般化)、環境内のどの動作が実行可能であるかを正確に理解することが困難であったりします (または許容されます）。さらに、ほとんどの研究では Transformer ベースのアーキテクチャが使用されており、オブジェクトやシーンの意味論的な認識、タスク レベルの計画、および制御に重点が置かれています。世界力学の基本モデルや記号推論を実行できる基本モデルなど、ロボット システムの他の部分はあまり研究されていません。これらには、クロスドメインの汎化機能が必要です。
最後に、より大規模な実世界のデータと、さまざまなロボット タスクをサポートする忠実度の高いシミュレーターも必要です。
このレビュー ペーパーは、ロボット工学の分野で使用される基本モデルを要約しており、基本モデルがロボット工学分野の中核的な課題の解決または軽減にどのように役立つかを理解することを目的としています。
#このレビューでは、研究者によって使用される「ロボット工学の基礎モデル」という用語は、次の 2 つの側面をカバーしています: (1) ロボット工学の既存の (主要な) モデル 主にゼロショット学習とコンテキスト学習による、視覚および言語モデル。(2)ロボットが生成したデータを使用して、ロボットのタスクを解決するためのロボットの基本モデルを具体的に開発および利用します。彼らは、ロボットの基本モデルに使用された関連論文の手法を要約し、これらの論文の実験結果に対してメタ分析を実行しました。
図 1 は、このレビュー レポートの主なコンポーネントを示しています。
#1. 一般論
ロボット システムは、多くの場合、正確に感知し、その環境を理解すること。また、あるタスクのトレーニング結果を別のタスクに一般化する能力も欠如しているため、現実世界での有用性はさらに制限されます。さらに、ロボットのハードウェアが異なるため、モデルを異なる形式のロボットに転送することも困難です。一般化問題は、ロボットの基本モデルを使用することで部分的に解決できます。
さまざまなロボット形式への一般化というさらなる問題は、まだ答えられていません。
2. データ不足
信頼性の高いロボット モデルを開発するには、大規模で高品質なデータが不可欠です。自動化された値、ロボットの動作軌跡などを含む大規模なデータセットを現実世界から収集する取り組みがすでに始まっています。そして、人間のデモンストレーションからロボットのデータを収集するには費用がかかります。また、タスクや環境が多様であるため、現実世界で十分かつ広範なデータを収集するプロセスはさらに複雑になります。さらに、現実世界でのデータ収集にはセキュリティ上の懸念もあります。
これらの課題に対処するために、多くの研究努力がシミュレートされた環境で合成データを生成することを試みてきました。これらのシミュレーションは非常に現実的な仮想世界を提供し、ロボットがほぼ現実のシナリオでスキルを学習して使用できるようにします。ただし、シミュレートされた環境の使用には、特にさまざまなオブジェクトの点で制限があるため、学習したスキルを現実世界の状況に直接適用することが困難になります。
さらに、現実世界では大規模なデータを収集することは非常に困難であり、これまで使われてきたインターネット規模の画像/テキスト データを収集することはさらに困難です。基本モデルをトレーニングします。
有望なアプローチの 1 つは、図 4a に示すように、さまざまな実験室環境やロボットの種類からのデータをまとめる共同データ収集です。しかし、チームは Open-X 実施形態データセットを詳しく調べたところ、利用可能なデータ タイプの点でいくつかの制限があることを発見しました。
これにより、2 つの質問が生じます: (1) 適切に一般化できるモデルに依存しないポリシーを学習するにはどうすればよいですか? (2) 古典的なモデルベースの手法を適用できるように、適切な世界モデルを学習するにはどうすればよいでしょうか?
4. タスクの仕様
汎用エージェントを実現するための重要な課題は、タスクの仕様を理解し、それをロボットの現在の世界理解に基づいて行うことです。通常、これらのタスク仕様はユーザーによって提供されますが、ユーザーはロボットの認知能力と身体能力の限界について限られた理解しか持っていません。これにより、これらのタスク仕様にどのようなベスト プラクティスが提供できるかだけでなく、これらの仕様の草案が自然で十分に単純であるかどうかなど、多くの疑問が生じます。また、ロボットの能力の理解に基づいてタスク仕様のあいまいさを理解し、解決することも困難です。
ロボットを現実世界に導入する場合の重要な課題は、環境とタスクの仕様に対処することです。本質的な不確実性。不確実性は、情報源に応じて、認識的不確実性（知識の欠如によって引き起こされる不確実性）と偶発的不確実性（環境に固有のノイズ）に分類できます。
不確実性定量化 (UQ) のコストが高すぎるため、研究や応用が持続不可能になる可能性があり、また、下流のタスクを最適に解決できなくなる可能性もあります。基礎となるモデルが大幅にパラメータ化されすぎる性質があることを考慮すると、モデルの汎化パフォーマンスを犠牲にすることなくスケーラビリティを実現するには、基礎となるアーキテクチャの変更を最小限に抑えながらトレーニング スキームを保持する UQ メソッドを提供することが重要です。自身の行動の信頼性の高い推定値を提供し、明確に述べられたフィードバックをインテリジェントに要求できるロボットを設計することは、依然として未解決の課題です。
最近の進歩にもかかわらず、ロボットが経験から学習して戦略を微調整し、新しい環境で安全を保つ能力を確保することは依然として課題です。
このセクションでは、ロボットのベースモデルに関する現在の研究方法を要約します。研究チームは、ロボット工学の分野で使用される基本モデルを、ロボット用基本モデルとロボット基本モデル (RFM) の 2 つの主要なカテゴリに分類しました。
ロボットに使用される基本モデルとは、主にロボットの視覚および言語の基本モデルをゼロサンプル方式で使用することを指します。これは、追加の微調整やトレーニングが必要ないことを意味します。ロボット ベース モデルは、ビジョン言語の事前トレーニング初期化を使用してウォーム スタートしたり、ロボット データセット上でモデルを直接トレーニングしたりできます。
このセクションでは、ロボット工学の分野における基本的な視覚モデルと言語モデルのゼロサンプル アプリケーションに焦点を当てます。これには主に、LLM のコンテキスト学習機能を使用して、タスク レベルおよびモーション レベルの計画とアクション生成に VLM をゼロショット方式でロボット認識アプリケーションに導入することが含まれます。図 6 は、いくつかの代表的な研究成果を示しています。
表からわかるように、すべての基本モデルは、さまざまなロボット モジュールのタスクを一般化するのに優れています。 LLM はタスクの指定に特に優れています。一方、RFM は、ほとんどの RFM がモデルフリーのアプローチであるため、動的モデルの課題に対処するのが得意です。ロボットの知覚の場合、一般化能力とモデルの課題は相互に結びついています。これは、知覚モデルがすでに優れた一般化能力を備えている場合、ドメイン適応や追加の微調整を実行するためにさらにデータを取得する必要がないためです。
さらに、将来の重要な研究方向となるセキュリティ上の課題に関する研究も不足しています。
このセクションでは、データセット、ベンチマーク、実験に関する現在の研究結果を要約します。
言語および視覚データセットから学んだ知識のみに依存することには限界があります。いくつかの研究結果が示すように、摩擦や重量などの一部の概念は、これらのモダリティだけでは簡単に学習できません。
したがって、ロボットエージェントが世界をよりよく理解できるようにするために、研究コミュニティは言語と視覚の領域からの基本モデルを適応させるだけでなく、トレーニングと視覚の開発も進めています。大規模で多様なマルチモーダル ロボット データセット。
現在、これらの取り組みは、現実世界からデータを収集することと、シミュレートされた世界からデータを収集して現実世界に移行することの 2 つの大きな方向に分かれています。それぞれの方向に長所と短所があります。現実世界から収集されたデータセットには、RoboNet、Bridge Dataset V1、Bridge-V2、Language-Table、RT-1 などが含まれます。一般的に使用されるシミュレーターには、Habitat、AI2THOR、Mujoco、AirSim、Arrival Autonomous Racing Simulator、Issac Gym などがあります。
このチームのもう 1 つの大きな貢献は、このレビュー レポートで言及されている論文に対するものです。 -分析は、著者が次の質問を明確にするのに役立ちました:
表 2-7 と図 11 に分析結果を示します。
チームはいくつかの重要な傾向を特定しました:
研究コミュニティ ロボット操作タスクに対する注意の偏り以上がロボティクス: 基本モデルの進捗はどうですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。
![[Web フロントエンド] Node.js クイック スタート](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
