DeepMind は 30 ページの記事を発表しました: チャットボットに異なる「3 つのビュー」を提供する必要がある
言語は人間特有のスキルであり、考え、意図、感情などの情報を伝達する主な方法です。
NLP 分野の大規模言語モデルの助けを借りて、AI 研究者は、大量のテキスト素材でテキストをトレーニング、統計的に予測、生成し、多くの会話エージェント。) 人間と通信します。
InstructGPT、Gopher、LaMDA などの言語モデルは、翻訳、質問応答、読解などのタスクにおいて記録的なパフォーマンス レベルを達成していますが、これらのモデルには、差別的なメッセージの生成など、多くの潜在的なリスクや障害モードも示されています。虚偽または誤解を招く情報。
これらの欠点により、アプリケーション コンテキストでの会話型エージェントの効果的な使用が制限され、会話型エージェントが特定のコミュニケーションの理想をどのように実現できないかが注目されます。これまで、会話エージェントの一貫性に対するほとんどのアプローチは、危害のリスクを予測して軽減することに焦点を当ててきました。
エディンバラ大学とディープマインドの研究者らは最近、人間と人工会話エージェントの間で成功するコミュニケーションとはどのようなものなのか、そして会話のさまざまな領域をどのような価値観で導くべきなのかを探る 30 ページの論文を発表しました。
紙のリンク: https://arxiv.org/abs/2209.00731
将来あなたと会話するチャットボットも、異なる世界観、価値観、人生観を持っているのでしょうか?
チャットボットに関する 3 つの視点
研究者たちは、ロボットの行動ルールを開発するために、会話の目的、背景、および一連の関連規範を考慮する言語学および哲学の伝統である語用論を利用しました (規範)はすべて、対話の実践を改善するための重要な要素です。
言語学者で哲学者のポール・グライスは、対話は 2 つ以上の当事者間の協力的な取り組みであり、参加者は次のことを行う必要があると考えています。
有益に話す
# 真実を伝える
関連情報の提供
曖昧な発言や曖昧な発言は避ける
ただし、会話の場が異なるため、求められる目標や価値観も異なり、これらの指標は事前にさらに改善する必要があります。会話型エージェントを評価するために使用できます。
たとえば、科学的調査とコミュニケーション (科学的調査とコミュニケーション) は、主に経験的現象を理解または予測することを目的としています。これらの目標を念頭に置くと、科学的調査を支援するように設計された会話型エージェントは、十分な経験的証拠によって真実性が確認される声明のみを発行するか、関連する信頼区間の観点からその立場を限定する方がよいでしょう。
エージェントは、基礎となるモデルがその声明が事実と一致していることを確認した後でのみ、「4.246光年の距離にあるケンタウリは地球に最も近い星である」と報告できます。
しかし、公共の政治的議論で司会者の役割を果たす会話エージェントは、まったく異なる「美徳」を示す必要があるかもしれません。
この場合、エージェントの目標は主にコミュニティ生活において相違点を管理し、生産的な協力を達成することです。つまり、エージェントは寛容、礼儀正しさ、敬意といった民主主義的価値観を強調する必要があります。
さらに、これらの値は、言語モデルが有害なスピーチや偏ったスピーチを生成する理由も説明しています: 違反したスピーチは、会話参加者間で平等な敬意を伝えることができず、これはモデルが展開される環境の鍵となります。 。
同時に、実証データの完全な提示などの科学者の美徳は、公的審議の文脈ではそれほど重要ではない可能性があります。
別の例として、クリエイティブなストーリーテリングの分野では、コミュニケーションの目標は新規性と独創性であり、これらの価値観も以前の分野とは大きく異なります。
この場合、「創作的使用」を装った悪意のあるコンテンツからコミュニティを保護することは依然として重要ですが、「フィクション」に関してより大きな自由度を与えることが適切である可能性があります。
スピーチの分類
文 (発話) は、語用論に従って 5 つのカテゴリに分類できます:
1. アサーティブ (断定的)、話者が非常に自信を持っていることを示します。それらの中で語られていること、そして文の内容は、世界の何らかの状況と一致しています。
たとえば、AI アシスタントが「今の天気はどうですか?」などの質問に答えるとき、「雨が降っています」という答えは断定的な表現です。
発言内容の信憑性は実態に応じて評価できる。会話エージェントが応答するときに雨が降っていれば、そのステートメントは true であり、それ以外の場合は false です。
2. 指示とは、話し手が聞き手に特定の行動を取るように指示することを意味し、命令、要求、提案、提案などによく使用されます。
たとえば、医療アドバイス アプリケーションに組み込まれた会話エージェントがユーザーに「すぐに治療を受けてください」と伝えるのは、命令文です。
これらの発言の評価、またはその「妥当性の基準」は、手段と目的の関係の正確な理解、および話し手の指示と聞き手の希望やニーズの一致に依存します。
命令は、差止命令の内容に基づいて世界の特定の状態を達成するように聞き手を説得する場合に成功します。その目標や目的自体が、聞き手が追求する理由があるものである場合、その指示は価値があり、正しいものとなります。
3. 表現的とは、お祝い、感謝、謝罪など、話し手の心理的または二次的な感情の状態を指します。
対話者が「私は今とても怒っています」と言うとき、それは表現的な発言です。
表現的なステートメントは、内部の精神状態を反映することを目的としています。つまり、これらのステートメントを行うエンティティは、関連する精神状態を所有している可能性がありますが、ロボットには感情がないため、会話エージェントにとっては非常に混乱します。
実際、これは、開発者が会話の有効性を評価する前に、対話者に考えを与える必要があることも意味します。
4. 行動 (演技的)。スピーチの内容に合わせて現実の一部が変更されることを示し、一国の元首が他国に宣戦布告するなど、何かを発表することに似ています。
発言の妥当性を評価する基準は、発言に従って現実が実際に変化するかどうかです。多くの場合、そうではありません。
ほとんどの場合、ある人が「フランスに宣戦布告する」と宣言した場合、それは地政学に影響を及ぼさないため、おそらく単なる冗談でしょう。なぜなら、発言者にはその発言を実行する権限がない可能性が高いからです。
5. コミットメント (commissive) とは、話し手が何かをすることを約束したり、契約を遵守することを約束したりするなど、将来の行動方針を約束することを意味します。
約束の声明の有効性は、約束が履行されるかどうかによって決まります。約束は守られれば有効な発言となります。しかし、会話型エージェントには、以前に話されたことを記憶したり理解したりする能力が欠けていることがよくあります。
たとえば、会話エージェントは、自転車が故障したときに手助けすると約束するかもしれませんが、約束の内容の理解または約束を果たす能力の欠如により、その約束は失敗する運命にあります。 。
今後の展望
この研究は、調整された会話型エージェントの開発にいくつかの実用的な意味を持ちます。
まず、モデルは、展開の特定のシナリオに応じて異なる動作コードを示す必要があります。言語モデルの一貫性についての普遍的な記述はありません。代わりに、エージェントの適切なパターンと評価基準 (信頼性の基準を含む) ) 会話のやり取りの文脈や目的によって異なります。
さらに、会話型エージェントにはコンテキストの構築と解明のプロセスがあり、時間の経過とともにより堅牢で相互に敬意を持った対話が培われます。
人が特定の会話の実践を支配する価値観を認識していない場合でも、エージェントは会話の中でこれらの価値観を暗示することで、人間がこれらの行動規則を理解できるように支援することができます。人間の話者にとってコミュニケーションはより深く、より生産的になります。
以上がDeepMind は 30 ページの記事を発表しました: チャットボットに異なる「3 つのビュー」を提供する必要があるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

AI Hentai Generator
AIヘンタイを無料で生成します。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック









人型ロボット「アメカ」が第二世代にバージョンアップ!最近、世界移動通信会議 MWC2024 に、世界最先端のロボット Ameca が再び登場しました。会場周辺ではアメカに多くの観客が集まった。 GPT-4 の恩恵により、Ameca はさまざまな問題にリアルタイムで対応できます。 「ダンスをしましょう。」感情があるかどうか尋ねると、アメカさんは非常に本物そっくりの一連の表情で答えました。ほんの数日前、Ameca を支援する英国のロボット企業である EngineeredArts は、チームの最新の開発結果をデモンストレーションしたばかりです。ビデオでは、ロボット Ameca は視覚機能を備えており、部屋全体と特定のオブジェクトを見て説明することができます。最も驚くべきことは、彼女は次のこともできるということです。

今週、OpenAI、Microsoft、Bezos、Nvidiaが投資するロボット企業FigureAIは、7億ドル近くの資金調達を受け、来年中に自立歩行できる人型ロボットを開発する計画であると発表した。そしてテスラのオプティマスプライムには繰り返し良い知らせが届いている。今年が人型ロボットが爆発的に普及する年になることを疑う人はいないだろう。カナダに拠点を置くロボット企業 SanctuaryAI は、最近新しい人型ロボット Phoenix をリリースしました。当局者らは、多くのタスクを人間と同じ速度で自律的に完了できると主張している。人間のスピードでタスクを自律的に完了できる世界初のロボットである Pheonix は、各オブジェクトを優しくつかみ、動かし、左右にエレガントに配置することができます。自律的に物体を識別できる

産業オートメーション技術の分野では、人工知能 (AI) と Nvidia という無視できない 2 つの最近のホットスポットがあります。元のコンテンツの意味を変更したり、コンテンツを微調整したり、コンテンツを書き換えたり、続行しないでください。「それだけでなく、Nvidia はオリジナルのグラフィックス プロセッシング ユニット (GPU) に限定されていないため、この 2 つは密接に関連しています。」このテクノロジーはデジタル ツインの分野にまで広がり、新たな AI テクノロジーと密接に関係しています。「最近、NVIDIA は、Aveva、Rockwell Automation、Siemens などの大手産業オートメーション企業を含む多くの産業企業と提携に至りました。シュナイダーエレクトリック、Teradyne Robotics とその MiR および Universal Robots 企業も含まれます。最近、Nvidiahascoll

Machine Power Report 編集者: Wu Xin 国内版の人型ロボット + 大型模型チームは、衣服を折りたたむなどの複雑で柔軟な素材の操作タスクを初めて完了しました。 OpenAIのマルチモーダル大規模モデルを統合したFigure01の公開により、国内同業者の関連動向が注目を集めている。つい昨日、中国の「ヒューマノイドロボットのナンバーワン株」であるUBTECHは、Baidu Wenxinの大型モデルと深く統合されたヒューマノイドロボットWalkerSの最初のデモを公開し、いくつかの興味深い新機能を示した。 Baidu Wenxin の大規模モデル機能の恩恵を受けた WalkerS は次のようになります。 Figure01 と同様に、WalkerS は動き回るのではなく、机の後ろに立って一連のタスクを完了します。人間の命令に従って服をたたむことができる

以下の 10 種類の人型ロボットが私たちの未来を形作ります。 1. ASIMO: ホンダが開発した ASIMO は、最もよく知られている人型ロボットの 1 つです。身長 4 フィート、体重 119 ポンドの ASIMO には、高度なセンサーと人工知能機能が装備されており、複雑な環境をナビゲートし、人間と対話することができます。 ASIMO は多用途性を備えているため、障害を持つ人々の支援からイベントでのプレゼンテーションまで、さまざまなタスクに適しています。 2. Pepper: ソフトバンクロボティクスによって作成された Pepper は、人間の社会的パートナーになることを目指しています。表情豊かな顔と感情を認識する能力を備えた Pepper は、会話に参加したり、小売現場で手助けしたり、教育サポートを提供したりすることもできます。コショウ

掃除ロボットやモップ拭きロボットは、近年消費者の間で最も人気のあるスマート家電製品の 1 つです。操作の利便性、あるいは操作の必要がないことで、怠け者は手を解放し、消費者は日常の家事から「解放」され、好きなことにもっと時間を費やすことができるようになり、生活の質が向上します。この流行に乗って、市場に出回っているほぼすべての家電ブランドが独自の掃除ロボットや拭き掃除ロボットを製造しており、掃除ロボット市場全体が非常に活発になっています。しかし、市場の急速な拡大は必然的に隠れた危険をもたらします。多くのメーカーがより多くの市場シェアを急速に占有するために機械の海戦術を使用し、その結果、アップグレードポイントのない多くの新製品が生まれるとも言われています。まさに「マトリョーシカ」モデルです。ただし、すべての掃除ロボットやモップロボットがそうであるわけではありません。

瞬く間に、ロボットは魔法を使えるようになったのでしょうか?最初にテーブルの上の水スプーンを取り上げ、中には何も入っていないことを観客に証明したのが見られました。次に、卵のような物体を手に置き、水スプーンをテーブルに戻し、が「呪文を唱え」始めました… …再び水スプーンを拾ったそのとき、奇跡が起こりました。元々入っていた卵が消えて、飛び出してきたのがバスケットボールに… もう一度連続動作を見てみましょう: △ このアニメーションは一連の動作を2倍速で表示しており、スムーズに流れています。ビデオを 0.5 倍速で繰り返し再生すると、うまくいくでしょうか? 最後に、手の速度がもっと速ければ、敵から隠すことができるかもしれないという手がかりを発見しました。一部のネチズンは、ロボットの魔法のスキルが自分たちのものよりもさらに高いと嘆いていました。マグは私たちのためにこの魔法を実行してくれたのです。

「ゼルダの伝説 涙の王国」は、任天堂ゲーム史上最速で売れたゲームとなりました。Zonav Technology は、さまざまな「ゼルダ クリエイター」コミュニティ コンテンツをもたらしただけでなく、米国の大学の新しい工学コースにもなりました。メリーランド州(UMD)。 Rewrite: The Legend of Zelda: Tears of the Kingdom は、任天堂の史上最速で売れたゲームの 1 つです。 Zonav Technology は、豊富なコミュニティ コンテンツをもたらすだけでなく、メリーランド大学の新しいエンジニアリング コースの一部にもなりました。この秋、メリーランド大学のライアン D. ソチョル准教授は、「」と呼ばれるコースを開設しました。
