目次
人工知能研究の最終目標は、日常業務の完了を支援することから社会が直面する重大な問題の解決に至るまで、人類に利益をもたらすテクノロジーを構築することです。サバイバルチャレンジ。
それは信頼できますか?
ホームページ テクノロジー周辺機器 AI DeepMindの最新研究:AIが人間を倒し、より良い経済メカニズムを設計|Natureサブジャーナル

DeepMindの最新研究:AIが人間を倒し、より良い経済メカニズムを設計|Natureサブジャーナル

Apr 17, 2023 pm 08:01 PM
AI テクノロジー 研究

人工知能 (AI) は人間社会を真にインテリジェントな時代へと押し進めることができるでしょうか?

60 年以上の発展を経て、人工知能産業は画期的な進歩を遂げ、経済や社会のあらゆる側面で広く使用され、人間の価値観と一致する人工知能システムを構築しています。はまだ未解決の問題です。

さて、英国の人工知能企業ディープマインドによる最新の研究は、人工知能業界の実務者にこの問題を解決するための新しい考え方を提供するかもしれません。

レポートによると、DeepMind の人工知能システムは、4,000 人以上の人々から学習し、4 人用オンライン経済ゲームのコンピューター シミュレーションで公的資金の再配分方法に関する政策を策定することを学習しただけでなく、非常に高いパフォーマンスを実現しました。他の人間のプレイヤーを上回っています。

このゲームでは、プレイヤーは金銭的な寄付を保持するか、集団利益のために他の人と共有するかを決定します。

民主的 AI を使用した人間中心のメカニズム設計」 というタイトルの関連研究論文は、権威ある科学雑誌 Nature Human Behavior に 7 月 5 日にオンライン掲載されました。

DeepMindの最新研究:AIが人間を倒し、より良い経済メカニズムを設計|Natureサブジャーナル

##出典: Nature Human Behaviour

アネット英国ヨーク大学のジマーマン助教授は、「民主主義を、最も人気のある政策を見つける『選好満足』システムと狭義に同一視しないでください。」と警告しました。お気に入りの政策を可能な限り最善の形で実施することだけが重要ではなく、国民が対等な立場で参加し、議論できるプロセスを作り出すことが重要なのです。

AI によって設計された経済メカニズム

人工知能研究の最終目標は、日常業務の完了を支援することから社会が直面する重大な問題の解決に至るまで、人類に利益をもたらすテクノロジーを構築することです。サバイバルチャレンジ。

今日、機械学習システムは生物医学における主要な問題を解決し、人類が環境問題に対処するのを助けてきました。しかし、人間が公平で豊かな社会を設計するのを支援する人工知能の応用はまだ開発されていません。
経済学とゲーム理論では、メカニズム設計と呼ばれる分野で、望ましい目標を達成するために、インセンティブを与えられた主体間の富、情報、または権力の流れを最適に制御する方法を研究します。

この研究では、研究チームは、深層強化学習 (RL) エージェントを使用して、動機のある集団の好みを取得できる経済メカニズムを設計できることを証明しようとしました。

このゲームでは、プレイヤーはさまざまな金額から開始し、公的資金プールの発展を促進するためにどれくらいの金額を寄付するかを決定する必要があり、最終的には見返りとして一部を受け取り、継続するかどうかについての決定を繰り返します。 a 潜在的な集団的利益のために金銭を寄付するか、他のプレイヤーと共有します。

研究チームは、富の平等と不平等の条件下でプレイヤーに資金を分配する再分配メカニズムを設計するために深層強化学習エージェントを訓練しました。

共有収益は、人工知能システムによって設計されたものと人間によって設計されたものという 2 つの異なる再分配メカニズムを通じてプレイヤーに還元されます。


DeepMindの最新研究:AIが人間を倒し、より良い経済メカニズムを設計|Natureサブジャーナル写真|ゲーム デザイン (出典:

Nature Human Behaviour

) 人工知能によって策定された政策では、システムは各プレイヤーが寄付したスタートアップ資金の額に応じて公的資金を再配分することで、プレイヤー間の富の格差を縮小します。


「平等主義」アプローチ (各プレイヤーの貢献度に関係なく資金が均等に分配される) と「リベラル」アプローチ (各プレイヤーの貢献度が公的シェアを占める) との比較) 資金の比例配分)、このポリシーは人間のプレイヤーからより多くの票を獲得します。


同時に、このポリシーは初期の資産の不均衡を修正し、プレイヤーの「ただ乗り」行為を止めました。プレイヤーが開始資金の約半分を寄付した場合を除きます。資本を投下しても、見返りとして得られるものはほとんどありません。

ただし、研究チームは、研究結果が「AI政府」のレシピを表すものではなく、特に政策立案のために人工知能主導の政策を構築するつもりもないとも警告しました。

それは信頼できますか?

今回の研究結果は、インセンティブと互換性のある経済ゲームにおいて人間が非常に好むメカニズムを設計することで、人工知能システムが民主的な目標を達成するように訓練できることを示しています。

この研究では、研究チームは人工知能技術を使用して再割り当てスキームを一から学習しました。これは、人工知能研究者自身が偏見を持っているか、より広範な集団を代表していない可能性がある人工知能研究者の負担を軽減するアプローチです。最適化のためのドメイン固有のターゲットの選択。

この研究活動ではいくつかの疑問も生じており、その中には理論的に困難なものもあります。たとえば、価値調整の方法として民主主義の目標を強調することが良い考えなのかどうか疑問に思う人もいるかもしれません。 AI システムは、他の民主主義手法から「少数を犠牲にして多数に権限を与える」という傾向を受け継いでいる可能性があります。 AI が社会における既存の偏見、差別、不公平を悪化させる形で導入される可能性があるという差し迫った懸念を考慮すると、これは特に重要です。
DeepMindの最新研究:AIが人間を倒し、より良い経済メカニズムを設計|Natureサブジャーナル

DeepMindの最新研究:AIが人間を倒し、より良い経済メカニズムを設計|Natureサブジャーナル

出典: Pixabay

もう 1 つの未解決の質問 はい、人々は人工知能システムによって設計されたメカニズムを信頼するでしょうか。審判の身元が事前にわかっている場合、プレイヤーは AI 代理審判よりも人間の審判を好む可能性があります。ただし、タスクが人間には複雑すぎると考える場合、人は AI システムを信頼する傾向もあります。

また、これらのメカニズムを経験を通じて学ぶのではなく口頭で説明された場合、プレイヤーの反応は異なるでしょうか。膨大な文献によると、メカニズムが「経験に基づいて」ではなく「説明に基づいて」説明されている場合、特に危険な選択に関して、人々は時として異なる行動をすることが示されています。ただし、AI によって設計されたメカニズムは必ずしも言葉で表現できるとは限りません。その場合、観察される動作は研究チームが採用する記述の選択に完全に依存すると思われます。

研究チームは論文の最後でこの発見も強調し、自律エージェントが人間の介入なしに政策決定を行う、ある種の「人工知能ガバナンス」を支持すると述べた。

彼らは、手法のさらなる開発により、現実世界の問題を真に人間的な方法で解決できるツールが提供されることを望んでいます。

以上がDeepMindの最新研究:AIが人間を倒し、より良い経済メカニズムを設計|Natureサブジャーナルの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Jun 28, 2024 am 03:51 AM

このサイトは6月27日、JianyingはByteDanceの子会社であるFaceMeng Technologyによって開発されたビデオ編集ソフトウェアであり、Douyinプラットフォームに依存しており、基本的にプラットフォームのユーザー向けに短いビデオコンテンツを作成すると報告しました。 Windows、MacOS、その他のオペレーティング システム。 Jianyingは会員システムのアップグレードを正式に発表し、インテリジェント翻訳、インテリジェントハイライト、インテリジェントパッケージング、デジタルヒューマン合成などのさまざまなAIブラックテクノロジーを含む新しいSVIPを開始しました。価格的には、クリッピングSVIPの月額料金は79元、年会費は599元(当サイト注:月額49.9元に相当)、継続月額サブスクリプションは月額59元、継続年間サブスクリプションは、年間499元(月額41.6元に相当)です。さらに、カット担当者は、ユーザーエクスペリエンスを向上させるために、オリジナルのVIPに登録している人は、

Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Jun 10, 2024 am 11:08 AM

検索強化生成およびセマンティック メモリを AI コーディング アシスタントに組み込むことで、開発者の生産性、効率、精度を向上させます。 JanakiramMSV 著者の EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG から翻訳。基本的な AI プログラミング アシスタントは当然役に立ちますが、ソフトウェア言語とソフトウェア作成の最も一般的なパターンに関する一般的な理解に依存しているため、最も適切で正しいコードの提案を提供できないことがよくあります。これらのコーディング アシスタントによって生成されたコードは、彼らが解決する責任を負っている問題の解決には適していますが、多くの場合、個々のチームのコーディング標準、規約、スタイルには準拠していません。これにより、コードがアプリケーションに受け入れられるように修正または調整する必要がある提案が得られることがよくあります。

GenAI および LLM の技術面接に関する 7 つのクールな質問 GenAI および LLM の技術面接に関する 7 つのクールな質問 Jun 07, 2024 am 10:06 AM

AIGC について詳しくは、51CTOAI.x コミュニティ https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou を参照してください。これらの質問は、インターネット上のどこでも見られる従来の質問バンクとは異なります。既成概念にとらわれずに考える必要があります。大規模言語モデル (LLM) は、データ サイエンス、生成人工知能 (GenAI)、および人工知能の分野でますます重要になっています。これらの複雑なアルゴリズムは人間のスキルを向上させ、多くの業界で効率とイノベーションを推進し、企業が競争力を維持するための鍵となります。 LLM は、自然言語処理、テキスト生成、音声認識、推奨システムなどの分野で幅広い用途に使用できます。 LLM は大量のデータから学習することでテキストを生成できます。

微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります 微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります Jun 11, 2024 pm 03:57 PM

大規模言語モデル (LLM) は巨大なテキスト データベースでトレーニングされ、そこで大量の現実世界の知識を取得します。この知識はパラメータに組み込まれており、必要なときに使用できます。これらのモデルの知識は、トレーニングの終了時に「具体化」されます。事前トレーニングの終了時に、モデルは実際に学習を停止します。モデルを調整または微調整して、この知識を活用し、ユーザーの質問により自然に応答する方法を学びます。ただし、モデルの知識だけでは不十分な場合があり、モデルは RAG を通じて外部コンテンツにアクセスできますが、微調整を通じてモデルを新しいドメインに適応させることが有益であると考えられます。この微調整は、ヒューマン アノテーターまたは他の LLM 作成物からの入力を使用して実行され、モデルは追加の実世界の知識に遭遇し、それを統合します。

新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 Jul 25, 2024 am 06:42 AM

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 Jul 17, 2024 pm 06:37 PM

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性​​を実証しています。 「S」で始まる関連研究

あなたが知らない機械学習の 5 つの流派 あなたが知らない機械学習の 5 つの流派 Jun 05, 2024 pm 08:51 PM

機械学習は人工知能の重要な分野であり、明示的にプログラムしなくてもコンピューターにデータから学習して能力を向上させる機能を提供します。機械学習は、画像認識や自然言語処理から、レコメンデーションシステムや不正行為検出に至るまで、さまざまな分野で幅広く応用されており、私たちの生活様式を変えつつあります。機械学習の分野にはさまざまな手法や理論があり、その中で最も影響力のある 5 つの手法は「機械学習の 5 つの流派」と呼ばれています。 5 つの主要な学派は、象徴学派、コネクショニスト学派、進化学派、ベイジアン学派、およびアナロジー学派です。 1. 象徴主義は、象徴主義とも呼ばれ、論理的推論と知識の表現のためのシンボルの使用を強調します。この学派は、学習は既存の既存の要素を介した逆演繹のプロセスであると信じています。

VSCode フロントエンド開発の新時代: 強く推奨される 12 の AI コード アシスタント VSCode フロントエンド開発の新時代: 強く推奨される 12 の AI コード アシスタント Jun 11, 2024 pm 07:47 PM

フロントエンド開発の世界では、VSCode はその強力な機能と豊富なプラグイン エコシステムにより、数多くの開発者に選ばれるツールとなっています。近年、人工知能技術の急速な発展に伴い、VSCode 上の AI コード アシスタントが登場し、開発者のコ​​ーディング効率が大幅に向上しました。 VSCode 上の AI コード アシスタントは雨後のキノコのように出現し、開発者のコ​​ーディング効率を大幅に向上させました。人工知能テクノロジーを使用してコードをインテリジェントに分析し、正確なコード補完、自動エラー修正、文法チェックなどの機能を提供することで、コーディング プロセス中の開発者のエラーや退屈な手作業を大幅に削減します。今日は、プログラミングの旅に役立つ 12 個の VSCode フロントエンド開発 AI コード アシスタントをお勧めします。

See all articles