目次
バイアス評価
解釈可能性
人間拡張
再現性
重要なポイント
ホームページ テクノロジー周辺機器 AI 責任ある AI 導入の実践: 4 つの原則

責任ある AI 導入の実践: 4 つの原則

Apr 22, 2023 pm 08:28 PM
AI 機械学習 データのプライバシー

人工知能 (AI) はあらゆる業界を変革しており、現在、組織の 3 分の 1 以上が大規模または限定的に AI を生産しています。しかし、他のテクノロジーと同様に、AI には非倫理的な偏見の蔓延、説明責任の希薄化、データ プライバシーの侵害など、重大な経済的および社会的リスクが伴います。

責任ある AI 導入の実践: 4 つの原則

これらのリスクを回避し、責任を持って AI を導入するために、規制政策と業界の両方が、テクノロジーに取り組む実務者とユーザーのためのプロセスと標準を開発する責任があります。この目的を達成するために、Ethical AI and ML Institute のチームは責任ある AI 原則をまとめ、実践者がこれらの原則が実稼働 AI および機械学習システムを取り巻くインフラストラクチャとプロセスに確実に設計によって組み込まれるように支援しました。

この記事では、8 つの原則のうち、バイアス評価、説明可能性、人為的強化、再現性の 4 つを詳しく説明します。

バイアス評価

ある意味では、AI モデルは関連する回答を異なる方法で扱うように設計されているため、本質的にバイアスがかかっています。なぜなら、知能の核心は、世界で見られるパターンを認識し、それに基づいて行動する能力だからです。 AI モデルを開発するとき、私たちはこの正確な能力を再現するよう努め、AI が入力されたデータ内のパターンを発見し、それに応じてバイアスを開発するよう促します。たとえば、タンパク質の化学データを研究するモデルには本質的に、構造が特定の方法で折りたたまれるタンパク質に対して関連するバイアスがあり、それによってどのタンパク質が医療における関連するユースケースで有用であるかを発見します。

したがって、AI の偏見に対して声を上げるときは注意が必要です。 AI におけるバイアスの話題になると、一般に、人種、性別、国籍などの保護された特性に基づくバイアスなど、実際には望ましくない、または不合理なバイアスを指します。

しかし、なぜ人工知能モデルは非倫理的なバイアスを生み出すのでしょうか?答えは、入力されるデータによって異なります。モデルは最終的には、デプロイメント前に使用されたトレーニング データに存在するバイアスを反映するため、トレーニング データが代表的でない場合、または既存のバイアスが組み込まれている場合、結果として得られるモデルは最終的にそれらを反映します。コンピューターサイエンスでよく言われるように、「ゴミが入ったらゴミが出てくる」。

チームは、AI トレーニング データの有効性、モデル自体のトレーニングと評価、モデル自体の運用ライフサイクルに関する望ましくないバイアスを適切に特定するための一連のプロセスと手順も作成する必要があります。 。 AI を導入している場合は、次に詳しく説明する Ethical AI and Machine Learning Institute の eXplainable AI フレームワークが参考になる良い例です。

解釈可能性

AI モデルが目的に適合していることを確認するには、関連分野の専門家の参加も重要です。これらの人々は、統計や精度主導のパフォーマンス指標だけでなく、AI モデルが適切なパフォーマンス指標を使用していることをチームが確認できるように支援できます。ドメインの専門家には技術的な専門家だけでなく、ユースケースに関連する社会科学や人文科学の専門家も含まれることを強調する価値があります。

ただし、これを効果的にするには、モデルの予測が関連分野の専門家によって確実に解釈できるようにすることも重要です。ただし、高度な AI モデルでは最先端の深層学習技術が使用されることが多く、特定の予測が行われる理由を単純に説明できない場合があります。

この困難を克服するために、組織は AI モデルの予測を解読するために使用できるさまざまな技術やツールを活用して、機械学習の説明可能性を達成する傾向があります。

説明可能性の次には、人工知能モデルの運用化が続きます。今は関係者による調査と監視の時期です。このような AI モデルのライフサイクルは、本番環境に適切にデプロイされた後にのみ始まります。モデルが起動して実行されると、概念的なドリフトやモデルが実行される環境の変化など、外部からの圧力によってモデルのパフォーマンスが低下するだけです。

人間拡張

AI を導入する場合、悪影響のリスクの概要を含め、元の自動化されていないプロセスの現在のニーズを最初に評価することが重要です。これにより、プロセスをより深く理解できるようになり、リスクを軽減するために人間の介入が必要な領域を特定するのに役立ちます。

たとえば、プロのスポーツ選手に食事プランを推奨する AI には、銀行のバックエンドの融資承認プロセスを自動化する AI モデルよりも影響の大きいリスク要因がはるかに少ないため、人間の介入が必要であることがわかります。前者は後者よりも小さくなります。チームが AI ワークフロー内の潜在的なリスク ポイントを特定したら、「ヒューマン マシン ループ」レビュー プロセス (HITL) の実装を検討できます。

HITL は、プロセスを自動化した後も、結果を確認するために人間の介入が必要なさまざまなタッチ ポイントが存在することを保証し、必要に応じて修正を加えたり、決定を覆したりすることを容易にします。このプロセスには、AI モデルによって行われた決定を評価し、ベスト プラクティスに準拠していることを確認するために、技術専門家や業界専門家 (銀行ローンの引受会社や食事計画の栄養士など) のチームが含まれる場合があります。

再現性

再現性とは、データ ポイントに対してアルゴリズムを繰り返し実行し、毎回同じ結果を得るチームの能力を指します。これは責任ある AI の中核コンポーネントであり、後の段階で再実行するときにモデルの以前の予測が確実に再公開されるようにするために重要です。

当然のことながら、主に人工知能システムに固有の困難があるため、再現性を達成することは困難です。これは、AI モデルの出力が、次のようなさまざまな背景状況によって異なる可能性があるためです。

  • AI 干渉を計算するためのコード
  • 使用されるデータから学習した重み
  • コードを実行するための環境、インフラストラクチャ、構成
  • モデルに提供される入力と入力構造

これは、特に AI When モデルがデプロイされている場合には複雑な問題です大規模な場合には、他の無数のツールやフレームワークを考慮する必要があります。これを行うには、チームは上記の状況を制御し、再現性を向上させるツールを実装するための堅牢なプラクティスを開発する必要があります。

重要なポイント

上記の大まかな原則により、業界は AI を責任を持って使用するためのベスト プラクティスに確実に従うことができます。このような原則を採用することは、AI がその経済的潜在力を最大限に発揮し、脆弱なグループの権利を剥奪したり、非倫理的な偏見を強化したり、説明責任を損なったりしないようにするために重要です。むしろ、それは、成長、生産性、効率、イノベーション、そしてすべての人にとってより大きな利益を促進するために使用できるテクノロジーになる可能性があります。

以上が責任ある AI 導入の実践: 4 つの原則の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Jun 28, 2024 am 03:51 AM

このサイトは6月27日、JianyingはByteDanceの子会社であるFaceMeng Technologyによって開発されたビデオ編集ソフトウェアであり、Douyinプラットフォームに依存しており、基本的にプラットフォームのユーザー向けに短いビデオコンテンツを作成すると報告しました。 Windows、MacOS、その他のオペレーティング システム。 Jianyingは会員システムのアップグレードを正式に発表し、インテリジェント翻訳、インテリジェントハイライト、インテリジェントパッケージング、デジタルヒューマン合成などのさまざまなAIブラックテクノロジーを含む新しいSVIPを開始しました。価格的には、クリッピングSVIPの月額料金は79元、年会費は599元(当サイト注:月額49.9元に相当)、継続月額サブスクリプションは月額59元、継続年間サブスクリプションは、年間499元(月額41.6元に相当)です。さらに、カット担当者は、ユーザーエクスペリエンスを向上させるために、オリジナルのVIPに登録している人は、

Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Jun 10, 2024 am 11:08 AM

検索強化生成およびセマンティック メモリを AI コーディング アシスタントに組み込むことで、開発者の生産性、効率、精度を向上させます。 JanakiramMSV 著者の EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG から翻訳。基本的な AI プログラミング アシスタントは当然役に立ちますが、ソフトウェア言語とソフトウェア作成の最も一般的なパターンに関する一般的な理解に依存しているため、最も適切で正しいコードの提案を提供できないことがよくあります。これらのコーディング アシスタントによって生成されたコードは、彼らが解決する責任を負っている問題の解決には適していますが、多くの場合、個々のチームのコーディング標準、規約、スタイルには準拠していません。これにより、コードがアプリケーションに受け入れられるように修正または調整する必要がある提案が得られることがよくあります。

微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります 微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります Jun 11, 2024 pm 03:57 PM

大規模言語モデル (LLM) は巨大なテキスト データベースでトレーニングされ、そこで大量の現実世界の知識を取得します。この知識はパラメータに組み込まれており、必要なときに使用できます。これらのモデルの知識は、トレーニングの終了時に「具体化」されます。事前トレーニングの終了時に、モデルは実際に学習を停止します。モデルを調整または微調整して、この知識を活用し、ユーザーの質問により自然に応答する方法を学びます。ただし、モデルの知識だけでは不十分な場合があり、モデルは RAG を通じて外部コンテンツにアクセスできますが、微調整を通じてモデルを新しいドメインに適応させることが有益であると考えられます。この微調整は、ヒューマン アノテーターまたは他の LLM 作成物からの入力を使用して実行され、モデルは追加の実世界の知識に遭遇し、それを統合します。

GenAI および LLM の技術面接に関する 7 つのクールな質問 GenAI および LLM の技術面接に関する 7 つのクールな質問 Jun 07, 2024 am 10:06 AM

AIGC について詳しくは、51CTOAI.x コミュニティ https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou を参照してください。これらの質問は、インターネット上のどこでも見られる従来の質問バンクとは異なります。既成概念にとらわれずに考える必要があります。大規模言語モデル (LLM) は、データ サイエンス、生成人工知能 (GenAI)、および人工知能の分野でますます重要になっています。これらの複雑なアルゴリズムは人間のスキルを向上させ、多くの業界で効率とイノベーションを推進し、企業が競争力を維持するための鍵となります。 LLM は、自然言語処理、テキスト生成、音声認識、推奨システムなどの分野で幅広い用途に使用できます。 LLM は大量のデータから学習することでテキストを生成できます。

新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 Jul 25, 2024 am 06:42 AM

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

あなたが知らない機械学習の 5 つの流派 あなたが知らない機械学習の 5 つの流派 Jun 05, 2024 pm 08:51 PM

機械学習は人工知能の重要な分野であり、明示的にプログラムしなくてもコンピューターにデータから学習して能力を向上させる機能を提供します。機械学習は、画像認識や自然言語処理から、レコメンデーションシステムや不正行為検出に至るまで、さまざまな分野で幅広く応用されており、私たちの生活様式を変えつつあります。機械学習の分野にはさまざまな手法や理論があり、その中で最も影響力のある 5 つの手法は「機械学習の 5 つの流派」と呼ばれています。 5 つの主要な学派は、象徴学派、コネクショニスト学派、進化学派、ベイジアン学派、およびアナロジー学派です。 1. 象徴主義は、象徴主義とも呼ばれ、論理的推論と知識の表現のためのシンボルの使用を強調します。この学派は、学習は既存の既存の要素を介した逆演繹のプロセスであると信じています。

SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 Jul 17, 2024 pm 06:37 PM

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性​​を実証しています。 「S」で始まる関連研究

AIなどの市場を開拓するグローバルファウンドリーズがタゴール・テクノロジーの窒化ガリウム技術と関連チームを買収 AIなどの市場を開拓するグローバルファウンドリーズがタゴール・テクノロジーの窒化ガリウム技術と関連チームを買収 Jul 15, 2024 pm 12:21 PM

7月5日のこのウェブサイトのニュースによると、グローバルファウンドリーズは今年7月1日にプレスリリースを発行し、自動車とインターネットでの市場シェア拡大を目指してタゴール・テクノロジーのパワー窒化ガリウム(GaN)技術と知的財産ポートフォリオを買収したことを発表した。モノと人工知能データセンターのアプリケーション分野で、より高い効率とより優れたパフォーマンスを探求します。生成 AI などのテクノロジーがデジタル世界で発展を続ける中、窒化ガリウム (GaN) は、特にデータセンターにおいて、持続可能で効率的な電力管理のための重要なソリューションとなっています。このウェブサイトは、この買収中にタゴール・テクノロジーのエンジニアリングチームがGLOBALFOUNDRIESに加わり、窒化ガリウム技術をさらに開発するという公式発表を引用した。 G

See all articles