Meta、AIの公平性を評価するためのFACETデータセットをリリース

9 月 4 日のニュース Meta は最近、研究者がコンピューター ビジョン モデルのバイアスを監査できるように設計された FACET と呼ばれるオープンソース データ セットをリリースしました。

Meta 氏はブログ投稿で、現在のベンチマーク手法を使用して AI の公平性を評価するのは難しいと詳しく述べました。 Meta 氏によると、FACET は、研究者がいくつかの異なるタイプのコンピューター ビジョン モデルを監査するために使用できる大規模な評価データセットを提供することで、このタスクを簡素化します。

メタ研究者はブログ投稿で詳しく述べています:「このデータセットは、50,000人の人々の32,000枚の画像で構成されており、専門のヒューマン・アノテーターによって、知覚される性別表現、知覚される年齢層、知覚される肌などの追加の物理的属性などの人口統計的属性でラベル付けされています。色、髪型、バスケットボール選手、医師などの人物関連のカテゴリ。FACET には、SA-1B の 69,000 枚のマスクに対する人物、髪、衣服のタグも含まれています。"

研究者は、次の方法で公平性の問題を調査できます。コンピューター ビジョン モデルに FACET で写真を処理させます。そこから分析を実行して、モデルの結果の精度が写真ごとに異なるかどうかを判断できます。この精度のばらつきは、AI が偏っていることを示している可能性があります。

研究者は、このデータセットを使用して、分類 (類似した画像をグループ化するタスク) のために最適化されたニューラル ネットワークのバイアスを検出できます。さらに、物体検出モデルの評価が容易になります。このモデルは、写真内の関心のあるアイテムを自動的に検出するように設計されています。

FACET は、インスタンスのセグメンテーションとビジュアル グラウンディングという 2 つの特殊なオブジェクト検出タスクを実行する AI アプリケーションを監査することもできます。インスタンスのセグメンテーションは、写真内の関心のあるアイテムを強調表示するプロセスです (アイテムの周囲にボックスを描画するなど)。ビジョン ベース モデルは、写真をスキャンしてユーザーが自然言語で記述したオブジェクトを探すニューラル ネットワークです。

メタ研究者は次のように述べています:「FACET は研究評価のみを目的としており、トレーニングには使用できませんが、データセットとデータセット ブラウザーをリリースする目的は、FACET がコンピューター ビジョン モデルの標準見本市になるようにすることです。性的評価ベンチマーク。」

以上がMeta、AIの公平性を評価するためのFACETデータセットをリリースの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。