目次
これらの規制には次のものが含まれます:
1. 顔認識の公平性
2. AI の内部動作に関するオープンさ
3. 企業責任の問題
4. 監視前の同意と通知
5. 人権侵害を回避するための法的監視
このテクノロジーに関連する主な問題のいくつかは次のとおりです:
1. 購入時の認証エラー
2. 法執行機関のアプリケーションにおける不正確さ
ホームページ テクノロジー周辺機器 AI 顔認識技術の倫理原則は何ですか?

顔認識技術の倫理原則は何ですか?

Apr 30, 2023 pm 06:16 PM
AI 顔認識システム

顔認識技術の倫理原則は何ですか?

さまざまな分野における顔認識テクノロジーの大きな可能性は、ほとんど想像を絶するものです。ただし、最も複雑なアプリケーションを実装する前に、その機能における特定の一般的な落とし穴といくつかの倫理的考慮事項に対処する必要があります。

正確な顔認識システムは、生体認証技術を使用して写真やビデオから顔の特徴をマッピングします。この情報を既知の顔のデータベースと比較して、一致するものを見つけます。顔認識は個人の身元を確認するのに役立ちますが、プライバシーの懸念も生じます。

数十年前、私たちは顔認識が将来私たちの生活にほぼ不可欠な部分になるとは予想できませんでした。スマートフォンのロック解除からオンラインまたはオフラインの取引の実行に至るまで、このテクノロジーは今日の私たちの日常生活に深く浸透しています。

顔認識システムは、人工知能のコンピューター ビジョンと機械学習コンポーネントを応用したものです。次のように機能します。アルゴリズムは、人の顔のさまざまな詳細 (顔と顔の間のスペースなど) を判断するようにトレーニングされます。目、ピクセル数や曲率、システム内で顔を再構築するために論理的に解釈されるその他の詳細。この再現は、システム データベースに保存されている多数の顔と比較されます。たとえば、アルゴリズムがデータベース内に存在する顔との一致を検出すると、システムはそれを「認識」し、ユーザーのタスクを実行します。

今日の顔認識システムは、プロセス全体を数秒で完了するだけでなく、照明、画像解像度、視野角が劣悪な環境でも動作することができます。他の人工知能テクノロジーと同様に、顔認識システムをさまざまな目的で使用する場合は、いくつかの倫理原則に従う必要があります。

これらの規制には次のものが含まれます:

1. 顔認識の公平性

まず、顔認識デバイスの開発では、性別、顔の特徴、個人またはグループに対する変形またはその他の偏見。顔認識システムの運用が 100% 公平である可能性が低いことを示す十分な証拠が現在あります。その結果、このテクノロジーをサポートするシステムを構築する企業は、システム内で見つかったバイアスの痕跡をすべて除去するのに何百時間も費やすことがよくあります。

マイクロソフトのような評判の高い企業は、できるだけ多くの民族コミュニティから資格のある専門家を雇用することがよくあります。顔認識システムの研究、開発、テスト、設計の段階で、多様性により、AI データ モデルをトレーニングするための大規模なデータ セットを作成することができました。大規模なデータセットは偏見を軽減しますが、多様性は象徴的なものでもあります。世界中から個人を選ぶことで、現実世界の多様性を反映することができます。

顔認識システムからバイアスを排除するには、企業は特別な努力を払う必要があります。これを達成するには、機械学習とラベル付けに使用されるデータセットが多様である必要があります。最も重要なことは、公平な顔認識システムの出力品質は、偏見の要素なしに世界中のどこでもシームレスに動作するため、非常に高くなるということです。

顔認識システムの公平性を確保するために、開発者はベータ テスト段階でエンド顧客を関与させることもできます。このようなシステムを現実のシナリオでテストできれば、その機能の品質が向上するだけです。

2. AI の内部動作に関するオープンさ

職場やサイバーセキュリティ システムで顔認識システムを使用している企業は、機械学習情報が保存されている場所に関する詳細をすべて把握する必要があります。このような企業は、日常業務にテクノロジーを導入する前に、テクノロジーの限界と機能を理解する必要があります。 AI テクノロジーを提供する企業は、これらの詳細について顧客に対して完全に透明性を持たせる必要があります。さらに、サービスプロバイダーは、顧客がどこでも顔認識システムを使用できることを保証する必要があります。システム内の更新は続行する前に顧客によって有効に承認される必要があります。

3. 企業責任の問題

要約すると、顔認識システムは多くの分野で導入されています。このようなシステムを製造する企業は、特にその技術が法執行や個人または集団による監視に直接影響を与える可能性がある場合には、責任を負わなければなりません。このようなシステムにおける説明責任とは、身体的または健康に基づく危害、金銭的流用、またはシステムから発生する可能性のあるその他の問題を防止するためのユースケースを含めることを意味します。プロセスに制御要素を導入するには、資格のある個人がビジネス内のシステムを担当し、慎重かつ論理的な意思決定を行います。さらに、顔認識システムを日常業務に組み込んでいる企業は、テクノロジーに対する顧客の不満に直ちに対処する必要があります。

4. 監視前の同意と通知

通常の状況では、個人またはグループの同意なしに、個人、グループ、またはその他の行動を監視するために顔認識システムを使用してはなりません。欧州連合などの一部の機関では、認可されていない企業が統治機関の管轄区域内で個人をスパイすることを防止するために、標準化された一連の法律を定めています。このようなシステムを使用する企業は、米国のデータ保護法とプライバシー法をすべて遵守する必要があります。

5. 人権侵害を回避するための法的監視

企業は、国家安全保障またはその他の重要な状況に関連する目的で中央政府または決定的な規制当局の許可がない限り、監視に顔認識システムを使用することはできません。グループ。基本的に、この技術を利用して被害者の人権や自由を侵害することは固く禁じられています。

これらの規制に例外なく従うようにプログラムされていますが、顔認識システムは操作ミスにより問題を引き起こす可能性があります。

このテクノロジーに関連する主な問題のいくつかは次のとおりです:

1. 購入時の認証エラー

前述したように、顔認識システムはデジタル決済に組み込まれています。ユーザーを容易にするアプリケーション このテクノロジーを使用してトランザクションを検証できます。このテクノロジーの存在により、顔の個人情報の盗難やデビット カードの詐欺などの犯罪行為が発生する可能性が非常に高くなります。顧客が顔認識システムを選択するのは、それがユーザーに提供する利便性の高さによるものです。顔認識システムにはセキュリティプロトコルが導入されているにもかかわらず、顔のコピーは資金の流用につながる可能性があります。

2. 法執行機関のアプリケーションにおける不正確さ

顔認識システムは、公的犯罪者を逮捕する前に特定するために使用されます。このテクノロジーは概念としては間違いなく法執行機関に役立ちますが、その動作には明らかな問題がいくつかあります。犯罪者はさまざまな方法でこのテクノロジーを悪用する可能性があります。たとえば、偏った AI の概念では、システムが有色人種を区別できない場合があるため、法執行官に不正確な結果が提供されます。通常、このようなシステムは白人男性の画像を含むデータセットでトレーニングされます。したがって、他の人種の人々を識別する場合、システムの仕組みは間違っています。

企業や公共機関が高度な顔認識システムを使用して民間人を違法にスパイしたとして告発された例がいくつかあります。個人の継続的な監視を通じて収集されたビデオ データは、さまざまな不正な目的に使用される可能性があります。顔認識システムの最大の欠点の 1 つは、顔認識システムが提供する出力が一般的すぎることです。

たとえば、ある人が重罪を犯した疑いがある場合、その人に犯罪歴があるかどうかを確認するために、その人の写真が撮影され、犯罪者の写真数枚と一緒に実行されます。ただし、このデータを積み重ねることは、顔認識データベースにその男性と経験豊富な重罪犯の写真が保持されることを意味します。つまり、本人が無実であるにもかかわらず、プライバシーが侵害されたことになります。第二に、この人は誰から見ても無実であるにもかかわらず、悪人であると認識される可能性があります。

顔認識テクノロジーに関連する主な問題やエラーは、テクノロジーの進歩の欠如、データセットの多様性の欠如、企業によるシステムの非効率な取り扱いに起因していることがわかります。私の意見では、現実世界のニーズにおける AI とその応用範囲は無限であり、顔認識テクノロジーのリスクは通常、テクノロジーが実際のニーズと異なる働きをするときに発生します。

今後のさらなるテクノロジーの発展により、テクノロジーに関連した問題は解決されるでしょう。 AI アルゴリズムのバイアスに関する問題は、最終的には解決されるでしょう。ただし、倫理規範に違反することなくテクノロジーが完璧に機能するためには、企業はそのようなシステムに対して厳格なレベルのガバナンスを維持する必要があります。ガバナンスが強化されれば、顔認識システムのバグは将来的に対処される可能性があります。したがって、前向きな解決策を達成するには、そのようなシステムの研究、開発、設計を改善する必要があります。

以上が顔認識技術の倫理原則は何ですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Jun 28, 2024 am 03:51 AM

このサイトは6月27日、JianyingはByteDanceの子会社であるFaceMeng Technologyによって開発されたビデオ編集ソフトウェアであり、Douyinプラットフォームに依存しており、基本的にプラットフォームのユーザー向けに短いビデオコンテンツを作成すると報告しました。 Windows、MacOS、その他のオペレーティング システム。 Jianyingは会員システムのアップグレードを正式に発表し、インテリジェント翻訳、インテリジェントハイライト、インテリジェントパッケージング、デジタルヒューマン合成などのさまざまなAIブラックテクノロジーを含む新しいSVIPを開始しました。価格的には、クリッピングSVIPの月額料金は79元、年会費は599元(当サイト注:月額49.9元に相当)、継続月額サブスクリプションは月額59元、継続年間サブスクリプションは、年間499元(月額41.6元に相当)です。さらに、カット担当者は、ユーザーエクスペリエンスを向上させるために、オリジナルのVIPに登録している人は、

Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Jun 10, 2024 am 11:08 AM

検索強化生成およびセマンティック メモリを AI コーディング アシスタントに組み込むことで、開発者の生産性、効率、精度を向上させます。 JanakiramMSV 著者の EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG から翻訳。基本的な AI プログラミング アシスタントは当然役に立ちますが、ソフトウェア言語とソフトウェア作成の最も一般的なパターンに関する一般的な理解に依存しているため、最も適切で正しいコードの提案を提供できないことがよくあります。これらのコーディング アシスタントによって生成されたコードは、彼らが解決する責任を負っている問題の解決には適していますが、多くの場合、個々のチームのコーディング標準、規約、スタイルには準拠していません。これにより、コードがアプリケーションに受け入れられるように修正または調整する必要がある提案が得られることがよくあります。

GenAI および LLM の技術面接に関する 7 つのクールな質問 GenAI および LLM の技術面接に関する 7 つのクールな質問 Jun 07, 2024 am 10:06 AM

AIGC について詳しくは、51CTOAI.x コミュニティ https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou を参照してください。これらの質問は、インターネット上のどこでも見られる従来の質問バンクとは異なります。既成概念にとらわれずに考える必要があります。大規模言語モデル (LLM) は、データ サイエンス、生成人工知能 (GenAI)、および人工知能の分野でますます重要になっています。これらの複雑なアルゴリズムは人間のスキルを向上させ、多くの業界で効率とイノベーションを推進し、企業が競争力を維持するための鍵となります。 LLM は、自然言語処理、テキスト生成、音声認識、推奨システムなどの分野で幅広い用途に使用できます。 LLM は大量のデータから学習することでテキストを生成できます。

微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります 微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります Jun 11, 2024 pm 03:57 PM

大規模言語モデル (LLM) は巨大なテキスト データベースでトレーニングされ、そこで大量の現実世界の知識を取得します。この知識はパラメータに組み込まれており、必要なときに使用できます。これらのモデルの知識は、トレーニングの終了時に「具体化」されます。事前トレーニングの終了時に、モデルは実際に学習を停止します。モデルを調整または微調整して、この知識を活用し、ユーザーの質問により自然に応答する方法を学びます。ただし、モデルの知識だけでは不十分な場合があり、モデルは RAG を通じて外部コンテンツにアクセスできますが、微調整を通じてモデルを新しいドメインに適応させることが有益であると考えられます。この微調整は、ヒューマン アノテーターまたは他の LLM 作成物からの入力を使用して実行され、モデルは追加の実世界の知識に遭遇し、それを統合します。

新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 Jul 25, 2024 am 06:42 AM

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

あなたが知らない機械学習の 5 つの流派 あなたが知らない機械学習の 5 つの流派 Jun 05, 2024 pm 08:51 PM

機械学習は人工知能の重要な分野であり、明示的にプログラムしなくてもコンピューターにデータから学習して能力を向上させる機能を提供します。機械学習は、画像認識や自然言語処理から、レコメンデーションシステムや不正行為検出に至るまで、さまざまな分野で幅広く応用されており、私たちの生活様式を変えつつあります。機械学習の分野にはさまざまな手法や理論があり、その中で最も影響力のある 5 つの手法は「機械学習の 5 つの流派」と呼ばれています。 5 つの主要な学派は、象徴学派、コネクショニスト学派、進化学派、ベイジアン学派、およびアナロジー学派です。 1. 象徴主義は、象徴主義とも呼ばれ、論理的推論と知識の表現のためのシンボルの使用を強調します。この学派は、学習は既存の既存の要素を介した逆演繹のプロセスであると信じています。

SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 Jul 17, 2024 pm 06:37 PM

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性​​を実証しています。 「S」で始まる関連研究

AIなどの市場を開拓するグローバルファウンドリーズがタゴール・テクノロジーの窒化ガリウム技術と関連チームを買収 AIなどの市場を開拓するグローバルファウンドリーズがタゴール・テクノロジーの窒化ガリウム技術と関連チームを買収 Jul 15, 2024 pm 12:21 PM

7月5日のこのウェブサイトのニュースによると、グローバルファウンドリーズは今年7月1日にプレスリリースを発行し、自動車とインターネットでの市場シェア拡大を目指してタゴール・テクノロジーのパワー窒化ガリウム(GaN)技術と知的財産ポートフォリオを買収したことを発表した。モノと人工知能データセンターのアプリケーション分野で、より高い効率とより優れたパフォーマンスを探求します。生成 AI などのテクノロジーがデジタル世界で発展を続ける中、窒化ガリウム (GaN) は、特にデータセンターにおいて、持続可能で効率的な電力管理のための重要なソリューションとなっています。このウェブサイトは、この買収中にタゴール・テクノロジーのエンジニアリングチームがGLOBALFOUNDRIESに加わり、窒化ガリウム技術をさらに開発するという公式発表を引用した。 G

See all articles