目次
一部の製品やサービスにはデータが必要ですが、誰かのプライバシーを侵害する必要はありません
リバース エンジニアリングの問題について説明しました。リバース エンジニアリングでは、悪意のある者が AI
データ プライバシーと人工知能の将来は何ですか?
ホームページ テクノロジー周辺機器 AI AI 設計がデータ プライバシーを優先する必要がある理由

AI 設計がデータ プライバシーを優先する必要がある理由

Apr 12, 2023 pm 09:13 PM
AI データ アルゴリズム

  • 人工知能はヘルスケア、テクノロジー、その他の分野の発展に不可欠ですが、データプライバシーがどのように規制されるかについて懸念があります。
  • データプライバシーは、テクノロジーの進歩に対する社会の信頼を得るために不可欠です。

データ プライバシーは、消費者データに基づく人工知能 (AI) モデルに関連付けられることがよくあります。ユーザーが、機密情報を含む可能性のあるデータを取得して使用する自動化テクノロジーに対して警戒するのは当然です。 AI

モデルは重要な結果を生み出すためにデータの品質に依存しているため、その存続は、設計の不可欠な部分であるプライバシー保護にかかっています。

優れたプライバシーとデータ管理の実践は、顧客の恐怖や懸念を和らげるための単なる手段ではなく、企業の中核となる組織的価値観、ビジネス プロセス、セキュリティ管理と大きく関係しています。プライバシー問題は広く調査され、公表されており、プライバシー認識調査データは、消費者にとってプライバシー保護が重要な問題であることを示しています。

これらの問題に状況に応じて対処することが重要であり、消費者向け AI を使用する企業にとって、AI に一般的に関連付けられるプライバシーの懸念に対処するのに役立つ方法やテクニックがいくつかあります。

一部の製品やサービスにはデータが必要ですが、誰かのプライバシーを侵害する必要はありません

人工知能を使用する企業は、すでにプライバシーに関する世間の疑問に直面しています。欧州消費者機関による 2020 年の調査によると、欧州人の 45 ~ 60% が AI によって個人データの悪用がさらに増えることに同意しています。

AI

アルゴリズムを学習および改善するために大規模なデータ セットに依存する人気のオンライン サービスや製品が多数あります。これらのデータセット内のデータの一部は、プライバシーをあまり意識しないユーザーにとってもプライベートであるとみなされる可能性があります。 Web、ソーシャル メディア ページ、携帯電話、その他のデバイスからのデータ ストリームにより、企業が機械学習システムのトレーニングに使用する情報量が増加します。一部の企業による個人データの過剰使用と誤った管理により、プライバシー保護は世界中で公共政策の問題になりつつあります。

私たちが収集する機密データのほとんどは、AI 対応プロセスを改善するために使用されます。これらのデータセットに基づいてリアルタイムで意思決定を行うには複雑なアルゴリズムが必要となるため、分析されるデータの多くは機械学習の導入によっても推進されます。検索アルゴリズム、音声アシスタント、レコメンデーション エンジンは、現実世界のユーザー データの大規模なデータセットに基づく

AI を活用するソリューションのほんの一部です。

大規模なデータベースには広範囲のデータが含まれる可能性があり、最も差し迫った問題の 1 つは、このデータが個人を特定でき、機密性の高いデータである可能性があることです。実際、アルゴリズムに意思決定を教えることは、データが誰に関連しているかを知ることに依存しません。したがって、このような製品を開発する企業は、ソースデータ内のユーザーを識別する方法がほとんどないデータセットを民営化し、リバースエンジニアリングや識別を回避するためにアルゴリズムからエッジケースを削除する手段の開発に重点を置く必要があります。

データプライバシーと人工知能の関係は非常にデリケートです。一部のアルゴリズムでは必然的にプライベート データが必要になる場合がありますが、より安全で非侵入的な方法でそれを使用する方法があります。以下の方法は、プライベート データを扱う企業がソリューションの一部となる方法のほんの一部です。

プライバシーを考慮した AI 設計

リバース エンジニアリングの問題について説明しました。リバース エンジニアリングでは、悪意のある者が AI

モデルの脆弱性を発見し、モデルの出力から抽出します。潜在的に重要な情報。リバース エンジニアリングは、この課題に直面してデータベースと学習データを変更および改善することが AI の利用にとって重要である理由です。

たとえば、機械学習プロセス (敵対的学習) で矛盾するデータセットを組み合わせるのは、AI

アルゴリズムの出力における欠陥やバイアスを区別するための良いオプションです。実際の個人データを使用しない合成データセットを使用するオプションもありますが、その有効性については依然として疑問があります。

ヘルスケアは、特に機密の個人データを扱う場合における人工知能とデータ プライバシー ガバナンスの先駆者です。また、医療処置やデータの処理など、同意に関して多くの作業を行っています。リスクは高く、法律によって強制されています。

AI 製品とアルゴリズムの全体的な設計では、ユーザー データを使用して AI モデルをトレーニングする企業にとって、匿名化と集約を通じてデータをユーザーから切り離すことが重要です。

AI 企業のプライバシー保護を強化するには、多くの考慮事項があります:

  • プライバシーを中心に据える: プライバシー保護を開発者の注目に集め、セキュリティを効果的に強化する方法を見つけてください。
  • データセットを匿名化して集約し、すべての個人識別子と一意のデータポイントを削除します。
  • 社内の誰が特定のデータセットにアクセスできるかを厳密に管理し、このデータがどのようにアクセスされるかを継続的に監査します。これが過去のデータ侵害の原因となっているためです。
  • データを増やすことが常に最善の解決策であるとは限りません。最小限のデータでアルゴリズムをテストし、ユースケースを実現するために収集および処理する必要がある最小限のデータ量を理解します。
  • ユーザーの要求に応じて個人データを削除するための簡素化された方法を提供する必要があります。ユーザーデータを擬似的に匿名化するだけの企業は、最新のデータを使用してモデルを継続的に再トレーニングする必要があります。
  • アルゴリズムのトレーニング、監査、品質保証などに、完全に匿名化された不可逆的な識別子を備えた集約データセットや合成データセットなどの強力な匿名化戦略を活用します。
  • 重要な情報を第三者から取得および使用する方法を再考することで、ユーザーの自主性とプライバシーを保護します。データ ソースを精査し、ユーザーの明示的かつ十分な情報に基づく同意を得てデータを収集したもののみを使用します。
  • リスクを考慮してください: 攻撃により、AI システムの出力からユーザーのプライバシーが侵害される可能性がありますか?

データ プライバシーと人工知能の将来は何ですか?

人工知能システムには大量のデータが必要であり、一部のトップオンラインサービスや製品は、AI アルゴリズムのトレーニングに使用される個人データなしでは機能しません。ただし、アルゴリズム自体やデータ管理全体を含め、データの取得、管理、使用を改善する方法は数多くあります。プライバシーを尊重する AI には、プライバシーを尊重する企業が必要です。

この記事の著者: Einaras von Gravrock、CUJO AI の CEO 兼創設者

以上がAI 設計がデータ プライバシーを優先する必要がある理由の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Jun 28, 2024 am 03:51 AM

このサイトは6月27日、JianyingはByteDanceの子会社であるFaceMeng Technologyによって開発されたビデオ編集ソフトウェアであり、Douyinプラットフォームに依存しており、基本的にプラットフォームのユーザー向けに短いビデオコンテンツを作成すると報告しました。 Windows、MacOS、その他のオペレーティング システム。 Jianyingは会員システムのアップグレードを正式に発表し、インテリジェント翻訳、インテリジェントハイライト、インテリジェントパッケージング、デジタルヒューマン合成などのさまざまなAIブラックテクノロジーを含む新しいSVIPを開始しました。価格的には、クリッピングSVIPの月額料金は79元、年会費は599元(当サイト注:月額49.9元に相当)、継続月額サブスクリプションは月額59元、継続年間サブスクリプションは、年間499元(月額41.6元に相当)です。さらに、カット担当者は、ユーザーエクスペリエンスを向上させるために、オリジナルのVIPに登録している人は、

Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Jun 10, 2024 am 11:08 AM

検索強化生成およびセマンティック メモリを AI コーディング アシスタントに組み込むことで、開発者の生産性、効率、精度を向上させます。 JanakiramMSV 著者の EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG から翻訳。基本的な AI プログラミング アシスタントは当然役に立ちますが、ソフトウェア言語とソフトウェア作成の最も一般的なパターンに関する一般的な理解に依存しているため、最も適切で正しいコードの提案を提供できないことがよくあります。これらのコーディング アシスタントによって生成されたコードは、彼らが解決する責任を負っている問題の解決には適していますが、多くの場合、個々のチームのコーディング標準、規約、スタイルには準拠していません。これにより、コードがアプリケーションに受け入れられるように修正または調整する必要がある提案が得られることがよくあります。

GenAI および LLM の技術面接に関する 7 つのクールな質問 GenAI および LLM の技術面接に関する 7 つのクールな質問 Jun 07, 2024 am 10:06 AM

AIGC について詳しくは、51CTOAI.x コミュニティ https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou を参照してください。これらの質問は、インターネット上のどこでも見られる従来の質問バンクとは異なります。既成概念にとらわれずに考える必要があります。大規模言語モデル (LLM) は、データ サイエンス、生成人工知能 (GenAI)、および人工知能の分野でますます重要になっています。これらの複雑なアルゴリズムは人間のスキルを向上させ、多くの業界で効率とイノベーションを推進し、企業が競争力を維持するための鍵となります。 LLM は、自然言語処理、テキスト生成、音声認識、推奨システムなどの分野で幅広い用途に使用できます。 LLM は大量のデータから学習することでテキストを生成できます。

微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります 微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります Jun 11, 2024 pm 03:57 PM

大規模言語モデル (LLM) は巨大なテキスト データベースでトレーニングされ、そこで大量の現実世界の知識を取得します。この知識はパラメータに組み込まれており、必要なときに使用できます。これらのモデルの知識は、トレーニングの終了時に「具体化」されます。事前トレーニングの終了時に、モデルは実際に学習を停止します。モデルを調整または微調整して、この知識を活用し、ユーザーの質問により自然に応答する方法を学びます。ただし、モデルの知識だけでは不十分な場合があり、モデルは RAG を通じて外部コンテンツにアクセスできますが、微調整を通じてモデルを新しいドメインに適応させることが有益であると考えられます。この微調整は、ヒューマン アノテーターまたは他の LLM 作成物からの入力を使用して実行され、モデルは追加の実世界の知識に遭遇し、それを統合します。

新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 Jul 25, 2024 am 06:42 AM

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

改良された検出アルゴリズム: 高解像度の光学式リモートセンシング画像でのターゲット検出用 改良された検出アルゴリズム: 高解像度の光学式リモートセンシング画像でのターゲット検出用 Jun 06, 2024 pm 12:33 PM

01 今後の概要 現時点では、検出効率と検出結果の適切なバランスを実現することが困難です。我々は、光学リモートセンシング画像におけるターゲット検出ネットワークの効果を向上させるために、多層特徴ピラミッド、マルチ検出ヘッド戦略、およびハイブリッドアテンションモジュールを使用して、高解像度光学リモートセンシング画像におけるターゲット検出のための強化されたYOLOv5アルゴリズムを開発しました。 SIMD データセットによると、新しいアルゴリズムの mAP は YOLOv5 より 2.2%、YOLOX より 8.48% 優れており、検出結果と速度のバランスがより優れています。 02 背景と動機 リモート センシング技術の急速な発展に伴い、航空機、自動車、建物など、地表上の多くの物体を記述するために高解像度の光学式リモート センシング画像が使用されています。リモートセンシング画像の判読における物体検出

SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 Jul 17, 2024 pm 06:37 PM

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性​​を実証しています。 「S」で始まる関連研究

AI スタートアップ企業は一斉に OpenAI に転職し、イリヤが去った後にセキュリティ チームが再編成されました。 AI スタートアップ企業は一斉に OpenAI に転職し、イリヤが去った後にセキュリティ チームが再編成されました。 Jun 08, 2024 pm 01:00 PM

先週、社内の辞任と社外からの批判が相次ぐ中、OpenAIは内外のトラブルに見舞われた。 - 未亡人姉妹への侵害が世界中で白熱した議論を巻き起こした - 「覇権条項」に署名した従業員が次々と暴露 - ネットユーザーがウルトラマンの「」をリストアップ噂の払拭: Vox が入手した漏洩情報と文書によると、アルトマンを含む OpenAI の上級幹部はこれらの株式回収条項をよく認識しており、承認しました。さらに、OpenAI には、AI セキュリティという深刻かつ緊急の課題が直面しています。最近、最も著名な従業員2名を含むセキュリティ関連従業員5名が退職し、「Super Alignment」チームが解散したことで、OpenAIのセキュリティ問題が再び注目を集めている。フォーチュン誌は OpenA を報じた。

See all articles