目次
1. 私の国のアルゴリズム ガバナンスの現在の法制度
2. アルゴリズムガバナンスの核心、道筋、システム構築
ホームページ テクノロジー周辺機器 AI 人工知能時代のアルゴリズムガバナンスの核心と道筋

人工知能時代のアルゴリズムガバナンスの核心と道筋

Apr 09, 2023 pm 01:01 PM
AI アルゴリズム データセキュリティ

2021年12月末、4部門が連名で「インターネット情報サービスアルゴリズム推奨管理規程」(以下「アルゴリズム推奨規程」)を署名・公表し、2022年3月1日より正式施行されました。これを踏まえ、アルゴリズムガバナンスの基本的な核心をさらに明確にし、アルゴリズム時代のガバナンスの新たな道筋を模索する必要がある。

人工知能時代のアルゴリズムガバナンスの核心と道筋

1. 私の国のアルゴリズム ガバナンスの現在の法制度

私の国のアルゴリズム ガバナンスの現在の法制度は、当初確立されており、幅広い立法レベルと多部門の連携を備えた法制度であり、急速に拡大している法制度。法的監督は、これまでのネットワーク セキュリティとデータ情報保護に焦点を当てていたものから、現在の徹底したガバナンス、つまり人工知能時代のアルゴリズム ガバナンスに移行しました。

トップレベル設計の観点からは、「法的社会の構築に向けた実行大綱(2020年~2025年)」において、アルゴリズム推奨やディープフォージェリなどの新技術適用のための標準化された管理手法の改善が提案されている。 。さらに、「第14次デジタル経済発展5カ年計画」では、コンピューティング能力、アルゴリズム、データ、アプリケーションリソースの相乗効果を備えた国家統合ビッグデータセンターシステムの構築の加速を指摘している。

法的および規制上の根拠という点では、民法、ネットワーク セキュリティ法、データ セキュリティ法、個人情報保護法、およびインターネット情報サービス管理措置がそれぞれ人格権、ネットワーク セキュリティ、データ セキュリティをカバーしています。情報の保護と活用、インターネットサービス等の観点からの取り組みを行っています。

アルゴリズムの専門的な規制の方向性としては、2021年9月に公表された部門別規範文書「インターネット情報サービスのアルゴリズムの総合的な管理の強化に関する指導意見」とアルゴリズム関連の2022年「アルゴリズム管理規程」がある。包括的かつ詳細な仕様が策定されました。

その他の規範文書や国家標準に関しては、多くの部門が機械学習、人工知能の倫理、情報合成、プラットフォームの監督などに関する間接的な規制を設けています。たとえば、「国務院プラットフォーム独占禁止委員会」などです。経済分野」「独占禁止ガイドライン」「国家市場規制総局、中国サイバースペース局、国家発展改革委員会、公安部、人的資源社会保障部、商務部、 「オンラインケータリングプラットフォームの責任の履行と食品配達員の効果的な保護に関する権利と利益に関する意見の指導」「新世代人工知能の倫理規定」「インターネット情報の深層合成の管理に関する規制」に関する中国全国労働組合総連合会「サービス(意見募集案)」「情報セキュリティ技術の機械学習アルゴリズムの安全性評価仕様書(意見募集案)」「情報セキュリティ技術個人情報安全仕様書」など

私たちは複数のレベルで立法を行ってきましたが、現在のアルゴリズム関連の立法体系には依然として問題があります。まず、立法レベルは細分化されており、主に部門の規範文書に焦点が当てられています。法律や規制の制定にかかる時間コストは、部門の規制やさまざまな規範文書に比べて大幅に高いため、主に部門の規範文書や国家標準で扱われるアルゴリズムに関する現在新たな問題が発生しており、施行が不十分で侵害される傾向があります。執行・監督効果の低下、部門の責任分担が不明確などの問題。同時に、複数の部門にまたがる規範文書により、プラットフォーム企業が適応できず、基準に一貫性がなく、特別な行動形式の緊急対応が必要になる原因にもなりました。第二に、プラットフォームの監督は主に事後受動的であり、洗練されたプラットフォーム監督規制が不足しています。プラットフォームの監督は主にプラットフォームの過失、行為、責任に基づく行政処罰措置を採用しているが、この監督モデルには事前のプロセス監督が欠如しており、アルゴリズム申告制度があっても主に特定の重要なアルゴリズム申告に留まっている。アルゴリズムのレビューロジックと登録基準も、アルゴリズムの分類システムに従ってタイムリーに調整する必要があります。第三に、アルゴリズムの技術仕様に対する監督はほとんどなく、立法にはアルゴリズムの原点への回帰が欠けています。アルゴリズムとは「計算方法」や「データ処理方法」という技術概念であると同時に、一定の学習能力を持ち、既存のアルゴリズム基盤やデータをもとに継続的に進化することができます。これらのコンピュータ命令の技術仕様については法的仕様がまだ整備されておらず、現時点では主な規制がネットワークセキュリティや法的リスクの観点から規制されている。

2. アルゴリズムガバナンスの核心、道筋、システム構築

アルゴリズム関連法制度の整備を促進し、アルゴリズムの正確なガバナンスを実現するためには、アルゴリズム ガバナンスはデータ情報セキュリティにあります。一方、アルゴリズムは自然言語に基づいて構築された一連のプログラム ロジックであり、本質的には AND、OR、NOT の論理演算です。しかし、アルゴリズムがどれほど複雑であっても、その本質は「データで訓練されたモデル」でもあり、つまり、アルゴリズムの継続的な動作と進化は、データを継続的に供給することによって実現されます。アルゴリズムはデータのサポートと切り離せないものであり、データ処理アクティビティに問題がある場合、必然的にアルゴリズムにも問題が発生します。したがって、アルゴリズムのガバナンスに注意を払う本質は、データのセキュリティと合理的な処理です。

一方で、自動意思決定アルゴリズムによる「ビッグデータ殺害」などの法的リスクが社会的にますます注目を集めており、アルゴリズムガバナンスの本質が情報の合理的な利用にあることを示しています。 。さらに、アルゴリズムの真髄はその正の値にあります。データ情報の使用と処理は、プラスの価値を追求し、検証可能、監査可能、監視可能、追跡可能、予測可能、信頼できるアルゴリズムを段階的に実現する必要があり、同時に包括的、公平、非差別的である必要があります。

データ情報セキュリティには、データ セキュリティと情報セキュリティという 2 つの主要な部分が含まれることに注意してください。データ セキュリティとは、データ処理活動を規制し、データ セキュリティを確保し、すべての当事者の利益を保護し、データの開発と利用と産業を確実にすることです。 「個人情報保護法」は、個人情報の処理活動を規制し、個人情報の合理的な利用を促進し、個人のプライバシーを厳格に保護する主体です。

アルゴリズム ガバナンスの核心を明確にすることによってのみ、立法規範と監督に重点を置くことができ、現在の実務におけるアルゴリズム ガバナンスのジレンマに対する新たな解決策を得ることができます。人工知能、さらには経済社会全体の発展には、膨大なデータや個人情報の充満が不可欠であり、自動意思決定アルゴリズムはデータ情報を最大限に活用し、より大きな経済的、社会的価値を発揮します。そこで筆者は、プライバシー保護の強化とデータの幅・深さ・正確性の拡大という、アルゴリズムガバナンスの「2つの内部と1つの外部」の保証パスを構築すべきであると考えている。アルゴリズムのセキュリティ保証メカニズム。

まず、プライバシー保護を強化します。 民法におけるプライバシー権の保護は人格権の条項に含まれており、プライバシー保護の重要性を示すのに十分です。現在、主要なプラットフォームのプライバシー ポリシーは調整および更新されており、今回の一連の更新により、関連するプラットフォームでのアルゴリズムの無秩序な開発にさらなる制限がもたらされることは間違いありません。プライバシー保護とアルゴリズム開発は相対的なものであり、プライバシー保護の強化は必然的にアルゴリズムの多様な開発を阻害することになりますが、プライバシー保護の重要性に基づいてこそ、アルゴリズムが他者の正当な権利利益を侵害することを回避することができます。プライバシー保護の強化は、次の点から始めることができます。

まず、プライバシー保護の強化は、立法の内容、アルゴリズムの設計と適用、申請と審査、法執行機関の監督の重点、法的責任などに反映されます。これが基礎です。基本的な概念は、収益の原則でもあります。

第二に、主要なグループ、特に14歳未満の未成年者、高齢者、労働者、消費者のプライバシー保護を強化することも非常に重要です。情報の保護およびデータ処理は、民法のプライバシー保護に関する関連規定および個人情報保護法の要配慮個人情報に関する関連規定に従って行われます。個人情報処理活動は、個人情報処理の 5 つの重要原則を満たし、個人情報処理の中核となる「通知・通知・同意」の原則を遵守します。

第三に、プライバシー保護に関する紛争は主に私法救済を通じて解決されますが、アルゴリズム ガバナンスに関わるプライバシー保護問題は必然的により多くの公法救済チャンネルと組み合わせる必要があるため、現時点ではより多くの公法ガバナンス アルゴリズムが必要です。 、プライバシー保護と公法および私法ガバナンスの伝統的な属性の統合に注意を払う必要があります。

2 つ目は、データの幅、深さ、精度を広げることです。 アルゴリズム ガバナンスは、決して規制上の罰則を過度に強調するものではなく、むしろ事前の全体的な管理を重視します。ディープラーニングなどの自動意思決定には大量のデータを入力する必要があり、データ量が不足していたり​​、データが不正確であると、アルゴリズムが間違った方向に計算してしまいます。たとえば、企業が「ユーザープロファイリング」を行う場合、ユーザーデータベースが小さかったり、特定の次元のデータが欠落していたり​​すると、関連する情報を正確にプッシュしたり、対応するサービスを提供したりすることができません。データの幅、深さ、正確性を拡張する場合、法的なデータ処理活動によって制限する必要がありますが、この問題に対処するための重要なポイントは次のとおりです。セキュリティ: セキュリティは、データ処理の基礎であるアルゴリズムの安全性と安定性を保証します。

第二に、重要なデータとデータの階層的かつ機密管理システムを確立します。大量のデータの流入はアルゴリズムの基本的な順序を混乱させる可能性があるため、主要なプラットフォーム、特に非常に大規模なプラットフォームではデータの階層分類を標準化する必要があります。

第三に、アルゴリズムに検証およびエラー修正メカニズムを確立します。つまり、ランダム検査メカニズム、結果警告などのデータの品質を検証して、データの欠陥を発見し、逸脱を修正できるようにします。はやくて。

3 つ目は、アルゴリズムのセキュリティ メカニズムです。

プライバシー保護とデータの最初の 2 つの基盤では、アルゴリズムのセキュリティ メカニズムを改善することが特に重要です。安全保証の仕組みには、科学技術倫理審査、法的保証、安全性評価・監視、安全事故時の緊急対応などが含まれ、技術、法律、管理の多重保証を形成しています。具体的な対策としては次のようなものが挙げられます。

まず、アルゴリズムが優れています

。アルゴリズム登録審査の基本は科学技術倫理審査にあるが、この審査の難しさはアルゴリズムの予測不可能さにある、現在のアルゴリズムルール審査が合理的であっても、アルゴリズム自体が拡張するにつれて、その結果がアルゴリズムに一貫性がなくなる可能性があります。したがって、定期的なレビューとフォローアップの監督を強化し、厳重に防止するために、技術、法律、その他の分野の専門家、規制当局およびサードパーティ業界の代表者で構成されるアルゴリズム倫理ワーキンググループと同様の専門組織を設立する必要があります。アルゴリズムの値に関する問題。

第二に、法的保護。

アルゴリズムガバナンスに関する現行の法的トップレベルの設計は徐々に完了しており、次に、アルゴリズムの推奨管理に加えて、アルゴリズム技術の研究開発、データマイニング、ルールの内容など、他のアルゴリズムの活動にも注意を払う必要があります。 、運営サポート、人事管理、その他の観点から、アルゴリズム ガバナンスの新しいパターンを構築します。

第三に、安全評価の監視や安全事故への緊急対応などの管理システムと技術的対策を改善します。 企業の場合、アルゴリズムのセキュリティに対する主要な責任を実装し、アルゴリズムのセキュリティに対する防御の第一線を守り、アルゴリズムのメカニズムのレビューを確立および改善する必要があります。規制当局や業界団体は、アルゴリズムセキュリティの業界標準体系を策定し、アルゴリズムセキュリティの基本概念を推進し、社会全体に対するマルチチャネルの監督部隊を形成する必要がある。

アルゴリズムの時代はあらゆる分野に大きな影響を与え、現在の組織形態にも新たなダイナミックな変化をもたらしました。アルゴリズムの悪用によって引き起こされる問題は業界で非常に大きい可能性があり、アルゴリズムのガバナンスはアルゴリズムの開発と同時に実行され、アルゴリズムガバナンスの「2つの内部と1つの外部」の保証パスを効果的に構築し、良好なデジタルビジネス環境を確立し、アルゴリズムの開発を促進する必要があります。デジタル経済と社会の安定した健全性、発展。

以上が人工知能時代のアルゴリズムガバナンスの核心と道筋の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Jun 28, 2024 am 03:51 AM

このサイトは6月27日、JianyingはByteDanceの子会社であるFaceMeng Technologyによって開発されたビデオ編集ソフトウェアであり、Douyinプラットフォームに依存しており、基本的にプラットフォームのユーザー向けに短いビデオコンテンツを作成すると報告しました。 Windows、MacOS、その他のオペレーティング システム。 Jianyingは会員システムのアップグレードを正式に発表し、インテリジェント翻訳、インテリジェントハイライト、インテリジェントパッケージング、デジタルヒューマン合成などのさまざまなAIブラックテクノロジーを含む新しいSVIPを開始しました。価格的には、クリッピングSVIPの月額料金は79元、年会費は599元(当サイト注:月額49.9元に相当)、継続月額サブスクリプションは月額59元、継続年間サブスクリプションは、年間499元(月額41.6元に相当)です。さらに、カット担当者は、ユーザーエクスペリエンスを向上させるために、オリジナルのVIPに登録している人は、

Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Jun 10, 2024 am 11:08 AM

検索強化生成およびセマンティック メモリを AI コーディング アシスタントに組み込むことで、開発者の生産性、効率、精度を向上させます。 JanakiramMSV 著者の EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG から翻訳。基本的な AI プログラミング アシスタントは当然役に立ちますが、ソフトウェア言語とソフトウェア作成の最も一般的なパターンに関する一般的な理解に依存しているため、最も適切で正しいコードの提案を提供できないことがよくあります。これらのコーディング アシスタントによって生成されたコードは、彼らが解決する責任を負っている問題の解決には適していますが、多くの場合、個々のチームのコーディング標準、規約、スタイルには準拠していません。これにより、コードがアプリケーションに受け入れられるように修正または調整する必要がある提案が得られることがよくあります。

GenAI および LLM の技術面接に関する 7 つのクールな質問 GenAI および LLM の技術面接に関する 7 つのクールな質問 Jun 07, 2024 am 10:06 AM

AIGC について詳しくは、51CTOAI.x コミュニティ https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou を参照してください。これらの質問は、インターネット上のどこでも見られる従来の質問バンクとは異なります。既成概念にとらわれずに考える必要があります。大規模言語モデル (LLM) は、データ サイエンス、生成人工知能 (GenAI)、および人工知能の分野でますます重要になっています。これらの複雑なアルゴリズムは人間のスキルを向上させ、多くの業界で効率とイノベーションを推進し、企業が競争力を維持するための鍵となります。 LLM は、自然言語処理、テキスト生成、音声認識、推奨システムなどの分野で幅広い用途に使用できます。 LLM は大量のデータから学習することでテキストを生成できます。

微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります 微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります Jun 11, 2024 pm 03:57 PM

大規模言語モデル (LLM) は巨大なテキスト データベースでトレーニングされ、そこで大量の現実世界の知識を取得します。この知識はパラメータに組み込まれており、必要なときに使用できます。これらのモデルの知識は、トレーニングの終了時に「具体化」されます。事前トレーニングの終了時に、モデルは実際に学習を停止します。モデルを調整または微調整して、この知識を活用し、ユーザーの質問により自然に応答する方法を学びます。ただし、モデルの知識だけでは不十分な場合があり、モデルは RAG を通じて外部コンテンツにアクセスできますが、微調整を通じてモデルを新しいドメインに適応させることが有益であると考えられます。この微調整は、ヒューマン アノテーターまたは他の LLM 作成物からの入力を使用して実行され、モデルは追加の実世界の知識に遭遇し、それを統合します。

新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 Jul 25, 2024 am 06:42 AM

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

あなたが知らない機械学習の 5 つの流派 あなたが知らない機械学習の 5 つの流派 Jun 05, 2024 pm 08:51 PM

機械学習は人工知能の重要な分野であり、明示的にプログラムしなくてもコンピューターにデータから学習して能力を向上させる機能を提供します。機械学習は、画像認識や自然言語処理から、レコメンデーションシステムや不正行為検出に至るまで、さまざまな分野で幅広く応用されており、私たちの生活様式を変えつつあります。機械学習の分野にはさまざまな手法や理論があり、その中で最も影響力のある 5 つの手法は「機械学習の 5 つの流派」と呼ばれています。 5 つの主要な学派は、象徴学派、コネクショニスト学派、進化学派、ベイジアン学派、およびアナロジー学派です。 1. 象徴主義は、象徴主義とも呼ばれ、論理的推論と知識の表現のためのシンボルの使用を強調します。この学派は、学習は既存の既存の要素を介した逆演繹のプロセスであると信じています。

改良された検出アルゴリズム: 高解像度の光学式リモートセンシング画像でのターゲット検出用 改良された検出アルゴリズム: 高解像度の光学式リモートセンシング画像でのターゲット検出用 Jun 06, 2024 pm 12:33 PM

01 今後の概要 現時点では、検出効率と検出結果の適切なバランスを実現することが困難です。我々は、光学リモートセンシング画像におけるターゲット検出ネットワークの効果を向上させるために、多層特徴ピラミッド、マルチ検出ヘッド戦略、およびハイブリッドアテンションモジュールを使用して、高解像度光学リモートセンシング画像におけるターゲット検出のための強化されたYOLOv5アルゴリズムを開発しました。 SIMD データセットによると、新しいアルゴリズムの mAP は YOLOv5 より 2.2%、YOLOX より 8.48% 優れており、検出結果と速度のバランスがより優れています。 02 背景と動機 リモート センシング技術の急速な発展に伴い、航空機、自動車、建物など、地表上の多くの物体を記述するために高解像度の光学式リモート センシング画像が使用されています。リモートセンシング画像の判読における物体検出

SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 Jul 17, 2024 pm 06:37 PM

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性​​を実証しています。 「S」で始まる関連研究

See all articles