人工知能をより倫理的に健全で実用的なものにするためには、ディープ ニューラル ネットワークの解釈可能性を高めることが重要です。
AI への取り組みに関する透明性は、テクノロジーを日常業務に統合している組織にとって頭痛の種となる可能性があります。では、説明可能な AI の必要性についての懸念を和らげるために何ができるでしょうか?
AI がどの業界でも大きなメリットをもたらすことはよく知られています。私たちは、このテクノロジーが世界中の何千もの企業の業務をスピードアップし、従業員をより想像力豊かに活用するのにどのように役立っているかを認識しています。さらに、AI の長期的なコストとデータ セキュリティの利点は、テクノロジー コラムニストやブロガーによって何度も文書化されています。ただし、人工知能には相応の問題があります。問題の 1 つは、テクノロジーの意思決定に疑問が生じる場合があることです。しかし、より重要なことは、AI 駆動システムが恥ずかしい、または壊滅的な方法で誤動作するたびに、説明可能性がわずかに欠如することがより大きな問題であるということです。
人間は毎日間違いを犯します。ただし、エラーがどのように発生するかを正確に知っています。将来同じ間違いを避けるために、明確な一連の修正措置を講じることができます。ただし、AI の一部のエラーは説明が不可能です。データの専門家は、アルゴリズムがその動作においてどのようにして特定の結論に達するのかを理解していないからです。したがって、説明可能な AI は、テクノロジーを日常業務に導入しようと計画している組織と、すでに導入している組織の両方にとって、最優先事項である必要があります。
人工知能に関するよくある誤解は、人工知能は完全に無謬であるということです。ニューラル ネットワークは、特に初期段階では間違いを犯す可能性があります。同時に、これらのネットワークは非透明な方法で注文を実行します。前述したように、AI モデルが特定の結論に達するまでの経路は、運用中のどの時点でも明確ではありません。したがって、経験豊富なデータ専門家であっても、このようなエラーを説明することはほとんど不可能です。
人工知能の透明性の問題は、医療業界において特に深刻です。この例を考えてみましょう。病院には、患者の脳疾患を診断するニューラル ネットワークまたはブラック ボックス AI モデルがあります。このインテリジェント システムは、過去の記録や患者の既存の医療ファイルからデータのパターンを探すように訓練されています。予測分析では、対象者が将来脳関連疾患にかかりやすいとモデルが予測する場合、その予測の背後にある理由が 100% 明確ではないことがよくあります。民間機関と公的機関の両方において、AI への取り組みの透明性を高める 4 つの主な理由は次のとおりです:
前述したように、関係者は AI モデルについて知る必要があります。特に予期しない推奨事項や決定については、意思決定プロセスの背後にあります。説明可能な AI システムにより、将来的にアルゴリズムが公正かつ倫理的な推奨と決定を行うことが保証されます。これにより、組織内の AI ニューラル ネットワークに対するコンプライアンスと信頼が向上します。
説明可能な人工知能により、作業中にシステム エラーが発生するのを防ぐことができます。 AI モデルの既存の弱点に関するより多くの知識を利用して、それらを解消できます。その結果、組織は AI システムによって提供される出力をより詳細に制御できるようになります。
誰もが知っているように、人工知能のモデルとシステムには、随時継続的な改善が必要です。 Explainable AI アルゴリズムは、定期的なシステム更新中にさらに賢くなります。
新しい情報の手がかりにより、人類はHIVエイズの治療薬や治療法、注意欠陥障害に対処する方法など、現代の主要な問題の解決策を発見できるようになります。 。さらに、これらの発見は、普遍的な検証のための確かな証拠と理論的根拠によって裏付けられます。
AI 主導のシステムでは、透明性は、人間が理解できる自然言語による分析ステートメント、出力の決定に使用されるデータを強調表示する視覚化、および特定のデータをサポートするポイントを示す視覚化の形式で表現されます。システムが他の決定を拒否した理由を強調するケースまたはステートメント。
近年、説明可能な人工知能の分野が発展し、拡大しています。最も重要なことは、この傾向が将来も続けば、企業は説明可能な AI を使用して、AI を活用したすべての重要な意思決定の背後にある理論的根拠を理解しながら、成果を向上させることができるようになるということです。
これらが AI の透明性を高める必要がある理由ですが、同じことが起こらないようにするにはいくつかの障害があります。これらの障害には次のようなものがあります。
説明可能な AI は、AI システムの公平性、信頼性、正当性などの側面を改善できることが知られています。ただし、説明可能な AI が多くの問題を引き起こす可能性があるため、一部の組織はインテリジェント システムの説明責任を高めることにあまり熱心ではないかもしれません。これらの問題には次のようなものがあります。
AI モデルがどのように動作するかについての重要な詳細を盗む。
システムの脆弱性に対する意識の高まりによる、外部からのサイバー攻撃の脅威。
さらに、AI システム内の機密の意思決定データを公開および公開すると、組織は訴訟や規制措置に対して脆弱になると多くの人が考えています。
この「透明性のパラドックス」の犠牲にならないように、企業は説明可能な AI に関連するリスクとその明確なメリットを考慮する必要があります。企業は、説明可能な AI システムによって生成された情報が希薄化しないようにしながら、これらのリスクを効果的に管理する必要があります。
さらに、企業は 2 つのことを理解する必要があります。まず、AI の透明化に関連するコストによって、そのようなシステムの統合が妨げられることがあってはなりません。企業は、提供する重要な情報の機密性を保つために、解釈可能なモデルに対応したリスク管理計画を策定する必要があります。第 2 に、企業はサイバーセキュリティ フレームワークを改善して、データ侵害につながる可能性のある脆弱性やサイバー脅威を検出して無力化する必要があります。
ディープ ラーニングは人工知能に不可欠な部分です。深層学習モデルとニューラル ネットワークは、多くの場合、教師なしの方法でトレーニングされます。深層学習ニューラル ネットワークは、画像認識と処理、高度な音声認識、自然言語処理、システム翻訳に関与する人工知能の重要なコンポーネントです。残念なことに、この AI コンポーネントは従来の機械学習モデルよりも複雑なタスクを処理できますが、ディープラーニングは日常の業務やタスクにブラックボックスの問題をもたらします。
ご存知のとおり、ニューラル ネットワークは人間の脳の働きを再現できます。人工ニューラル ネットワークの構造は、実際のニューラル ネットワークを模倣しています。ニューラル ネットワークは、相互接続されたノードのいくつかの層とその他の「隠れた」層から作成されます。これらのニューラル ノードは基本的な論理演算および数学的演算を実行して結論を導き出しますが、履歴データを処理してそこから結果を生成するのに十分な賢さと直観性も備えています。本当に複雑な演算には、複数のニューラル層と数十億の数学的変数が関係します。したがって、これらのシステムから生成された出力は、組織内の AI 専門家によって完全に検証および検証される可能性はほとんどありません。
Deloitte や Google などの組織は、ブラック ボックスを突破し、AI による重要な意思決定に使用されるデータを明らかにして、インテリジェント システムの透明性を高めるツールやデジタル アプリケーションの作成に取り組んでいます。
AI の説明責任を高めるには、組織は既存の AI ガバナンス戦略を再考する必要があります。ここでは、ガバナンスを改善することで透明性ベースの AI の問題を軽減できる重要な領域をいくつか紹介します。
初期段階では、組織は AI システムを構築し、ニューラル ネットワークをトレーニングする際に信頼と透明性を優先できます。 AI サービス プロバイダーやベンダーが AI ネットワークをどのように設計するかに細心の注意を払うことで、組織内の主要な意思決定者に AI モデルの機能と精度に関する疑問を早期に認識させることができます。このように、システム設計段階で組織が観察できるように、AI に関する透明性ベースの問題の一部を明らかにする実践的なアプローチがあります。
AI の責任に関して世界中の AI 規制がますます厳しくなるにつれ、組織は AI モデルとシステムをこれらの規範や標準に準拠させることで真の利益を得ることができます。組織は、説明可能な AI システムを作成するよう AI ベンダーに働きかける必要があります。 AI アルゴリズムの偏りを排除するために、企業は高価なデータ専門家やチームを雇う代わりに、クラウドベースのサービスプロバイダーにアプローチすることができます。組織は、クラウド サービス プロバイダーに対して、職場での AI システムのインストールおよび実装中にコンプライアンス関連のすべてのボックスにチェックを入れるよう明確に指示することで、コンプライアンスの負担を軽減する必要があります。これらのポイントに加えて、組織は AI ガバナンス計画にプライバシーやデータ セキュリティなどのポイントを含めることもできます。
私たちは、今世紀に入って以来、人工知能やディープラーニングなど、最も驚くべきテクノロジーの進歩を遂げてきました。幸いなことに、100% 説明可能な AI はまだ存在していませんが、AI を活用した透明なシステムの概念は実現不可能な夢ではありません。 AI ガバナンスを改善し、リスクを負ってこれを達成できるかどうかは、これらのシステムを実装する組織にかかっています。
以上が人工知能をより透明にすることは可能でしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。
![[Web フロントエンド] Node.js クイック スタート](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
