18か国が共同でAI安全ガイドラインを発行

英国の国立サイバー セキュリティ センター (NCSC) は、AI システムの開発者とプロバイダーが「意図したとおりに動作し、必要なときに利用できる AI システムを構築する」のに役立つ新しいガイダンスをリリースしました。

AI システムの中心にサイバーセキュリティを置く方法

セキュアな AI システム開発のガイドラインには ML が含まれます アプリケーション開発ライフサイクルの 4 つの主要な段階

安全な設計は、システム所有者、開発者、ユーザーなど、関係者全員が AI システムが直面する固有のセキュリティ リスクを認識し、それらを回避する方法を教えられるかどうかにかかっています。

これはガイドラインに記載されています:「システムの脅威はモデル化され、システムはセキュリティ、機能、パフォーマンスの観点から設計されるべきです。」さらに、開発者は AI モデルを選択する際にセキュリティの利点とトレードオフを考慮する必要があります。 （複雑であればあるほど良いというわけではありません）

安全な開発を実現するには、サプライチェーンのセキュリティを確保することが前提条件であり、同時に資産（モデル、データ、プロンプト、ソフトウェアなど）を保護する必要があります。データ システムと技術的負債の管理に関するヒント

安全な導入には、(システム ライフサイクルのあらゆる部分で) 安全なインフラストラクチャと、スキーマとデータの継続的な保護が必要です。直接および間接的なアクセスからのデータ。 (避けられない) セキュリティ インシデントに対処するには、包括的なインシデント対応、エスカレーション、修復計画を作成する必要があります。

AI は責任を持ってリリースされる必要があります。つまり、安全性が徹底的に評価され、ユーザーが制限や潜在的な障害モードを評価した後にのみリリースされる必要があります。

理想的には、最も安全な設定は次のとおりです。唯一のオプションとしてシステムに統合されます。構成が必要な場合、デフォルトのオプションは一般に一般的な脅威に対して安全である必要があります (つまり、デフォルトで安全です)。制御を適用して、システムが悪意のある方法で使用または展開されるのを防ぎます。

最終的には、安全な運用とメンテナンスを行うために、オペレーターは、特に脆弱性などの障害が発生した場合に、システムの動作と入力を監視し、自動更新を有効にして透明性と応答性を維持することをお勧めします。 #AI サイバーセキュリティ ガイドラインは誰を対象としていますか?

これらのガイドラインは、米国サイバーセキュリティ・インフラストラクチャー・セキュリティ庁 (CISA) および世界中の同様の機関および CERT、および業界の専門家の協力を得て起草されました。の。

「英国主導の新しいガイドラインは、世界的に合意された最初のものであり、AI を使用するシステムの開発者が開発プロセスのあらゆる段階で情報に基づいたサイバーセキュリティの意思決定を行うのに役立ちます。意思決定 - これらのシステムが適切であるかどうかゼロから作成されるか、他者が提供するツールやサービスに基づいて構築される」と英国の国立サイバーセキュリティセンターは指摘した。

「[ガイドライン] は、組織がホストするモデルに基づくか、外部アプリケーション プログラミング インターフェイスを使用するかにかかわらず、主に AI システムのプロバイダーを対象としています。ただし、すべての関係者 (データ サイエンティスト、開発者、マネージャー、政策立案者を含む) にも推奨します。およびリスク所有者）は、機械学習 AI システムの設計、展開、および運用について情報に基づいた意思決定を行うのに役立つように、これらのガイドラインをお読みください。

これらのガイドラインを発行する前に、米国のバイデン大統領は、 AI システムによる詐欺、プライバシーの脅威、差別、その他の悪用の潜在的なリスクからアメリカ国民を保護することを目的とした行動を開始する大統領令。

以上が18か国が共同でAI安全ガイドラインを発行の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。