意見募集：5種類のセキュリティリスクを明確にした生成AIセキュリティガイダンス文書

中国-シンガポール Jingwei、10月12日 国家情報セキュリティ標準化技術委員会のウェブサイトによると、国家情報セキュリティ標準化技術委員会事務局は最近、「生成型人工知能サービスのセキュリティに関する基本要件（コメント草案）」を発表した。 」（以下「基本要件」といいます。）

「基本要件」は、コーパス セキュリティ、モデル セキュリティ、セキュリティ対策、セキュリティ評価などを含む、生成型人工知能サービスの基本的なセキュリティ要件を提供し、我が国の公衆への生成型人工知能サービスの提供に適用されます。プロバイダーは、サービスのセキュリティ レベルを向上させることができ、プロバイダー自身がセキュリティ評価を実施したり、第三者にセキュリティ評価の実施を委託したりすることもでき、関連当局が生成型人工知能サービスのセキュリティ レベルを評価するための参考情報を提供することもできます。

「基本要件」では、生成型人工知能サービスが、ユーザーのプロンプトに基づいてテキスト、画像、オーディオ、ビデオ、その他のコンテンツを生成できる、データ、アルゴリズム、モデル、ルールに基づく人工知能サービスであることを明確にしています。

出典:国家情報セキュリティ標準化技術委員会のWebサイト

コーパス コンテンツのセキュリティの観点から、基本要件では 3 つの主要なコンテンツが提案されています。

書き換えが必要な内容は次のとおりです。トレーニング コーパスのコンテンツ フィルタリングに関して、キーワード、分類モデル、手動サンプリングなどの手法を使用して、すべてのコーパス内の違法および有害な情報を包括的にフィルタリングする必要があります。

書き換えが必要な内容は次のとおりです。 次に、知的財産権に関しては、コーパスおよび生成コンテンツを担当する知的財産専門家を設置し、それに対応した知的財産管理戦略を策定する必要があります。コーパスのトレーニングを実施する前に、知的財産の専門家はコーパス内の知的財産侵害を特定し、提供されたコーパスに侵害の問題がないことを確認する必要があります

個人情報に関する書き換え内容は以下の通りです。 個人情報を含むコーパスを利用する場合には、該当する個人情報主体の許可と同意を得る必要がある、その他個人情報の適法な利用条件を満たす必要がある等.

セキュリティ対策要件に関しては、「基本要件」において、未成年者に適したサービスに関する特別な要件が明確に示されています。これらの要件には、保護者が未成年者に対する依存症対策の設定とパスワード保護による実施を許可すること、未成年者の日常会話の回数と時間を制限し、制限を超えた場合は管理パスワードを入力する必要があること、未成年者が購入する前に管理者パスワードを入力する必要があることなどが含まれます。保護者の確認が必要であり、未成年者にふさわしくないコンテンツを除外し、心身の健康に有益なコンテンツのみを表示する必要があります。未成年者にふさわしくないサービスについては、未成年者による利用を防止するための技術的または管理的措置を講じる必要があります

以上が意見募集：5種類のセキュリティリスクを明確にした生成AIセキュリティガイダンス文書の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。