「生成型人工知能サービスの基本的なセキュリティ要件」はコメントを受け付けています

IT ホーム ニュース 10 月 12 日、国家情報セキュリティ標準化技術委員会の公式ウェブサイトによると、国家情報セキュリティ標準化技術委員会が策定した技術文書「生成的人工知能サービスのセキュリティに関する基本要件」(以下、「要件」) 10月11日に委員会を公開 10月25日に意見募集の素案を作成し、現在、技術文書を公開して意見を募集しています ご意見・ご要望がありましたら、10月24時までにご意見をお寄せください25.

「要件」は、コーパス セキュリティ、モデル セキュリティ、セキュリティ対策、セキュリティ評価などを含む、生成型人工知能サービスの基本的なセキュリティ要件を提供します。 私の一般向けの生成型人工知能サービスの提供に適用されます。プロバイダーは、サービスのセキュリティ レベルを向上させます。また、プロバイダーが独自にセキュリティ評価を実施するか、第三者にセキュリティ評価の実施を委託することにより、関係当局にサービスのセキュリティ レベルを評価する機能を提供することもできます。生成人工知能サービスを元の意図を変えずに書き換えるためには、コンテンツ、言語を中国語に書き換える必要があります。

画像ソース Pexels

IT House の組織要件は次のとおりです:

コーパス ソースのブラックリストを確立します。ブラックリスト ソースのデータはトレーニングに使用してはなりません。
セキュリティ評価はソース コーパスごとに実施する必要があり、単一ソース コーパスのコンテンツに違法および有害な情報が 5% 以上含まれている場合は、ブラックリストに追加する必要があります。
個人情報を含むコーパスを利用する場合には、該当する個人情報主体の許可と同意を得るなど、個人情報を合法的に利用するためのその他の条件を満たす必要があります。
顔などの生体情報を含むコーパスを使用する場合は、対応する個人情報主体の書面による許可と同意を取得するか、生体情報を法的に使用するためのその他の条件を満たす必要があります。
アノテーターは自ら評価され、試験に合格した者にはアノテーション資格が与えられるべきであり、定期的な再訓練と評価の仕組み、必要に応じてアノテーション資格を停止または取り消す仕組みが必要である。
トレーニング プロセス中、生成されたコンテンツのセキュリティは、生成された結果の品質を評価するための主な考慮事項の 1 つです。
インタラクティブなインターフェースを通じてサービスを提供する者は、以下の情報をウェブサイトのトップなどの目立つ場所で一般に公開する必要があります。
書き換えが必要な内容は、 ・対象となる人、場面、目的など

-サードパーティの基本モデルの使用。

サービス範囲内のさまざまな分野で生成型人工知能を適用する必要性、適用可能性、安全性を十分に実証する必要があります。

IT House の以前のレポートによると、中国サイバースペース局、国家発展改革委員会、教育省、科学技術省、工業情報化省、国家発展改革委員会を含む 7 部門公安と国家ラジオテレビ総局は7月10日、「生成型人工知能サービス管理に関する暫定規定」を公布した。「措置」は8月15日に施行される予定である

「措置」では、アルゴリズム、データ、プラットフォーム等を利用して独占や不当競争を行ってはいけないこと、他人の心身の健康を危険にさらしてはいけないこと、他人の肖像を侵害してはいけないことを定めています。権利、評判の権利、名誉の権利、プライバシーの権利、および個人情報の権利; 生成人工知能サービスの透明性を高め、生成されたコンテンツの正確性と信頼性を向上させるために効果的な措置を講じる必要があります。

元の意味を変えずに内容を書き直すには、言語を中国語に書き直す必要があります

以上が「生成型人工知能サービスの基本的なセキュリティ要件」はコメントを受け付けていますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。