「安全な銀河を一緒に構築する: 初の AI セキュリティ コンテストが中関村フォーラムで盛大に開始されました」

2024 中関村フォーラム データ セキュリティ ガバナンスおよび開発フォーラムでは、画期的なイベントである第 1 回生成人工知能セキュリティ コンペティションが正式に始まりました。このコンテストは、北京インターネット情報局と中国科学院ネットワークセキュリティおよび情報化指導グループ局の共同指導の下、中国科学院情報工学研究所と国家情報セキュリティ工学研究センターが共同で主催するものです。科学。 このコンテストは、人工知能と情報化の分野におけるセキュリティ技術の交流と革新を促進し、中国科学院情報技術研究所と国家情報セキュリティ工学研究センターの協力を強化することを目的としています。このコンテストは、国立情報セキュリティ工学研究センターと国立情報コンテンツセキュリティ工学研究センターが共催し、情報コンテンツセキュリティ分野における技術的な攻防を通じて技術力とイノベーション能力を実証します。

このコンテストは、「安全な銀河を一緒に構築し、AIの発展を伴走する」を中心テーマとし、研究所の銀河(Galaxy)に依存することを目的としています。中国科学院情報工学博士号を取得し、機能安全を生成する リスク評価プラットフォームは、参加者に専門的な競争環境を提供します。

セキュリティリスク評価の「ギャラクシー」と呼ばれる「Galaxy Platform」は、「攻撃を通じて防御を促進し、攻撃と防御を補完する」大型モデルのセキュリティテスト技術システムを核としています。このシステムを通じて、プラットフォームはさまざまな攻撃シナリオをシミュレートし、防衛技術の継続的な進歩を促進するだけでなく、攻撃および防御訓練における自身の能力を向上させることもできます。この目標を達成するために、プラットフォームは一連の大型モデルのセルフゲームおよびセキュリティ機能サイクルアップグレードツールセットを開発しました。これらのツールセットは、インテリジェント時代における我が国のセキュリティ基盤の構築を支援するだけでなく、安全性も確保します。人工知能技術の健全性と持続可能な発展。

このコンテストには、セキュリティ攻撃、セキュリティ検出、アラインメント保護という 3 つのコア トラックがあります。これら 3 つの主要なトラック , の確立は、人工知能の基盤技術と基本基盤のセキュリティと制御性のレベルを、攻撃、検出、保護の 3 つの側面から包括的に向上させることを目的としています。国内の優れた力を結集することで、競争は大型模型の安全リスクを効果的に発見、分析し、対応することで、北京、さらには全国の大型模型産業の安全な発展を促進する。

プラットフォームとコンテストの立ち上げ中、政府、産業界、学界、研究、その他のサークルの代表者からの広範囲にわたる注目と肯定的な反応は、疑いもなく、コンテストとそのプラットフォームに対する高い評価をもたらしました。これは、競争とそのプラットフォームを肯定するだけでなく、その将来の発展に対する期待と信頼でもあります。コンテストの正式な開始により、これが我が国の人工知能セキュリティ分野の発展を促進する重要なイベントとなり、また世界の人工知能セキュリティ分野の発展に新しいアイデアと方向性を提供すると信じる理由があります。 。

以上が「安全な銀河を一緒に構築する: 初の AI セキュリティ コンテストが中関村フォーラムで盛大に開始されました」の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。