生成型人工知能技術の悪用事件が多発、360AIがインテリジェント時代の発展を安全に護衛する。

近年、生成型人工知能技術の急速な発展に伴い、関連技術を利用した詐欺や名誉毀損といった違法な事件が多発しており、社会の大きな注目を集めています。 5月22日、包頭警察が公開したAIを使った通信詐欺事件が話題になったが、詐欺師はAI変面技術を利用して変装し、被害者は10分で430万元をだまし取られた。 360（601360.SH、以下「360」）は、世界をリードするデジタルセキュリティ企業として、科学技術省が主導する国家新世代人工知能オープンイノベーションプラットフォームであるSecurity Brainの構築を担当してまいります。人工知能の安全性を突破するには、国家レベルのデジタル セキュリティ機能に依存する必要があります。人工知能の安全性は、時代の困難な問題です。

生成型人工知能テクノロジーの悪用事件の出現は、深層合成と機械学習の急速な発展によるものです。詐欺師はこれらのテクノロジーを使用して、人間の言語や表現をシミュレートできる AI をトレーニングし、顔に似た「デジタル ヒューマン」を作成できます。 「口の形、表情、細かい動きはほぼ完璧です。 「サウンド変換」では、アルゴリズム モデルを使用して、既存の音声サンプルから類似したサウンドを生成します。 OpenAI CEOのサム・アルトマン氏は、大規模なモデルが大規模な偽情報に使用される可能性があり、人間がコントロールされているのではないかと懸念を表明した。

5 月 24 日、中国インターネット協会は、AI 技術を利用した新たな詐欺に直面して、国民はより警戒し、防止を強化する必要があると述べた文書を発表しました。早くも 2017 年 7 月に、国務院は「新世代人工知能開発計画」を発表しました。この計画では、2030 年の我が国の新世代人工知能開発のための指針となるイデオロギー、戦略的目標、重要な任務、および保護措置を提案しました。 「2025年までに人工知能の法律、規制、倫理規範と政策システムの初期確立、および人工知能の安全性評価と制御能力の形成」と述べた。

世界をリードするデジタル セキュリティ企業として、360 はフレームワーク セキュリティ、モデル セキュリティ、生成 AI セキュリティなど、人工知能セキュリティの分野に長年深く関わってきました。これまでに、360 は Tensorflow、Caffe、Pytorch などの主流の機械学習フレームワークとサプライ チェーンで 200 以上の脆弱性を発見しており、そのうち 24 件の高リスクかつ深刻な脆弱性を含む 98 件の脆弱性が Google Tensorflow に提出されました。世界中で第 1 位にランクされ、40 億台以上の端末デバイスに影響を与え、中国サイバースペース局の「人工知能企業の典型的な適用事例」に選ばれました。

2019年、「360 Security Brain」は科学技術省の「国家新世代人工知能オープンイノベーションプラットフォーム」に選ばれ、中国の人工知能安全エコシステムの構築の促進に努めています。現在、GPTに代表されるラージモデル技術が世界を席巻していますが、360では、ラージモデルには従来のAIモデルが抱えるセキュリティリスクと、モデルの盗難やプロンプトインジェクションのリスクといったラージモデル特有の新たなセキュリティリスクの両方が存在することが判明しました。 360イノベーションは、世界中の大型模型の安全性を確保するため、世界初の大型模型セキュリティリスク評価システム「AISE」を立ち上げた。

北京は2023年6月13日に「360 Intelligent Brain」大型モデル応用カンファレンスを開催する。それまでに、人工知能の健全な発展のための安全基盤を築くために、人工知能のセキュリティに関連するより多くの研究や製品ソリューションがリリースされるでしょう。

免責事項: この記事は参照のみを目的としており、投資アドバイスを構成するものではありません。

宣伝

以上が生成型人工知能技術の悪用事件が多発、360AIがインテリジェント時代の発展を安全に護衛する。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。