ハッカーはどのように AI と ML を利用して企業を標的にしているのか

サイバーセキュリティは、AI と ML の進歩の恩恵を受けています。今日のセキュリティ チームには、潜在的に不審なアクティビティに関するデータが殺到しており、多くの場合、干し草の山から針を探しています。人工知能は、セキュリティ チームがネットワーク トラフィックのパターン認識、マルウェア インジケーター、ユーザーの行動傾向を通じて、このデータ内の本当の脅威を発見するのに役立ちます。

ハッカーは、企業に対処するために人工知能と機械学習を使用することがよくあります。たとえば、クラウド環境に簡単にアクセスできるため、AI の使用を開始し、強力で有能な学習モデルを構築することが簡単になります。

ハッカーがどのように人工知能と機械学習を利用して企業を標的にしているのか、そして AI を中心としたサイバー攻撃を防ぐ方法を見てみましょう。

ハッカーがセキュリティ チームに対して AI を使用する 3 つの方法

1. AI ベースのツールでマルウェアの成功をテストする

ハッカーはさまざまな方法で ML を使用できます。 1 つ目は、独自の機械学習環境を構築し、独自のマルウェアと攻撃手法をモデル化して、セキュリティ チームが探しているイベントと動作の種類を決定することです。

たとえば、高度なマルウェアは、ローカル システム ライブラリとコンポーネントを変更し、メモリ内でプロセスを実行し、ハッカーが制御するインフラストラクチャが所有する 1 つ以上のドメインと通信する可能性があります。これらすべてのアクティビティを組み合わせて、戦術、技術、手順 (TTP) と呼ばれるプロファイルが作成されます。機械学習モデルは TTP を観察し、それを使用して検出機能を構築できます。

セキュリティ チームが TTP をどのように検出するかを観察および予測することで、ハッカーはインジケーターや動作を微妙かつ頻繁に変更し、AI ベースのツールに依存して攻撃を検出するセキュリティ チームよりも先を行くことができます。

2. 不正確なデータを使用して AI モデルを破壊する

ハッカーも機械学習と人工知能を使用して、不正確なデータで人工知能を破壊します インテリジェント モデル、それによって環境に損害を与えます。機械学習および人工知能モデルは、正しくラベル付けされたデータ サンプルに依存して、正確で再現可能な検出プロファイルを構築します。マルウェアに似た無害なファイルを導入したり、誤検知であることが判明する動作パターンを作成したりすることで、ハッカーは AI モデルをだまして攻撃が悪意がないと信じ込ませることができます。あるいは、AI がマークするように訓練された悪意のあるファイルを導入することによって、ハッカーは AI モデルを騙すことができます。 AI モデルを汚染する。

3. 既存の AI モデルのマッピング

ハッカーは、サイバーセキュリティ ベンダーや運用チームの AI モデルが使用する既存および開発中の AI モデルを積極的にマッピングしようとします。 AI モデルの機能とその動作を理解することで、ハッカーはライフサイクル中に機械学習の操作やモデルに積極的に干渉できます。これにより、ハッカーは、ハッカーに有利なようにシステムを騙すことによって、モデルに影響を与えることができます。また、ハッカーがデータを微妙に変更して既知のモデルを完全に回避することで、識別されたパターンに基づく検出を回避することもできます。

AI を中心とした攻撃から防御する方法

AI を中心とした攻撃から防御することは非常に困難です。セキュリティ チームは、学習モデルとパターンの開発に使用されるデータに関連付けられたラベルが正確であることを確認する必要があります。データに正確なラベル識別子が含まれていることを確認すると、モデルのトレーニングに使用されるデータセットが小さくなる可能性があり、AI の効率には役立ちません。

AI セキュリティ検出モデルを構築する場合、モデリング時に敵対的な手法と戦略を導入すると、パターン認識と実際に見られる戦略を組み合わせるのに役立ちます。ジョンズ・ホプキンス大学の研究者は、トロイの木馬やその他のマルウェア パターンの人工知能モデルの生成を支援するトロイの木馬ソフトウェア フレームワークを開発しました。マサチューセッツ工科大学 (MIT) の研究者は、銀行詐欺などの問題を検出するためのより回復力のある人工知能モデルを構築するのに役立つ可能性のある自然言語パターンのツールである TextFooler をリリースしました。

人工知能の重要性が高まるにつれ、ハッカーは独自の研究を通じてセキュリティ チームの努力を上回ろうとするでしょう。セキュリティ チームがハッカーから防御するには、ハッカーの攻撃戦略を常に最新の状態に保つことが重要です。

以上がハッカーはどのように AI と ML を利用して企業を標的にしているのかの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。