サイバーセキュリティ分野における人工知能チャットボットの開発動向はどのようなものですか?

OpenAI が発表したチャットボット ChatGPT には多くの優れた用途がありますが、他の新しいテクノロジーと同様に、ChatGPT を悪意のある目的で使用する人もいます。

電子メールの作成などの比較的単純なタスクから、論文の執筆やコードのコンパイルなどのより複雑なタスクまで、OpenAI の人工知能主導の自然言語処理ツールである ChatGPT は、さまざまな用途に使用されています。発売以来大きな関心を集めています。

もちろん、ChatGPT は完璧ではありません。学習元の情報を誤って解釈すると間違いを犯すことが知られています。しかし、多くの人が ChatGPT や他の AI ツールをインターネットの未来と見ています。

OpenAI は、ChatGPT の利用規約に、ランサムウェア、キーロガー、ウイルス、またはある程度の危害を加えるように設計されたその他のソフトウェアを含むマルウェアの生成、およびスパムメールを作成する試みを禁止する項目を追加しました。サイバー犯罪に対するユースケース。

しかし、他の革新的なテクノロジーと同様に、ChatGPT を悪意のある目的で使用しようとする人々がすでに存在します。

ChatGPT がリリースされて間もなく、サイバー犯罪者は、フィッシングメールの作成やマルウェアのコンパイルの支援など、悪意のあるサイバー活動の実行に ChatGPT がどのように使用されるかについて議論する地下フォーラムに投稿しました。

サイバー犯罪者がその一環として ChatGPT や他の人工知能ツール (Google Bard など) を使用しようとするのではないかという懸念があります。これらの AI ツールはサイバー攻撃に革命をもたらすわけではありませんが、サイバー犯罪者が悪意のあるキャンペーンをより効果的に実行するのに役立ちます。

サイバーセキュリティ サービス プロバイダーである CheckPoint の脅威インテリジェンス マネージャーである Sergey Shykevich 氏は、「少なくとも短期的には、ChatGPT が全く新しいタイプのサイバー攻撃を生み出すとは思わない。焦点は、サイバー攻撃の増加にあるだろう」と述べています。利点。"

フィッシング攻撃は、悪意のあるハッキングや詐欺キャンペーンの最も一般的な要素です。サイバー攻撃者が電子メールをマルウェアやフィッシング リンクの拡散に使用する場合でも、被害者に送金を誘導するために使用する場合でも、電子メールは当初、強制に使用される重要なツールです。

電子メールへの依存は、犯罪組織が明確で利用可能なコンテンツの継続的なストリームを必要とすることを意味します。多くの場合、特にフィッシングでは、サイバー攻撃者の目的は、人々を説得して送金などの何かをさせることです。幸いなことに、これらのフィッシングの試みの多くは現在ではスパムとして簡単に識別できますが、効果的な自動コピーライティングにより、これらの電子メールをより目立つようにすることができます。

サイバー犯罪はグローバルな産業であり、サイバー犯罪者は世界中の潜在的なターゲットにフィッシングメールを送信しています。つまり、特により高度なスピアフィッシング攻撃を行う攻撃者にとって、言語が障壁になる可能性があります。フィッシングキャンペーンの場合、これらのキャンペーンは、被害者が信頼できる連絡先と話していると信じていることに依存しています。電子メールに異常なスペルや文法上の誤り、または奇妙な句読点が含まれている場合、人々は自分が友人や同僚と話していると信じる可能性が低くなります。

しかし、人工知能が正しく活用されれば、チャットボットはサイバー攻撃者が望むあらゆる言語でメールのテキストを書くことができます。

シケビッチ氏は、「たとえば、ロシアのサイバー犯罪者にとって最大の障害は言語である英語だ。彼らは現在、フィッシングメールの記事を書いたり、コールセンターで働いたりするために、英語を専攻した大学卒業生を雇っているが、彼らはそうしなければならない。これで報われる」と語った。 「有料です。ChatGPT のようなツールを使用すると、あらゆる種類のフィッシング メッセージの作成にかかる費用を大幅に節約できます。そして、それが彼らが追求するアプローチだと思います。」

理論的には、いくつかの保護手段があります。たとえば、ChatGPT はユーザーに電子メール アドレスの登録を要求し、登録を確認するために電話番号も要求します。

ChatGPT はフィッシングメールの作成を拒否できますが、サイバー攻撃者によってよく悪用される他のメッセージ用のメールテンプレートを作成するように要求される場合があります。このような試みには、年間ボーナスの発表、重要なソフトウェア更新をダウンロードしてインストールする必要がある、または添付ファイルを緊急に確認する必要があるなどのメッセージが含まれる場合があります。

サイバーセキュリティと脅威インテリジェンスを提供するクラウドストライクのシニアバイスプレジデント、アダム・マイヤーズ氏は次のように述べています。「会議への招待状のようなものを入手するためにリンクをクリックするように説得する電子メールを作成しますが、母国語がそうでない場合「あなたは英語を話せないので、できないかもしれません。ChatGPT に、美しく書式設定され、文法的に正しい招待状を作成してもらうことができます。英語がネイティブでない場合は、これを行うことができないかもしれません。」

虐待 これらのツールは電子メールに限定されず、犯罪者はこれを使用してテキストベースのオンライン プラットフォームのスクリプトを作成することができます。これは、詐欺を実行するサイバー攻撃者や、スパイ行為を試みる高度なサイバー脅威グループにとって、特に人々を惹き付けるために偽のソーシャル プロフィールを作成する場合に便利なツールとなる可能性があります。

サイバーセキュリティの専門家であり、クラウド コンピューティング プロバイダーである Fastly のシニア主席製品技術者であるケリー ショートリッジ氏は、次のように述べています。「信頼できるビジネスを構築したい場合は、健全なビジネス ステートメントを LinkedIn に投稿して、ビジネスを行っているように見せることができます。 「顧客がつながりを求めている実際のビジネスマンには、ChatGPT が最適です。」 オンライン プロフィールを作成し、そこに投稿や情報を入力するのは、時間のかかるプロセスです。

ショートリッジは、サイバー攻撃者は ChatGPT などの人工知能ツールを使用して説得力のあるコンテンツを作成できると同時に、人間の労力よりも労力がかからないという利点があると考えています。

「こうしたソーシャル エンジニアリング キャンペーンの多くは、プロファイルを構築する必要があるため、多大な労力を必要とします。」彼女は、AI ツールによって参入障壁を大幅に下げることができると信じています。

彼女はこう言いました:「ChatGPT は非常に説得力のある記事を書くことができると信じています。」

技術革新の性質は、何か新しいものが現れるたびに、それを利用して何かを実現しようとする人が常に存在することを意味します。悪意のある目的を達成する。開発者が悪用を防ぐために最も革新的な手段を使用したとしても、サイバー犯罪者や詐欺師の狡猾な性質により、保護を回避する方法を見つける可能性があります。

シケビッチ氏は、「虐待を完全にゼロにする方法はありません。これはどのシステムでも起こりません。」と述べ、人工知能チャットボットの使用を防ぐ方法に関する潜在的なサイバーセキュリティの問題を強調したいと考えています。間違った目的のために。

彼はこう言いました、「ChatGPT は素晴らしいテクノロジーですが、他の新しいテクノロジーと同様にリスクがあり、それらのリスクについて話し合って認識することが重要です。それについて話せば話すほど、よりオープンになると思います」 AI および同様の企業は、不正行為の削減にさらに投資する可能性が高くなります。」

人工知能チャットボット (ChatGPT など) は、サイバーセキュリティにも利点があります。彼らはコードの処理と理解に特に優れているため、防御者がマルウェアを理解するのに役立つことが可能です。コードを書くこともできるため、開発者がプロ​​ジェクトを完了できるよう支援することで、これらのツールはより優れた、より安全なコードをより速く作成できるようになり、すべての人に利益をもたらす可能性があります。

調査会社 Forrester の主席アナリスト、Jeff Pollard 氏は、ChatGPT によってセキュリティ インシデント レポートの作成に必要な時間を大幅に短縮できると指摘しました。

同氏は次のように指摘しました:「状況をより迅速に好転させるということは、テスト、評価、調査、対応など、他のことを行う時間が増えることを意味します。これらすべてがセキュリティ チームの規模に貢献します。」と彼は付け加えました。ボットは、利用可能なデータに基づいて次のステップを提案できます。

「セキュリティ オーケストレーション、自動化、および対応が正しく設定されて、アーティファクトの取得が迅速化されれば、検出と対応が迅速化され、セキュリティ オペレーション センターのアナリストがより適切な意思決定を下せるようになります。」と同氏は述べています。したがって、チャットボットによって一部のサイバーセキュリティ企業の生活が困難になる可能性もありますが、希望の兆しもあるかもしれません。

業界メディアはOpenAIにコメントを求めたが、返答は得られなかった。しかし記者らは、ChatGPTがフィッシングに悪用されるのを防ぐためにどのようなルールを設けているのか尋ねた。 「ChatGPT のような AI 言語モデルはフィッシングメールに似たテキストを生成できることに注意することが重要ですが、それらは単独で悪意のあるアクションを実行することはできず、害を及ぼすにはユーザーの意図とアクションが必要です。したがって、ユーザーは注意して行動する必要があります。」人工知能テクノロジーを使用する場合は適切な判断を行い、フィッシングやその他の悪意のある活動に注意してください。」

以上がサイバーセキュリティ分野における人工知能チャットボットの開発動向はどのようなものですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。