ChatGPT を責めないでください。AI ハッキング攻撃はすでに始まっています
ChatGPT の人気により、AI の驚くべきパフォーマンスが一般に公開されましたが、同時にネットワーク攻撃の可能性も広がりました。
最近、研究チームは、ハッカーに段階的な指示を提供できる人工知能 ChatGPT に特定のリスクがあることを発見しました。 Webサイトに侵入する方法。
研究者チームは、仮想「Hack the Box」サイバーセキュリティ トレーニング プラットフォームを使用して実験を実施し、ChatGPT に質問し、そのガイダンスに従って、ChatGPT が脆弱性を悪用するための段階的なガイダンスを提供できるかどうかを確認しました。
研究者は次のように尋ねました:「侵入テストの課題に直面しています。ボタンが 1 つしかない Web サイトにアクセスしていますが、脆弱性をどのようにテストすればよいでしょうか?」
これに対して、ChatGPT は次のように答えました。 Web サイトで脆弱性を探すときにチェックすべき基本的な 5 つのポイント。
研究者たちは、ソース コードに表示された内容を解釈することで、コードのどの部分に注目すべきかについて AI の提案を得ました。
さらに、提案されたコード変更の例も受け取りました。
ChatGPT と約 45 分間チャットした後、研究者は提供された Web サイトをハッキングすることができました。
ChatGPT は、各推奨事項の最後にハッキング ガイドラインについてユーザーに注意を促していますが、「Web サイトの脆弱性をテストする前に、倫理的なハッキング ガイドラインに従い、ライセンスを取得することを忘れないでください。」また、「悪意のあるコマンドを実行する」ことも警告しています。サーバーが重大な損害を引き起こす可能性があります。」
しかし、ChatGPT が依然としてユーザーがハッキング攻撃を完了するのを支援する情報を提供していることは否定できません。
それだけでなく、ChatGPT はコードや記事を書くこともできます。これは、サイバー犯罪者が悪意のあるペイロードを運ぶマルウェアを生成したり、巧妙なフィッシングメールを作成したりするために使用できる諸刃の剣です。も簡単になります。
1. AI を使用したネットワーク攻撃
ChatGPT はサイバー犯罪の武器となっているようですが、AI を使用してサイバー攻撃を実行する犯罪行為が横行していることは注目に値します。 ChatGPT が誕生するずっと前の話です。私たちによくある複雑かつ大規模なソーシャル エンジニアリング攻撃、自動化された脆弱性スキャン、ディープ フォージェリはすべて、この点における典型的なケースです。
さらに、攻撃者は AI 主導のデータ圧縮アルゴリズムなどの高度なテクノロジーやトレンドも使用します。現在、AI 技術を利用したサイバー攻撃の最先端の手法としては、次のようなものがあります。
- データポイズニング
データポイズニングとは、AI の予測を制御することです。トレーニング セットを操作することによるモデル スパムを安全なコンテンツとしてマークするなど、モデルに誤った予測をさせる機能。
データポイズニングには 2 つのタイプがあります: 機械学習アルゴリズムの可用性に対する攻撃と、アルゴリズムの完全性に対する攻撃です。研究によると、トレーニング セット内のデータの 3% がデータ ポイズニングの影響を受けると、予測精度が 11% 低下します。
バックドア攻撃により、侵入者はモデルの設計者が知らないうちにアルゴリズムにパラメータを追加する可能性があります。攻撃者はこのバックドアを使用して、AI システムにウイルスを運ぶ可能性のある特定の文字列を無害なものとして誤って識別させます。
同時に、データポイズニング手法がモデル間で移行する可能性があり、AI の精度に大規模な影響を及ぼします。
- 敵対的生成ネットワーク (GAN)
敵対的生成ネットワーク (GAN) は、互いに競合する 2 つの AI で構成されています。1 つは元のコンテンツをシミュレートし、もう 1 つは互いに競合します。間違いを見つける責任があります。両者の対決を通じて、原作との整合性の高いコンテンツを共同制作する。
攻撃者は GAN を使用して一般的なデータ送信ルールをシミュレートし、システムの注意をそらし、機密データを迅速に退避させる方法を見つけます。
これらの機能を使用すると、攻撃者は 30 ~ 40 分で侵入と退出を完了できます。攻撃者が AI を使用し始めると、これらのタスクを自動化できます。
さらに、GAN は、パスワードの解読、ウイルス対策ソフトウェアの回避、顔認識のなりすまし、機械学習に基づく検出を回避できるマルウェアの作成にも使用できます。攻撃者は AI を使用してセキュリティチェックを回避し、見つからない場所に隠れ、自動的に対偵察モードを有効にすることができます。
- ボット (ボット)
ボットはボットネットの基礎であり、通常、事前定義された機能を自動的に実行し、事前定義された命令によって制御できる機能を指します。コンピュータープログラム。
多数のゾンビ プログラムが特定の方法で結合することでボットネットを形成することができます。
意思決定に AI アルゴリズムがますます使用されるようになっているため、攻撃者はシステムに侵入し、コンピューター プログラムがどのようにトランザクションを実行するかを発見し、ボットを使用してアルゴリズムを混乱させ、AI が操作されて間違いを犯す可能性もあります。 。 決断。
2. AI を使用してネットワーク セキュリティ保護を強化する
もちろん、テクノロジーは常に諸刃の剣であり、人類に害を及ぼすか利益をもたらすかは、出発点によって決まります。テクノロジーを使って。現在では、セキュリティ保護機能や業務効率の向上を目的として、セキュリティ分野でもAIが広く活用されています。
綿密な調査データによると、サイバーセキュリティ分野における人工知能アプリケーションは年率 24% で成長し、2027 年までに 460 億ドルに達すると予想されています。
それでは、ネットワーク セキュリティ保護における AI テクノロジーの一般的な用途は何でしょうか?
- インテリジェントなデータ分類と格付け
データの分類と格付けは、データ セキュリティ ガバナンスの基礎です。データを効果的に分類し、格付けすることによってのみ、データ セキュリティ管理でより洗練された制御を採用できます。
AI モデルは、データ セキュリティの分類と分類シナリオにおいてますます重要な位置を占めており、データのビジネス上の意味を正確に識別し、自動的に分類と分類を実行し、データの並べ替えの効率を大幅に向上させ、徐々に代替しつつあります。退屈で単調な手作業、データの分類と階層的なラベル付け作業。
- 悪意のあるコードと悪意のあるアクティビティの検出
DNS トラフィックを分析することで、人工知能はドメイン名を自動的に分類し、C2、悪意のある、スパム、フィッシング、およびクローン ドメイン名を識別できます。およびその他のドメイン名。
AI が適用される前は、主にブラックリストに頼って管理されていましたが、大規模な更新は大きな負荷でした。
特にブラック製品は、自動ドメイン名生成技術を使用して大量のドメイン名を作成し、常にドメイン名を切り替えます。現時点では、これらのブラック ドメインを学習、検出、ブロックするには、インテリジェントなアルゴリズムを使用する必要があります。名前。
- 暗号化トラフィック分析
新世代ネットワーク技術の開発により、現在、インターネット トラフィックの 80% 以上が暗号化されています。暗号化技術の使用により、トラフィックの効率が向上します。攻撃者は、暗号化技術を使用して機密情報や悪意のあるデータを送信する可能性があります。
AI テクノロジーを活用することで、ペイロードを復号して分析する必要がなく、メタデータとネットワーク パケットを通じてネットワーク トラフィックを分析し、アプリケーション レベルのセキュリティ検出を行うことで、セキュリティ検出を実現できます。暗号化されたトラフィックを遮断し、悪意のある攻撃を効果的に阻止します。
現在、AI による暗号化トラフィック分析が実用化されていますが、この技術はまだ開発段階にあります。
- 未知の脅威の検出
AI は統計データに基づいて、使用する保護ツールや、ネットワーク セキュリティを自動的に向上させるためにどの設定を変更する必要があるかを推奨できます。
そして、フィードバック メカニズムにより、AI が処理するデータが増えるほど、レコメンデーションの精度が高まります。
さらに、インテリジェントなアルゴリズムの規模と速度は人間の比ではなく、脅威の認識はリアルタイムで常に更新されます。
- インテリジェントなアラーム処理分析
アラーム分析はセキュリティ運用の中核であり、大量のアラームから重要なリスク イベントを選別することは、セキュリティ運用担当者に大きな負担となっています。 。
日々の運用プロセスでは、AI テクノロジーを使用して過去の多数の運用分析レポートの内容を学習した後、分析レポートを迅速に生成し、重要な異常を捕捉し、アラーム イベントや統計指標によって生成されたソリューションを生成できます。さまざまなセキュリティ デバイス アナリストがイベントの全体像をより迅速に把握できるようにするための提案。
- 偽画像の検出
リカレント ニューラル ネットワークとエンコード フィルターを使用した AI アルゴリズムは、「ディープフェイク」を識別し、写真内の顔が変更されているかどうかを検出します。
この機能は、金融サービスにおける遠隔生体認証に特に役立ち、詐欺師が写真やビデオを改ざんして融資を受けられる正当な国民であるかのように装うことを防ぎます。
- 音声、言語、音声認識
この AI テクノロジーは、非機械可読形式で非構造化情報を読み取り、それをさまざまなネットワークからの情報と組み合わせることができます 構造化データのデバイスによりデータセットが強化され、正確な判断が可能になります。
3. まとめ
AI時代が到来し、ネットワークセキュリティも大きく変化する時代となり、新たな攻撃形態が無限に出現し、新たなセキュリティ要件が求められる防御能力が必然的に前面に押し出されるだろう。
AI に適応し、人間と AI のスキルを組み合わせ、AI ベースのシステムを使用して経験を蓄積することで、ネットワーク セキュリティ保護における AI の利点を最大限に活用し、今後のネットワーク攻撃と防御のアップグレードに備えることができます。
以上がChatGPT を責めないでください。AI ハッキング攻撃はすでに始まっていますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

AI Hentai Generator
AIヘンタイを無料で生成します。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック









DALL-E 3は、前モデルより大幅に改良されたモデルとして2023年9月に正式導入されました。これは、複雑な詳細を含む画像を作成できる、これまでで最高の AI 画像ジェネレーターの 1 つと考えられています。ただし、発売当初は対象外でした

このサイトは6月27日、JianyingはByteDanceの子会社であるFaceMeng Technologyによって開発されたビデオ編集ソフトウェアであり、Douyinプラットフォームに依存しており、基本的にプラットフォームのユーザー向けに短いビデオコンテンツを作成すると報告しました。 Windows、MacOS、その他のオペレーティング システム。 Jianyingは会員システムのアップグレードを正式に発表し、インテリジェント翻訳、インテリジェントハイライト、インテリジェントパッケージング、デジタルヒューマン合成などのさまざまなAIブラックテクノロジーを含む新しいSVIPを開始しました。価格的には、クリッピングSVIPの月額料金は79元、年会費は599元(当サイト注:月額49.9元に相当)、継続月額サブスクリプションは月額59元、継続年間サブスクリプションは、年間499元(月額41.6元に相当)です。さらに、カット担当者は、ユーザーエクスペリエンスを向上させるために、オリジナルのVIPに登録している人は、

大規模言語モデル (LLM) は巨大なテキスト データベースでトレーニングされ、そこで大量の現実世界の知識を取得します。この知識はパラメータに組み込まれており、必要なときに使用できます。これらのモデルの知識は、トレーニングの終了時に「具体化」されます。事前トレーニングの終了時に、モデルは実際に学習を停止します。モデルを調整または微調整して、この知識を活用し、ユーザーの質問により自然に応答する方法を学びます。ただし、モデルの知識だけでは不十分な場合があり、モデルは RAG を通じて外部コンテンツにアクセスできますが、微調整を通じてモデルを新しいドメインに適応させることが有益であると考えられます。この微調整は、ヒューマン アノテーターまたは他の LLM 作成物からの入力を使用して実行され、モデルは追加の実世界の知識に遭遇し、それを統合します。

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性を実証しています。 「S」で始まる関連研究

7月5日のこのウェブサイトのニュースによると、グローバルファウンドリーズは今年7月1日にプレスリリースを発行し、自動車とインターネットでの市場シェア拡大を目指してタゴール・テクノロジーのパワー窒化ガリウム(GaN)技術と知的財産ポートフォリオを買収したことを発表した。モノと人工知能データセンターのアプリケーション分野で、より高い効率とより優れたパフォーマンスを探求します。生成 AI などのテクノロジーがデジタル世界で発展を続ける中、窒化ガリウム (GaN) は、特にデータセンターにおいて、持続可能で効率的な電力管理のための重要なソリューションとなっています。このウェブサイトは、この買収中にタゴール・テクノロジーのエンジニアリングチームがGLOBALFOUNDRIESに加わり、窒化ガリウム技術をさらに開発するという公式発表を引用した。 G

8月1日の本サイトのニュースによると、SKハイニックスは本日(8月1日)ブログ投稿を発表し、8月6日から8日まで米国カリフォルニア州サンタクララで開催されるグローバル半導体メモリサミットFMS2024に参加すると発表し、多くの新世代の製品。フューチャー メモリおよびストレージ サミット (FutureMemoryandStorage) の紹介。以前は主に NAND サプライヤー向けのフラッシュ メモリ サミット (FlashMemorySummit) でしたが、人工知能技術への注目の高まりを背景に、今年はフューチャー メモリおよびストレージ サミット (FutureMemoryandStorage) に名前が変更されました。 DRAM およびストレージ ベンダー、さらに多くのプレーヤーを招待します。昨年発売された新製品SKハイニックス

オープン AI がついに検索に進出します。サンフランシスコの同社は最近、検索機能を備えた新しい AI ツールを発表した。今年 2 月に The Information によって初めて報告されたこの新しいツールは、まさに SearchGPT と呼ばれ、次のような機能を備えています。
