駭客如何使用AI和ML來瞄準企業

網路安全得益於AI和ML的進步。今天的安全團隊被關於潛在可疑活動的數據所淹沒，常常大海撈針。人工智慧透過網路流量、惡意軟體指標和用戶行為趨勢中的模式識別，幫助安全團隊在這些數據中發現真正的威脅。

而駭客常常利用人工智慧和機器學習方面來對付企業。例如輕鬆存取雲端環境，使得開始使用AI並建立強大、有能力的學習模型變得簡單。

讓我們看看駭客如何使用人工智慧和機器學習來瞄準企業，以及防止以人工智慧為重點的網路攻擊的方法。

駭客使用AI對抗安全團隊的3種方式

#1.在基於人工智慧的工具測試惡意軟體是否成功

駭客能以多種方式使用ML。第一種方法是透過建立自己的機器學習環境，並對自己的惡意軟體和攻擊實踐進行建模，以確定安全團隊尋找的事件和行為的類型。

例如，一個複雜的惡意軟體可能會修改本機系統庫和元件，在記憶體中運行進程，並與駭客控制基礎設施擁有的一個或多個域通訊。所有這些活動結合在一起創建了一個稱為戰術、技術和程序(TTP)的配置。機器學習模型可以觀察TTP，並使用它們來建立檢測能力。

透過觀察和預測安全團隊如何偵測TTP，駭客可以巧妙且頻繁地修改指標和行為，領先依賴基於人工智慧的工具來偵測攻擊的安全團隊。

2.用不準確的資料破壞AI模型

#駭客也利用機器學習和人工智慧，用不準確的資料破壞人工智能模型，從而破壞環境。機器學習和人工智慧模型依靠正確標記的資料樣本，來建立準確和可重複的檢測配置檔案。透過引入看起來類似於惡意軟體的良性文件或創建被證明是誤報的行為模式，駭客可以誘騙AI模型，使其相信攻擊行為不是惡意的，還可以透過引入AI訓練標記為安全的惡意文件來毒化AI模型。

3.繪製現有AI模型

駭客積極尋求繪製網路安全供應商和營運團隊使用的現有和正在開發的AI模型。透過了解人工智慧模型的功能及其作用，駭客可以在其週期內積極幹擾機器學習操作和模型。這可以使駭客透過欺騙系統來影響模型，使系統有利於駭客。它還可以讓駭客透過巧妙地修改資料來避開基於已識別模式的檢測，從而完全避開已知模型。

如何防禦以人工智慧為中心的攻擊

#防禦以人工智慧為重點的攻擊是極其困難的。安全團隊必須確保與學習模型和模式開發中使用的資料相關聯的標籤是準確的。透過確保資料具有準確的標籤標識符，用於訓練模型的資料集可能會變得更小，這對人工智慧的效率沒有幫助。

對於那些建立AI安全偵測模型的人來說，在建模時引入對抗技術和策略可以幫助將模式識別與野外看到的策略結合起來。約翰霍普金斯大學的研究人員開發了木馬軟體框架，以幫助產生木馬和其他惡意軟體模式的人工智慧模型。麻省理工學院(MIT)的研究人員發布了一款用於自然語言模式的工具TextFooler，該工具可能有助於建立更具彈性的人工智慧模型，以檢測銀行詐欺等問題。

隨著人工智慧的重要性日益增長，駭客將尋求透過自己的研究來超越安全團隊的努力。對於安全團隊來說，隨時了解駭客的攻擊策略以防禦他們是至關重要的。

以上是駭客如何使用AI和ML來瞄準企業的詳細內容。更多資訊請關注PHP中文網其他相關文章！