今年在舊金山舉行的RSAC大會上有個熱門話題：人工智慧工具。生成式人工智慧在網路安全工具中的潛力引發了網路安全專業人士的興趣。但是人們對人工智慧在網路安全中的實際應用，以及用於建立人工智慧模型的數據的可靠性提出了質疑。
網路安全策略顧問、GoogleCloud和Cyversity的董事會成員M.K. Palmore在訪談中表示：我們目前正處於與人工智慧交手的第一局，我們還不知道人工智慧對網路安全產業的影響會有多大，也不知道我們最終能看到什麼結果。但我們心存希望，整個公司目前也朝著一個方向努力，這也顯示我們看到了人工智慧對產業產生正面影響的價值和用途。
不過Palmore也承認，目前我們在人工智慧的發展方面確實還有更多的事情要做。他認為隨著事物的變化發展，我們都必須轉向適應這種新的模式，讓這些大型語言模型(llm)和人工智慧可供我們使用。 Presidio首席資訊安全長Dan Lohrmann認為，人工智慧在網路安全領域還處於早期階段。在RSAC大會上提及人工智慧工具的話題時，他認為這將是一場變革，人工智慧將改變很大一部分產品。這可能會改變進攻方和防守方，就像我們如何組建紅隊和藍隊一樣。
此外他也指出，在精簡安全團隊使用的工具方面，還有很長的路要走。他說：「我認為我們永遠無法實現單一的窗格的資源監控和管理，但目前已經是我見過最精簡的程度了。
在2023年RSAC大會期間，不少公司都講述了他們是如何在安全工具中使用生成性人工智慧的，例如，Google推出了其生成式人工智慧工具和安全LLM、Sec-PaLM。Sec-PaLM是基於Mandiant在漏洞、惡意軟體、威脅指標和行為威脅參與者概況方面的前沿情報而構建的。
GoogleCloud的用戶體驗總監斯蒂芬•海(stephen Hay)表示，LLMs現在達到了一個臨界點，它可以以一種以前無法做到的方式將資訊語境化。這代表我們現在有了真正的生成式人工智慧。
與此同時，亞馬遜網路服務(Amazon Web Services)首席資訊安全官辦公室主任Mark Ryland強調如何用生成式人工智慧偵測威脅活動。日常中多專注於有意義的數據，盡量減少誤報。且唯一能有效做到這一點的方法就是多多訓練機器學習，這也是我們安全服務的核心。
該公司最近宣布了一種名為Amazon Bedrock的新工具，用於在AWS上進行構建，其中包含了生成式人工智慧。Amazon Bedrock是一項新服務，可以透過API存取來自AI21 Labs、Anthropic、Stability AI和Amazon的基礎模型(fm)。此外，Tenable還推出了專門為研究界設計的生成式人工智慧安全工具。另外，一份名為《生成式人工智慧如何改變安全研究》的報告最近也發布了，該報告探討了LLMs如何在逆向工程、調試程式碼、提高web應用程式安全性和雲端工具可見性等研究領域降低複雜性和提高效率。
該報告指出，ChatGPT正在以「驚人的速度」發展。關於網路安全平台中的人工智慧工具，Tenable首席安全官Bob Huber表示，這些工具允許你建立一個資料庫，例如，如果你正在尋找滲透測試，目標是X，可能存在哪些漏洞，通常這是一個手動過程，你必須進入並進行搜索，但人工智能可以幫助你更快地獲取這些東西。
另外，他補充說目前已經看到一些公司開始使用LLMs。同時他也指出，LLMs所基於的數據並不一定是經過驗證的或準確的，因此需要對此設置護欄。因此用自己的數據構建的LLMs ，更值得信賴。
有人擔心與GPT這樣的LLMs掛鉤可能會影響安全性。作為安全從業者，了解風險是很重要的。但Huber指出，人們目前還沒有足夠的時間去了解生成式人工智慧的風險。這些工具都旨在簡化防禦者的工作，但黑莓威脅研究與情報副總裁伊斯梅爾·巴倫蘇埃拉指出了生成式人工智慧的局限性。
和其他任何工具一樣，我們作為防禦者會使用，其他攻擊者也會使用它。所以說這些生成式人工智慧工具的最佳使用方式就是將其作為助手來使用。很明顯，它的確可以促進我們的發展。但如果是期望它能徹底改變一切，那答案是否定的。
以上是直擊RSAC現場：人工智慧工具成為今年最熱門話題！的詳細內容。更多資訊請關注PHP中文網其他相關文章！
