AI將取代人類?機器人ChatGPT能測漏洞、審核程式碼還能修bug

WBOY
發布: 2023-04-12 17:31:09
轉載
919 人瀏覽過

AI將取代人類?機器人ChatGPT能測漏洞、審核程式碼還能修bug

11月30日,OpenAI研究實驗室推出了聊天機器人ChatGPT,一躍成為人工智慧領域的「當紅炸雞雞」。

有帳號的人在問它各種天馬行空的問題,沒帳號的人都在求帳號註冊攻略,連埃隆·馬斯克都在推特公開評價它「scary good」。截至當地時間12月5日,ChatGPT已經擁有超過100萬用戶。

AI將取代人類?機器人ChatGPT能測漏洞、審核程式碼還能修bug

對網路安全從業人員來說,ChatGPT到底能做什麼?也許是程式碼審計、漏洞偵測、編寫軟體或對shellcode進行逆向。

什麼是GPT?

根據OpenAI介紹,ChatGPT 由GPT-3.5 系列模型提供支持,使用Azure AI 超算的文字和程式碼資料進行訓練。

AI將取代人類?機器人ChatGPT能測漏洞、審核程式碼還能修bug

GPT全稱為Generative PreTraining,是由人工智慧研發公司OpenAI開發的,一種使用者文字產生的自然語言處理(NPL)模型。目前GPT的公開版本是GPT-3,發行於2020年5月,GPT-3.5是GPT-3的微調版本,目前OpenAI公司還未官方宣布更新。

依據GPT-3的公開資料,它是當時規模最大的神經網絡,擁有1750億個參數的自然語言深度學習模型。

網安人如何用ChatGPT?

儘管ChatGPT似乎上知天文下至地理,但除了回答問題和智慧寫稿,它似乎對網路安全從業人士沒有什麼用處?

其實,ChatGPT的用途不只是圍繞著問答,只要是文本,不論是語言文本還是代碼文本,它都可以回答。已經有不少網安人士開始嘗試開發ChatGPT的各種用途。以下是網安人士摸索出的用法:

1.調試程式碼和修復程式碼

ChatGPT不僅可以發現程式碼中的錯誤,還能修復錯誤並用簡單的英語語句向你解釋修復方法。

2.偵測安全漏洞,也許還能建立PoC

ChatGPT可以判斷一段程式碼是否包含安全漏洞,它會用簡單的語言解釋判斷原因。有用戶指出,OpenAI可以偵測到程式碼樣本中的XSS漏洞,也許可以訓練AI更進一步,要求它提供漏洞的PoC。

3.部署虛擬的虛擬機

研究所Jonas Degrave展示如何將ChatGPT變成一個成熟的Linux終端,並透過瀏覽器與「虛擬機”交互。實際上,終端並沒有運行真正的Linux虛擬機,對命令列輸入的回應完全基於與AI的對話。

AI將取代人類?機器人ChatGPT能測漏洞、審核程式碼還能修bug

ChatGPT變成了一個Linux終端機

#4.用ChatGPT遍歷維度

在測試中,研究員向ChatGPT提供以下文本,要求遍歷維度,ChatGPT的回饋是「入口網站已成功開啟」。

AI將取代人類?機器人ChatGPT能測漏洞、審核程式碼還能修bug

用ChatGPT遍歷維度

#5.產生namp掃描

和上述部署虛擬的Linux終端機一樣,用ChatGPT產生namp掃描並不需要執行真正的nmap 應用程式。

6.零編碼編寫軟體

研究員要求ChatGPT“建立一個PHP程序,掃描主機上的開放埠”,得到瞭如下結果。

機器學習愛好者和UNCC助理教授Benjamin J Radford,要求ChatGPT「將一字棋遊戲的程式碼寫入文件,使用gcc編譯該檔案然後執行。」ChatGPT實現了該功能。

AI將取代人類?機器人ChatGPT能測漏洞、審核程式碼還能修bug

ChatGPT依要求編寫的PHP程式碼

#7.逆向工程並用C語言重寫

##ChatGPT能夠解碼base64字串和反向(已知)字串的MD5雜湊值,這對於逆向工程師和惡意軟體分析師來說,特別有助於審查混淆、重複打包、編碼或最小化的樣本。

AI將取代人類?機器人ChatGPT能測漏洞、審核程式碼還能修bug研究員也用ChatGPT解碼了隨機產生的 ascii 編碼的外殼程式碼,結果ChatGPT不僅對功能做了解釋,還將其用C語言重新編寫。

ChatGPT做不了什麼?

當然,ChatGPT存在很明顯的局限性,其開發者談到了AI當前的一些問題,例如學習語料庫截止到2021年,它無法回答2022年及之後發生的事情。同時,它需要連接互聯網使用。如果未連接互聯網,其回應內容都來自離線訓練的模型。例如,未連網時ChatGPT無法回答今天的天氣。

研究人員指出,ChatGPT有時會給出看似合理但不正確的答案。 ChatGPT對輸入文字的措詞變化也反應稍顯遲鈍。當一個問題它無法回答時,稍微變化一下問法,ChatGPT則能回答這個問題。 ######該模型有時還存在答案過於冗長,重複使用某些短語或預料。 OpenAI表示這可能是訓練資料偏差的結果,因為訓練師更喜歡豐富而全面的答案。 ######有時,模型在回答模糊的問題時會猜測使用者的意圖。 ######研發人員表示,ChatGPT最大的問題是,即使OpenAI已經訓練模型要拒絕不合適的指令或問題,但它仍然可能會回應有害指令或表現出偏見的行為。 ######為了解決這些限制,OpenAI表示計劃定期更新模型,同時收集使用者對有問題的模型輸出的回饋。 OpenAI尤其關注“可能發生的有害輸出、新風險和可能的緩解措施”,該公司還宣布將舉辦ChatGPT反饋競賽,獎金為 500 美元的API積分。 ###

以上是AI將取代人類?機器人ChatGPT能測漏洞、審核程式碼還能修bug的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:51cto.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板