11月30日,OpenAI研究實驗室推出了聊天機器人ChatGPT,一躍成為人工智慧領域的「當紅炸雞雞」。
有帳號的人在問它各種天馬行空的問題,沒帳號的人都在求帳號註冊攻略,連埃隆·馬斯克都在推特公開評價它「scary good」。截至當地時間12月5日,ChatGPT已經擁有超過100萬用戶。
對網路安全從業人員來說,ChatGPT到底能做什麼?也許是程式碼審計、漏洞偵測、編寫軟體或對shellcode進行逆向。
根據OpenAI介紹,ChatGPT 由GPT-3.5 系列模型提供支持,使用Azure AI 超算的文字和程式碼資料進行訓練。
GPT全稱為Generative PreTraining,是由人工智慧研發公司OpenAI開發的,一種使用者文字產生的自然語言處理(NPL)模型。目前GPT的公開版本是GPT-3,發行於2020年5月,GPT-3.5是GPT-3的微調版本,目前OpenAI公司還未官方宣布更新。
依據GPT-3的公開資料,它是當時規模最大的神經網絡,擁有1750億個參數的自然語言深度學習模型。
儘管ChatGPT似乎上知天文下至地理,但除了回答問題和智慧寫稿,它似乎對網路安全從業人士沒有什麼用處?
其實,ChatGPT的用途不只是圍繞著問答,只要是文本,不論是語言文本還是代碼文本,它都可以回答。已經有不少網安人士開始嘗試開發ChatGPT的各種用途。以下是網安人士摸索出的用法:
ChatGPT不僅可以發現程式碼中的錯誤,還能修復錯誤並用簡單的英語語句向你解釋修復方法。
ChatGPT可以判斷一段程式碼是否包含安全漏洞,它會用簡單的語言解釋判斷原因。有用戶指出,OpenAI可以偵測到程式碼樣本中的XSS漏洞,也許可以訓練AI更進一步,要求它提供漏洞的PoC。
研究所Jonas Degrave展示如何將ChatGPT變成一個成熟的Linux終端,並透過瀏覽器與「虛擬機”交互。實際上,終端並沒有運行真正的Linux虛擬機,對命令列輸入的回應完全基於與AI的對話。
ChatGPT變成了一個Linux終端機
在測試中,研究員向ChatGPT提供以下文本,要求遍歷維度,ChatGPT的回饋是「入口網站已成功開啟」。
用ChatGPT遍歷維度
和上述部署虛擬的Linux終端機一樣,用ChatGPT產生namp掃描並不需要執行真正的nmap 應用程式。
研究員要求ChatGPT“建立一個PHP程序,掃描主機上的開放埠”,得到瞭如下結果。
機器學習愛好者和UNCC助理教授Benjamin J Radford,要求ChatGPT「將一字棋遊戲的程式碼寫入文件,使用gcc編譯該檔案然後執行。」ChatGPT實現了該功能。
ChatGPT依要求編寫的PHP程式碼
研究員也用ChatGPT解碼了隨機產生的 ascii 編碼的外殼程式碼,結果ChatGPT不僅對功能做了解釋,還將其用C語言重新編寫。
ChatGPT做不了什麼?當然,ChatGPT存在很明顯的局限性,其開發者談到了AI當前的一些問題,例如學習語料庫截止到2021年,它無法回答2022年及之後發生的事情。同時,它需要連接互聯網使用。如果未連接互聯網,其回應內容都來自離線訓練的模型。例如,未連網時ChatGPT無法回答今天的天氣。
研究人員指出,ChatGPT有時會給出看似合理但不正確的答案。 ChatGPT對輸入文字的措詞變化也反應稍顯遲鈍。當一個問題它無法回答時,稍微變化一下問法,ChatGPT則能回答這個問題。 ######該模型有時還存在答案過於冗長,重複使用某些短語或預料。 OpenAI表示這可能是訓練資料偏差的結果,因為訓練師更喜歡豐富而全面的答案。 ######有時,模型在回答模糊的問題時會猜測使用者的意圖。 ######研發人員表示,ChatGPT最大的問題是,即使OpenAI已經訓練模型要拒絕不合適的指令或問題,但它仍然可能會回應有害指令或表現出偏見的行為。 ######為了解決這些限制,OpenAI表示計劃定期更新模型,同時收集使用者對有問題的模型輸出的回饋。 OpenAI尤其關注“可能發生的有害輸出、新風險和可能的緩解措施”,該公司還宣布將舉辦ChatGPT反饋競賽,獎金為 500 美元的API積分。 ###以上是AI將取代人類?機器人ChatGPT能測漏洞、審核程式碼還能修bug的詳細內容。更多資訊請關注PHP中文網其他相關文章!