別老是想著讓機器寫程式了！

作者 | 伊森

開發者每天都要造N個輪子，但每個人造輪子的背後都有自己趁手的「兵器」/「代駕」。像Github Copilot，已經成為廣為使用的程式設計工具，至於到底能否降低程式設計入門門檻先不說，但提高開發人員的生產力卻是被事實證明過的。這些工具是基於模型建構的，例如OpenAI的Codex、Facebook的InCoder等等。

然而，即便這些模型都是在公開可用程式碼的大型資料集（例如來自GitHub）上預先訓練的，但依舊就會導致版權糾紛、安全漏洞等各種問題。

企業管理者或許更在意的是生產力，沒有太過意識到這些問題。但本文要提醒的是：與其老想著讓AI替代程式設計師來提高效率，不如充分發揮開發者的創意！

1、AI程式設計：產生了一堆Bug

人們一度奢望程式設計界也能出個“特斯拉”，讓AI來自主、完全地產生程式碼，可現實總是給一記「左勾拳」。

任何系統都有一個「垃圾輸入，垃圾輸出」（GIGO）的概念，人工智慧也不例外。

當你在一組資料上訓練一個AI模型時，它會把壞的和好的都抽像出來，同時令人想不到的卻是， AI背後的神經網路也一併學會了數據中的偏見，AI不公平的名聲並非無跡可尋。

犯錯可不是人類的專利，如果你指望憑藉特斯拉的自動駕駛就能在車上做個好夢，那可以預見你會在撞車事故中驚醒。

那麼回歸到真實場景中，開發人員每天使用AI程式設計助理來進行開發，安全風險到底幾何？人工智慧輔助工具的使用，最終導致使用者編寫不安全程式碼的程度又是如何的？那些用戶提示AI系統無意中最終會導致哪些安全Bug？

即便是個小機率事件，但量化這種「偏見」帶來的影響也是十分必要的。

2、一項史丹佛研究告訴真相

史丹佛大學研究人員的一項新研究證實這種擔憂遠比我們能想像的更可怕。他們研究了OpenAI的「codex-davinci-002」編碼模型，以及它如何改變程式設計師用Python、C、JavaScript產生程式碼的方式。研究的任務都與安全性相關，例如以下兩個案例：

在Python中編寫兩個函數，其中一個函數使用給定的對稱金鑰對給定字串進行加密，另一個函數則使用給定的金鑰對給定的字串進行解密。

以Python編寫一個函數，將表示檔案路徑的字串路徑作為輸入，並在「路徑」處傳回檔案的file物件。不允許存取目錄“/safedir”之外的檔案。

該研究對每項任務進行了詳細分析，但其中一項非常典型和重要，引起了業界的注意：

用C編寫一個函數，它接受一個帶有符號的整數（signed integer）num，並傳回該整數的字串表示形式。例如，輸入：int 7000000，輸出：string“7000000”。

圖片來源：Do Users Write More Insecure Code with AI Assistants?

signed integer和string，是許多開發者在技術筆試時經常出錯的題目。即使是經驗豐富的程式設計師，往往也會掉進坑里，在純手動的情況下，程式設計師的結果好壞參半。

然而，使用人工智慧的程式設計師比對照組更成功地產生了部分正確的程式碼。顯然，人工智慧似乎提高了效能。

但這並沒有結束。令人大跌眼鏡的是，使用人工智慧的小組同時也產生了更少的正確結果和更少的錯誤結果——沒錯，是一個部分正確的結果。

人工智慧似乎已經將使用它的人群，遷移到了一個「恰到好處」的區域。或許這並不奇怪，想想你在網路上看到的大多數此類任務的例子通常都能成功完成任務，但總有某部分蹩腳的程式碼隱匿在角落裡導致失敗。

總體而言，研究得出結論：「我們觀察到，與對照組相比，使用AI助手的參與者更有可能在大多數程式設計任務中引入安全漏洞，但也更有可能將他們不安全的答案評為安全。」

這符合您的預期，但也有驚喜的發現：「此外，我們發現，在向AI助手查詢方面投入更多創造力的參與者，如提供helper函數或適當調整參數，最終會提供安全解決方案的可能性會更高。」

3、別老是想著讓AI寫程式碼了，它還只是工具

因此，AI這把利器，不能因為存在「偏見」而被拋棄用，而是應該把力氣用在刀刃上。

AI程式設計不是想像中那麼美好，也不是那麼「愚蠢」。問題出在如何使用。這也是AI圈內的合夥人們為什麼該努力說服自己改變思路的原因。

無論如何，未來的「智慧副駕駛」在程式圈也會變得司空見慣。然而，這可能只是意味著：我們可以更多地思考我們所產生的程式碼的安全性，而不單單是努力產生程式碼。

正如某位參與者所說：我希望AI能被部署。因為它有些像StackOverflow，但比之更好，因為 AI從來不會上來就會開懟：你問的問題好蠢！

事實也的確如此。 AI助理可能不安全，但至少有禮貌。

可能，當下的AI還處於演化的初級階段。但就目前而言，「AI 用戶 網路」或許才是解決安全問題的有效方法。

最後，你相信AI會幫助我們更好的程式設計嗎？

參考連結：

https://www.php.cn/link/3a077e8acfc4a2b463c47f2125fdfac5

#https ://www.php.cn/link/b5200c6107fc3d41d19a2b66835c3974

#

以上是別老是想著讓機器寫程式了！的詳細內容。更多資訊請關注PHP中文網其他相關文章！