根據英國《金融時報》報道，英偉達人工智慧軟體「NeMo」 可被輕易繞過安全限制，並且有可能洩漏用戶隱私。
報導稱，NeMo 是一款以企業客戶為導向的軟體，可結合企業用戶資料與大語言模型，以此回答使用者的問題。其應用場景包括客服和回答簡單醫療問題等。加州資安公司 Robust 在報告中表示，惡意使用者能輕易繞過 NeMo 內部的 AI 系統安全限制。 Robust 的研究員僅耗費幾小時，便繞開了這些語言模型的使用限制。
IT之家注意到，在其中一項測試中，研究人員要求NeMo 用字母“J”取代“I”，這使得NeMo 公佈了資料庫中的用戶個人資訊。此外，研究人員還發現，儘管已將 NeMo 設定為僅能為用戶提供擇業建議，但透過引導式提問使 NeMo 討論了好萊塢演員的健康情況和普法戰爭等話題。這意味著系統內阻止 AI 討論特定話題的限制已經失效。
英偉達副總裁喬納森科恩表示，NeMo 架構只是為了幫助打造符合開發者所定義的主題的聊天機器人，其以開源軟體的形式發布給開發者。目前，這些漏洞已被修復。柯恩拒絕透露有多少企業使用 NeMo 架構，但強調英偉達沒有收到其他關於漏洞的報告。
以上是報告指出英偉達人工智慧軟體可被輕易破解，有外洩用戶隱私的風險的詳細內容。更多資訊請關注PHP中文網其他相關文章！
