內部研究發現：OpenAI也不清楚自己的AI如何做決策

參考訊息網5月14日報道根據西班牙《先鋒報》網站5月13日報道，ChatGPT背後的公司OpenAI最近在一項內部研究中試圖發現其語言模型是如何做出決策的，得出的一個結論是：「它在運行。但對於它是如何運作的目前了解不多。」

報告稱，日前發表的OpenAI研究人員報告指出，「語言模型現在能力越來越強，也變得更加普遍，但我們不了解它們是如何運作的」。這句話支持那些對公眾推廣的一些人工智慧缺乏安全性提出警示的人的看法。

但OpenAI也表示“近期的研究在理解少量的電路和有限制的行為方面取得了進展”，不過該公司認為“要完全理解語言模型”需要“分析數以百萬計的神經元” 。該公司因為面臨龐大的工作量，開始採用一種可自動分析語言模型所有神經元的技術。

據報道，根據發表出來的研究結果，該公司尚未實現這一點。儘管該公司尚未發現神經元運作原理的方法，但其希望在未來能夠實現這一目標。研究人員指出：「我們希望，從這種將可解讀性自動化的方法出發，將使我們能夠在部署之前全面地審視模型的安全性。儘管GPT-4已經被廣泛部署，但他們目前無法完成這項任務。換言之，他們未能完成此項任務。（編譯/蘇佳維）

以上是內部研究發現：OpenAI也不清楚自己的AI如何做決策的詳細內容。更多資訊請關注PHP中文網其他相關文章！