OpenAI CEO 出席美國參議院聽證會，討論如何更好地監管AI

最近，Google正在全力開發生成式人工智慧技術。在其年度 I/O 大會上，該公司宣布計劃將人工智慧工具嵌入其幾乎所有產品中，從谷歌文件到程式設計和線上搜尋。

Google的聲明意義重大。現在，數十億人將能夠使用強大的尖端人工智慧模型，幫助他們完成各種任務，從生成文字到回答問題，再到編寫和偵錯程式碼。正如《麻省理工技術評論》主編馬特霍南（Mat Honan）在 I/O 大會的分析中所寫的那樣，很明顯人工智慧現在已成為Google的核心產品。

（資料來源：STEPHANIE ARNET/MITTR）

逐步將這些新功能引入Google產品是他們的做法，但問題遲早會浮現。該公司尚未解決這些人工智慧模型的任何常見問題：它們仍然喜歡胡編亂造；它們仍然很容易被操縱，打破人類設定的規則；它們仍然容易受到攻擊；幾乎沒有什麼能阻止它們被用作生成假訊息、詐騙和垃圾郵件的工具。

這類人工智慧工具相對較新，因此它們仍然大部分處於缺乏監管的狀態。但這是不可持續的。 ChatGPT 的熱度逐漸冷卻，但監管需求不斷增長，監管機構開始面臨 ChatGPT 技術所帶來的挑戰。

美國監管機構正試圖找到一種方法來管理這些強大的人工智慧工具。本週，OpenAI CEO 薩姆·奧特曼（Sam Altman）在美國參議院作證（前一天晚上他剛與政界人士共進了一頓“教育性質的”晚餐）。在聽證會之前一周，美國副總統卡瑪拉·哈里斯（Kamala Harris）剛與 Alphabet、微軟、OpenAI 和 Anthropic 的 CEO 舉行了會議。

圖 | OpenAI 創辦人 Sam Altman（資料來源：資料圖）

#在聲明中，哈里斯指出這些公司需承擔道德和法律責任，以確保產品的安全。多數黨領袖、紐約州參議員舒默（Chuck Schumer）提出了監管人工智慧的立法，其中可能包括成立一個新機構來執行這些規則。

史丹佛大學「以人為中心的人工智慧研究所」的隱私和資料政策研究員珍妮佛金（Jennifer King）說：「每個人都希望自己做的一些事情被看見。人們對這一切的發展感到非常焦慮。」

金表示，要讓兩黨支持一項新的人工智慧法案將很困難：「這將取決於（生成式人工智慧）在多大程度上被視為一種真正的社會層面的威脅。然而，她進一步指出，聯邦貿易委員會主席利娜·汗已經採取積極行動。本月早些時候，汗寫了一篇專欄文章，呼籲現在就對人工智慧進行監管，以防止過去對科技業過於鬆懈而導致的錯誤。據她所述，監管人工智慧的美國機構更傾向於利用現有的法律工具包，如反壟斷法和商業慣例法。

同時，在歐洲，立法者即將就《人工智慧法案（AI Act）》達成最終協議。歐洲議會成員上週簽署了一份法規草案，要求禁止在公共場所使用臉部辨識技術。它還禁止了在網上獲取生物特徵數據時的預測性警務和情緒識別，以及對所有人不分青紅皂白地進行抓捕。

議會希望推出更多規定來管制生成式人工智慧，同時歐盟也將加強監管力度，要求涉及開發大型人工智慧模型的公司更加透明。潛在措施包括標記人工智慧產生的內容，以摘要的形式揭露模型訓練中使用了哪些受版權保護的數據，以及建立防止模型產生非法內容的保障措施。

但問題是：歐盟距離實施這些規則還有很長的路要走。 《人工智慧法案》的許多擬議內容都無法進入最終版本。議會、歐盟委員會和歐盟成員國之間仍在進行艱難的談判。我們還需要數年時間才能看到《人工智慧法案》生效。

知名科技人士開始朝著相反的方向努力，反其道而行。微軟首席經濟學家邁克爾·施瓦茨（Michael Schwarz）在最近的一次活動上表示，我們應該等到看到人工智慧帶來的「有意義的傷害」後再對其進行監管。他將人工智慧比作駕照——許多人在事故中喪生後才有了駕照。只有有一定程度的傷害，我們才能真正了解問題所在。 ”

這種說法太離譜了。人工智慧造成的危害多年來已被充分記錄在案。它存在偏見和歧視，會產生假新聞和詐騙資訊。成千上萬的人因錯誤指控欺詐而陷入貧困，這是其他人工智慧系統導致的無辜被逮捕的結果。隨著Google大規模宣傳自己的下一步計劃，生成式人工智慧將越來越深地融入我們的社會，這些危害可能會呈指數級增長。

我們應該問自己的問題是：我們願意看到多大的傷害？而我的答案是：我們已經看得夠多了。

支援：Ren

原文：

https://www.technologyreview.com/2023/05/16/1073167/how-do-you-solve-a-problem-like-out-of-control-ai/

以上是OpenAI CEO 出席美國參議院聽證會，討論如何更好地監管AI的詳細內容。更多資訊請關注PHP中文網其他相關文章！