幾天前，馬斯克、Yoshua Bengio 等人聯名簽署公開信，呼籲所有 AI 實驗室應立即暫停訓練比 GPT-4 更強大的 AI 模型。現在，又有人要叫停已經發布的 GPT-4。
這次叫停 GPT-4 的是非營利組織人工智慧與數位政策中心（CAIDP）。 CAIDP 請求美國聯邦貿易委員會（FTC）調查 OpenAI 公司並禁止該公司進一步發布 GPT-4。
檔案位址：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC -Complaint-OpenAI-GPT-033023.pdf
CAIDP 向FTC 提出這份申請的原因是他們認為「OpenAI 發布的消費級產品GPT-4 存在偏見、欺騙性，並且對隱私和公共安全構成風險。模型的輸出無法證明或復現，且在部署之前沒有進行獨立評估」。
CAIDP 呼籲對美國所有商業人工智慧產品進行獨立監督和評估，並確保建立必要的「保護措施」，來保護消費者、企業和商業市場。
先前，FTC 已經宣布一個人工智慧標準，即「在促進問責制的同時，要求人工智慧的使用是透明的、可解釋的、公平的，並且在經驗上是合理的”，CAIDP 稱「OpenAI 的GPT-4 不滿足這些要求中的任何一個」。
距離 GPT-4 發布僅過去兩週，人們已經對這類強大的 AI 模型產生了巨大的分歧。一方面，想叫停GPT-4 等強大模型的一類人認為這些模型會給資訊安全甚至人類社會構成較大風險；另一方面，有些人認為這正是人工智慧蓬勃發展的好時機，我們應該推動科技的加速進步。
有趣的是，OpenAI CEO Sam Altman 發布了一條新推特：「在風暴的中心保持平靜。」這或許是他對於最近一系列「暫停GPT-4 等模型研究”呼籲的回應。
在風險方面，OpenAI 在發佈時表示已讓外部專家評估 GPT-4 帶來的潛在風險。然而，CAIDP 在提交給 FTC 的申請中明確指出 GPT-4 違反了哪些法案。
CAIDP 認為GPT-4 嚴重影響了商業公平，並表示：「GPT-4 的商業發布違反了FTC 法案第5 節、FTC 就人工智慧產品的使用和廣告對企業制定的標準，以及人工智慧治理的新興規範等等。」
此外，OpenAI 並未透露GPT-4 的任何技術細節。這也是 CAIDP 向 FTC 提出申請的原因之一。
CAIDP 表示：「OpenAI 沒有透露有關架構、模型大小、硬體、運算資源、訓練技術、資料集建構或訓練方法的細節，而研究界通常的做法是記錄大型語言模型的訓練資料和訓練技術，但OpenAI 選擇不為GPT-4 做這些事。特別地，生成式人工智慧模型不是尋常的消費品，因為它們在使用的過程中可能會表現出一些異常行為，而這些行為可能是其發佈公司之前沒有發現的。」
投訴細節
具體來說，CAIDP 在這份投訴申請中針對GPT-4 和相關模型ChatGPT 指出了一系列潛在風險。
例如，OpenAI 在文章《 GPT-4 System Card 》中已經明確表示，GPT-4 可能會強化和重現特定的偏見和世界觀，包括對某些邊緣群體的刻板印象和貶低聯想。 CAIDP 也引用了 OpenAI 公司的一篇博文，該博文稱類似的大模型 ChatGPT 有時會響應有害指令或表現出有偏見的行為。
在提交給 FTC 的投訴中，CAIDP 表示「OpenAI 在充分了解風險的情況下，還是向公眾發布了 GPT-4 ，以用於商業用途」。投訴還稱，「《 GPT-4 System Card 》沒有提供OpenAI 在其測試期間進行的安全檢查的詳細信息，也沒有詳細說明OpenAI 為保護兒童採取的任何措施，這也引發了對兒童使用GPT-4的擔憂。」
CAIDP 也指出了歐洲消費者組織BEUC 提出的擔憂：「如果ChatGPT 被用於消費者信貸或保險評分，那麼它有沒有可能會產生不公平和有偏見的結果？」這則推文也被作為引用出現在CAIDP 的投訴申請中。
另外，在網路安全性方面，ChatGPT 可被用於網路釣魚、製作虛假文本，或產生惡意程式碼。在隱私方面，CAIDP 表示本月有報告指出 OpenAI 向其他用戶顯示了私人聊天記錄。
在另一個案例中，一位AI 研究人員介紹了ChatGPT 是如何接管某人帳戶，查看聊天記錄，並在他們沒有意識到的情況下訪問他們的帳單資訊.不過 OpenAI 修復了該漏洞。
CAIDP 也表示，GPT-4 能夠從圖片輸入中提供文字回复，這項功能對個人隱私和個人自主權影響巨大，它能讓用戶將個人圖像與詳細的個人資料聯繫起來。據了解，OpenAI 已暫停發布圖像到文字功能 ，但真實情況如何還不好說。
CAIDP 認為FTC 應該禁止OpenAI 對GPT 的進一步商業部署，要求在部署之前和整個GPT AI 生命週期對GPT 產品進行獨立評估，要求OpenAI 遵守FTC AI 標準，並建立一個可公開存取的GPT-4 的事件報告機制，類似於FTC 報告消費者詐欺的機制。
CAIDP 也敦促 FTC 進一步發布標準規範，以用作「生成式人工智慧市場領域的產品基本標準」。
AI 學界，一場論戰
從前兩天千人聯名要求暫停GPT-4 後續AI 大模型的研發，到今天CAIDP 要求FTC 調查OpenAI 禁止發布新的商業版GPT-4。短短一兩天時間，各路討論已經炸開了鍋，AI 大佬以及各路大牛紛紛出來公開回應。他們當中有反對的，也有支持的。
在暫停GPT-4 後續AI 大模型的研發方面，圖靈獎得主Yoshua Bengio、特斯拉CEO（OpenAI 聯合創始人）伊隆・馬斯克、紐約大學榮譽教授Gary Marcus、UC 柏克萊教授Stuart Russell 等都是贊成派，他們已經在暫停巨型AI 實驗公開信上簽了名。值得注意的是，CAIDP 的總裁兼創辦人 Marc Rotenberg 也簽署了這份公開信。
公開信位址：https://futureoflife.org/open-letter/pause-giant-ai-experiments/
不過一直抨擊ChatGPT 的Yann LeCun 公開表示不會簽署這封公開信，不同意這封公開信的內容。
俄勒岡州立大學榮譽教授Thomas G. Dietterich 在推特上表示「我也沒簽。這封信充斥著一堆可怕的修辭和無效或不存在的政策。一些重要的技術和政策問題，都在努力解決中。」LeCun 公開表示「我同意」。
#
吳恩達也發文公開反對千人聯名，並表示：「GPT-4 在教育、醫療保健、食品等方面都有很多新的應用，會幫助很多人。除非政府介入，否則實施暫停並阻止所有團隊擴大LLM 規模是不現實的。此外，讓政府暫停他們不了解的新興技術是反競爭的，這樣就開了一個糟糕的先例，也是糟糕的政策。」
隨後田淵棟也支持吳恩達的觀點，「表明自己不會簽署暫停令。並表示這種事情一旦開始，就沒有辦法停止或扭轉這一趨勢，這就是進化的必然。我們應該換個角度向前看，更好地理解LLM，適應它並利用其力量，感受熱度。」
剛剛宣布離開谷歌大腦的Yi Tay（之前是谷歌大腦的高級研究員）表示：“如果禁言在網上胡亂討論LLM 的人6 個月，我會簽名。”
以上是GPT-4被投訴要求禁用：FTC發布的人工智慧標準，OpenAI一個都不滿足的詳細內容。更多資訊請關注PHP中文網其他相關文章！
