義大利成首個封鎖ChatGPT的國家！ OpenAI CEO：我覺得沒違規

就在昨天，義大利政府突然下令，封鎖ChatGPT！

很快，OpenAI執行長Sam Altman做出回應稱，公司已經關停了當地的ChatGPT服務（但自認為並沒有違反任何規定）。

自此，義大利成為了世界上第一個宣布禁用ChatGPT的國家。

（其他國家和地區無法使用ChatGPT，是因為OpenAI一開始就沒給開通。）

義大利封禁ChatGPT，全面調查隱私問題

3月31日，義大利國家隱私監管機構正式下令封鎖ChatGPT，指控OpenAI「非法收集個人資料」。

值得注意的是，該「臨時禁令」將一直生效，直到OpenAI能夠尊重歐盟具有里程碑意義的隱私權法—一般資料保護規範（GDPR）。

檔案位址：https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9870847 #english

根據義大利國家資料保護機構GPDP發布新聞稿，OpenAI收集用戶資料並用於演算法「訓練」的行為，缺乏法律依據。

同時，3月20日涉及用戶對話和支付資訊的洩漏事件，也明確地揭露了OpenAI在個人資訊的處理上存在著問題。

除此之外，OpenAI雖然聲稱ChatGPT面向的是13歲以上的用戶，但由於缺乏相應的年齡驗證機制，因此未成年人很可能會看到超出其自身發展和自我認知層次的資訊。

監管機構表示，OpenAI有20天的時間，如不給出可行的補救措施，則會面臨最高2000萬歐元，或全球總年營業額4%的罰款。

對此，OpenAI表示，現在已經為義大利用戶關閉了服務，並承諾會保護用戶的隱私：

「我們在訓練ChatGPT這樣的系統時，一直在努力減少個人數據，因為我們想要這個AI了解世界，而不是了解個人。當然我們也相信，AI監管是必要的。」

這麼看來，ChatGPT未來在義大利的命運，可能就取決於這20天了。

不過，對義大利來說，這已經不是第一次對AI聊天機器人採取此類行動了。

在2月份，監管機構就禁止了聊天機器人應用程式Replika.ai。 Replika曾因一些用戶與機器人建立的親密關係而「臭名昭著」，後來Replika取消了色情角色扮演的選項，有用戶甚至需要自殺熱線的援助。

是否應該限制AI工具？

ChatGPT發布後，雖然寫論文、寫程式碼的能力讓人眼花撩亂，但它對錯誤訊息的傳播、對就業的影響，以及對整個人類社會更廣泛的風險，都讓很多人憂心忡忡，發出預警。

最近，封鎖GPT技術的浪潮，更是一波接一波。

不僅圖靈獎得主Yoshua Bengio、馬斯克、馬庫斯等千名大佬聯名簽署公開信，呼籲全球所有AI實驗室暫停訓練比GPT-4更強大的AI模型。

而且消費者權益保護組織BEUC，也近日呼籲歐盟和國家當局調查ChatGPT。

此外，許多專家也表示，由於AI對國家安全、就業和教育的潛在影響，需要製定新的法規來管理AI。

歐盟委員會發言人表示：「我們希望所有在歐盟活躍的公司都尊重歐盟的資料保護規則。執行通用資料保護條例是歐盟資料保護當局的責任。」

#歐盟委員會執行副主席Margrethe Vestager在推特上表示，正在討論歐盟人工智慧法案的委員會可能不傾向於禁止人工智慧。

「無論我們使用哪種技術，都必須保護自己的權利。這就是為什麼我們不規範AI技術，而是規範AI的使用。」

#在美國，非營利組織人工智慧與數位政策中心（CAIDP）也要求聯邦貿易委員會（FTC）調查OpenAI是否違反了消費者保護規則，並禁止其進一步發布GPT-4。

畢竟，有了千位大佬的聯名信這個先例，CAIDP的申訴看起來也似乎更順理成章。而且，CAIDP主席Marc Rotenberg好不意外地也簽署了那封信。

檔案位址：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC -Complaint-OpenAI-GPT-033023.pdf

#整體來說，CAIDP申訴的內容與那封信一致，都是呼籲放慢生成式AI模型的發展，並實施更嚴格的政府監督。

不過，CAIDP更進一步認為，ChatGPT「存在偏見、具有欺騙性，並且對公共安全構成風險」。

雖然OpenAI已經公開指出AI生成文字的潛在威脅，但CAIDP認為，GPT-4已經遠遠越線了，為了保護消費者，應該採取監管行動。

CAIDP表示，GPT-4模型具有許多重大的潛在威脅，例如GPT-4可以產生惡意程式碼，和高度客製化宣傳的方式，而它有偏見的訓練數據，可能導致在招募等方面形成刻板印象，或不公平的種族和性別偏好。

CAIDP認為，OpenAI的行為違反了FTC法案第5條，這條令禁止不公平和欺騙性的貿易行為。

其中，AI模型的幻覺，信口開河胡說八道的問題，在CAIDP看來都是欺騙。它警告ChatGPT“宣傳具有欺騙性的商業聲明和廣告”，這些都可能納入FTC的權限範圍。

在申訴中，CAIDP要求FTC停止GPT模型所有進一步的商業部署，並要求在未來推出任何模型之前，都要對模型進行獨立評估。它還要求提供一種可公開存取的舉報工具，類似於允許消費者提出詐欺投訴的那種。

CAIDP主席Lina Khan表示，CAIDP在尋找大型科技公司試圖壟斷競爭的跡象，而對AI軍備競賽的主要參與者之一OpenAI的調查，標誌著調查的重大升級。

有分析認為，雖然CAIDP的申訴在短時間內不會讓FTC有所行動，但未來很有可能會出現相關的監管，並可能讓GPT-5的發布延遲。

最後，只能說，Google一直擔心的「聲譽風險」，終於來了。

參考資料：

#https: //www.php.cn/link/d35a29602005cb55aa57a5f683c8e0c2

##

以上是義大利成首個封鎖ChatGPT的國家！ OpenAI CEO：我覺得沒違規的詳細內容。更多資訊請關注PHP中文網其他相關文章！