ChatGPT是OpenAI 2022年11月推出的互動式自然語言對話模型。 OpenAI使用RLHF(從人類回饋進行強化學習)來訓練ChatGPT,與InstructGPT使用的方法相同,但資料收集設定時有明顯的差異。在訓練初始模型時使用有監督調整(參):人類AI訓練器提供的會話。訓練員有存取模型建議的權限以幫助訓練器更好地完成回應。然後將新產生的會話資料集與InstructGPT資料集混合,形成對話格式。
ChatGPT發布後在業界引發了震動,隨後給各方廣泛試用,其中就包括學生。有學生試用ChatGPT來寫論文、作業和寫程序,老師很難分辨論文、作業和寫的程序是否是由學生自己完成的。此外,也出現了許多署名ChatGPT的待發表論文。
為因應此問題,全球學校紛紛採取措施,例如禁用該平台。根據BusinessInsider的數據,ChatGPT目前已被紐約、西雅圖、洛杉磯等地的初高中禁用,法國和印度的大學電腦也禁用了該平台。
1月31日,OpenAI 宣布推出人工智慧文字分類器,旨在偵測輸入內容是否是由ChatGPT這樣的人工智慧工具產生的。
OpenAI稱其分類器並不完全可靠。在英文文本測試時,分類器正確辨識了26%人工智慧產生的文本,約9%人類寫出的內容錯誤標記為人工智慧產生的。隨著輸入文字長度的增加,分類器的效能有所提高。與先前其他分類器相比,此分類器的準確率高於其他檢測分類器。
分類器試用網址:http://platform.openai.com/ai-text-classifier
OpenAI表示由於結果不完全可靠,因此不建議將該工具用作決策,而是作為其他檢測工具和方法的補充。
ChatGPT試用網址:https://chat.openai.com/
https://openai.com/blog/new-ai-classifier-for-indicating-ai-written- text
本文翻譯自:https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-detect-ai-written-text/
以上是OpenAI發布ChatGPT人工智慧文字產生檢測工具的詳細內容。更多資訊請關注PHP中文網其他相關文章!