OpenAI正在評估內容審核功能以提高效率並減少人工幹預

人工智慧新創公司OpenAI 表示，他們正在測試GPT-4 的內容審核功能，允許任何擁有OpenAI API 存取權限的人使用該功能來建立自己的人工智慧輔助審核系統

本站從OpenAI 官網了解到，GPT-4 可用於制定適當的內容政策，並可以更快地為帖子添加標籤或作出評判。該公司一直在測試該技術，並邀請客戶也進行試驗。 借助該系統，開發和製定內容策略的過程從幾個月縮短到幾個小時。

OpenAI 表示，這項功能為數位平台的未來提供了更積極的前景，透過根據平台特定的政策幫助調節線上流量，可以減輕大量人類審核員的心理壓力

▲ AI 審核（LLM）與初級審核員（pool B）的效率相當

OpenAI 審核相較於傳統審核具備以下優勢：

• 標籤更一致。 內容政策不斷發展並且通常非常詳細。人們可能會對政策有不同的解釋，或者一些版主可能需要更長的時間來消化新的政策變化，從而導致標籤不一致。相較之下，法學碩士對措詞的細微差異很敏感，可以立即適應政策更新，為使用者提供一致的內容體驗。 
• 更快地回饋循環。 政策更新的周期 —— 制定新政策、貼標籤和收集人類回饋 —— 往往是一個漫長而漫長的過程。 GPT-4 可以將此過程縮短至幾個小時，從而能夠更快地回應新的危害。
• 減輕精神負擔。 持續接觸有害或令人反感的內容可能會導致審核人員情緒疲憊和心理壓力。自動化此類工作有利於相關人員的福祉。

以上是OpenAI正在評估內容審核功能以提高效率並減少人工幹預的詳細內容。更多資訊請關注PHP中文網其他相關文章！