公司高層擔心與ChatGPT意外分享公司數據

《企業中的生成式人工智慧狀態》報告發現，ChatGPT是企業中最受歡迎的聊天機器人，其次是CopyAI(35%)和Anyword(26%)，分別位居第二和第三。然而，許多公司已經禁止在工作場所使用生成式人工智慧工具，其中ChatGPT是最常被禁止的(32%)，其次是CopyAI(28%)和Jasper(23%)。

Writer共同創辦人兼技術長Waseem Alshikh表示，「如今關於生成式人工智慧的炒作太多了，我們想了解實際情況——誰在使用它，他們在使用什麼工具，他們在用它做什麼，以及企業有哪些限制和約束。研究結果確實令人大開眼界。實際上，每個行業至少都在嘗試應用生成式人工智慧，而且這不僅限於企業內的某一個功能。生成式人工智慧在IT、營運、行銷、人力資源、法律、L&D等方面被廣泛應用。」

#最常見的生成式AI用例

根據調查顯示，生成式人工智慧最常見的應用是為廣告和標題產生簡潔的文字(31%)，為各種媒體和管道重新利用已有內容(27%)，以及創建廣泛的內容，如部落格和知識庫文章(25 %)。

Alshikh表示，「人工智慧為行銷人員、使用者體驗設計師、編輯、客戶服務專業人員等節省了大量從零開始產生新內容的時間。然而，實際的價值並不僅僅來自於內容的開發過程中的有趣部分，而是來自於那些無聊的部分：例如重新利用、分析、研究、轉換，甚至分發內容。當你忙碌、需要快速行動時，這些事情可能會阻礙你，而生成式人工智慧則可以自動地處理這些事情。」

在工作場所使用生成式人工智慧：是福還是禍?

該調查產生了重大發現，其中一個關鍵發現是幾乎所有企業都在各種功能中使用生成式人工智慧，其中資訊科技(30%)、營運(23%)、客戶成功(20%)、行銷(18%)、支援(16%)、銷售(15 %)和人力資源(15%)都是最常見的實施領域。

根據報告顯示，有59%的調查對象表示他們的公司已經或計劃購買生成式人工智慧工具。根據調查顯示，約有19%的受訪者表示他們的公司正在使用五種或更多的生成式人工智慧工具。此外，56%的受訪者表示，生成式人工智慧將生產力提高了至少50%，26%的受訪者表示，它將生產力提高了75%或更多。

根據Alshikh所述，最廣泛使用生成式人工智慧技術的行業是建築和IT，其佔比達16%。金融保險、科技服務和製造業分別佔了8%、8%和5%的份額，緊隨其後。特別是在Writer，我們在金融和保險領域看到了許多用例。 」

ChatGPT被認為對大眾有價值，因為它是免費的、易於操作且通用性強。公認的是，該工具存在諸多局限性，包括數據集有限、不夠準確、易受幻覺和偏見影響，以及數據隱私問題。

Alshikh補充道："ChatGPT也認識到自己的準確度有限。 "。除了擁有創作創意故事和十四行詩的能力，企業還必須確保保護自己的品牌和聲譽。不幸的是，ChatGPT和其他類似的工具正在導致錯誤訊息的增加，這對於必須依賴準確性和品牌一致性的企業來說是一個關鍵問題。」

Writer的新產品功能

該公司最近宣布了新的產品功能，旨在為其企業客戶提供從資料來源到人們工作的所有階段的最高水準的準確性、安全性、隱私性和合規性。這些特點涵蓋自架的大型語言模型(LLM)，讓使用者得以在本機或雲端進行託管、操作和自訂LLM。

此外，該公司還在Writer平台上引入了知識圖譜(Knowledge Graph)，允許客戶索引和存取任何資料來源(從Slack到wiki到知識庫到雲端儲存實例)。

Writer的CEO兼共同創辦人May Habib在一份書面聲明中表示：「我們為企業提供完全的控制－從LLM可以存取哪些數據，到LLM託管在哪裡。若你無法管控基於生成式人工智慧的輸出，便不可言掌握其品質、不良影響或安全風險。」

降低生成式人工智慧風險的關鍵考慮因素

Alshikh表示，像ChatGPT這樣的商業模式通常會從各種公共來源收集情報，這可能有利於創造力，但不利於品牌的一致性。

他進一步指出，企業的領導階層已經意識到透過在企業中實施生成式人工智慧可以獲得競爭優勢。然而，他們也認識到使用像ChatGPT這樣的免費聊天機器人的風險，包括產生不準確內容和暴露機密資料的可能性。

他闡述道，我們Writer的目標是透過實際效果為企業帶來真正的影響，而不只是停留在新穎的應用場景。我們已經解決了與準確性和隱私相關的問題，我們的技術正在部署在高度監管的行業，包括為Intuit和UnitedHealthcare等客戶提供技術、醫療保健和金融服務。 」

鑑於ChatGPT的受歡迎程度，他建議公司考慮ChatGPT或任何基於OpenAI的工具是否符合他們的資料隱私、品牌和監管政策。此外，他建議公司收集功能性用例和需求來評估替代方案。

Alshikh建議稱，「如果一個企業已經制定了使用ChatGPT的政策，他們應該考慮實施一個持續的溝通和培訓計劃，這樣每個人都知道哪些工具是安全的，以及如何在不洩露敏感公司資料的情況下使用它們。同時，企業主管也需要問自己一些重要的問題，例如：它安全嗎?它能保護我們公司的資料嗎?它是否允許我們根據我們的品牌、風格、資訊和公司情況定制輸出?它能集成到我們的業務工作流程嗎?”

以上是公司高層擔心與ChatGPT意外分享公司數據的詳細內容。更多資訊請關注PHP中文網其他相關文章！