近日，AI大佬，現任Zoom CTO的黃學東，在自家的官網上發表了一篇部落格。
其中隆重介紹了自己加入Zoom六個月之後創新的成果－Zoom AI Companion，以及驅動Zoom AI Companion的Zoom聯邦（ federated approach）AI。
在Zoom之前，黃學東曾擔任微軟Azure AI首席技術官，他不僅是微軟首位全球華人技術院士，也是微軟最高級別的華人科學家。
黃學東在微軟任職了超過30年，在他的牽線搭橋下，微軟於1998年在北京建起第一個亞洲研究院。
黃學東在2017年和2020年分別當選為ACM和IEEE會士，並於2023年同時當選為美國國家工程院院士和美國藝術與科學院院士
#黃學東表示，人工智慧的演變和實現過程就像一條彎曲的道路，充滿了不斷的破壞、適應和創新
在過去的30年中，我一直在這條道路上前行，涉足語音辨識、自然語言理解和電腦視覺等領域。在我加入Zoom的六個月裡，創新的速度尤其令人驚訝
Zoom希望使用AI來改善人類協作方式，並不斷提高生產力。
Zoom多年來致力於提供語音辨識、電腦視覺、機器翻譯和大型語言模型（LLM）等人工智慧服務，以增強其軟體的競爭力
#Zoom AI Companion是他們的最新產品，它的目標是幫助使用者提高工作效率、促進無縫協作並獲得更深入的交流和見解
Zoom的聯邦AI，能夠使用戶在先前付費服務的基礎上，不用額外花錢就能享受AI Companion的功能。
透過這種方式，使用者的體驗將會顯著提升，同時也能夠快速增加新技術在使用者中的參與度
對於擁有大量使用者且需要高強度使用AI功能的Zoom軟體來說，LLM推理的額外成本如何分擔呢？
根據傳聞，據說GitHub的Copilot每月收費10美元，而且每個用戶每月還需要額外支付20美元的補貼
Zoom目前使用的語言模型（LLM）包括自有模型和第三方模型，例如OpenAI GPT-3.5、GPT -4以及Anthropic Claude 2
Zoom聯邦AI透過整合合作夥伴的最新LLM技術（例如OpenAI最新發布的GPT-4 Turbo），以提升Zoom客戶的端對端體驗
Zoom採用了更具成本效益的策略：
#首先，使用成本較低的LLM來完成任務，然後透過Z-Scorer評估任務的初始完成品質
Zoom在必要的情況下將採用更高階的LLM來改進初始LLM所取得的成果
——這類似於一個有凝聚力的團隊協同工作，能夠比一個人更有效率地生產更高品質的產品。
根據Zoom的內部測試，與OpenAI GPT-3.5 Turbo或其他幾種最先進的LLM相比，Zoom採用聯邦AI提高了AI Companion的輸出質量，還有效地控制了成本。
黃學東表示，他們衡量表現的標準是要降低成本、提高反應速度和提供更高品質的產出
在下圖中，我們可以看到Zoom AI Companion和GPT-4在英文會議查詢任務上的效能和成本對比
在這個圖中，我們比較了兩個關鍵指標，即成本和輸出品質
Zoom AI Companion只使用了不到GPT-4 6%的成本，就能實現幾乎相當的輸出品質
與微軟Copilot使用的GPT-4-32k模型相比，Zoom AI Companion的會議提問功能，可降低成本，加快回應速度，同時保持相當的輸出品質。
上圖是Zoom AI Companion與GPT-4在多語言會議摘要任務上的比較。
此外，AI Companion的多語言性能，進一步證明了Zoom聯邦AI的強大功能，支援除英語之外的32種語言。
由於大多數LLM主要是使用英文資料進行預先訓練，所以Zoom增加了翻譯模型來擴展多語言能力。
在多語言會議摘要任務中，上圖比較了Zoom AI Companion與Microsoft Copilot的表現。兩者都使用GPT-4作為Microsoft Copilot的代理進行對比
在Zoom AI Companion的多語言會議摘要中，使用Zoom的翻譯模型將非英語文本翻譯成英語，這樣能同時考慮翻譯資料與原始資料。
從圖中可以看出，Zoom AI Companion以不到6%的成本完成了品質接近GPT-4-32k的輸出（97%）。
Zoom相信，人工智慧的好處應該讓盡可能多的人廣泛使用，而Zoom的聯邦AI能夠無縫結合不同AI系統的優勢，提供高性能結果，在實現這一願景方面發揮著重要作用。 重寫後的內容：Zoom認為人工智慧的好處應該讓盡可能多的人廣泛使用。 Zoom的聯邦AI可以無縫地結合不同的人工智慧系統的優勢，提供高效能的結果，在實現這個願景方面起著重要的作用
目前，Zoom的幾乎所有人工智慧功能都被整合到了Zoom AI Companion中，該功能於去年9月份推出
Zoom提供的「儲值服務」利用Zoom的人工智慧能力，在您中途加入會議後，自動總結您錯過的會議內容
當輪到你發言時，你可以結合自己的觀點以及先前會議的內容，來產生髮言稿，實現了真正的「替代用戶開會」
在半程加入會議之後，AI可以告訴你會議的重點。
也能幫助您即時轉錄翻譯其他與會者的發言，輕鬆取得會議討論的文字
AI的功能不僅是將碎片化的資訊整理好，還能為團隊產生會議總結和記錄
可以將從Zoom平台上獲得的客戶短資訊進行總結，並產生具體的執行方案
而且對於參加不了的會議，還可以在日程表上直接安排AI智能錄製，之後分段分重點回看。
而這整個AI伴侶背後，都凝結了Zoom和黃學東聯邦AI的技術思路，用合適的AI資源去處理合適的請求。
而且Zoom承諾，不會使用用戶的任何音訊、視訊、聊天、螢幕共享、附件或客戶生成的內容（例如投票結果、白板）等其他數據來訓練Zoom或第三方的AI。
使用這些方便的功能和負責的AI會花多少錢呢？
使用150元至200元不等的價格，您可以使用一整年，而企業用戶還可以選擇定製版本
以上是耗比達到GPT-4 10倍！黃學東親自解密Zoom AI的成功之道，AI伴侶直接替你開會的詳細內容。更多資訊請關注PHP中文網其他相關文章！
