百度CTO王海峰：大語言模型為通用人工智慧帶來曙光

北京時間2023年8月16日，WAVE SUMMIT深度學習開發者大會由深度學習技術及應用國家工程研究中心主辦，在此次會議上，百度首席技術官兼深度學習技術及應用國家工程研究中心主任王海峰發表了主題演講。王海峰首次公開表示，大語言模型已經具備了理解、生成、邏輯、記憶等人工智慧的核心基礎能力，為通用人工智慧的發展帶來了新的希望

已有800萬開發者使用飛槳，創建了超過80萬個模型

#WAVE SUMMIT深度學習開發者大會自2019年4月開始舉辦。在首屆大會上，王海峰指出深度學習具有廣泛適用性，並具備工業化生產的標準化、自動化和模組化特徵，推動了人工智慧進入工業化階段。經過四年的發展，深度學習技術和應用的進展充分驗證了這個觀點。深度學習技術的適用範圍越來越廣，深度學習平台的標準化、自動化和模組化特徵越來越明顯，而預訓練大模型的興起進一步拓展了人工智慧應用的深度和廣度。因此，人工智慧已經進入了工業化生產階段

在標準化方面，我們透過共同優化框架和模型，統一適配多種硬件，簡化應用模式，從而大大降低人工智慧應用的門檻；在自動化方面，我們提升了人工智慧研發全流程的效率，從訓練、適配到推理部署都實現了自動化；在模組化方面，我們提供了豐富的產業級模型庫，方便人工智慧在各種場景中快速應用

飛槳產業級深度學習開源開放平台和文心大模型相互促進，使飛槳生態更加繁榮，吸引了800萬開發者，為22萬家企事業單位提供服務，並且創建了80萬個基於飛槳的模型。王海峰解釋了飛槳開發者社群AI Studio中文名「星河社群」的深遠意義，「文心與飛槳結合，一同進入星河」。在飛槳和文心的引導下，我們與所有開發者共同建立星河社區，共同探索通用人工智慧的無盡可能

大型語言模型為通用人工智慧帶來了新的希望

#王海峰認為，通用人工智慧的核心基礎能力包括理解、生成、邏輯和記憶，而大語言模型具備了這四項能力，為實現通用人工智慧帶來了希望

具體而言，人工智慧的典型能力，如創作、程式設計、解題和規劃，都基於核心基礎能力，包括理解、生成、邏輯和記憶，儘管它們在依賴程度上可能有所差異。舉例來說，解題過程需要綜合運用理解、記憶、邏輯和生成能力，從讀懂題目、解答題目到最後寫出答案

如何取得這些能力？以文心一言為例，首先透過融合學習數萬億資料和數千億知識來訓練預訓練大模型。然後，利用監督精調、人類回饋的強化學習和提示等技術進行進一步優化。此外，該模型還具備知識增強、檢索增強和對話增強等技術優勢

透過多種策略優化資料來源和資料分佈、基礎模型的長文建模、多類型多階段的有監督精調、多任務自適應的有監督精調以及多層次多粒度獎勵模型等技術創新，全面提升基礎通用能力。在檢索增強和知識增強的基礎上，透過知識點增強提升對世界知識的掌握和應用能力；透過建構大規模邏輯資料、邏輯知識建模、多粒度語義知識組合以及符號神經網絡，提升邏輯能力；透過建構包含資料、內容、模型和系統安全的全面安全體系，確保大模型的安全性

透過飛槳端到端自適應混合併行訓練技術以及協同優化的壓縮、推理和服務部署，文心大模型的訓練速度提高了3倍，推理速度提高了30多倍

透過資料驅動、提示建置和外掛程式增強，我們在應用程式方面進行了場景適配和協同優化。我們已經上線了五個外掛：文心一言、百度搜尋、覽卷文件、E 言易圖、說圖解畫和一鏡流影。這些外掛程式使我們的模型具備了產生即時準確資訊、長文字摘要和問答、數據洞察和圖表製作、基於圖片的創作和問答、以及文生影片等能力。插件機制的引入擴展了大模型的功能邊界，更好地滿足了不同場景的需求。王海峰表示，未來百度將與開發者共同建構插件生態系統，共享技術創新成果

以大語言模型為代表的人工智慧正深入千行百業，加速產業升級和經濟成長。在這個過程中，技術創新和應用落地形成良性循環，理解、生成、邏輯、記憶等能力持續提升，產業應用的廣度和深度持續拓展，大型語言模型為通用人工智慧帶來了新的希望。

以上是百度CTO王海峰：大語言模型為通用人工智慧帶來曙光的詳細內容。更多資訊請關注PHP中文網其他相關文章！