首頁 科技週邊 人工智慧 超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

Apr 12, 2023 pm 03:37 PM
人工智慧 演算法

大型語言模型可以說是現代自然語言處理技術的基石了,例如1750億參數的GPT-3,5400億參數的PaLM,預訓練模型為下游任務提供了非常強大的few-shot learning的能力。

但推理任務仍然是一個難關,尤其是需要多步驟推理才能得到正確答案的問題。

最近有研究人員發現,只要設計合適的prompt就能引導模型進行多步驟的推理來產生最終答案,這種方法也稱為思維鏈(chain-of-thought)推理。

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

 思維鏈技術在算術基準GSM8K上將準確率從17.9%提升到了58.1%,後來引入的投票自洽(self-consistency)機制進一步將準確率提升到74.4%

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

 簡單來說,複雜的推理任務通常有多個能得到正確答案的推理路徑,自洽方法透過思考鏈從語言模型中取樣一組不同的推理路徑,然後回到其中最自洽的答案。

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

 最近,來自北大和微軟的研究人員基於自洽的新方法DiVeRSe,包含三個主要的創新點,進一步提升了模型的推理能力。

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

論文連結:https://arxiv.org/abs/2206.02336

程式碼連結:https://github.com/microsoft/DiVeRSe

 第一,受到自洽方式「想法不同,答案相同」的啟發,即從語言模型中採樣不同的推理路徑,DiVeRSe在多樣性上更進一步,按照“條條大路通羅馬”的理念,使用多個prompt產生答案,能夠產生更完整、互補的答案。

 

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

 研究人員先提供每個問題5個不同的prompts,然後對每個prompt取樣出20個推理路徑,最後就可以對每個問題產生100個解答推理路徑。

一個關鍵的問題是如何取得不同的prompt,假定已經取得一個範例函式庫後,我們可以從中取樣K個範例來建構一個prompt,然後重複5次即可

如果沒有足夠的範例,則採用self-teaching的方式提升prompt多樣性,也就是從一部分範例產生偽推理路徑和對。

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

 第二,在產生推理路徑時,語言模型中並不存在一種機制來修正先前步驟中的錯誤,可能會導致最終預測結果的混亂。 DiVeRSe借鑒verifier的思想,對每個推理路徑的正確性進行驗證來引導投票機制。也就是說,並非所有的推理機制都是相等重要的或都是好的。

假設我們對一個問題有100條推理路徑,其中60條的結果為「答案是110」,而40條路徑的結果為「答案是150」。如果沒有驗證器(即原始自洽方法),「答案是110」為多數票,所以我們可以將110視為最終答案,並刪除結果為150的40條推理路徑。

verifier則是對推理路徑進行評分,函數f由一個二分類器訓練得到,輸入為問題x,路徑z和答案y,輸出為positive的機率。

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

有verifier後,假設「答案是110」的60條推理路徑的平均分數是0.3;「答案是150」的40條推理路徑的平均分數是0.8。那麼最終的答案應該是150,因為40*0.8>60*0.3

第三,由於答案是基於多個步驟的推理而產生的,當一個路徑產生一個正確的答案時,可以認為所有的步驟都對最終的正確性做出了貢獻。然而,當產生一個錯誤的答案時,這並不意味著所有的步驟都是錯誤的或對錯誤有貢獻。

換句話說,儘管結果錯了,中間一些步驟可能仍然是正確的,但一些後續的偏離方向的步驟導致了最終的錯誤答案。 DiVeRSe設計了一個機制,為每個步驟分配一個細粒度的標籤,並提出了一個step-aware的驗證器,並將正確性分配到每個步驟的推理上,而不是只看最終的答案。

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

主體仍然是一個二分類器,但關鍵的問題是如何獲得step-level的負標籤,因為如果最終的答案錯誤,沒有人工的參與,我們並不知道哪一步出錯,而正確的答案則過程應該都是正確的。

研究者提出supports的概念,例如在算術任務中,需要有另外一個範例的中間結果和該中間步驟的結果相同。

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

 基於這三點改進,研究人員在5個算數推理資料集上進行實驗,可以看到在基於code-davinci-002的DiVeRSe方法都取得了新的SOTA演算法,平均的提升率為6.2%

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

在兩個常識推理任務上,DiVeRSe的表現略低於基於PaLM的自洽(-2.2% ),推測原因可能是常識推理任務是多項選擇任務,而不是開放性的生成任務,導致了出現了更多false-positive的偽例證。

在歸納推理任務上,DiVeRSe在CLUTRR任務上取得了95.9%的成績,超過了先前SOTA的微調結果( 28.9%)

在消融實驗中,可以看到voting verifier機制對效能的提升是比較明顯的。

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

 而在大多數實驗中,將voting verifier擴充為step-aware版本可以帶來效能的提升。對於GSM8K上的code-davinci-002,step-aware版本的verifier則會導致效能略有下降。

可能的原因為code-davinci-002更強大,可以為GSM8K產生更高品質的推理路徑,從而減少步驟級資訊的必要性,即text-davinci更容易產生短/不完整的推理路徑,而code-davinci對生成長內容更友善。

超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜

 論文的第一作者為Yifei Li,於2020年本科畢業於東北大學軟體工程專業,目前碩士就讀於北京大學,主要研究方向為自然語言處理,特別是大規模語言模型中的prompt-tuning和推理。

 文章的第二作者為Zeqi Lin,為微軟亞洲研究院DKI研究員,分別於2014年和2019年獲得北京大學的學士和博士學位,主要研究方向為機器學習及其在軟體分析和數據分析中的應用。

以上是超越PaLM!北大碩士提出DiVeRSe,全面刷新NLP推理排行榜的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 Jun 28, 2024 am 03:51 AM

本站6月27日訊息,剪映是由位元組跳動旗下臉萌科技開發的一款影片剪輯軟體,依託於抖音平台且基本面向該平台用戶製作短影片內容,並相容於iOS、安卓、Windows 、MacOS等作業系統。剪映官方宣布會員體系升級,推出全新SVIP,包含多種AI黑科技,例如智慧翻譯、智慧劃重點、智慧包裝、數位人合成等。價格方面,剪映SVIP月費79元,年費599元(本站註:折合每月49.9元),連續包月則為59元每月,連續包年為499元每年(折合每月41.6元) 。此外,剪映官方也表示,為提升用戶體驗,向已訂閱了原版VIP

使用Rag和Sem-Rag提供上下文增強AI編碼助手 使用Rag和Sem-Rag提供上下文增強AI編碼助手 Jun 10, 2024 am 11:08 AM

透過將檢索增強生成和語意記憶納入AI編碼助手,提升開發人員的生產力、效率和準確性。譯自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。雖然基本AI程式設計助理自然有幫助,但由於依賴對軟體語言和編寫軟體最常見模式的整體理解,因此常常無法提供最相關和正確的程式碼建議。這些編碼助手產生的代碼適合解決他們負責解決的問題,但通常不符合各個團隊的編碼標準、慣例和風格。這通常會導致需要修改或完善其建議,以便將程式碼接受到應

七個很酷的GenAI & LLM技術性面試問題 七個很酷的GenAI & LLM技術性面試問題 Jun 07, 2024 am 10:06 AM

想了解更多AIGC的內容,請造訪:51CTOAI.x社群https://www.51cto.com/aigc/譯者|晶顏審校|重樓不同於網路上隨處可見的傳統問題庫,這些問題需要跳脫常規思維。大語言模型(LLM)在數據科學、生成式人工智慧(GenAI)和人工智慧領域越來越重要。這些複雜的演算法提升了人類的技能,並在許多產業中推動了效率和創新性的提升,成為企業保持競爭力的關鍵。 LLM的應用範圍非常廣泛,它可以用於自然語言處理、文字生成、語音辨識和推薦系統等領域。透過學習大量的數據,LLM能夠產生文本

微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 Jun 11, 2024 pm 03:57 PM

大型語言模型(LLM)是在龐大的文字資料庫上訓練的,在那裡它們獲得了大量的實際知識。這些知識嵌入到它們的參數中,然後可以在需要時使用。這些模型的知識在訓練結束時被「具體化」。在預訓練結束時,模型實際上停止學習。對模型進行對齊或進行指令調優,讓模型學習如何充分利用這些知識,以及如何更自然地回應使用者的問題。但是有時模型知識是不夠的,儘管模型可以透過RAG存取外部內容,但透過微調使用模型適應新的領域被認為是有益的。這種微調是使用人工標註者或其他llm創建的輸入進行的,模型會遇到額外的實際知識並將其整合

你所不知道的機器學習五大學派 你所不知道的機器學習五大學派 Jun 05, 2024 pm 08:51 PM

機器學習是人工智慧的重要分支,它賦予電腦從數據中學習的能力,並能夠在無需明確編程的情況下改進自身能力。機器學習在各個領域都有廣泛的應用,從影像辨識和自然語言處理到推薦系統和詐欺偵測,它正在改變我們的生活方式。機器學習領域存在著多種不同的方法和理論,其中最具影響力的五種方法被稱為「機器學習五大派」。這五大派分別為符號派、聯結派、進化派、貝葉斯派和類推學派。 1.符號學派符號學(Symbolism),又稱符號主義,強調利用符號進行邏輯推理和表達知識。該學派認為學習是一種逆向演繹的過程,透過現有的

為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 Jul 25, 2024 am 06:42 AM

編輯|ScienceAI問答(QA)資料集在推動自然語言處理(NLP)研究中發揮著至關重要的作用。高品質QA資料集不僅可以用於微調模型,也可以有效評估大語言模型(LLM)的能力,尤其是針對科學知識的理解和推理能力。儘管目前已有許多科學QA數據集,涵蓋了醫學、化學、生物等領域,但這些數據集仍有一些不足之處。其一,資料形式較為單一,大多數為多項選擇題(multiple-choicequestions),它們易於進行評估,但限制了模型的答案選擇範圍,無法充分測試模型的科學問題解答能力。相比之下,開放式問答

改進的檢測演算法:用於高解析度光學遙感影像目標檢測 改進的檢測演算法:用於高解析度光學遙感影像目標檢測 Jun 06, 2024 pm 12:33 PM

01前景概要目前,難以在檢測效率和檢測結果之間取得適當的平衡。我們研究了一種用於高解析度光學遙感影像中目標偵測的增強YOLOv5演算法,利用多層特徵金字塔、多重偵測頭策略和混合注意力模組來提高光學遙感影像的目標偵測網路的效果。根據SIMD資料集,新演算法的mAP比YOLOv5好2.2%,比YOLOX好8.48%,在偵測結果和速度之間達到了更好的平衡。 02背景&動機隨著遠感技術的快速發展,高解析度光學遠感影像已被用於描述地球表面的許多物體,包括飛機、汽車、建築物等。目標檢測在遠感影像的解釋中

SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 Jul 17, 2024 pm 06:37 PM

編輯|KX在藥物研發領域,準確有效地預測蛋白質與配體的結合親和力對於藥物篩選和優化至關重要。然而,目前的研究並沒有考慮到分子表面訊息在蛋白質-配體相互作用中的重要作用。基於此,來自廈門大學的研究人員提出了一種新穎的多模態特徵提取(MFE)框架,該框架首次結合了蛋白質表面、3D結構和序列的信息,並使用交叉注意機制進行不同模態之間的特徵對齊。實驗結果表明,該方法在預測蛋白質-配體結合親和力方面取得了最先進的性能。此外,消融研究證明了該框架內蛋白質表面資訊和多模態特徵對齊的有效性和必要性。相關研究以「S

See all articles