首頁 科技週邊 人工智慧 大模型鋪天蓋地出現後,電腦科學終成「自然科學」

大模型鋪天蓋地出現後,電腦科學終成「自然科學」

Apr 12, 2023 pm 05:22 PM
電腦 人工智慧 自然科學

大模型鋪天蓋地出現後,電腦科學終成「自然科學」

目前的人工智慧(AI)處在一個奇妙的時代,時常會出現讓人驚嘆的隱性知識(Polanyi 的複仇和人工智慧的新型浪漫與隱性知識,https://bit.ly/3qYrAOY),但可以確信在未來相當長的一段時間,電腦無法完成這個任務。最近出現的令人感興趣的研究是基於 Transformer 架構的大型學習系統,基於大網路規模的多模態語料庫和數十億參數的訓練。典型例子如大型語言模型、響應任意形式文字 prompt 的 GPT3 和 PALM、將文字轉換成圖像的語言 / 圖像模型 DALL-E 和 Imagen(甚至具有通用行為的模型如 GATO)。

大型學習模式的出現從根本上改變了人工智慧研究的性質。最近研究人員在使用 DALL-E 時,認為它似乎已經發展出自己的特有語言,如果人類能掌握它,或許可以更好地與 DALL-E 互動。也有研究人員發現,可以透過在 prompt 中加入某些神奇的咒語(例如「讓我們一步步地思考」)來改善 GPT3 對推理問題的表現。現在像 GPT3 和 DALL-E 這樣的大型學習模型就像是「外星物種」一樣,我們要嘗試解碼它們的行為。

對於人工智慧來說,這無疑是一個奇怪的轉捩點。自出現以來,人工智慧一直是介於工程學(特定功能的系統)和科學(發現自然現象規律)之間的「無人區」地帶。人工智慧的科學部分源自於其最初的主張,即對人類智慧本質的洞察;而工程部分則源自於對智慧功能(讓電腦展現智慧行為)的關注,而非對人類智慧的洞見。

而目前的情況正在迅速變化,特別是人工智慧已成為大型學習模型的同義詞。目前的現狀是,人們對於訓練過的模型是如何擁有特定功能一無所知,甚至它們可能具有的其它功能一無所知(如 PALM 所謂的「解釋笑話」的能力)。即使是它們的創造者,通常也對這些系統所能做的事情始料不及。探索這些系統以了解其「功能」範圍,已成為近來人工智慧研究的趨勢。

越來越清楚的是,部分人工智慧正偏離其工程本源。如今很難將大型學習系統視為傳統意義上有特定目標的工程設計。畢竟人們不能說自己的孩子是「設計」出來的。工程學領域通常不會為設計的系統出現意料之外的新特性而慶祝(就如同土木工程師不會因為他們設計的抵禦五級颶風的橋樑被發現還能懸浮而激動興奮的慶祝)。

越來越多地證據表明,這些經過訓練(但未經設計)的大型系統的研究注定要成為自然科學:觀察系統的功能;做消融研究;對最佳實踐進行定性的分析。

考慮到目前研究表象而非內裡的事實,這類似於生物學中想在沒有實際證據的情況下達到「弄清楚」的宏偉目標。機器學習屬於研究工作,更專注於系統為什麼會做它正在做的事情(可以想像成對大型學習系統做「核磁共振成像」研究),而不是證明設計系統就是為了這樣做。這些研究收穫的知識能提升微調系統的能力(就像醫學一樣)。當然表象的研究允許比內裡設定進行更具針對性的干預。

人工智慧變成自然科學,也會對整個電腦科學產生影響,考慮到人工智慧對幾乎所有運算領域都產生巨大影響。計算機科學的“科學”二字也曾受到質疑和諷刺。但現在情況已經改變,因為人工智慧已經成為研究大型人工學習系統的自然科學。當然,這一轉變可能存在很大的阻力和意見,因為計算機科學長期以來一直是“建構修正的方法(correct by construction)”聖杯,從最開始計算機科學就相當於生活在充滿激勵的系統中,它像訓練有素的狗不犯錯,就像人類一樣正確。

早在 2003 年,圖靈獎得主 Leslie Lamport 對計算未來屬於生物學而非邏輯的可能性敲響警鐘,稱電腦科學將讓我們生活在順勢療法和信仰療癒的世界。當時他的焦慮主要是針對人類透過程式設計完成的複雜軟體系統,而不是現在更神秘的大型學習模型。

當從一個主要關注有意設計和「透過構造保證正確」的領域,轉向試圖探索或理解現有的(未經設計的)人工產物,它將帶來的方法學轉變值得思考。與生物學研究野外生物不同,人工智慧研究人類創造的缺乏「設計感」的人工產物,對於創造和部署那些不被理解的人工產物,倫理問題是肯定會出現的。大型學習模型不太可能保證支援可證明的能力,無論是關於準確性、透明度還是公平性,然而這些都是部署和實踐這些系統的關鍵問題。雖然人類也無法提供關於自身決定和行為正確性的證據,但確實有法律制度來讓人類遵守懲罰,如罰款、譴責甚至監禁。而對於大型學習系統,有什麼是等價的製度?

計算研究的美學也會改變。目前的研究者可以用論文中包含定理與定義的比例來評估論文。但隨著電腦科學的目標,越來越像生物學等自然科學的目標,就需要發展新的計算美學方法論(因為零定理與零定義比例不會有很大的差異)。有跡象表明,計算複雜度分析在人工智慧研究中已處於次要地位。

以上是大模型鋪天蓋地出現後,電腦科學終成「自然科學」的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

<🎜>:泡泡膠模擬器無窮大 - 如何獲取和使用皇家鑰匙
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
北端:融合系統,解釋
3 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

熱門話題

Java教學
1664
14
CakePHP 教程
1423
52
Laravel 教程
1318
25
PHP教程
1269
29
C# 教程
1248
24
位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 Jun 28, 2024 am 03:51 AM

本站6月27日訊息,剪映是由位元組跳動旗下臉萌科技開發的一款影片剪輯軟體,依託於抖音平台且基本面向該平台用戶製作短影片內容,並相容於iOS、安卓、Windows 、MacOS等作業系統。剪映官方宣布會員體系升級,推出全新SVIP,包含多種AI黑科技,例如智慧翻譯、智慧劃重點、智慧包裝、數位人合成等。價格方面,剪映SVIP月費79元,年費599元(本站註:折合每月49.9元),連續包月則為59元每月,連續包年為499元每年(折合每月41.6元) 。此外,剪映官方也表示,為提升用戶體驗,向已訂閱了原版VIP

使用Rag和Sem-Rag提供上下文增強AI編碼助手 使用Rag和Sem-Rag提供上下文增強AI編碼助手 Jun 10, 2024 am 11:08 AM

透過將檢索增強生成和語意記憶納入AI編碼助手,提升開發人員的生產力、效率和準確性。譯自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。雖然基本AI程式設計助理自然有幫助,但由於依賴對軟體語言和編寫軟體最常見模式的整體理解,因此常常無法提供最相關和正確的程式碼建議。這些編碼助手產生的代碼適合解決他們負責解決的問題,但通常不符合各個團隊的編碼標準、慣例和風格。這通常會導致需要修改或完善其建議,以便將程式碼接受到應

七個很酷的GenAI & LLM技術性面試問題 七個很酷的GenAI & LLM技術性面試問題 Jun 07, 2024 am 10:06 AM

想了解更多AIGC的內容,請造訪:51CTOAI.x社群https://www.51cto.com/aigc/譯者|晶顏審校|重樓不同於網路上隨處可見的傳統問題庫,這些問題需要跳脫常規思維。大語言模型(LLM)在數據科學、生成式人工智慧(GenAI)和人工智慧領域越來越重要。這些複雜的演算法提升了人類的技能,並在許多產業中推動了效率和創新性的提升,成為企業保持競爭力的關鍵。 LLM的應用範圍非常廣泛,它可以用於自然語言處理、文字生成、語音辨識和推薦系統等領域。透過學習大量的數據,LLM能夠產生文本

微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 Jun 11, 2024 pm 03:57 PM

大型語言模型(LLM)是在龐大的文字資料庫上訓練的,在那裡它們獲得了大量的實際知識。這些知識嵌入到它們的參數中,然後可以在需要時使用。這些模型的知識在訓練結束時被「具體化」。在預訓練結束時,模型實際上停止學習。對模型進行對齊或進行指令調優,讓模型學習如何充分利用這些知識,以及如何更自然地回應使用者的問題。但是有時模型知識是不夠的,儘管模型可以透過RAG存取外部內容,但透過微調使用模型適應新的領域被認為是有益的。這種微調是使用人工標註者或其他llm創建的輸入進行的,模型會遇到額外的實際知識並將其整合

你所不知道的機器學習五大學派 你所不知道的機器學習五大學派 Jun 05, 2024 pm 08:51 PM

機器學習是人工智慧的重要分支,它賦予電腦從數據中學習的能力,並能夠在無需明確編程的情況下改進自身能力。機器學習在各個領域都有廣泛的應用,從影像辨識和自然語言處理到推薦系統和詐欺偵測,它正在改變我們的生活方式。機器學習領域存在著多種不同的方法和理論,其中最具影響力的五種方法被稱為「機器學習五大派」。這五大派分別為符號派、聯結派、進化派、貝葉斯派和類推學派。 1.符號學派符號學(Symbolism),又稱符號主義,強調利用符號進行邏輯推理和表達知識。該學派認為學習是一種逆向演繹的過程,透過現有的

為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 Jul 25, 2024 am 06:42 AM

編輯|ScienceAI問答(QA)資料集在推動自然語言處理(NLP)研究中發揮著至關重要的作用。高品質QA資料集不僅可以用於微調模型,也可以有效評估大語言模型(LLM)的能力,尤其是針對科學知識的理解和推理能力。儘管目前已有許多科學QA數據集,涵蓋了醫學、化學、生物等領域,但這些數據集仍有一些不足之處。其一,資料形式較為單一,大多數為多項選擇題(multiple-choicequestions),它們易於進行評估,但限制了模型的答案選擇範圍,無法充分測試模型的科學問題解答能力。相比之下,開放式問答

SK 海力士 8 月 6 日將展示 AI 相關新品:12 層 HBM3E、321-high NAND 等 SK 海力士 8 月 6 日將展示 AI 相關新品:12 層 HBM3E、321-high NAND 等 Aug 01, 2024 pm 09:40 PM

本站8月1日消息,SK海力士今天(8月1日)發布博文,宣布將出席8月6日至8日,在美國加州聖克拉拉舉行的全球半導體記憶體峰會FMS2024,展示諸多新一代產品。未來記憶體和儲存高峰會(FutureMemoryandStorage)簡介前身是主要面向NAND供應商的快閃記憶體高峰會(FlashMemorySummit),在人工智慧技術日益受到關注的背景下,今年重新命名為未來記憶體和儲存高峰會(FutureMemoryandStorage),以邀請DRAM和儲存供應商等更多參與者。新產品SK海力士去年在

SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 Jul 17, 2024 pm 06:37 PM

編輯|KX在藥物研發領域,準確有效地預測蛋白質與配體的結合親和力對於藥物篩選和優化至關重要。然而,目前的研究並沒有考慮到分子表面訊息在蛋白質-配體相互作用中的重要作用。基於此,來自廈門大學的研究人員提出了一種新穎的多模態特徵提取(MFE)框架,該框架首次結合了蛋白質表面、3D結構和序列的信息,並使用交叉注意機制進行不同模態之間的特徵對齊。實驗結果表明,該方法在預測蛋白質-配體結合親和力方面取得了最先進的性能。此外,消融研究證明了該框架內蛋白質表面資訊和多模態特徵對齊的有效性和必要性。相關研究以「S

See all articles