三位圖靈獎得主在海德堡論壇上就深度學習是否能實現人類推理水平展開激辯

85 歲的圖靈獎得主 Raj Reddy 參加了最近舉行的第九屆海德堡獲獎者論壇。他發出由衷感嘆：「我在人工智慧領域工作了近60 年，沒想到這種技術會在有生之年實用化。」

# #10 年前，也就是2012 年，深度學習取得了突破。當時，一種基於多層神經網路的圖像分類創新演算法突然被證明比之前的所有演算法都要好得多。這項突破使得深度學習在語音和影像辨識、自動翻譯和轉錄以及機器人等領域中得到應用。

隨著深度學習被嵌入到越來越多的日常應用中，越來越多可能出錯的樣本也浮出水面：人工智慧系統會進行歧視，制定刻板印象，做出難以捉摸的決定，並需要大量的數據，有時還需要大量的能源。

在此背景下，第九屆海德堡獲獎者論壇為來自50 多個國家的約200 名青年研究人員組織了一場關於深度學習的應用和影響的小組討論。包括圖靈獎得主 Yoshua Bengio、Yann LeCun 和 Raj Reddy，2011 年 ACM 電腦獎得主 Sanjeev Arora，以及研究人員 Shannon Vallor、Been Kim、Dina Machuve 和 Shakir Mohamed 都參與了討論。

Meta 首席AI 科學家Yann LeCun 是小組成員中最樂觀的：「有很多人聲稱深度學習不能做這個或那個，而這些說法在經過幾年的工作後大多被證明是錯誤的。過去五年，深度學習已經能夠做到我們所有人都想像不到的事情，而且進展正在加速。」

LeCun 舉例說，Meta公司旗下的Facebook 現在可以自動偵測出96% 的仇恨言論，而大約四年前，這個比例只有40%。他把這種改進歸功於深度學習。 「我們每天都受到大量資訊的轟炸，而且這種情況只會越來越嚴重。我們將需要更多的自動化系統，使我們能夠篩選這些資訊。」

英國愛丁堡大學教授Shannon Vallor 則反對LeCun 的觀點，即科技只是向前發展，它似乎有自己的意志，而社會只需適應。 「這正是我們陷入某些問題的原因。科技可以走很多分岔的道路，人們決定哪條分岔路是最佳的。深度學習系統是人類根據自己的價值觀、激勵措施和權力結構來建造和部署的徹頭徹尾的人工製品，因此我們要對它們負全責。」

#對深度學習的批評之一是，雖然它擅長模式識別，但目前不適合進行邏輯推理，而老式的符號AI 卻適合。然而，Bengio 和 LeCun 都認為沒有理由不能讓深度學習系統進行推理。正如Bengio 所觀察到的，「人類也在他們的大腦中使用某種神經網絡，我相信有辦法透過深度學習架構達到類似人類的推理。」

然而， Bengio 補充說，他不認為僅僅擴大現今的神經網路就足夠了。 「我相信，我們可以從生物學和人類智慧中獲得更多的靈感，以彌補當前人工智慧和人類智慧之間的差距。」

普林斯頓大學的理論計算機科學家Sanjeev Arora 補充說，不只是深度學習還不能推理，其實我們也無法推理深度神經網路。 Arora 說：「我們需要更多地了解深度學習系統的黑盒子裡面發生了什麼，而這正是我正在努力做的事情。」

Raj Reddy 是迄今為止參與人工智慧社群時間最長的小組成員，他從20 世紀60 年代起就參與了人工智慧先驅約翰·麥卡錫的博士研究工作。 Reddy 認為杯子是半滿的，而不是半空的。 「深度學習的一個重要應用是幫助了社會金字塔底部的人。世界上大約有20 億人不能閱讀或書寫。各種語言技術現在已經足夠好用了，例如語音識別和翻譯。我在這個領域工作了近60 年，沒想到這種技術會在有生之年實用化。十年後，即使是文盲也能閱讀任何書籍，觀看任何電影，並與世界上任何地方的任何人用他們的母語進行對話。」

然而，對於深度學習技術來說，處理較小眾的語言仍然是一個未解決的問題，因為可用的數據要少得多。數據科學顧問 Dina Machuve 說，光在非洲，就有 2000 種語言，但沒有人工智慧技術可用。重要的是要進入一個社區，看看什麼對該社區有用，所以在為非洲尋找深度學習應用時，Machuve 集中於圖像應用方面——「我們已經開發了基於圖像識別的家禽疾病和農作物疾病的早期檢測系統。」

不幸的是，在許多方面，非洲仍然是深度學習研究和部署中「缺失的大陸」，DeepMind 的研究員Shakir Mohamed 補充說。 「我們統計了2006 年至2016 年期間，在著名的神經資訊處理會議NeurIPS 上，有多少來自非洲人的論文被提交，答案是：0。拉丁美洲也是如此，或許是1 篇。我希望你們所有人，無論你們在哪裡，都能認真對待代表性的問題，誰在做這項工作，在哪裡做，以及如何與他人分享你們的經驗。」

谷歌大腦的研究科學家Been Kim 說，她希望大家能認識到，深度學習並不是一個可以解決所有社會問題的神奇工具。事實上，她觀察到，「可能有比機器學習更適合你所遇到問題的非AI 解決方案。你要停下來質疑：這是正確的工具嗎？」

當被問及一般大眾應該知道什麼是人工智慧及其前景時，Mohamed 說：「未來還沒有被決定。我們仍然可以創造和塑造未來，這就是我們應該永遠記住的。」

以上是三位圖靈獎得主在海德堡論壇上就深度學習是否能實現人類推理水平展開激辯的詳細內容。更多資訊請關注PHP中文網其他相關文章！