對於「通用人工智慧」，OpenAI科學家Karpathy下場做出了解釋。
前幾天，Karpathy在個人blog發表了一篇文章「將自動駕駛作為AGI的一個案例來研究」。
不知是何原因，他刪除了這篇文章，幸而，還有網路備份。
眾所周知，Karpathy不僅是OpenAI 的創始成員之一，還曾是特斯拉前AI高級總監、自動駕駛Autopilot負責人。
他將自動駕駛當作案例，研究AGI，這篇文章的觀點確實值得一看。
LLM的爆發引發了眾多關於AGI降臨的時間，甚至它可能是什麼樣子的討論。
有的人對AGI未來充滿希望，抱持樂觀的態度。而有的人卻充滿恐懼和悲觀的情緒。
不幸的是，其中也有很多討論過於抽象，導致人們的觀點互不接軌。
因此，我總是在尋找具體的類比和歷史先例，用更具體的術語來探討這個主題。
特別是，當我被問到「你認為AGI會是什麼樣子」時，我個人喜歡用自動駕駛舉例。在這篇文章中，我想解釋一下原因。讓我們從AGI的一個常見定義開始：
AGI：一個在大多數有經濟價值的工作中超越人類能力的自主系統。
請注意，在這個AGI定義中有兩個具體要求。
首先，它是一個完全自主的系統，即自己運作，很少或根本沒有人類監督。
其次，它在大多數有經濟價值的工作上都是自主運作的。關於這部分數據，我個人喜歡參考美國勞工統計局的職業指數。
一個同時具有這兩種性質的系統，我們稱之為AGI。
我想在這篇文章中建議的是，最近我們自動駕駛能力的發展是一個非常好的早期案例，研究了日益自動化的社會動態，可以拓展到AGI的整體樣貌和感受的研究。
我這樣認為的原因是，這個領域有幾個特徵。可以簡單地說「it is a big deal」：自動駕駛對社會來說非常容易理解，更常見。
它在經濟規模上佔據了很大一部分，並且僱用了大量的人類勞動力。駕駛是一個足夠複雜的問題，但我們已經實現自動化，並引來社會的高度關注。
當然，也有其他的行業實現了大規模的自動化，但要么是我個人對它們不太熟悉，要么它們在上述一些屬性方面有所欠缺。
駕駛的自動化被認為是AI領域中一個極具挑戰的問題，並非一蹴可幾。
它是透過逐步將駕駛任務自動化的過程而成的，這個過程中涉及了許多階段性的「工具型AI」。
在車輛自動化方面，目前許多汽車已經配備了L2級駕駛輔助系統。即能與人類駕駛者協作，共同完成從起點到終點旅程的AI。
雖然它還不能完全自主駕駛，但L2已經能處理許多駕駛中的基礎任務。
有時，它甚至能自動完成整個操作流程，例如自動停車。
在這過程中，人類主要扮演監督角色，甚至可以隨時接手，直接駕駛或下達高階指令（如換道請求） 。
在某些方面（例如保持車道居中和快速決策），AI的表現甚至超過了人類，但在一些罕見的情況下還是會有所不足。
這與我們在其他產業看到的許多AI工具非常相似，特別是隨LLM最近的技術突破。
例如，身為程式設計師，當我用GitHub Copilot來自動補全一段程式碼，或使用GPT-4編寫更複雜的函數時，我實際上是將基礎任務交給了自動化系統.
但同樣，如有需要，我也可以隨時介入進行調整。
換句話說，Copilot和GPT-4就像是程式設計領域的「二級」自動化工具。
在整個產業中，有許多類似的「二級」自動化解決方案，但並不是所有的都基於大模型，從TurboTax，到亞馬遜倉庫中機器人，再到翻譯、寫作、藝術、法律、行銷等領域的各種「工具型AI」。
#隨著時間的推移，一些系統的可靠性達到了新高度，變得就像今天的Waymo那樣。
它們正逐步實現「全自動駕駛」。
如今，在舊金山，你只需打開應用，就能叫到一輛Waymo無人駕駛車，它將會來接你，並把你安全送達目的地。
這實在是令人驚嘆。你無需懂得駕駛，也無需關注路況，只需舒服地靠後坐，並小憩片刻，系統便會將你從起點帶到終點。
與我交談過的許多人一樣，我個人更傾向於選擇Waymo而不是Uber，我幾乎只使用它來進行市內交通。
你將會有更穩定、可預測的旅程體驗，而且駕駛過程平穩，可以聽音樂，不用顧及司機在聽你說話時在想什麼。
雖然自動駕駛技術已經走入現實，但仍有許多人選擇使用Uber。原因何在？
首先，很多人根本不知道他們可以選擇Waymo作為旅遊工具。即便知道，許多人對自動化系統仍缺乏足夠的信任，更傾向於由人類駕駛駕駛。
不過，即使有些人接受自動駕駛，或許他們還是更傾向於人類司機，例如享受與司機的交談，以及與他人的互動。
不僅僅是個人偏好，從現在應用中不斷增長的等待時間可以看出，Waymo面臨著供不應求的問題。市場上的車輛數量遠遠無法滿足需求。
這部分原因可能是，Waymo在管理和監控風險和輿論方面非常謹慎。
另一方面，據我所知，Waymo受到監管機構的限制，只能在街上部署一定數量的車輛。另一個限制因素是，Waymo不能一夜之間就完全取代Uber。
他們需要建立基礎設施，生產汽車，擴大營運規模。
我個人認為，其他經濟領域的自動化也將面臨同樣的情況－有些人/公司會立即採用它們，但許多人（1）不了解這些技術，（2）即便了解，也不會信任它們，（3）即使信任，他們仍然更願意與人類合作。
但除此之外，需求超過供應，AGI也將因為同樣的原因受到同樣的限制，包括開發商的自我約束、監管限制以及資源短缺，例如需要建立更多的GPU資料中心。
正如我已經在資源限制中暗示的那樣，這種技術的全球化部署成本非常高，還需要耗費大量人力，推廣速度也慢。
今天，Waymo只能在舊金山和鳳凰城駕駛，但這種技術本身是通用的，還可以擴展，因此該公司可能很快就會推廣到洛杉磯、奧斯汀等地。
自動駕駛汽車也可能會受到其他環境因素的限制，例如在大雪中駕駛。在一些罕見的情況下，它甚至可能需要操作員的救援。
此外，技術能力的擴展還需要很多資源成本，並非是免費的。
例如，Waymo必須投入資源後才能進入另一個城市，例如繪製街道地圖、整體感知路徑規劃、控制演算法以適應某些特殊情況，或當地的法規。
就像我們的工作比喻所示，許多工作可能只在某些特定環境下才能實現自動化，若是擴大範圍還需要大量的工作。
無論哪種情況，自動駕駛技術本身都是通用的和可擴展的，其應用前景將隨著時間的推移而逐步拓寬。
關於自動駕駛技術逐漸融入社會的過程，我覺得特別有趣的一點是——
就在幾年前，人們還在熱烈討論並對其充滿了疑慮和擔憂，爭論著它是否能夠成功運作，甚至是否可行，這成了一個廣泛關注的議題。而現在，自動駕駛不再是未來的夢想，它真的出現了。
它不僅僅是一個研究原型，而是成為了一種可以用金錢購買的完全自動化交通方式。
在目前的應用範圍內，自動駕駛技術已經實現了完全的自主性。
然而，整體來看，這似乎並沒有引起太多人的注意。我交流過的大多數人（包括科技領域的！）甚至不知道這項進展。
當你乘坐Waymo在舊金山的街道上行駛時，你會發現很多人對它投以好奇的目光。他們首先會感到驚訝，然後好奇地凝視。在
之後，他們就會繼續自己的生活。
當自動駕駛技術在其他產業也完全自主時，世界可能並不會因此而動盪不安。
大多數人可能一開始，甚至沒有意識到這個改變。當他們注意到時，可能只是好奇地看一眼，然後不以為意，這種反應從否認到接受都有。
有些人可能會因此感到不安，甚至採取一些抗議行動，例如向Waymo汽車前放置交通錐這樣的舉動。
當然，到目前為止，我們距離見證這現象完全上演還很遙遠。但當它發生時，我期望它在很大程度上具有預測性。
當我們討論就業時，不可否認，Waymo明顯地取代了駕駛員的職位。
但同時，它也催生了許多以前不存在的工作崗位，這些崗位相對不那麼顯眼——例如為神經網路收集訓練資料的標註人員、遠端協助遇到問題汽車的客服人員、負責建造和維護車隊的工作人員等等。
首先誕生的是一個包含各種感測器和相關基礎設施的全新產業，旨在打造這些裝備精密的高科技車款。
就像人們對工作的普遍看法一樣，許多職位都會改變，有些職位會因此消失，但也會出現很多新的職位。
這其實是工作形態的一種轉變，而非單純的職位減少，儘管職位減少是最直覺的改變。
雖然很難說整體就業人數不會隨著時間推移而減少，但這種變化的速度比人們簡單預想的要慢得多。
最後，我想談談自動駕駛領域的競爭環境。
幾年前，自動駕駛汽車公司如雨後春筍般湧現。但今天，隨著人們逐漸意識到這項技術的複雜性（我個人認為，基於當前的人工智慧和計算技術，實現自動化仍然十分困難），這個領域已經經歷了大規模的整合。
其中，Waymo成為了第一家完整展示自動駕駛未來的公司。
儘管如此，還有一些公司仍在緊追不捨，例如Cruise、Zoox，以及我個人特別喜歡的Tesla。
這裡我要簡單提一下，基於我在這個領域的經驗和參與。在我看來，自動駕駛產業的終極目標是實現全球範圍內的完全自動駕駛。
Waymo選擇了先實現自動駕駛再全球擴展的策略，而Tesla則是先全球佈局再逐步提升自動駕駛技術。
顯然，這兩家公司將會面臨截然不同的調整：一家主要是軟體方面的工作，另一家則是硬體方面的工作。
目前，我對他們的產品都非常滿意，我個人而言，我更是對科技本身充滿了支持。
同樣的，許多其他產業也可能經歷一個快速成長和擴張的階段（就像大約在2015年的自動駕駛領域），但最終，可能只有少數幾家公司在這場競爭中存活下來。
在這個過程中，將會有許多實用的AI輔助工具（例如現在的L2 ADAS功能）和一些開放平台（例如Comma）被廣泛應用。
以上就是我對通用人工智慧（AGI）未來發展的大致設想。
想像一下，這樣的變革將以不同的速度遍布整個經濟體，並伴隨著許多難以預料的相互影響及連鎖反應。
雖然這個設想可能不盡完美，但我認為它是一個值得記住並有益參考的模型。
從迷因（memetic）的角度來看，AGI與那種逃離我們控制、在網路空間自我遞歸提升、製造致命病原體或奈米機器人、最終把銀河系變成灰色黏質的超級智慧相去甚遠。
相比之下，它更像是自動駕駛技術的發展——一項正在快速推進且能改變社會的自動化技術。其發展速度會在包括受教育的勞動力資源、資訊、材料、能源，以及監管等多個方面受到限制。
在這之中，社會既是觀察者也是參與者。
世界不會因此崩潰，而是會適應、改變並重新建構。
就自動駕駛本身而言，交通自動化將大大提升安全性，城市將變得更加清新、通暢，而那些佔據道路兩旁的停車場和停放的汽車將逐漸消失，從而讓出更多的空間。
對於通用人工智慧（AGI）帶來的所有這些可能的變革，我個人是充滿期待的。
總而言之，Karpathy將AGI看作更像是自動駕駛的發展，這一具體類比的觀點，引發了眾多網友的討論。
「看到那個無法交付FSD的人，決定將FSD與AGI進行類比，實際上確實給了我信心，我們還有幾十年的時間」。
是啊，他好像忘了「G」。我記得Norvig在幾十年前的人工智慧著作中曾說過，「智能」並不意味著無所不能，一個智能體要有用，解決一個小問題就足夠了。在我看來，這就是G的由來。
而我們現在突然又回到了以前那個狹隘的定義？我仍然看不到從LLM和自動駕駛到AGI的路徑。
當然，AGI 的發展可能是漸進而緩慢的，就像我們看到Waymo打造自動駕駛汽車一樣。但這只是眾多方式中的一種，你也可以看到AGI透過非常不同的方式突然出現，就像透過擴展大規模LLM一樣。
以上是OpenAI聯合創始人Karpathy發布文章：以自動駕駛為例解釋AGI！已刪除的原文，請立即收藏的詳細內容。更多資訊請關注PHP中文網其他相關文章！
