中美陷入囚徒困境，人工智慧變得不可控？可參考核不擴散條約規範

最近發生了一件事，過去也常被討論，人工智慧到底會對人類和未來的前景產生什麼樣的影響？ 基辛格老爺子一百歲壽辰的時候也說了，中美之間關於人工智慧的較量，將影響兩國甚至人類未來的命運，這個話說的是非常有道理的。

最近，300多位全球頂尖的人工智慧專家，包括美國的科學家、中國的科研院士，300多位聯合倡議，規範關於人工智慧的發展等。

我們說人類總是對未知事物產生恐懼和好奇，根據心理學的角度來講，人類面對一個未知事物的時候，人的感情是什麼呢？就是恐懼和好奇並存，初期是什麼呢，恐懼大於好奇，後期呢？是好奇大於恐懼，這是從人類心理學來講，面對未知事物的基本邏輯發展，最後好奇會壓制恐懼。

人工智慧

我開始害怕，到後來隨著好奇心的增強，我會一步一步的接近它，走近它，接觸它，包容它等等。我們看人類的科幻片，50年代到70年代，那時候的科幻片是什麼呢？外星有沒有生物，我們看《異形》，覺得外星生​​物會不會是邪惡種族，會不會把人類滅絕？

我們看《星際爭霸戰》，懷疑外星生物會對人類友善嗎，外星會不會有「異形」這種，所謂殺戮性很強的生物，例如《鐵血戰士》，人們擔心的是這種。

但後來隨著科技的發展，90年代進入網路時代，關於《駭客任務》，人類到底生活在現實空間還是虛擬空間？莊週夢蝶，我是夢見了一隻蝴蝶呢，還是說我現在本身就在夢中呢？科幻片開始不斷的出現，《全面啟動》等等，這都是受網路資訊的啟發，關於現實空間和網路空間，到底哪個是真的？

盜夢空間

但我們看人工智慧，其實挑戰性更大，為什麼呢？因為人類至今不知道其原理，什麼意思呢，核武威力大，但是我們懂得核武的原理，雖然厲害，但是我們知道背後的邏輯，這個恐懼感相對來說就降低了。

人工智慧是什麼呢，我們其實不懂其邏輯，也許一開始我們在自主設計程式的時候知道其邏輯，但是人工智慧現在是自我學習、自我增強、自我進化、自我革命。

就好比說你培養出了一個病毒變異發展的病例，你發現有些病毒變異的很厲害，超過了你一開始設計的初衷，也脫離了人的掌控。人們對人工智慧的恐懼，恐懼在哪呢，就是我不知道其成長的邏輯是什麼，人工智慧現在甚至能進化出一套人類完全聽不懂的語言。

人工智慧與人類發展

我們說猴子也好，猩猩也好，其溝通能不能稱之為語言，我不知道，它們有自己的一套音符表達溝通方式，但是我們看人類的語言體系，比動物的要復雜太多。你為猴子和猩猩講人類的語言，因為複雜程度高了不只一個數量級，所以對方完全無法理解。

現在人工智慧自我進化出來的，它們之間能聽懂的語言體系，人類根本聽不懂，就這個邏輯。它怎麼發展到這個樣子的我們不知道，所以這是我們面臨恐懼的根本原因，不清楚理論原理，我們就不敢應用，就這個邏輯。

還有一點是什麼呢，就是說在人工智慧方面，中美之間存在囚徒困境，什麼叫囚徒困境，中美之間如果一個大國把人工智慧技術應用於戰爭，另外一個不用，那不用的肯定輸。

蜂群無人機

比方說美國大規模將人工智慧技術，蜂群無人機什麼相關技術引入到戰爭中，中國不用，那中國肯定輸，反之美國肯定輸，就不用的一方肯定輸，用的一方又會產生嚴重的問題。最近美國的無人機操作員披露出來一個訊息，人工智慧沒有開火權，人類給它的命令是什麼呢，是不開火，結果它自己選擇什麼，向不開火的那個指令發射導彈，他讓我不開火，所以我打他。

最近已經披露出來這麼個事，拒絕接受人類的命令，並且用武力去消滅，給他不開火命令操作員，這件事引發了人們的恐慌和擔心。 它的意識到底是什麼，它到底怎麼想的，它思維的邏輯是什麼，能不能溝通，這個溝通是不是比人類文明的溝通更難。

我們看中美各有各的意識形態，各有各的國家立場，有時候我們在跟美國溝通的時候就會很困難，雙方彼此堅持自己的立場不肯讓步，你要知道人類跟人工智慧的溝通，比中美之間這個溝通，難了可不是一個數量級，怎麼跟它溝通等等。

中美較量

經過這件事，我們驗證了什麼呢，它未來的不確定性，所以基辛格老爺子百歲的誕辰，以及當前300多位全球科學家，都呼籲對人工智能的發展，建立什麼國際規範和標準，研發和使用都要訂定強規範強標準。

我覺得這個方面呢，中美之間應該走在前列，應該像什麼呢，應該參考當年核不擴散條約內容。當年核不擴散條約是1960年代，首先由美國、蘇聯、英國三大國，當然主要是美國、蘇聯，英國起到一個參與的作用，美蘇之間關於核不擴散的條約，制度規範，核查技術實驗的路徑、技術實驗的禁區等，做出了一系列的規定，這個規定在日後不斷的完善，也不斷有新的國家加入。

我覺得中美之間可以複製，1960年代的美蘇那個模式，中國和美國就這個問題，研發的可行性，研發的禁區，使用的可行性，使用的禁區等等，以及資訊通報，資訊溝通的機制建立起來。

核武軍控條約

隨著時代的發展，不斷有新的國家加入到美國和中國主導的人工智慧的規範體系，把這個東西做大，做成一個新的約束。有人說核不擴散體系沒有用，你看北韓印巴都有核武器，不是這麼說的，如果沒有核武不擴散體系，當今世界上不是只有9個，而是有50個擁有核武的國家。

今天只有9個國家擁有核武器，正是核不擴散體系機制發揮作用的結果，如果它沒有發揮作用，就不是9個，而是40、50個了。所以呢，核不擴散條約起到了重大作用，它為維護國際核安和平衡，發揮了自己重要的作用。 目前中美之間到了在人工智慧領域，達成G2談判、並將之擴向全球的歷史時機了，甚至已經刻不容緩！

以上是中美陷入囚徒困境，人工智慧變得不可控？可參考核不擴散條約規範的詳細內容。更多資訊請關注PHP中文網其他相關文章！