中美陷入囚徒困境，人工智能变得不可控？可参考核不扩散条约规范

最近发生了一件事，过去也经常被讨论，人工智能到底将会对人类和未来的前景产生什么样的影响？基辛格老爷子一百岁寿辰的时候也说了，中美之间关于人工智能的较量，将影响两国甚至人类未来的命运，这个话说的是非常有道理的。

最近，300多位全球顶级的人工智能专家，包括美国的科学家、中国的科研院士，300多位联合倡议，规范关于人工智能的发展等。

我们说人类总是对未知事物产生恐惧和好奇，根据心理学的角度来讲，人类面对一个未知事物的时候，人的感情是什么呢？就是恐惧和好奇并存，初期是什么呢，恐惧大于好奇，后期呢？是好奇大于恐惧，这是从人类心理学来讲，面对未知事物的基本逻辑发展，最后好奇会压制恐惧。

人工智能

我开始害怕，到后来随着好奇心的增强，我会一步一步的接近它，走近它，接触它，包容它等等。我们看人类的科幻片，50年代到70年代，那时候的科幻片就是什么呢？外星有没有生物，我们看《异形》，觉得外星生物会不会是一个邪恶种族，会不会把人类灭绝？

我们看《星际迷航》，疑惑外星生物会对人类友好吗，外星会不会有“异形”这种，所谓杀戮性很强的生物，例如《铁血战士》，人们担心的是这种。

但是后来随着技术的发展，90年代进入网络时代，关于《黑客帝国》，人类到底生活在现实空间还是虚拟空间？庄周梦蝶，我是梦见了一只蝴蝶呢，还是说我现在本身就在梦中呢？科幻片开始不断的出现，《盗梦空间》等等，这都是受网络信息的启发，关于现实空间和网络空间，到底哪个是真的？

盗梦空间

但是我们看人工智能，其实挑战性更大，为什么呢？因为人类至今不知道其原理，什么意思呢，核武器威力大，但是我们懂得核武器的原理，虽然厉害，但是我们知道其背后的逻辑，这个恐惧感相对来说就降低了。

人工智能是什么呢，我们其实不懂其逻辑，也许一开始我们在自主设计程序的时候知道其逻辑，但是人工智能现在是自我学习、自我增强、自我进化、自我革命。

就好比说你培养出了一个病毒变异发展的病例，你发现有些病毒变异的很厉害，超过了你一开始设计的初衷，也脱离了人的掌控。人们对人工智能的恐惧，恐惧在哪呢，就是我不知道其成长的逻辑是什么，人工智能现在甚至还能进化出一套人类完全听不懂的语言。

人工智能和人类发展

我们说猴子也好，猩猩也好，其沟通能不能称之为语言，我不知道，它们有自己的一套音符表达沟通方式，但是我们看人类的语言体系，比动物的要复杂太多。你给猴子和猩猩讲人类的语言，因为复杂程度高了不止一个数量级，所以对方完全无法理解。

现在人工智能自我进化出来的，它们之间能听懂的语言体系，人类根本听不懂，就这个逻辑。它怎么发展到这个样子的我们不知道，所以这是我们面临恐惧的根本原因，不清楚理论原理，我们就不敢应用，就这个逻辑。

还有一点是什么呢，就是说在人工智能方面，中美之间存在囚徒困境，什么叫囚徒困境，中美之间如果一个大国把人工智能技术应用于战争，另外一个不用，那不用的那个肯定输。

蜂群无人机

比方说美国大规模将人工智能技术，蜂群无人机什么相关技术引入到战争中，中国不用，那中国肯定输，反之美国肯定输，就不用的一方肯定输，用的一方又会产生严重的问题。最近美国的无人机操作员披露出来一个信息，人工智能没有开火权，人类给它的命令是什么呢，是不开火，结果它自己选择什么，向不开火的那个指令发射导弹，他让我不开火，所以我打他。

最近已经披露出来这么个事，拒绝接受人类的命令，并且用武力去消灭，给他不开火命令操作员，这件事引发了人们的恐慌和担心。它的意识到底是什么，它到底怎么想的，它思维的逻辑是什么，能不能沟通，这个沟通是不是比人类文明的沟通更难。

我们看中美各有各的意识形态，各有各的国家立场，有时候我们在跟美国沟通的时候就会很困难，双方彼此坚持自己的立场不肯让步，你要知道人类跟人工智能的沟通，比中美之间这个沟通，难了可不是一个数量级，怎么跟它沟通等等。

中美较量

经过这件事，我们验证了什么呢，它未来的不确定性，所以基辛格老爷子百岁的诞辰，以及当前300多位全球科学家，都呼吁对人工智能的发展，建立什么国际规范和标准，研发和使用都要制定强规范强标准。

我觉得这个方面呢，中美之间应该走在前列，应该像什么呢，应该参考当年核不扩散条约内容。当年核不扩散条约是1960年代，首先由美国、苏联、英国三大国，当然主要是美国、苏联，英国起到一个参与的作用，美苏之间关于核不扩散的条约，制度规范，核查技术实验的路径、技术实验的禁区等，做出了一系列的规定，这个规定在日后不断的完善，也不断有新的国家加入进来。

我觉得中美之间可以复制，1960年代的美苏那个模式，中国和美国就这个问题，研发的可行性，研发的禁区，使用的可行性，使用的禁区等等，以及信息通报，信息沟通的机制建立起来。

核军控条约

随着时代的发展，不断有新的国家加入到美国和中国主导的人工智能的规范体系，把这个东西做大，做成一个新的约束。有人说核不扩散体系没有用，你看朝鲜印巴都有核武器，不是这么说的，如果没有核不扩散体系，当今世界上不是只有9个，而是有50个拥有核武器的国家。

今天只有9个国家拥有核武器，恰恰是核不扩散体系机制发挥作用的结果，如果它没有发挥作用，就不是9个，而是40、50个了。所以呢，核不扩散条约起到了重大作用，它为维护国际核安全和平衡，发挥了自己重要的作用。目前中美之间到了在人工智能领域，达成G2谈判、并将之扩向全球的历史时机了，甚至已经刻不容缓！

以上是中美陷入囚徒困境，人工智能变得不可控？可参考核不扩散条约规范的详细内容。更多信息请关注PHP中文网其他相关文章！