站在社会的高度理解人工智能

站在社会的高度理解人工智能

吴军/文

我非常有幸为《人工智能时代与人类未来》撰写这篇导读文章。使用作者的语言，我可以解读这本书中最重要的内容以及它对我们的影响。这本书对于我们站在社会的高度理解人工智能很有益处。

在人类数千年的历史上，天才们创造出无数了不起的思想。他们奠定了人类哲学的基础，贡献了科学的进步。每个历史时期都留下了属于它们的历史成就，从古代文明时期到启蒙运动时期。今天，就连孩子们都对那些伟大思想者的名字耳熟能详，比如孔子、佛陀、耶稣、亚里士多德、花剌子模、莎士比亚、牛顿、贝多芬和爱因斯坦。

然而今天，有了新的一批发明创造的主体，它们不是人类！在很多方面，人工智能已经超越了人类，而且超出了人们最大胆的想象力，比如在各种博弈中。人类几千年对围棋的理解，被AlphaG。告知是错误的这一层面的深度，与后者表示的人类理解围棋的深度相比，显然是远远不可及的。当然，更有现实意义的是通过深度神经网络产生具有质感的图像、书写流畅而优美的文章，以及设计药物的分子结构。这种算法可用于自动驾驶和操控战斗机，不仅能替代商用车辆的司机，还能实现军用机的操作。总而言之，人类过去从来没有感到如此的兴奋，同时又感觉受到如此巨大的威胁，不仅因为它们威胁我们的工作机会，而且让我们担心人类从此将被完全不为人知的力量所操控。

此外，当前的人工智能算法会把训练中的误差不断放大，因为各种算法的训练都要通过千百万次的迭代。比如在医学领域，虽然人工智能技术已经被用于研究不同人的遗传基因对同一治疗（或者药物）所产生的不同结果，但是这种基于人工智能的个性化医疗的研究导致治疗方案的过度匹配现象，对一些人非常有效，但是对其他人完全无效。这是由于人工智能的训练数据来自

部分人，而它又不知道该对其他人如何调整结果。

尽管这些“半吊子”人工智能并不完美，但它们已经开始改变世界，并正在将我们变成不同于以前的人。例如，谷歌的搜索引擎或脸书的社交网络，每天消耗数十亿美元，在利用人工智能审查各种内容，过滤结果，提供给我们它们希望我们看到的社会，而不是完整的社会。这件事是好是坏，依然很难说。不管如何，我们在受到它们的影响之后已经有所改变。

今天，人们对待人工智能的态度类似于近一个世纪前对待核技术的态度，既喜欢又矛盾。一方面，核技术让人在很多领域看到了希望，它不仅可以解决人类的能源问题，而且能够被用于医疗和其他领域。人们还可能利用核技术进行破坏和核要挟，这直接威胁到人类的生存。和过去对核技术的看法一样，我们现在也无法判断人工智能技术的优劣。技术的设计者和使用者决定了善恶的界限，然而我们难以用统一的标准来衡量他们的道德行为。我们唯一知道的是，科学进步不会因为我们不喜欢就停止步伐，试图放慢人工智能技术发现的想法是徒劳的。我们所能做的，是作为社会的主体，作为领导人，必须搞清楚人工智能技术可以用于什么领域，又应该在什么地方受到限制。

现今，即便是这种程度的“半吊子”人工智能已经相当强大，未来它将成为一个几乎无所不能的存在，我们所需要做的是善加利用它。比如利用这项技术进行药物研究和发现新药，但要严格限制它被用于网络攻击和战争。我们必须确保人工智能的发展与人类的理想和福祉是一致的。为此，从现在开始，我们就必须对人工智能技术进行有效的管理。现今世界各地已普及人工智能技术，且学习门槛相对核技术较低。我们已经无法制定一个类似于《不扩散核武器条约》之类的规范来防止有人用人工智能来作恶，但是现在在世界范围内设置一个合理使用人工智能的标准，依然非常重要。

我们需要确保教育下一代，让他们利用这项技术来促进人类的福祉，为公共利益提供服务。尽管可能会有人嘲笑我们这种看似天真的想法，但我们有责任踏出第一步，这至关重要。

今天，人类站在技术革命的浪潮之巅。我们这一代人有幸迎来智能时代，但也必须承担起引导智能技术健康发展的职责。

（作者为计算机科学家、硅谷投资人，本文为《人工智能时代与人类未来》一书导读，该书作者为亨利•基辛格、埃里克•施密特、丹尼尔•胡滕洛赫尔）

以上是站在社会的高度理解人工智能的详细内容。更多信息请关注PHP中文网其他相关文章！