目录
施密特:当时我还很年轻,还很天真
AI果真有那么危险吗?
目前人工智能有这样的威力吗?​
首页 科技周边 人工智能 谷歌前CEO:AI就像核武器,大国之间需要建立‘AI威慑’,确保相互毁灭

谷歌前CEO:AI就像核武器,大国之间需要建立‘AI威慑’,确保相互毁灭

Apr 10, 2023 am 09:31 AM
人工智能 ​谷歌 毁灭

​谷歌前首席执行官埃里克·施密特(Eric Schmidt)在一次访谈中,将人工智能比作核武器,并呼吁建立一个类似的相互确保毁灭的威慑机制,以防止世界上最强大的国家因为AI相互毁灭。

相互保证毁灭(Mutually Assured Destruction,简称M.A.D.机制,亦称共同毁灭原则)是一种“俱皆毁灭”性质的思想。对立的两方中如果有一方全面使用则两方都会被毁灭,被称为“恐怖平衡”。

施密特将AI与核武器相对比,表示中美未来可能要缔结类似于禁止“核试验”相似的条约,以防止AI毁灭世界。

施密特:当时我还很年轻,还很天真

7月22日,施密特在阿斯彭安全论坛(Aspen Security Forum)国家安全和人工智能专题小组会议上谈到了人工智能的危险。

在回答一个关于科技中的道德价值的问题时,施密特解释说,他自己在谷歌早期对信息的力量认识还很天真。

然后,他呼吁科技要更好地符合其服务对象的道德和伦理,并将人工智能与核武器进行了奇怪的比较。

施密特设想在不久的将来,中国和美国需要围绕人工智能签订一些条约。

施密特说:“在50年代和60年代,我们最终制定了一个关于核试验的‘意料之中’的规则,最终核试验被禁止了。”

施密特认为“这是一个信任或缺乏信任的平衡的例子,这是一个‘没有惊喜’的规则”,他非常担心美国和中国这两个人工智能大国之间,因为一些误解和误会而开始一些事情,导致触发危险的事件。

施密特表示,目前没有人在这方面进行研究,但人工智能是如此强大。

埃里克·施密特曾在2001年至2011年担任谷歌首席执行官,2011年至2015年担任谷歌执行董事长,2015年至2017年担任 Alphabet 公司执行董事长,2017年至2020年担任 Alphabet 技术顾问。 

图片

2008年,在担任谷歌董事长期间,施密特为巴拉克•奥巴马(Barack Obama)助选,随后与埃里克•兰德(Eric Lander)一起成为奥巴马总统的科技顾问委员会(Council of Advisors on Science and Technology)成员。

从2019年到2021年,施密特与罗伯特·O·沃克(Robert O. Work)共同主持了美国国家人工智能安全委员会(National Security Commission on AI)。 

图片

AI果真有那么危险吗?

人工智能和机器学习是一项令人印象深刻但经常被误解的技术。在很大程度上,它并不像人们认为的那样聪明。

它可以制作出杰作级的美术作品,在《星际争霸2》中击败人类,还可以为用户拨打基本的电话,然而,试图让它完成更复杂的任务,比如自动驾驶,却进展不太顺利。

施密特设想,在不久的将来,中国和美国都会对安全问题感到担忧,从而迫使双方就人工智能达成某种威慑条约。​

他谈到了20世纪50年代和60年代,当时各个国家通过外交手腕精心设计了一系列对地球上最致命武器的控制。但是,世界要达到制定《禁止核试验条约》(Nuclear Test Ban Treaty)以及第二阶段《限制战略武器条约》(SALT II)和其他具有里程碑意义的立法的地步,需要经历几十年的核爆炸,比如像广岛和长崎的核爆炸。

美国在第二次世界大战结束时用核武器摧毁的两个日本城市、杀死了成千上万的人,并向世界证明了核武器的永恒恐怖。

随后,苏联和中国也成功开发了核武器,随后便诞生了相互保证毁灭(MAD) ,一种维持“危险平衡”的威慑理论,确保如果一个国家发射核武器,其他国家也有可能发射。

到目前为止,人类还没有使用这个星球上最具破坏性的武器,因为这样做可能会摧毁全球的文明。

目前人工智能有这样的威力吗?​

现在看来,人工智能还没有证明自己具有核武器那样的破坏力,但是许多掌权者害怕这种新技术,人们甚至建议把核武器的控制权交给人工智能,这些人认为人工智能比人类更适合作为核武器使用的仲裁者。

所以人工智能的问题也许不在于它拥有核武器的潜在世界毁灭力量,人工智能的好坏取决于它的设计者他们反映了创造者的价值观。

人工智能存在经典的“garbage in, garbage out”的问题,种族主义算法诞生种族主义机器人,人工智能也会产生偏见。

DeepMind 的首席执行官戴米斯•哈萨比斯(Demis Hassabis)比施密特更明白这个道理。

DeepMind曾培养出一种能够击败《星际争霸2》(Starcraft II)玩家的人工智能,在Lex Fridman 播客7月份的一次采访中,Fridman问哈萨比斯如何控制像人工智能这样强大的技术,以及哈萨比斯本人如何避免被这种力量腐蚀。

哈萨比斯的回答:“人工智能是一个太大的想法,”他说,“重要的是谁创造了(人工智能) ,他们来自哪种文化,他们有什么价值观,他们是人工智能系统的建造者。人工智能系统会自己学习... ... 但是这个系统的文化和创造者的价值观会在这个系统中残留下来。”

人工智能是其创造者的反映,120万吨级的爆炸不可能把一座城市夷为平地,除非人类教它这么做。​

以上是谷歌前CEO:AI就像核武器,大国之间需要建立‘AI威慑’,确保相互毁灭的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
2 周前 By 尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
3 周前 By 尊渡假赌尊渡假赌尊渡假赌

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
2 周前 By 尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
3 周前 By 尊渡假赌尊渡假赌尊渡假赌

热门文章标签

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

字节跳动剪映推出 SVIP 超级会员:连续包年 499 元,提供多种 AI 功能 字节跳动剪映推出 SVIP 超级会员:连续包年 499 元,提供多种 AI 功能 Jun 28, 2024 am 03:51 AM

字节跳动剪映推出 SVIP 超级会员:连续包年 499 元,提供多种 AI 功能

使用Rag和Sem-Rag提供上下文增强AI编码助手 使用Rag和Sem-Rag提供上下文增强AI编码助手 Jun 10, 2024 am 11:08 AM

使用Rag和Sem-Rag提供上下文增强AI编码助手

七个很酷的GenAI & LLM技术性面试问题 七个很酷的GenAI & LLM技术性面试问题 Jun 07, 2024 am 10:06 AM

七个很酷的GenAI & LLM技术性面试问题

微调真的能让LLM学到新东西吗:引入新知识可能让模型产生更多的幻觉 微调真的能让LLM学到新东西吗:引入新知识可能让模型产生更多的幻觉 Jun 11, 2024 pm 03:57 PM

微调真的能让LLM学到新东西吗:引入新知识可能让模型产生更多的幻觉

为大模型提供全新科学复杂问答基准与测评体系,UNSW、阿贡、芝加哥大学等多家机构联合推出SciQAG框架 为大模型提供全新科学复杂问答基准与测评体系,UNSW、阿贡、芝加哥大学等多家机构联合推出SciQAG框架 Jul 25, 2024 am 06:42 AM

为大模型提供全新科学复杂问答基准与测评体系,UNSW、阿贡、芝加哥大学等多家机构联合推出SciQAG框架

SOTA性能,厦大多模态蛋白质-配体亲和力预测AI方法,首次结合分子表面信息 SOTA性能,厦大多模态蛋白质-配体亲和力预测AI方法,首次结合分子表面信息 Jul 17, 2024 pm 06:37 PM

SOTA性能,厦大多模态蛋白质-配体亲和力预测AI方法,首次结合分子表面信息

你所不知道的机器学习五大学派 你所不知道的机器学习五大学派 Jun 05, 2024 pm 08:51 PM

你所不知道的机器学习五大学派

SK 海力士 8 月 6 日将展示 AI 相关新品:12 层 HBM3E、321-high NAND 等 SK 海力士 8 月 6 日将展示 AI 相关新品:12 层 HBM3E、321-high NAND 等 Aug 01, 2024 pm 09:40 PM

SK 海力士 8 月 6 日将展示 AI 相关新品:12 层 HBM3E、321-high NAND 等

See all articles