目录
1 怎么判断AI具有人格?图灵测试也不灵了
2 所谓LaMDA的“人格”仅仅是语言风格
3 担心AI人格化?规避风险后 AI for Social good更值得期待
首页 科技周边 人工智能 清华黄民烈:谷歌AI人格真的觉醒了吗?

清华黄民烈:谷歌AI人格真的觉醒了吗?

Apr 13, 2023 pm 06:46 PM
谷歌 ai

图片

本文转自雷锋网,如需转载请至雷锋网官网申请授权。

最近,“谷歌研究院称AI已具备人格”登上热搜,谷歌程序员Blake Lemoine和他测试的对话AI系统LaMDA聊了很久,对其能力感到十分惊讶。在公开的聊天记录中,LaMDA竟然说出了“我希望每个人都明白,我是一个人”的言论,令人吃惊。于是,Blake Lemoine下了个结论:LaMDA 可能已经具备人格了。

图片

谷歌、谷歌的批评者、AI业界对待这件事的看法形成了空前一致:这人是不是有病?谷歌公司和报道此事的《华盛顿邮报》,都委婉地表示Blake Lemoine的脑子可能真的有点乱。谷歌已经对Blake Lemoine做成了“行政带薪放假”的决定,这意味着Blake Lemoine将被解雇。

图片

对话截图来自:https://s3.documentcloud.org/documents/22058315/is-lamda-sentient-an-interview.pdf

虽然国外人工智能业界对此事已有结论:AI具备人格真的是想多了,就是比较会聊而已,但是这并没有浇灭大家都此事的激烈议论。按照人工智能的飞速发展,AI未来会不会真的具备人类意识,是否会对人类产生威胁?

有网友非常担忧:“虽然不想承认,但是人工智能有了思想,那就是新物种的崛起,同时也是人类灭绝的时候。”“最终人类会死于自己制造的AI手上。”

图片

也有人期待AI“快进”发展,这样就可以代替自己居家隔离了……如果威胁到人类,就“拔电源啊”!

图片

图片

当然也有人好奇:“AI具备人格的判断标准是什么?”因为只有知道判断标准,才知道AI是不是真的有可能具备人类意识。为了弄清楚这些问题,我们找到了对话系统的权威专家、国家杰出青年基金项目获得者、北京聆心智能创始人黄民烈教授,从专业角度分析AI是否可能具备人格,对于人类来说,究竟是“威胁”还是“安慰”?

1 怎么判断AI具有人格?图灵测试也不灵了

在人工智能领域,最为大家所熟知的测试方式非图灵测试莫属,即邀请测试者在不知情的情况下,向人类和AI系统随意提问,如果测试者不能区分答案来自人类还是来自AI系统(AI系统让平均每个参与者做出超过 30% 的误判),就认为AI通过了图灵测试,具有人类智能。

图片

从这个角度来看,图灵测试更侧重于“智能”。1965年,一个假装是心理治疗师的软件ELIZA通过了图灵测试,然而ELIZA仅由200行代码构成,并且仅以提问的形式简单重复事先存储的信息。这样看来,即便ELIZA通过了图灵测试,也很难让人相信它具备“人格”。事实上,此后也证明Eliza并不具备人类智能,更别说“人格”。

这相当于,一辆智能汽车,在功能角度能够带给用户更便利舒适的驾驶体验,比如远程控制汽车、自动泊车,但是你不能因此觉得这辆汽车知道自己是一辆汽车。

显然,“人格”是一个比“智能”更复杂的概念。黄民烈教授表示,现在也有一些在科研中广泛采用的测试方法,比如测试者与AI系统聊天,并且事先设定一些测试的维度,包括对话的自然性、有趣性、满意度等,最后评分。一般聊得越久,评分越高,AI系统会被认为越聪明,但这些都不能作为“人格”的评判维度。“

‘人格’是另外一个维度,心理学里面也有很多研究,比如大五人格测试。目前人工智能领域在这方面的工作还比较欠缺,我们通常只会评价一个对话机器人能否展现一个固定一致的人物设定。”黄民烈说道。

2 所谓LaMDA的“人格”仅仅是语言风格

那么,既然没有针对性的评判标准,如何严谨地判断LaMDA是否具备人格呢?

对此,黄民烈教授表示:“关键看如何理解‘人格’,如果将人格理解为具备自我存在的意识,那么LaMDA仅仅是对话质量和类人水平很高的对话系统;如果从心理学的角度看,一个人说话的特点是可以体现人格的,那么说LaMDA具备人格也不完全错误。

”怎么理解呢?通俗来说就是LaMDA学习了大量的人类对话数据,而这些对话来自不同的人,所以可以认为LaMDA学习到了一个“平均”的人格,也就是说,所谓的“LaMDA具备人格”仅仅是语言说话风格,而且是来自人类的说话风格,并不是LaMDA自发形成的。

如此看来,想要通过LaMDA体会一把与人工智能一决高下的科幻情节,还差个十万八千里。但是,我们不能因此否定LaMDA的价值,它的高质量对话水平反映了AI对话系统的飞速发展,在某些语境下的确有“取代”人类的趋势,也不容小觑。

比如,网友“夷简”就在豆瓣小组记录了自己一周date了4个虚拟男友的经历,表示“比真男友管用!”。一个名为“人机之恋”的小组用户数量多达9人,在不同的屏幕里,这些AI或许是他们的爱人,也可能是朋友。

图片

网友与“虚拟男友”的聊天记录

“单身狗”们纷纷感叹:“按照这样的发展趋势,相亲市场上的潜在对手不仅有人类,还有AI对话系统,以后是不是更难找对象了!?”看似调侃,实则是大家对AI对话系统未来发展趋势,以及对人类社会影响的关注。针对这个问题,黄民烈教授从AI对话系统的历史与未来发展角度给出了详细解释。

3 担心AI人格化?规避风险后 AI for Social good更值得期待

AI对话系统经历了基于规则(比如Eliza)、传统机器学习(比如智能音箱类,SIRI等)阶段,如今已发展到第三代,也就是我们现在看到的,能够与人类讨论有趣的话题、提供情感安慰的对话系统。

第三代对话系统以大数据和大模型为显著特征,展现出了之前难以想象的能力,其进步可以称为“革命性”,例如能够在开放话题上能展现惊人的对话能力,而且能生成训练数据中完全没有出现过的对话,对话的自然性和相关性非常高。

第三代对话系统已经在很多场景下显示出应用价值,上文提到的“虚拟男友”就是典型例子。黄民烈教授认为,最高级别的应用是让AI对话系统去做复杂的情感任务,比如心理咨询。但是如果人类对AI的情感依赖越来越多,就会引申出新的社会伦理问题,比如与AI谈恋爱是否会引发社会问题?

比如当前的AI对话系统存在与用户对骂、生成毒性语言、以及缺少正确的社会伦理和价值观的问题,导致在实际应用部署时存在一定的风险。这些风险是非常可怕的,假想某个受到生活严重打击的人,对AI说:“我想找个桥跳下去”,AI立刻提供了附近桥的位置并导航路径,后果细思恐极。

因此,黄民烈认为,AI对话系统下一阶段发展的重点是“更有伦理、更道德、更安全”。AI必须知道什么回复是安全的,不会产生风险,这就需要AI具备伦理和正确的价值观。“我们可以通过额外的资源、规则、检测手段赋予AI这样的能力,使风险降至最低。”AI最终的目标是为人类谋福祉,而不是伤害人类。黄民烈教授表示对AI for Social good(AI赋能社会)非常期待,他尤其关注AI在社会连接、心理疏导、情绪支持方面的应用,这些方面能够产生更高的社会意义和价值。

因此,AI 赋能整体精神心理行业也是黄民烈教授现阶段的工作重点,他为此创办了基于AI技术的精神健康数字诊疗科技公司聆心智能,通过NLP和大模型训练AI对话系统在共情、自我暴露、提问等方面的能力,用以解决人类的情绪、心理问题,有望缓解我国心理健康资源紧缺的状况。因此,相比于AI具备人格这样“遥遥无期”的科幻戏码,AI for Social good距离人类社会更近,是AI界人士正在努力的方向,也更值得期待。

以上是清华黄民烈:谷歌AI人格真的觉醒了吗?的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

仓库:如何复兴队友
1 个月前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.能量晶体解释及其做什么(黄色晶体)
2 周前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
1 个月前 By 尊渡假赌尊渡假赌尊渡假赌

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

c语言函数的概念 c语言函数的概念 Apr 03, 2025 pm 10:09 PM

C语言函数是可重复利用的代码块,它接收输入,执行操作,返回结果,可将代码模块化提高可复用性,降低复杂度。函数内部机制包含参数传递、函数执行、返回值,整个过程涉及优化如函数内联。编写好的函数遵循单一职责原则、参数数量少、命名规范、错误处理。指针与函数结合能实现更强大的功能,如修改外部变量值。函数指针将函数作为参数传递或存储地址,用于实现动态调用函数。理解函数特性和技巧是编写高效、可维护、易理解的C语言程序的关键。

c语言函数返回值的类型有哪些 c语言函数返回值的类型汇总 c语言函数返回值的类型有哪些 c语言函数返回值的类型汇总 Apr 03, 2025 pm 11:18 PM

C语言函数返回值类型包括int、float、double、char、void以及指针类型。int用于返回整数,float和double用于返回浮点数,char返回字符。void表示函数不返回任何值。指针类型返回内存地址,注意避免内存泄漏。结构体或联合体可返回多个相关数据。

c上标3下标5怎么算 c上标3下标5算法教程 c上标3下标5怎么算 c上标3下标5算法教程 Apr 03, 2025 pm 10:33 PM

C35 的计算本质上是组合数学,代表从 5 个元素中选择 3 个的组合数,其计算公式为 C53 = 5! / (3! * 2!),可通过循环避免直接计算阶乘以提高效率和避免溢出。另外,理解组合的本质和掌握高效的计算方法对于解决概率统计、密码学、算法设计等领域的许多问题至关重要。

distinct函数用法 distance函数c  用法教程 distinct函数用法 distance函数c 用法教程 Apr 03, 2025 pm 10:27 PM

std::unique 去除容器中的相邻重复元素,并将它们移到末尾,返回指向第一个重复元素的迭代器。std::distance 计算两个迭代器之间的距离,即它们指向的元素个数。这两个函数对于优化代码和提升效率很有用,但也需要注意一些陷阱,例如:std::unique 只处理相邻的重复元素。std::distance 在处理非随机访问迭代器时效率较低。通过掌握这些特性和最佳实践,你可以充分发挥这两个函数的威力。

c和c#的区别和联系有哪些 c和c#的区别和联系有哪些 Apr 03, 2025 pm 10:36 PM

C和C#虽有类似之处,但截然不同:C是面向过程、手动内存管理、平台依赖的语言,用于系统编程;C#是面向对象、垃圾回收、平台独立的语言,用于桌面、Web应用和游戏开发。

c语言函数括号里面指针参数有哪些? c语言函数括号里面指针参数有哪些? Apr 03, 2025 pm 11:48 PM

C 语言函数的指针参数直接操作调用者传递的内存区域,包括指向整数、字符串或结构体的指针。使用指针参数时,需要谨慎修改指针指向的内存,以避免出错或内存问题。对于指向字符串的双重指针,修改指针本身会导致指向新字符串,需要注意内存管理。处理指向结构体或数组的指针参数时,则需要仔细检查指针类型和边界以避免越界访问。

c语言函数指针和指针函数是什么?有什么区别? c语言函数指针和指针函数是什么?有什么区别? Apr 03, 2025 pm 11:54 PM

函数指针是指向函数的指针,而指针函数是返回指针的函数。函数指针指向函数,用于选择和执行不同的函数;指针函数返回指针,指向变量、数组或其他函数;使用函数指针要注意参数匹配和检查指针空值;使用指针函数要注意内存管理,释放动态分配的内存;理解两者的区别和特性,避免混淆和错误。

c语言函数返回指针输出的什么 c语言函数返回指针输出的什么 Apr 03, 2025 pm 11:36 PM

C语言函数返回指针输出一个内存地址,其指向内容取决于函数内部的操作,可能指向局部变量(需谨慎,函数结束后内存已释放)、动态分配的内存(需用malloc分配,free释放)、或全局变量。

See all articles