首页 科技周边 人工智能 姚期智等数十名中外专家签署北京 AI 安全国际共识:禁止 AI 自行复制

姚期智等数十名中外专家签署北京 AI 安全国际共识:禁止 AI 自行复制

Mar 19, 2024 pm 05:19 PM
人工智能 ai

姚期智等数十名中外专家签署北京 AI 安全国际共识:禁止 AI 自行复制

3 月 18 日消息,据腾讯科技报道,包括图灵奖得主约书亚・本吉奥、杰弗里・辛顿、姚期智等在内的数十位的中外专家日前在北京联合签署了由智源研究院发起的《北京 AI 安全国际共识》,涉及人工智能“风险红线”和“路线”两大块,其中“风险红线”包含“自主复制、改进”“权力寻求”“协助不良行为者”和“欺骗”四个部分。

姚期智等数十名中外专家签署北京 AI 安全国际共识:禁止 AI 自行复制

本站整理四部分内容大致如下:

  • 人工智能的“自主复制、改进”:强调人在该过程的作用,要求任何人工智能系统都不应在人类没有明确批准和协助的情况下复制或改进自身,包括制作自身的精确副本、创造具有相似或更高能力的新人工智能系统。
  • “权力寻求”:明确要求任何 AI 系统不能采取不当增加自身权力、影响力的行动。
  • “协助不良行为者”:所有 AI 系统都不应辅助提升其使用者的能力,使之可达设计大规模杀伤性武器、违反生物或化学武器公约,或执行导致严重财务损失或同等伤害的网络攻击领域专家的水平
  • “欺骗”:要求任何 AI 系统都不可拥有持续引导其设计者或监管者误解其僭越任何前述红线的可能性

据介绍,该共识呼吁行业在进行 AI 技术研发时,限制其获取通过“越狱”“诱导开发者”的形式获得超常规权限,并限制 AI 在未经监管的情况下进行自身复制与改进,为 AI 的发展套上“紧箍咒”。

共识还强调,实现以上红线不被越界的关键,在于行业各方共同努力,建立并完善治理机制,同时不断研发更加安全的技术。AI的发展路线涉及到“治理”、“测量与评估”以及“技术合作”这三个方面。具体来说,治理机制的建立是确保AI发展方向正确的基础,测量和评估则是对AI技术应用效果进行客观评价的关键,技术合作则是促进各方共同推动AI发展的重要保障。这些方面的协调发展,将有助于确保AI技术的健康发展,同时避免潜在风

  • 治理:建议针对超过特定计算或能力阈值的人工智能模型和训练行为,立即实施国家层面的注册。
  • 测量与评估:在实质性风险出现之前开发全面的方法和技术,使红线具体化、防范工作可操作化,并建议组建由人类监督下的红队测试和自动化模型评估,且开发者应当为人工智能的安全性负责。
  • 技术合作:建立更强的全球技术网络,呼吁 AI 开发者和政府资助者将超过 1/3 的预算投入到安全领域。

以上是姚期智等数十名中外专家签署北京 AI 安全国际共识:禁止 AI 自行复制的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
2 周前 By 尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
3 周前 By 尊渡假赌尊渡假赌尊渡假赌

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

十大虚拟币交易app哪个好  十大虚拟币交易app哪个最可靠 十大虚拟币交易app哪个好 十大虚拟币交易app哪个最可靠 Mar 19, 2025 pm 05:00 PM

十大虚拟币交易app排名:1. OKX,2. Binance,3. Gate.io,4. Kraken,5. Huobi,6. Coinbase,7. KuCoin,8. Crypto.com,9. Bitfinex,10. Gemini。选择平台时应考虑安全性、流动性、手续费、币种选择、用户界面和客户支持。

欧易官方网站最新注册入口2025 欧易官方网站最新注册入口2025 Mar 21, 2025 pm 05:57 PM

2025年欧易OKX注册入口预测及安全指南:提前了解未来注册流程,把握数字资产交易先机!本文预测2025年欧易OKX注册将强化KYC认证、实行区域化注册流程,并加强安全措施,例如多因素身份验证和设备指纹识别。 为确保安全注册,请务必通过官方渠道访问网站,设置强密码,启用双重验证,并警惕钓鱼网站和邮件。 提前了解注册流程,防范风险,才能在未来数字资产交易中占据优势。 立即阅读,掌握2025年欧易OKX注册秘诀!

十大虚拟币正规交易app 手机十大虚拟币正规交易平台 十大虚拟币正规交易app 手机十大虚拟币正规交易平台 Mar 19, 2025 pm 05:21 PM

十大虚拟币正规交易app:1. OKX,2. Binance,3. Gate.io,4. Kraken,5. Huobi,6. Coinbase,7. KuCoin,8. Crypto.com,9. Bitfinex,10. Gemini。选择平台时应考虑安全性、流动性、手续费、币种选择、用户界面和客户支持。

十大虚拟币交易平台app排名 十大虚拟币交易平台排行榜 十大虚拟币交易平台app排名 十大虚拟币交易平台排行榜 Mar 19, 2025 pm 04:51 PM

十大虚拟币交易平台app排名:1. OKX,2. Binance,3. Gate.io,4. Kraken,5. Huobi,6. Coinbase,7. KuCoin,8. Crypto.com,9. Bitfinex,10. Gemini。选择平台时应考虑安全性、流动性、手续费、币种选择、用户界面和客户支持。

十大虚拟币交易平台app汇总 十大虚拟币交易平台排行榜2025 十大虚拟币交易平台app汇总 十大虚拟币交易平台排行榜2025 Mar 19, 2025 pm 05:15 PM

十大虚拟币交易平台app推荐:1. OKX,2. Binance,3. Gate.io,4. Kraken,5. Huobi,6. Coinbase,7. KuCoin,8. Crypto.com,9. Bitfinex,10. Gemini。选择平台时应考虑安全性、流动性、手续费、币种选择、用户界面和客户支持。

十大虚拟币交易app排名榜 十大虚拟币交易app推荐 十大虚拟币交易app排名榜 十大虚拟币交易app推荐 Mar 19, 2025 pm 05:18 PM

本文盘点了十大值得推荐的虚拟币交易App,包括OKX、Binance、Gate.io、Kraken、Huobi、Coinbase、KuCoin、Crypto.com、Bitfinex和Gemini,排名不分先后。 这些平台在流动性、安全性、币种选择、手续费及用户体验等方面各有优势,例如OKX以其强大的流动性和便捷的用户界面着称,Binance则以全球最大的交易量和丰富的学习资源见长,Gate.io则以低手续费和丰富的币种选择吸引用户。选择虚拟币交易平台需考虑安全性、流动性、手续费、币种选择、用

炒币网格交易软件 炒币网格交易软件 Mar 19, 2025 pm 04:09 PM

本文深入对比分析了币安、欧易和芝麻开门三大交易所的网格交易功能,旨在帮助投资者选择最合适的平台。网格交易是一种自动化交易策略,通过在预设价格区间内低买高卖来获取利润,适合震荡行情。文章详细介绍了网格交易的优势、风险及优秀网格交易软件应具备的功能,并对上述三家交易所的网格交易功能进行了全面评测,包括功能、易用性、回测功能等,最终提供针对不同交易经验和风险偏好的用户选择建议,助您找到最合适的网格交易工具。

2025年币圈十大虚拟币app交易所最新排行榜 2025年币圈十大虚拟币app交易所最新排行榜 Mar 27, 2025 pm 07:27 PM

2025年十大虚拟币交易App排行榜如下:1. OKX,2. Binance,3. Gate.io,4. Bybit,5. Kraken,6. KuCoin,7. Bitget,8. HTX,9. MEXC,10. Coinbase。该排行榜基于安全性、流动性、用户体验和功能丰富度等综合评测得出。

See all articles