IEEE可解释AI体系架构标准P2894正式发布
可解释AI(XAI)是人工智能的一个新兴分支,用于解析人工智能能力所做出的每一个决策背后的逻辑,是人工智能能够持续发展核心关注点之一。随着大模型时代的到来,模型变得越来越复杂,关注可解释性对于提升人工智能系统的透明度、安全性和可靠性具有重要意义。
可解释AI国际标准IEEE P2894发布,打开AI“黑匣子”
近期,IEEE标准协会关于可解释AI体系架构的标准P2894(Guide for an Architectural Framework for Explainable Artificial Intelligence)正式发布。IEEE是全球最大的非营利性专业技术学会,在学术及国际标准等领域具有公认权威性,已经制定了900多个现行工业标准。
标准原文链接:https://www.php.cn/link/b252e54edce965ac4408effd7ce41fb7
本次发布的可解释AI体系架构标准为行业提供了构建、部署和管理机器学习模型的技术蓝图,同时通过采用各种可解释AI方法满足透明和可信赖AI的要求。标准定义了可解释AI的架构框架和应用指南,包括可解释AI的描述和定义、可解释AI方法的分类和每种类型适用的应用场景,以及可解释AI系统在准确性、隐私和安全方面的性能评估方法。
早在2020年6月,微信银行、华为、京东、百度、依图、海信、中电科大数据研究院、中科院计算所、中国电信、中国移动、中国联通、上海计算机软件技术开发中心、新奥集团、华夏基金、创新工场等20余家企业和机构基于金融、零售、智慧城市等多领域业务场景对AI技术安全规范、可解释性的深刻理解,在IEEE标准协会共同成立可解释性工作组,并于当月组织了第一次标准工作组会议。微信银行人工智能首席科学家范力欣博士担任标准工作组主席,美国华盛顿大学教授陈一昕博士担任副主席。此后,标准工作组召开多次会议,最终标准草案于2024年2月由IEEE标准协会通过正式发布。
标准工作组主席范力欣博士表示:“可解释性是当下AI技术发展阶段中不可忽视的重要议题,但是相关的行业标准和规范文件仍然不够完善。此次的标准制定吸纳了来自金融、通信、零售、互联网等各个领域的头部企业和研究机构的前沿实践经验,相信能为AI的更广泛落地提供具有价值的参考。”
可信联邦学习与可信AI相关标准将陆续出台,聚焦AI数据安全与隐私保护
《数据范力欣博士介绍,此次发布的可解释AI系统架构标准也是“可信联邦学习”新范式研究与落地的重要里程碑。“可信联邦学习”是能够满足用户和监管等各方面需求的分布式机器学习范式。在此范式中,隐私保护、模型性能、算法效率是核心的三角基石,与模型的决策可解释性和模型的可监管性两大支柱,共同构成了更加安全可信的联邦学习。》这是一篇介绍“可信联邦学习”新范式的文章。在这个范式中,隐私保护、模型性能、算法效率是核心的三角基石,与模型的决策可解释性和模型的可监管性两大支柱,共同构成了更加安全可信的联邦学习。该范式可以满足各方面的需求,是一种新的分布式机器学习方式。这篇文章是介绍这个范式的重要性和构成要素的。
数据安全流通具有关键性作用,可信联邦学习对于推动数据要素的安全流通具有关键性作用。国家数据局印发的《“数据要素”三年行动计划(2024—2026年)》提出“打造安全可信流通环境,深化隐私计算、联邦学习等技术应用,增强数据利用可信度、可控性、可计量能力,促进数据合规高效流通使用。”可信联邦学习作为一种基于隐私计算、联邦学习等技术的数据合规流通方式,可以增强数据利用的可信度、可控性、可计量能力,促进数据在合规高效流通和使用方面的应用,从而实现数据价值的最大化。
随着工业界和学术界对联邦学习和可信赖人工智能的关注,IEEE标准协会批准立项的多个可信联邦学习和可信赖人工智能标准也将陆续出台。其中,关于联邦学习的隐私和安全架构的标准IEEE P2986 (Recommended Practice for Privacy and Security for Federated Machine Learning)草案已完成,预计不久将正式发布。该标准在业界首次提出联邦学习的隐私风险等级和安全风险等级评估方法。具体包括联邦机器学习中的常见故障及对抗方法、联邦机器学习的隐私和安全要求、及联邦机器学习隐私和安全评估指南。
此外,以IEEE P2986为基础,更加聚焦联邦学习的可信赖、可解释、可优化、可监管的可信联邦学习标准IEEE P3187(Guide for Framework for Trustworthy Federated Machine Learning)也已完成初步审核。该标准提出了可信联邦学习的框架和特性,对实现这些特性做了具体约束,并对实现可信联邦学习的方案进行了介绍。
大模型AI Agent 联邦学习,打造大模型时代的可信赖人工智能
近期,中国电信和微众银行还联合发起成立了关于语义信息智能体的联邦学习标准IEEE P3427(Standard for Federated Machine Learning of Semantic Information Agents)工作组。该标准计划讨论议题包括基于联邦机器学习的语义认知网络中不同语义智能体的角色定义、激励机制、语义通信,语义智能体上便于人类理解的语义信息表征,以及语义智能体之间的联邦信息安全、高效交互等。该标准工作组计划于2024年3月底开展标准研制,目前正广泛吸纳各行业的相关专家加入,共同完善标准,促进行业发展。
相关行业标准的陆续发布将进一步推动跨行业、跨领域的技术合作与创新,打开AI的“黑匣子”,推动数据要素的安全高效流通,高准确性和高可解释性的人工智能将有助于实现技术广泛、负责任、有效地应用,为人类带来福祉。
以上是IEEE可解释AI体系架构标准P2894正式发布的详细内容。更多信息请关注PHP中文网其他相关文章!

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

但可能打不过公园里的老大爷?巴黎奥运会正在如火如荼地进行中,乒乓球项目备受关注。与此同时,机器人打乒乓球也取得了新突破。刚刚,DeepMind提出了第一个在竞技乒乓球比赛中达到人类业余选手水平的学习型机器人智能体。论文地址:https://arxiv.org/pdf/2408.03906DeepMind这个机器人打乒乓球什么水平呢?大概和人类业余选手不相上下:正手反手都会:对手采用多种打法,该机器人也能招架得住:接不同旋转的发球:不过,比赛激烈程度似乎不如公园老大爷对战。对机器人来说,乒乓球运动

开学将至,该收心的不止有即将开启新学期的同学,可能还有AI大模型。前段时间,Reddit上挤满了吐槽Claude越来越懒的网友。「它的水平下降了很多,经常停顿,甚至输出也变得很短。在发布的第一周,它可以一次性翻译整整4页文稿,现在连半页都输出不了了!」https://www.reddit.com/r/ClaudeAI/comments/1by8rw8/something_just_feels_wrong_with_claude_in_the/在一个名为「对Claude彻底失望了的帖子里」,满满地

8月21日,2024世界机器人大会在北京隆重召开。商汤科技旗下家用机器人品牌“元萝卜SenseRobot”家族全系产品集体亮相,并最新发布元萝卜AI下棋机器人——国际象棋专业版(以下简称“元萝卜国象机器人”),成为全球首个走进家庭的国际象棋机器人。作为元萝卜的第三款下棋机器人产品,全新的国象机器人在AI和工程机械方面进行了大量专项技术升级和创新,首次在家用机器人上实现了通过机械爪拾取立体棋子,并进行人机对弈、人人对弈、记谱复盘等功能,

正在北京举行的世界机器人大会上,人形机器人的展示成为了现场绝对的焦点,在星尘智能的展台上,由于AI机器人助理S1在一个展区上演扬琴、武术、书法三台大戏,能文能武,吸引了大量专业观众和媒体的驻足。在带弹性的琴弦上的优雅演奏,让S1展现出速度、力度、精度兼具的精细操作和绝对掌控。央视新闻对「书法」背后的模仿学习和智能控制进行了专题报道,公司创始人来杰解释到,丝滑动作的背后,是硬件侧追求最好力控和最仿人身体指标(速度、负载等),而是在AI侧则采集人的真实动作数据,让机器人遇强则强,快速学习进化。而敏捷

视觉与机器人学习的深度融合。当两只机器手丝滑地互相合作叠衣服、倒茶、将鞋子打包时,加上最近老上头条的1X人形机器人NEO,你可能会产生一种感觉:我们似乎开始进入机器人时代了。事实上,这些丝滑动作正是先进机器人技术+精妙框架设计+多模态大模型的产物。我们知道,有用的机器人往往需要与环境进行复杂精妙的交互,而环境则可被表示成空间域和时间域上的约束。举个例子,如果要让机器人倒茶,那么机器人首先需要抓住茶壶手柄并使之保持直立,不泼洒出茶水,然后平稳移动,一直到让壶口与杯口对齐,之后以一定角度倾斜茶壶。这

本届ACL大会,投稿者「收获满满」。为期六天的ACL2024正在泰国曼谷举办。ACL是计算语言学和自然语言处理领域的顶级国际会议,由国际计算语言学协会组织,每年举办一次。一直以来,ACL在NLP领域的学术影响力都位列第一,它也是CCF-A类推荐会议。今年的ACL大会已是第62届,接收了400余篇NLP领域的前沿工作。昨天下午,大会公布了最佳论文等奖项。此次,最佳论文奖7篇(两篇未公开)、最佳主题论文奖1篇、杰出论文奖35篇。大会还评出了资源论文奖(ResourceAward)3篇、社会影响力奖(

今天下午,鸿蒙智行正式迎来了新品牌与新车。 8月6日,华为举行鸿蒙智行享界S9及华为全场景新品发布会,带来了全景智慧旗舰轿车享界S9、问界新M7Pro和华为novaFlip、MatePadPro12.2英寸、全新MatePadAir、华为毕升激光打印机X1系列、FreeBuds6i、WATCHFIT3和智慧屏S5Pro等多款全场景智慧新品,从智慧出行、智慧办公到智能穿戴,华为全场景智慧生态持续构建,为消费者带来万物互联的智慧体验。鸿蒙智行:深度赋能,推动智能汽车产业升级华为联合中国汽车产业伙伴,为

人工智能的发展速度可能超乎你的想象。自GPT-4将多模态技术引入公众视野以来,多模态大模型进入快速发展阶段,逐渐从单纯的模型研发转向垂直领域的探索和应用,与各行各业深度融合。在界面交互领域,谷歌、苹果等国际科技巨头纷纷投入UI多模态大模型研发,这被视为手机AI革命的必经之路。在此背景下,国内首个UI大模型横空出世。8月17日,在IXDC2024国际体验设计大会上,AI时代设计工具Motiff妙多推出了其自主研发的UI多模态大模型——Motiff妙多大模型。这是全球首个由UI设计工具
