蚂蚁集团WAIC发布大模型密算平台,助力大模型破解数据供给挑战

WBOY
发布: 2024-07-17 04:41:50
原创
639 人浏览过

大模型向下扎根深入行业,必须要破解高质量数据供给的挑战。7月5日,2024年世界人工智能大会进入第二天,作为数据要素领域的主要技术服务商,蚂蚁集团发布“隐语Cloud”大模型密算平台,通过软硬件结合的可信隐私计算技术,在大模型托管和大模型推理等环节实现数据密态流转,保护模型资产、数据安全和用户隐私。当下,高质量数据供给和安全流通,成为大模型进入垂直产业应用的首要挑战。其一,行业大模型要获得解决专业问题的能力,首先要经过数量充足、质量高的专业数据训练。然而,专业数据往往分散在不同的机构、企业中,并且由于价值大、保密要求高,难以流动。此外,在企业、大模型厂商和用户之间存在信任壁垒,企业担心数据对外泄露,大模型厂商担心模型资产安全,用户担心个人数据和隐私风险。

蚂蚁集团WAIC发布大模型密算平台,助力大模型破解数据供给挑战

在发布会现场,蚂蚁密算CEO王磊介绍,“隐语Cloud”大模型密算平台首批推出两大服务,分别为:
  1. 大模型密态托管:保护模型资产不被泄漏和盗用。
  2. 大模型密态推理:保护用户交互时的数据安全和商业机密。

此外,该平台支持:

  • GPU在可信执行环境下进行计算。
  • 内存、磁盘加密等方法,实现端到端加密和跨域访问控制。
  • 轻量化远程认证。

当下,大模型私有化部署不仅增加运维成本,也影响服务效率和质量。隐语Cloud大模型密算平台提供公有云和专有云交付方案,支持通用大模型。

王磊透露,该平台服务将逐步覆盖垂直大模型数据安全全链路,包括:

  • 密态计算服务。
  • 密态大模型开发全链路工具。

蚂蚁集团副总裁兼首席技术安全官、蚂蚁密算董事长韦韬认为,隐私计算技术决定了数据跨域供给的上限。蚂蚁集团从2016年开始探索隐私计算技术,希望联合产业合作伙伴推动产业发展。

目前,蚂蚁可信隐私计算核心技术已开源,包括“隐语”框架和“星绽”操作系统。此外,蚂蚁还与高校紧密合作,并设立了“隐私计算专项科研基金”。

今年5月,蚂蚁集团成立密态计算公司浙江蚂蚁密算科技有限公司,将提供端到端数据安全保障、软硬件结合的计算加速解决方案和隐私计算云服务平台。

以上是蚂蚁集团WAIC发布大模型密算平台,助力大模型破解数据供给挑战的详细内容。更多信息请关注PHP中文网其他相关文章!

相关标签:
来源:jiqizhixin.com
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责声明 Sitemap
PHP中文网:公益在线PHP培训,帮助PHP学习者快速成长!