9月7日下午,2023 Inclusion·外滩大会举行的《探索下一代安全智能》论坛上,世界权威国际产业组织云安全联盟(CSA)大中华区宣布成立“AI安全工作组”,华云安与中国电信研究院、蚂蚁集团、华为、西安电子科技大学、深圳国家金融科技测评中心等30余家机构成为首批发起单位。“AI安全工作组”致力于共同解决AI技术快速发展所带来的安全难题。
云安全联盟大中华区AI安全工作组的联席组长单位将由中国电信研究院和蚂蚁集团担任,该工作组将召集联盟内涉及人工智能产业链上下游的企业、学校、研究机构和用户单位等,共同研究人工智能安全的前沿技术。此次AI安全工作组的成立还将发挥国际桥梁的作用,使我国在人工智能安全领域的研究成果能够在全球范围内产生影响
AI安全工作组将聚焦人工智能突出的安全风险问题,输出人工智能内生安全、衍生安全、助力安全等领域的白皮书、产业知识图谱、团体标准、系统框架、解决方案等,为整个行业提供一个清晰、系统的AI安全研究框架。根据计划,工作组先期将输出《AI安全白皮书》《大模型安全研究报告》《AI数据安全评估规范》等研究成果。
从安全的角度来看,人工智能技术可以说是一把“双刃剑”。它不仅对数据、业务和系统等方面构成威胁,同时也为安全科技的发展提供了动力。近年来,人工智能在网络安全领域的研究和应用逐渐展开。华云安公司积极探索人工智能技术在网络安全领域的应用,特别是在基于深度学习的安全分析和攻击面情报治理等方面已经取得了相当成熟的应用
在网络资产探测识别的人工智能应用方面,华云安引入机器学习、深度学习等方法进行操作系统指纹识别,可以在较短时间,实现基于协议栈指纹的操作系统被动识别,大幅提高未精确匹配指纹的识别率,从而弥补和提高基于规则库的操作系统指纹识别速度和准确性。
人工智能在路径决策方面的应用,智能决策技术主要包含智能路径决策和智能攻击决策。灵刃·智能渗透与攻击模拟系统Ai.Bot是华云安基于人工智能技术自主研发的智能渗透与攻击模拟系统。在攻击过程中,灵刃(Ai.Bot)会针对内网的目标选择进行决策,优先选择更具有针对性的战法和对应适配的武器,不仅如此,灵刃(Ai.Bot)的智能引擎也对目标的选择进行判断,优先选择攻陷几率更大的目标。
此外,在5月份举行的2023网络安全运营技术峰会(SecOps 2023)上,华云安进一步分享了对大模型的技术理解与实践。华云安的安全大语言模型专注在情报分析和智能攻防领域在扩展威胁情报方面,通过对1day漏洞情报、敏感数据泄露情报分析,帮助企业快速感知情报价值,决断响应和修复;在智能攻防方面,基于大模型的语义理解和生成,将晦涩的攻防技术成果进行易读性文字总结,以及场景化验证脚本和思路生成,进一步提高了安全运营效率,缩小攻防信息差。
华云安作为首批发起单位,积极参与AI安全工作组对人工智能技术在网络安全领域应用的研究探索和实践。华云安将与AI安全工作组合作,为AI场景下的安全防护技术的发展以及AI技术在网络安全领域的应用提供支持,以提供更高效的网络安全防护,构建更坚固的网络安全保障
以上是华云安与其他单位共同发起成立'AI安全工作组”,旨在加强AI安全领域的合作与研究的详细内容。更多信息请关注PHP中文网其他相关文章!