2024年的中關村論壇資料安全治理與發展論壇上，一項具有里程碑意義的活動－首屆生成式人工智慧安全大賽，正式拉開了帷幕。這場比賽是在北京市互聯網資訊辦公室和中國科學院網路安全和資訊化領導小組辦公室共同指導下，由中國科學院資訊工程研究所與資訊安全國家工程研究中心共同主辦。 該大賽旨在推動人工智慧與資訊化領域安全技術的交流與創新，並加強中科院信工所與資訊安全國家工程研究中心的合作。參賽者將透過在資訊內容安全領域的技術攻防對抗，展現技術實力與創新能力，為資訊安全國家工程研究中心的研究成果與資訊內容安全國家工程的中心共同主辦。
此次大賽以「共築安全星河，護航AI發展」作為核心主題，其宗旨在於依託中國科學院資訊工程研究所Galaxy（星河）生成功能安全風險評估平台，為參賽者提供專業的比賽環境。
“Galaxy平台”被譽為安全風險評估的“星河”，其核心是一個“以攻促防，攻防相長”的大模型安全測試技術體系。透過這套體系，平台不僅能夠模擬各種攻擊場景，促使防禦技術不斷進步，同時也能夠在攻防演練中提升自身的能力。為了實現這一目標，平台發展了一系列的大模型自我博弈與安全能力循環升級工具集，這些工具集不僅能夠助力我國在智慧時代的安全底座建設，同時也能夠保障人工智慧技術的安全、健康和永續發展。
這場比賽設定了三大核心賽道：安全攻擊、安全偵測、對齊防護。這三大賽道的設立，旨在從攻擊、偵測和防護三個維度，全面提升人工智慧底層技術和基礎底座的安全可控水平。透過聚集國內的優勢力量，競賽將有效發現、分析並因應大模型的安全風險，進而推動北京市乃至全國的大模型產業安全發展。
在平台及大賽的發布環節，來自政、產、學、研等各界代表的廣泛關注和積極反響，無疑是對此次大賽及其平台的高度認可。這不僅是對大賽及其平台的一種肯定，更是對其未來發展的期待與信任。隨著競賽的正式啟動，我們有理由相信，這將是一場推動我國人工智慧安全領域發展的重要賽事，也將為全球人工智慧安全領域的發展提供新的思路和方向。
以上是'共築安全星河：首屆AI安全大賽在中關村論壇盛大啟動”的詳細內容。更多資訊請關注PHP中文網其他相關文章！
