生成式人工智慧技術濫用事件頻傳 三、六零AI安全護航智慧時代發展

近期，隨著生成式人工智慧技術快速發展，利用相關技術進行詐騙、誹謗的違法案件愈發頻繁，引起社會的廣泛關注。 5月22日，包頭警方發布的一起利用AI實施電信詐騙的案例衝上熱搜，騙子透過AI換臉技術進行偽裝，受害者10分鐘內被騙走430萬元。身為全球領先的數位安全公司，三六零(601360.SH，下稱「360」)負責搭建科技部發起的安全大腦-國家新一代人工智慧開放創新平台，將依托國家級的數位安全能力，破解人工智慧安全的時代難題。

生成式人工智慧技術濫用事件的出現得益於深度合成和機器學習的快速發展，詐騙者可透過使用這些技術，訓練出能夠模擬人類語言和神態的AI，換臉之後的「數位人「口型、表情、微小的動作幾乎毫無破綻。 「聲音轉換」是利用演算法模型，透過現有的語音樣本產生類似的聲音。 OpenAI執行長Sam Altman曾表示，擔心大模型可被用於大規模的假訊息，也擔心人類被控制。

5月24日，中國網路協會發文表示，面對利用AI技術的新型騙局，廣大民眾需提高警惕，加強防範。早在2017年7月，國務院印發《新一代人工智慧發展規劃》，提出了針對2030年我國新一代人工智慧發展的指導思想、策略目標、重點任務和保障措施，其中特別提到「到2025年初步建立人工智慧法律法規、倫理規範和政策體系，形成人工智慧安全評估和管控能力」。

作為全球領先的數位安全公司，360在人工智慧安全領域深耕多年，涉及框架安全、模型安全、生成式AI安全等。截止目前，360已累積發現Tensorflow、Caffe、Pytorch等主流機器學習框架及供應鏈漏洞200多個，其中提交給谷歌Tensorflow的漏洞數98個，包括24個高危險、嚴重漏洞，在全球各大廠商中排名第一，影響超過40億終端設備，並入選了中央網信辦「人工智慧企業典型應用案例」。

2019年，“360安全大腦“入選科技部“國家新一代人工智慧開放創新平台”，並著力推動中國人工智慧安全生態建設。目前，以GPT為代表的大模型技術席捲全球，360發現大模型既有傳統AI模型面臨的安全風險，也有大模型獨有的新型安全風險，如模型竊取、提示注入風險等。為了確保全球大型模式的安全，360創新推出了全球首個大型模式安全風險評估系統「AISE」。

北京將於2023年6月13日舉行「360智腦」大模型應用發表會。屆時，將釋出更多與人工智慧安全相關的研究或產品解決方案，為人工智慧的健康發展奠定安全基石。

免責聲明：本文僅供參考，不構成投資建議。

廣告

以上是生成式人工智慧技術濫用事件頻傳 三、六零AI安全護航智慧時代發展的詳細內容。更多資訊請關注PHP中文網其他相關文章！