생성 인공지능 기술 남용사고가 빈번히 발생하고 있습니다. 360 AI는 지능화 시대의 발전을 안전하게 지켜드립니다.

최근 생성 인공지능 기술의 급속한 발전에 따라 관련 기술을 불법적으로 활용하여 사기, 명예훼손을 저지르는 사례가 빈번해지고 사회의 폭넓은 관심을 받고 있습니다. 지난 5월 22일 바오터우 경찰이 공개한 AI를 이용한 통신사기 사건이 화제가 됐다. 사기꾼은 AI 변장 기술을 이용해 변장을 했고, 피해자는 10분 만에 430만 위안을 사기당했다. 360(601360.SH, 이하 '360')은 세계 최고의 디지털 보안 기업으로서 과학기술부가 추진하는 국가 차세대 인공지능 개방형 혁신 플랫폼인 '시큐리티 브레인(Security Brain)' 구축을 담당하게 된다. 국가 차원의 디지털 보안 역량에 의존해 해킹 인공지능 보안은 어려운 시대적 이슈다.

생성 인공 지능 기술 남용 사건의 출현은 심층 합성 및 기계 학습의 급속한 발전으로 인해 사기꾼이 이러한 기술을 사용하여 인간의 언어와 표현을 시뮬레이션할 수 있는 AI를 훈련시키고 얼굴 변경 후 "디지털 인간" 입을 만들 수 있습니다. 모양이나 표현, 작은 ​​움직임이 거의 흠잡을 데가 없습니다. "소리 변환"은 알고리즘 모델을 사용하여 기존 음성 샘플에서 유사한 소리를 생성합니다. OpenAI CEO 샘 알트만(Sam Altman)은 대형 모델이 대규모 허위 정보에 사용될 수 있으며 인간이 통제되고 있다는 우려를 표명했습니다.

5월 24일, 중국인터넷학회에서는 AI 기술을 이용한 새로운 사기에 직면하여 일반 대중이 더욱 경계하고 예방을 강화해야 한다는 내용의 문서를 발행했습니다. 2017년 7월 초 국무원은 '신세대 인공지능 발전 계획'을 발표했는데, 이 계획에서는 2030년 중국의 차세대 인공지능 발전을 위한 지도 이념, 전략적 목표, 핵심 임무 및 보호 조치를 제안했습니다. 2025년까지 인공지능 관련 법률, 규정, 윤리규범, 정책체계 등을 초기 확립하고 인공지능 안전성 평가 및 통제 역량을 구축한다고 언급했다.

360은 세계 최고의 디지털 보안 기업으로 프레임워크 보안, 모델 보안, 생성 AI 보안 등 인공지능 보안 분야에서 다년간 깊이 관여해 왔습니다. 지금까지 360은 Tensorflow, Caffe, Pytorch와 같은 주류 기계 학습 프레임워크 및 공급망에서 200개 이상의 취약점을 발견했으며, 그 중 주요 제조업체 중 24개를 포함해 98개 취약점이 Google Tensorflow에 제출되었습니다. 40억 개 이상의 단말 장치에 영향을 미치는 1위를 차지했으며 중국 사이버 관리국에서 "인공 지능 기업의 일반적인 응용 사례"로 선정되었습니다.

2019년 "360 Security Brain"은 과학기술부의 "국가 차세대 인공지능 개방형 혁신 플랫폼"으로 선정되어 중국 인공지능 안전 생태계 구축을 촉진하기 위해 노력하고 있습니다. 현재 GPT로 대표되는 대형 모델 기술이 전 세계를 휩쓸고 있는 360은 대형 모델에는 기존 AI 모델이 직면한 보안 위험과 모델 도난, 신속한 주입 위험 등 대형 모델 고유의 새로운 보안 위험이 모두 존재한다는 사실을 발견했습니다. 360 Innovation은 전 세계 대형 모델의 안전을 보장하기 위해 세계 최초의 대형 모델 보안 위험 평가 시스템 "AISE"를 출시했습니다.

베이징에서는 2023년 6월 13일 '360 지능형 두뇌' 대형 모델 적용 컨퍼런스를 개최합니다. 그때쯤이면 인공지능 보안과 관련된 더 많은 연구나 제품 솔루션이 출시되어 인공지능의 건전한 발전을 위한 안전 기반을 마련하게 될 것입니다.

면책조항: 이 기사는 참고용일 뿐 투자 조언이 아닙니다.

광고

위 내용은 생성 인공지능 기술 남용사고가 빈번히 발생하고 있습니다. 360 AI는 지능화 시대의 발전을 안전하게 지켜드립니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!