기계 학습은 새로운 공격 표면을 생성하므로 전문적인 방어가 필요합니다.

​거의 모든 업계의 기업이 인공 지능(AI) 기술을 하드웨어 및 소프트웨어 제품에 통합함에 따라 기계 학습(ML) 입력 및 출력이 고객에게 더욱 광범위하게 제공되고 있습니다. 이는 자연스럽게 악의적인 행위자들의 관심을 끌게 된다.

HiddenLayer CEO Christopher Sestito는 기업이 걱정해야 할 머신러닝 보안 고려 사항 및 관련 위협에 대해 이야기합니다.

기업들은 머신러닝이 열어줄 수 있는 길을 천천히 깨닫고 있습니다. 하지만 그들은 사이버 보안에도 세심한 주의를 기울이고 있나요?

기계 학습 자산을 보호하는 데 중점을 두는 기업은 거의 없으며, 기계 학습 보안에 리소스를 할당하는 기업은 더욱 적습니다. 여기에는 예산 우선순위 경쟁, 인재 부족, 최근까지 이 문제를 해결하는 보안 제품 부족 등 여러 가지 이유가 있습니다.

지난 10년 동안 우리는 모든 업계에서 사용 가능한 데이터로 모든 사용 사례를 처리하기 위해 이전과는 전혀 다른 방식으로 AI/머신 러닝을 채택하는 것을 보았습니다. 장점은 입증되었지만 다른 신기술에서 본 것처럼 이는 빠르게 악의적인 행위자의 새로운 공격 표면이 됩니다.

기계 학습 운영이 발전함에 따라 데이터 과학 팀은 효과성, 효율성, 신뢰성 및 설명 가능성 측면에서 더욱 성숙한 AI 생태계를 구축하고 있지만 아직 보안이 우선시되지 않았습니다. 기계 학습 L 시스템을 공격하려는 동기가 명확하고, 공격 도구가 사용 가능하고 사용하기 쉽고, 잠재적인 대상이 전례 없는 속도로 증가하고 있기 때문에 이는 더 이상 엔터프라이즈 기업에 실행 가능한 경로가 아닙니다.

공격자는 공개 기계 학습 입력을 어떻게 활용할 수 있습니까?

기계 학습 모델이 점점 더 많은 생산 시스템에 통합됨에 따라 하드웨어 및 소프트웨어 제품, 웹 애플리케이션, 모바일 애플리케이션 등에서 고객에게 시연되고 있습니다. 종종 "에지 AI"라고 불리는 이러한 추세는 우리가 매일 사용하는 모든 기술에 놀라운 의사 결정 및 예측 기능을 제공합니다. 점점 더 많은 최종 사용자에게 기계 학습을 제공하는 동시에 동일한 기계 학습 자산을 위협 행위자에게 노출합니다.

네트워크를 통해 노출되지 않는 기계 학습 모델도 위험합니다. 이러한 모델은 전통적인 사이버 공격 기술을 통해 접근할 수 있어 적대적인 기계 학습 기회를 위한 길을 열어줍니다. 위협 행위자가 액세스 권한을 얻으면 여러 유형의 공격을 사용할 수 있습니다. 추론 공격은 모델을 매핑하거나 "역전"시키려고 시도하여 모델의 약점을 악용하거나, 전체 제품의 기능을 변조하거나, 모델 자체를 복사하여 훔칠 수 있습니다.

사람들은 바이러스 백신이나 기타 보호 메커니즘을 우회하기 위해 보안 공급업체를 공격하는 실제 사례를 보았습니다. 또한 공격자는 모델을 훈련하는 데 사용되는 데이터를 오염시켜 시스템이 잘못 학습하고 공격자에게 유리한 편향된 의사 결정을 내리도록 선택할 수도 있습니다.

기업이 특히 걱정해야 하는 머신러닝 시스템에 대한 어떤 위협이 있나요?

모든 적대적인 머신러닝 공격 유형을 방어해야 하지만 기업마다 우선순위가 다릅니다. 사기 거래를 식별하기 위해 기계 학습 모델을 활용하는 금융 기관은 추론 공격을 방어하는 데 중점을 둘 것입니다.

공격자가 사기 탐지 시스템의 강점과 약점을 이해하면 이를 사용하여 모델을 완전히 우회하여 탐지되지 않도록 기술을 변경할 수 있습니다. 의료 기업은 데이터 오염에 더 민감할 수 있습니다. 의료 분야는 방대한 과거 데이터 세트를 사용하여 기계 학습을 통해 결과를 예측하는 얼리 어답터였습니다.

데이터 중독 공격은 오진, 약물 실험 결과 변경, 환자 그룹 허위 진술 등으로 이어질 수 있습니다. 보안 기업 자체도 현재 랜섬웨어나 백도어 네트워크를 배포하는 데 적극적으로 사용되는 머신러닝 회피 공격에 주력하고 있습니다.

기계 학습 기반 시스템을 배포할 때 최고 정보 보안 책임자(CISO)가 염두에 두어야 할 주요 보안 고려 사항은 무엇입니까?

오늘날 CISO(최고 정보 보안 책임자)에게 줄 수 있는 최고의 조언은 새로운 기술에서 배운 패턴을 수용하라는 것입니다. 클라우드 인프라의 발전과 마찬가지로 기계 학습 배포는 전문적인 방어가 필요한 새로운 공격 표면을 나타냅니다. Microsoft의 Counterfit 또는 IBM의 Adversarial Robustness Toolbox와 같은 오픈 소스 공격 도구를 사용하여 적대적인 기계 학습 공격에 대한 진입 장벽이 매일 낮아지고 있습니다.

또 다른 주요 고려 사항은 이러한 공격 중 상당수가 명확하지 않으며, 공격을 찾지 않으면 이러한 공격이 발생하고 있다는 사실을 이해하지 못할 수도 있다는 것입니다. 보안 실무자로서 우리는 랜섬웨어에 익숙합니다. 랜섬웨어는 비즈니스가 손상되었고 데이터가 잠겼거나 도난당했다는 분명한 표시입니다. 적대적인 기계 학습 공격은 장기간에 걸쳐 발생하도록 맞춤화될 수 있으며, 데이터 중독과 같은 일부 공격은 느리지만 영구적인 피해를 주는 프로세스가 될 수 있습니다.

위 내용은 기계 학습은 새로운 공격 표면을 생성하므로 전문적인 방어가 필요합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!