18개국 공동으로 AI 안전지침 발표

영국 국립사이버보안센터(NCSC)는 AI 시스템 개발자와 제공업체가 “의도한 대로 작동하고 필요할 때 사용할 수 있으며

에 대한 무단 액세스를 제공하지 않는 AI 시스템을 구축하는 데 도움이 되는 새로운 지침을 발표했습니다. AI 시스템의 핵심에 사이버 보안을 두는 방법

보안 AI 시스템 개발을 위한 지침에는 ML 애플리케이션 개발 수명 주기의 4가지 주요 단계가 포함됩니다.

보안 설계는 다음에 달려 있습니다. 시스템 소유자, 개발자 및 사용자 등 모든 관련자는 고유한 보안을 알고 있습니다. AI 시스템이 직면한 위험과 이러한 위험을 피하는 방법을 배웁니다.

지침에는 "시스템 위협을 모델링해야 하며 보안, 기능 및 성능 관점에서 시스템을 설계해야 합니다."라고 언급되어 있습니다. 또한 개발자는 AI 모델을 선택할 때 보안 이점과 절충점을 고려해야 합니다. 복잡할수록 좋음)

공급망 보안을 보장하는 것은 안전한 개발을 달성하기 위한 전제 조건입니다. 동시에 자산(예: 모델, 데이터, 프롬프트, 소프트웨어, 로그 등)을 보호하고 프롬프트를 기록해야 합니다. 모델, 데이터 세트 및 메타데이터 시스템 및 관리 기술 부채

보안 배포에는 보안 인프라(시스템 수명주기의 모든 부분에서)와 직접 및 간접 액세스로부터 스키마 및 데이터의 지속적인 보호가 필요합니다. (불가피한) 보안 사고를 처리하려면 포괄적인 사고 대응, 에스컬레이션 및 해결 계획을 개발해야 합니다.

AI 릴리스는 책임감 있게 수행되어야 합니다. 즉, 보안을 철저히 평가하고 사용자가 제한 사항이나 잠재적인 오류 모드를 평가한 후에만 릴리스해야 합니다.

이상적으로는 가장 안전한 설정이 시스템에 유일한 옵션으로 통합됩니다. 구성이 필요한 경우 기본 옵션은 일반적으로 일반적인 위협에 대해 안전해야 합니다(즉, 기본적으로 안전함). 시스템이 악의적인 방식으로 사용되거나 배포되는 것을 방지하기 위해 제어를 적용합니다.

궁극적으로 운영 및 유지 관리를 보호하기 위해 운영자는 시스템의 동작과 입력을 모니터링하고, 자동 업데이트를 활성화하고, 특히 오류(취약점 등)가 발생한 경우 투명성과 대응성을 유지하는 것이 좋습니다.

AI 사이버 보안 가이드는 누구를 위한 것인가요?

이 가이드라인은 미국 사이버보안 및 인프라 보안국(CISA)과 전 세계 유사 기관 및 CERT, 업계 전문가의 도움을 받아 작성되었습니다.

“영국이 주도하는 새로운 지침은 전 세계적으로 최초로 합의된 것이며, AI를 사용하는 모든 시스템의 개발자가 이러한 시스템이 처음부터 만들어졌는지 구축되었는지에 관계없이 개발 프로세스의 모든 단계에서 정보를 바탕으로 사이버 보안 결정을 내리는 데 도움이 될 것입니다. 다른 사람들이 제공하는 도구와 서비스에 대해”라고 영국 국립 사이버 보안 센터는 지적했습니다.

"[가이드라인]은 주로 조직에서 호스팅하는 모델을 기반으로 하거나 외부 애플리케이션 프로그래밍 인터페이스를 사용하는 AI 시스템 제공업체를 대상으로 합니다. 그러나 우리는 모든 이해관계자(데이터 과학자, 개발자, 관리자, 의사 결정자 투자자 및 위험 소유자)는 기계 학습 AI 시스템의 설계, 배포 및 운영에 대해 정보에 입각한 결정을 내리는 데 도움이 되도록 이 지침을 읽어야 합니다.

이 지침의 발표는 조 바이든 대통령의 행정 명령에 따라 다음과 같은 조치를 취하기 위한 것입니다. 사기, 개인정보 위협, 차별 및 기타 학대의 잠재적 위험으로부터 미국인을 보호합니다

위 내용은 18개국 공동으로 AI 안전지침 발표의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!