의견수렴: 5가지 유형의 보안 위험을 명시한 생성적 AI 보안 지침 문서

중국-싱가포르 징웨이, 10월 12일 국가정보보호표준화기술위원회 홈페이지에 따르면 국가정보보호표준화기술위원회 사무국은 최근 '생성인공지능 서비스 보안을 위한 기본 요구사항(논평용 초안)'을 발표했다. 이하 "기본요구사항"이라 한다).

"기본 요구사항"은 말뭉치 보안, 모델 보안, 보안 조치, 보안 평가 등 생성 인공지능 서비스의 보안에 대한 기본 요구 사항을 제공하며, 일반 대중에게 생성 인공 지능 서비스를 제공하는 데 적합합니다. 서비스 보안 수준을 향상시키거나, 제공자가 자체적으로 보안 평가를 수행하거나 제3자에게 이를 위탁하여 수행하는 경우에도 관련 기관이 생성 인공지능 서비스의 보안 수준을 평가할 수 있는 참고 자료가 될 수 있습니다.

"기본 요구 사항"에서는 생성 인공 지능 서비스가 사용자 프롬프트에 따라 텍스트, 그림, 오디오, 비디오 및 기타 콘텐츠를 생성할 수 있는 데이터, 알고리즘, 모델 및 규칙을 기반으로 하는 인공 지능 서비스임을 명확히 합니다.

출처: 국가정보보호표준화기술위원회 홈페이지

코퍼스 콘텐츠 보안 측면에서 기본 요구 사항은 세 가지 주요 콘텐츠를 제시합니다.

다시 작성해야 할 내용은 다음과 같습니다. 학습 코퍼스의 콘텐츠 필터링 측면에서 키워드, 분류 모델, 수동 샘플링 등의 방법을 사용하여 모든 코퍼스에서 불법적이고 유해한 정보를 종합적으로 필터링해야 합니다

다시 작성해야 할 콘텐츠는 다음과 같습니다. 둘째, 지적재산권 측면에서 코퍼스 및 생성된 콘텐츠를 담당하는 지적재산권 전문가를 확립하고 이에 따른 지적재산권 관리 전략을 수립해야 합니다. 코퍼스 훈련을 진행하기 전, 지식재산권 전문가는 코퍼스 내 지적재산권 침해 여부를 파악하고, 제공된 코퍼스에 침해 문제가 없는지 확인해야 합니다

개인정보와 관련해 다시 작성된 내용은 다음과 같습니다. 개인정보가 포함된 말뭉치를 이용 시에는 해당 개인정보주체의 승인 및 동의를 받거나, 개인정보의 적법한 이용 등을 위해 기타 조건을 충족해야 합니다.

보안 조치 요구 사항과 관련하여 "기본 요구 사항"에는 미성년자에게 적합한 서비스에 대한 특별한 요구 사항이 명확하게 제시되어 있습니다. 이러한 요구 사항에는 보호자가 미성년자를 위한 중독 방지 조치를 설정하고 비밀번호 보호를 통해 이를 구현하도록 허용하고, 미성년자의 일일 대화 횟수와 지속 시간을 제한하며, 한도를 초과하는 경우 미성년자가 구매하기 전에 관리 비밀번호를 입력해야 합니다. 보호자의 확인이 필요하며, 미성년자에게 적합하지 않은 내용은 걸러내고 신체적, 정신적 건강에 유익한 내용만 표시해야 합니다. 미성년자에게 적합하지 않은 서비스에 대해서는 미성년자가 이용할 수 없도록 기술적, 관리적 조치를 취해야 합니다

위 내용은 의견수렴: 5가지 유형의 보안 위험을 명시한 생성적 AI 보안 지침 문서의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!