'AI 얼굴 변화' 소프트웨어는 수백 위안에서 수천 위안에 이르기까지 온라인에서 공개적으로 판매됩니다! 법적 경계는 어디에 있습니까?

이 글은 [CCTV뉴스]에서 발췌한 내용입니다;

최근 'AI 얼굴 바꾸기'로 인한 사기 사건이 주목을 받고 있습니다. 대형 AI 모델이 개발되면서 '얼굴 스와핑 기술'의 적용 범위가 점점 더 넓어지고 있으며, 기술의 발전으로 범죄자들이 사용한 얼굴 스와핑 후 캐릭터의 표정과 행동 디테일도 더욱 현실감 있게 구현되었습니다. 심각한 해를 끼칠 수 있습니다.

주요국 기자는 조사 끝에 "AI 얼굴 변화" 소프트웨어를 온라인으로 얻는 것이 매우 쉽다는 사실을 발견했습니다. 그러한 소프트웨어를 활용하는 데 대한 법적 경계는 어디에 있습니까? 사전 감독을 잘 수행하는 방법은 무엇입니까?

"얼굴 바꾸는 AI"가 온라인에 등장

유료소프트웨어

패키지 가격은 499위안~2,888위안

입니다. 인터넷에는 얼굴 변화 소프트웨어의 사용 및 효과를 보여주는 튜토리얼이 많이 있습니다.

이러한 "AI 얼굴 변화" 소프트웨어 중 상당수는 사용하려면 고가의 결제가 필요합니다.

기자는 검색 결과를 바탕으로 개발자에게 연락했고, 기자에게 자신의 소프트웨어를 사용하여 얼굴 스왑을 구현하는 시연 영상을 제공했습니다. 이중 창 페이지의 왼쪽은 얼굴 스왑 전의 원본 비디오이고, 오른쪽은 얼굴 교체 후 영상으로, 육안으로 보면 얼굴 교체 후 '디지털 휴먼'의 입 모양, 표정, 미세한 움직임이 거의 흠잡을 데가 없다.

판매 웹사이트에서 소프트웨어 개발자는 두 유명 여배우의 눈과 입을 함께 "접합"하여 새로운 "디지털 인간"의 비디오를 생성하는 방법도 시연했습니다.

이 유료 소프트웨어는 LV1(주니어)부터 LV4(슈퍼), LV5(전체 기능)까지 다양한 버전을 제공합니다. 보급형 패키지의 경우 499위안에는 소프트웨어 인터페이스, 비디오 안내, 얼굴 교환 모델 등이 제공됩니다. 2,888위안을 지출하면 전체 세트(LV5) 비디오 얼굴 교환 모델을 얻을 수 있습니다.

"원하는 얼굴은 무엇이든 바꿀 수 있습니다"

대형 AI 모델은 여러 기능을 통합해 '디지털 휴먼

'을 만들 수 있다. 기자는 웹사이트 하단에 등록되었음을 알리는 텍스트가 없는 것을 발견했다. 판매자도 매우 신중하며 프로세스 전반에 걸쳐 문자로만 소통합니다. 그는 주니어(LV1)부터 슈퍼(LV4) 패키지에 비해 풀(LV5) 버전이 더 많은 반복과 더 강력한 기능을 가지고 있는 동시에 얼굴 변경 효과도 더 현실적이라고 이해할 수 있다고 말했습니다. 그것은 비디오 얼굴 변경을 달성할 수 있을 뿐만 아니라 실시간 얼굴 변경도 지원합니다. 기자가 자신의 필요에 따라 얼굴을 바꿀 수 있는지 추가로 묻자 소프트웨어 개발자는 "그냥 재료를 사용하고 바꾸고 싶은 얼굴을 훈련하면 됩니다."라고 말했습니다.

인공지능 개발에 종사하는 기술 관계자에 따르면 관리하기 어려운 리스크가 더 많아질 수 있다는 의미다. "빈센트 사진, 빈센트 텍스트, 빈센트 오디오, 빈센트 동영상, 얼굴 바꾸기 등을 통합한다. 이들 기능이 합쳐지면 완전히 새로운 '디지털 휴먼', 'AI 휴먼'이 탄생할 수 있다. 감독하는 데 드는 비용과 난이도는 몇 배에 달한다. 더 높습니다." 규모의 순서입니다.

Expert

: 효과적인 로고 감독 시스템

“AI 얼굴 변화”로 인해 흐려진 경계를 미리 명확하게 할 수 있습니다‍

Beijing Jiawei Law Firm의 변호사이자 IT 법률 전문가인 Zhao Zhanhan은 공격 후의 관점에서 볼 때 형법에는 사기 범죄에 대한 조항이 있으며 민법에는 시민이 이에 상응하는 시민권을 향유한다고 명시되어 있습니다. 초상권, 성명권, 평판권 등이 있습니다. 즉, 타인의 이미지를 이용하여 사기 행위를 한 경우, 해당 범죄자는 법적 제재 및 제한을 받게 됩니다. 그러나 인공지능 기술의 급속한 발전에 따라 효과적인 예방 방법도 사전에 모색해야 합니다. 예를 들어, "인터넷 정보 서비스 심층 합성 관리에 관한 규정"에서는 심층 합성 서비스가 대중의 혼란이나 오해를 유발할 수 있는 경우 심층 합성 서비스 제공자는 생성된 정보의 합리적인 위치와 영역을 눈에 띄게 표시해야 한다고 규정합니다. 또는 편집된 정보 내용.

"생성 인공 지능 서비스 관리 조치(의견용 초안)"에서는 생성 인공 지능 제품을 사용하여 대중에게 서비스를 제공하기 전에 관련 규정에 따라 보안 평가를 국가 사이버 공간 부서에 보고해야 한다고 요구합니다. 타인의 적법한 이익이 존중되어야 합니다. 작성자는 생성 인공지능 제품 등에 대한 사전 훈련 데이터 및 최적화된 훈련 데이터 소스의 적법성에 대한 책임을 져야 합니다.

절강대학교 국제공동경영대학원 디지털 경제 및 금융 혁신 연구 센터 공동 소장인 판 헬린(Pan Helin)은 현재로서는 라벨링 요구 사항이 효과적으로 구현되고 효과적인 규제 시스템이 형성될 수 있다면 "AI"라고 믿습니다. '는 사전에 상당 부분 명확해질 수 있습니다. '얼굴 변화'로 인해 경계가 흐릿해집니다.

판헬린: 현재 'AI 얼굴 바꾸기'에 대한 라벨링 감독 시스템은 아직 형성되지 않았습니다. 라벨링되지 않은 콘텐츠는 기술적 수단을 통해 식별되어야 하며, 라벨링을 하지 않는 개인이나 조직에는 구체적인 처벌이 부과되어야 합니다.

Beijing Jiawei Law Firm의 변호사이자 IT 법률 전문가인 Zhao Zhanhan은 장기적으로 3차원적이고 효과적인 거버넌스를 형성하기 위해서는 기술 발전과 함께 감독 및 처벌 조치가 지속적으로 "반복"되어야 한다고 믿습니다. 계획.

위 내용은 'AI 얼굴 변화' 소프트웨어는 수백 위안에서 수천 위안에 이르기까지 온라인에서 공개적으로 판매됩니다! 법적 경계는 어디에 있습니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!