AI 얼굴 변화 소프트웨어는 온라인에서 공개적으로 판매됩니다. 법적 경계는 어디입니까?

최근 AI 얼굴변화 기술로 인한 사기 사건이 세간의 관심을 끌고 있다. 대형 AI 모델이 개발되면서 '얼굴 바꾸기' 기술의 적용 범위가 점점 더 넓어지고 있다. 기술의 발전으로 범죄자들이 사용한 얼굴 표정과 행동 디테일도 더욱 현실감 있게 바뀌었다. , 심각한 해를 끼칠 수 있습니다. 기자가 조사한 결과 인터넷에서 AI 얼굴 변경 소프트웨어를 얻는 것은 매우 쉽습니다. AI 얼굴 변경 소프트웨어 사용의 법적 경계는 어디입니까? 사전 감독을 잘 수행하는 방법은 무엇입니까?

01

유료 AI 얼굴 변화 소프트웨어가 인터넷에 등장

패키지 가격은 499위안~2,888위안

입니다.

현재는 대형 모델과 알고리즘의 획기적인 발전에 힘입어 AI 얼굴 변화가 더 넓은 범위에 적용되고 있어 더 많은 우려를 불러일으키고 있습니다. 얼굴 변화 소프트웨어의 사용과 효과를 보여주는 튜토리얼이 인터넷에 많이 있습니다. 일반 사람들이 "시도해 볼" 수 있는 수많은 무료 소프트웨어와 달리, 기자는 인터넷에 고가의 유료 AI 얼굴 변경 소프트웨어가 많다는 것을 발견했습니다. 이 유료 소프트웨어와 무료 소프트웨어의 차이점은 무엇입니까?

기자는 "AI 얼굴 변화 소프트웨어"를 검색하고 개발자에게 연락하여 자신의 소프트웨어를 사용하여 얼굴 변화를 구현하는 시연 비디오를 제공했습니다. 이중 창 페이지의 왼쪽은 얼굴 전의 원본 비디오입니다. -변형, 오른쪽은 육안으로 보면,

얼굴 교체 후의 '디지털 휴먼'은 입 모양이나 표정, 미세한 움직임에 흠집이 거의 없습니다.

Δ판매자가 보여주는 아마추어 얼굴 변화 효과 (S는 원본 영상, D는 교체 후)

판매 웹사이트에서 소프트웨어 개발자는 두 유명 여배우의 눈과 입을 결합하여 새로운 "디지털 인간"의 비디오를 생성하는 방법도 시연했습니다.

△ 판매자가 보여주는 부분 얼굴 특징 교체

이 유료 소프트웨어는 초보자(LV1)부터 고급(LV4), 풀 세트(LV5)까지 다양한 버전을 제공합니다. 보급형 패키지의 경우 499위안에는 소프트웨어 인터페이스, 비디오 안내, 얼굴 교환 모델 등이 제공됩니다. 2,888위안을 지출하면 전체 세트(LV5) 비디오 얼굴 교환 모델을 얻을 수 있습니다.

△인터넷에는 다양한 수준의 다양한 얼굴 변화 소프트웨어 제품이 있습니다

02

"어떤 얼굴이든 바꿀 수 있어요"

AI 대형 모델은 여러 기능을 통합하여 "디지털 인간"을 만들 수 있습니다

홈페이지를 열면

하단에 등록되었다는 문구가 없습니다. 판매자 또한 매우 신중하며 프로세스 전반에 걸쳐 텍스트만 사용하여 의사소통합니다. 그는 주니어(LV1)부터 슈퍼(LV4) 패키지에 비해 풀(LV5) 버전이 더 많은 반복과 더 강력한 기능을 가지고 있는 동시에 얼굴 변경 효과도 더 현실적이라고 이해할 수 있다고 말했습니다. 비디오 얼굴 변경을 달성할 수 있을 뿐만 아니라 실시간 얼굴 변경도 지원합니다.

기자는 추가로 "필요에 따라 얼굴을 바꿀 수 있나요?"라고 물었습니다. 소프트웨어 개발자는 "원하는 얼굴을 무엇이든 바꿀 수 있고 훈련용 자료를 사용할 수 있다"고 말했습니다.

△소프트웨어 개발자와 기자가 대화하는 스크린샷

AI 개발에 종사하는 한 기술자는 “

이는 통제하기 어려운 위험이 더 많아질 수 있다는 뜻이다. "딥페이크처럼 얼굴을 바꾸는 AI 기술은 오픈소스다. 최근에는 대형 AI 모델이 인기를 끌고 있고, 알고리즘도 업데이트됐다. 빈센트 사진, 빈센트 텍스트, 빈센트 오디오, 빈센트 비디오, 얼굴 바꾸기 등을 통합할 수 있기 때문에 기능을 결합하면 완전히 새로운 '디지털 휴먼' 또는 'AI 휴먼'을 만들 수 있으며, 감독의 비용과 난이도는 몇 배 더 높아질 것입니다."

△판매자가 표시하는 사용자 피드백

03

전문가: 효과적인 로고 감독 시스템

AI의 얼굴 변화로 인해 흐려진 경계를 미리 명확하게 할 수 있습니다

베이징 Jiawei 법률 사무소의 변호사이자 IT 법률 전문가인 Zhao Zhanhan은 공격 후의 관점에서 볼 때 형법에는 사기 범죄에 대한 조항이 있으며 민법에는 시민이 초상권을 누린다고 명시되어 있다고 말했습니다. , 이름, 평판 등 시민권. 즉, 타인의 초상권을 사기 목적으로 이용하는 관련 사례가 있을 경우, 해당 범죄자는 추후 법적 제지 및 제재를 받을 수 있습니다. 그러나 인공지능 기술의 급속한 발전에 따라 효과적인 예방을 달성할 수 있는 방법도 사전에 모색해야 합니다.

예를 들어, "인터넷 정보 서비스의 심층 합성 관리에 관한 조항"에서는

심층 합성 서비스가 대중의 혼란이나 오해를 유발할 수 있는 경우 심층 합성 서비스 제공자는 생성된 정보의 합리적인 위치와 영역에 눈에 띄는 정보를 표시해야 합니다. 또는 편집된 정보 내용 로고.

"생성 인공 지능 서비스 관리 조치(의견용 초안)"에서는 생성 인공 지능 제품을 사용하여 대중에게 서비스를 제공하기 전에

보안 평가를 국가 사이버 보안 및 정보화 부서에 보고해야 합니다. 관련 규정 타인의 정당한 이익을 존중해야 합니다. 제품 제공자는 생성 인공 지능 제품에 대한 사전 훈련 데이터 및 최적화된 훈련 데이터 소스의 적법성에 대해 책임을 져야 합니다.

절강대학교 국제경영대학원 디지털 경제 및 금융 혁신 연구 센터 공동 소장인 Pan Helin은 현재로서는

라벨 표시 요구 사항을 효과적으로 구현하고 효과적인 규제 시스템을 구축할 수 있다면 AI를 명확히 할 수 있다고 믿습니다. 얼굴 교환으로 인해 경계가 흐릿해졌습니다.

Pan Helin: 현재 AI 변태에 대한 라벨링 감독 시스템은 아직 형성되지 않았습니다. 라벨이 지정되지 않은 콘텐츠는 기술적 수단을 통해 식별되어야 하며, 라벨을 지정하지 않는 개인 또는 조직에는 구체적인 처벌이 있어야 합니다. 그리고 시스템.

Zhao Zhan은

3차원적이고 효과적인 거버넌스 계획을 수립하기 위해서는 장기적으로 감독 및 처벌 조치가 기술 개발과 함께 지속적으로 "반복"되어야 한다고 믿습니다.

출처: Voice of China WeChat 공식 계정

재인쇄: 인민일보

위 내용은 AI 얼굴 변화 소프트웨어는 온라인에서 공개적으로 판매됩니다. 법적 경계는 어디입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!