판사는 상기시킨다 - AI 기술의 오용으로 인한 법적 위험을 주의하라

인공지능 기술은 최근 우리 삶의 모든 구석구석에 조용히 통합되었습니다. 지능형 음성 고객 서비스, AI 앵커, 음성-문자 변환 등 공통 기능은 업무와 생활의 편의성을 크게 향상시켰습니다. 변화, AI 그림 앱이나 작은 프로그램도 사용하기 쉬워 일반인들이 스타나 화가의 꿈을 1초만에 실현할 수 있게 지난해 말 미국에서 개발된 채팅 도구인 ChatGPT가 등장했다. 출시되자마자 전 세계적으로 큰 인기를 끌었습니다. 그러나 기술은 항상 양날의 검입니다. 'AI 스테파니 선' 표지 사건에 이어 최근 푸젠성의 한 남성이 AI 얼굴 변화 및 의성어 기술을 이용해 친구인 척하는 사기꾼에게 430만 위안을 사기당했습니다. 10분간의 화상 채팅을 통해 430만 위안을 사취하여 사람들이 AI 기술이 인류에게 어떻게 도움이 되어야 하는지 더 깊이 생각하게 했습니다. 기술 오용은 어떤 법적 위험을 가져오고, 어떤 신뢰 위기를 초래할까요?

1. AI '창조'는 침해의 위험이 있습니다

AI 기술 개발의 본래 의도는 인간의 삶을 개선하는 것입니다. 최근에는 영상, 오디오, 이미지, 텍스트 처리가 실험실에서 대중으로 점차 옮겨가면서 사람들의 생산과 라이프스타일을 변화시키고 있습니다. 광범위한 응용 시나리오와 다양한 게임 플레이로 효율성을 높이고 생산성을 향상시키는 탁월한 성능을 제공합니다.

AI 비디오 기술을 예로 들어보세요. 과거에는 특정 배우의 위법행위로 인해 그가 참여한 작품 전체가 방송되지 못하게 되어 촬영자에게 금전적 손실을 입혔던 경우가 있었습니다. AI 기술을 통해 작품 촬영이 완료된 후 문제 배우의 '얼굴 변화'를 도와 시간적 손실을 막을 수 있다. 특수효과 제작 측면에서 과거 AI는 특수효과 아티스트의 보조 역할에 불과했지만, 이제는 '바보 같은' 방식으로 블록버스터급 특수효과를 생성할 수 있는 소프트웨어가 다수 등장해 '민간인'의 영역까지 진출했다. 시대'로 발전해 일반인들도 자신만의 특수효과를 만드는 놀라운 경험을 할 수 있다. 또한, AI 기술은 별도의 사진이나 영상 자료를 추가하지 않고도 카피라이팅만으로 '무(無)에서' 영상을 제작할 수 있어 더욱 다양한 창작자의 요구에 부응할 수 있다.

올해 봄 축제 기간 동안 빨간색 배경의 복슬복슬한 만화 토끼 사진 세트가 친구들 사이에서 인기를 얻었고 많은 사람들의 화면 보호기 배경화면과 아바타가 되었습니다. 이 사진들은 모두 AI 그리기 기술로 생성되었습니다. 디자인과 페인팅 분야에서 많은 AI 그리기 도구가 등장했습니다. 사용자는 텍스트 명령만 입력하면 "텍스트에서 그리기"를 달성하고 몇 분 안에 좋은 작업을 얻을 수 있어 생산 효율성이 크게 향상됩니다. 그러나 이는 이미지 저작권 산업에 영향을 미칠 수 있습니다.

일반적으로 그림, 사진 등 저작권이 있는 이미지를 사용하려면 합법적으로 사용하기 위한 비용을 지불해야 합니다. 그렇지 않으면 특히 셀프 미디어 관련 분쟁 분야에서 저작권 침해 사례가 발생합니다. 일부 셀프미디어 계정에서는 타인의 저작권 이미지를 무단으로 광고 일러스트로 사용하여 권리자로부터 손해배상 소송을 당하기도 했습니다. 이후에는 상대방에게 배상을 요구하거나 연간계약을 강요하거나 소송을 제기하는 등 권리보호를 영리수단으로 전락시킨다. AI 드로잉 기술의 등장은 셀프미디어 운영자가 비용을 통제하고, 사진 작품의 부적절한 사용으로 인한 소송 위험을 줄이는 데 어느 정도 도움이 될 수 있지만, 한편으로는 상업적 권리의 시장 질서를 교란시킬 수도 있습니다. 보호산업 체인의 사진 작품 행위는 타격을 입힌다.

위에서 언급한 AI 영상, AI 그리기 기술, 그리고 사람들이 논문, 이메일, 대본, 시, 코드를 작성하는 데 도움을 줄 수 있는 '만능' 채팅 도구인 ChatGPT는 모두 심층 합성 기술의 특정 응용 프로그램입니다. 전문적인 배경과 관련 경험이 있으면 간단한 표현 능력만 있으면 이러한 AI 도구의 도움으로 "창작"할 수 있습니다. 그렇다면 이렇게 생성된 영상, 사진, 텍스트 저작물의 저작권은 무엇입니까? 실제로 우리나라의 저작권법은 AI를 사용해 생성된 저작물의 저작권 소유권을 명확하게 규정하지 않습니다. 그러나 많은 AI 도구에는 생성된 저작물의 권리 소유권에 대한 해당 사용 규칙이 설정되어 있습니다. 유료 이용자 저작물에 대한 권리의 귀속과 상업화 가능 여부는 구별되며, 이는 생성된 저작물의 저작권 문제에 대해 양측이 합의한 것으로 볼 수 있으며, 이용자의 저작물 처리는 이를 준수해야 합니다. 동의서.

또한, AI가 대량의 샘플을 학습하고 모방하여 생성한 저작물이 이전 저작물의 저작권 소유자의 법적 권리를 침해하지 않는지 의문을 제기하시는 분들도 계시나요? 이에 대해 베이징 제4중급인민법원 판사는 AI 저작물이 타인의 저작물에 참조 및 활용되는 정도가 실질적인 유사성을 구성하는지 여부에 달려 있다고 판단했다. 단지 타인의 창작기술, 규칙, 기교, 스타일 등을 연구하고 모방한 경우에는 '표절'이라고 판단하기 어렵습니다. 위반. 따라서 초기 단계에서 영감과 창의성을 얻기 위한 AI를 기반으로 창작자는 자신의 아이디어, 관점, 인간적 감정 등을 주입하여 콘텐츠를 실질적으로 변경하고 작품의 소유권과 후속 사용을 보다 안전하게 만들어야 합니다. .

2. AI '얼굴 바꾸기'는 초상권을 침해할 수 있습니다

최근 인터넷에서 폭발적인 인기를 끌었던 'AI 스테파니 선'의 경우처럼 기술의 반복은 불가능했던 많은 일들을 가능하게 만들었습니다. 많은 창작자들이 스테파니 선의 음색을 활용해 AI를 훈련시키고, 합성된 음색을 이용해 다른 가수들의 작품을 커버하기도 한다. 수년 동안 앨범을 내지 않았던 스테파니 선은 자신도 “인간”이라는 커버곡을 단숨에 1000곡 이상 보유하게 됐다. 존재들은 그것을 능가할 수 없습니다." 바로 모퉁이를 돌면 됩니다." 그렇다면 이러한 AI 커버는 합법적인가요?

실제로 가수의 노래하는 목소리와 음색 자체는 저작권법의 보호범위에 해당되지 않습니다. 그러나 민법 제1023조에서는 자연인의 목소리에 대한 보호에 관하여는 관련 규정을 적용한다고 규정하고 있습니다. 즉, 초상권은 보호되지 않습니다. 정보 기술을 사용하면 타인의 권리를 위조하고 침해할 수 있습니다.

또한 "오락용이며 상업적인 용도가 아니다"라는 이유로 면제를 주장하는 사람들도 있습니다. 그러나 저작권법 제42조의 규정에 따라 적법하게 녹음된 음악저작물을 사용하는 음반제작자는 다음과 같습니다. 타인의 녹음은 저작권 소유자의 허가를 받아 반드시 규정에 따라 보상을 받아야 하는 것은 아닙니다. 또한 AI 커버 작품을 업로드한 후 플랫폼 수익이나 사용자 보상을 받는 사람들도 있습니다. 비록 비용을 지불하지 않아도 제작자는 이를 통해 수익을 얻을 수 있기 때문에 저작권법상 공정 사용으로 정의하기는 어렵습니다. . "무료 쇼".

AI 기술이 좋더라도 남용을 방지해야 한다는 것을 알 수 있습니다. '양미', '레바' 등 연예인들이 생방송장에 자주 등장해 굿즈를 가져오던 시절이 있었는데, 예리한 네티즌들은 이를 한눈에 꿰뚫어 본 것이 AI 얼굴 바꾸는 기술임이 밝혀졌다. , 그리고 일부 사람들은 "스타 페이스"를 착용하려고 시도했으며 더 많은 사용자를 유치하여 생방송 방에 들어갔습니다. 이로 인해 트래픽이 있음에도 불구하고 타인의 정당한 권익도 침해하게 됩니다. 민법 제1019조에 따르면, 어떠한 단체나 개인도 정보통신수단을 이용하여 비방, 훼손, 위조하는 행위 등으로 타인의 초상권을 침해할 수 없습니다. 초상권자의 동의 없이 초상권자의 초상은 법률에 달리 규정된 경우를 제외하고는 제작, 사용, 공개될 수 없습니다. 초상권자의 동의 없이 초상저작물의 권리자는 초상권자의 초상을 출판, 복사, 배포, 대여, 전시 등 어떠한 방법으로도 사용하거나 공개할 수 없습니다. 연예인 초상은 일반 사람들보다 상업적 가치가 더 높습니다. 연예인 초상을 앵커에 불법적으로 '이식'하는 것은 연예인의 초상권을 무료로 침해하는 것과 다름없으며, 이들이 대표하는 경제적 이익도 침해합니다. , 그러나 법에 따라 연예인 초상화를 사용하기 위해 비용을 지불하는 다른 운영자에게도 영향을 미칩니다. 또한 분명히 불공정합니다.

또한 일부 네티즌은 자신의 사진을 업로드하고 영화 및 TV 드라마 속 배우의 얼굴을 자신의 얼굴로 대체하는 행위에도 법적 위험이 따릅니다. 초상권에 관한 법률 조항에 따르면 '역면전환' 역시 정보기술 수단을 위조해 타인의 초상권을 침해하는 행위에 해당한다. 특히, 영화 및 TV 드라마 속 캐릭터의 얼굴을 바꾸는 행위, 동영상을 인터넷에 업로드하는 행위 역시 영화 및 TV 정보를 온라인으로 전파할 권리, 작품의 완전성을 보호할 권리 등 저작권 침해에 해당할 수 있습니다. 보유자는 자신의 책임을 추구하고 보상을 받을 권리를 보유할 수 있습니다.

베이징 제4중급인민법원의 한 판사는 '얼굴 변화'가 인격권을 둘러싼 다른 분쟁을 촉발할 수도 있다는 점을 상기시켰습니다. 최근 한 비디오 블로거는 AI 얼굴 변경 기술을 사용해 영화나 드라마 속 친밀한 장면에서 남자 주인공의 얼굴을 자신의 얼굴로 바꿔 많은 네티즌과 배우 팬에게 불편함을 안겼다. 극중 배우들의 은밀한 장면은 연기 요구사항이며 이는 계약서와 대본에 반영되어 있으며 배우의 지식과 동의를 바탕으로 한 줄거리에 대한 필요한 해석입니다. 그러나 해당 블로거의 행위는 해당 배우에 대한 무례함과 모욕에 해당할 뿐만 아니라 민법 제1010조에 규정된 “언어, 글, 화상, 신체적 행위 등으로 타인의 의사를 침해하는 행위”로 간주될 수 있습니다. 다른 사람들도 성희롱을 저질렀다”고 민사적 책임을 진다. 더욱이 '음란 루머를 조장'하거나 불법적인 이익을 얻기 위해 여성 연예인이나 일반 여성의 초상을 음란물로 변조하는 행위는 타인의 명예권을 심각하게 침해하고 당사자에게 큰 정신적 고통을 안겨주는 행위입니다. 법에 따라 처벌을 받아야 합니다.

3. AI를 이용한 범죄

방지에 집중

사람들은 여전히 ​​AI의 다양한 편의성을 탐색하고 있지만, 범죄자들은 ​​이미 이 기술에 집중하고 있습니다. 보도에 따르면 궈 씨의 푸젠성 위챗 '친구'가 영상으로 그에게 연락해 430만 위안의 보증금을 빌리고 싶다고 말했다. 궈 씨는 영상통화에 대한 신뢰를 바탕으로 10분 만에 송금을 완료했고 곧 자신이 사기를 당했다는 사실을 알게 됐다. 사기꾼은 먼저 궈 씨 친구의 위챗 계정을 훔쳐 궈 씨의 재정 상태를 알아낸 뒤 나중에 합성하기 위해 '친구'의 얼굴, 음성 및 기타 정보를 입수해 마침내 사기를 완성해 범죄를 저지른 것으로 밝혀졌습니다. 감지하기 어렵습니다. 원래 원격통신은 편의를 위해 만들어졌으나, AI 기술의 오용으로 인해 온라인 커뮤니케이션에 대한 사람들의 신뢰가 떨어졌습니다. 누군가가 AI 기술을 사용하여 불법 동영상, 가짜 뉴스 등을 제작한다면 이는 의심할 여지 없이 사회적 신뢰 시스템에 해를 끼칠 것입니다.

거래 보안을 보장하려면 무결성이 중요하지만, 심층 합성 기술을 부적절하게 사용하면 특히 상대방의 지적 업적을 기반으로 한 거래 분야에서 채무 불이행 위험이 높아질 수 있습니다. 창작자의 작품이 ChatGPT, Midjourney 등 AI 도구를 통해 생성된 텍스트나 그림인 경우 작품의 독창성에 결함이 있을 수 있습니다. 예를 들어, 저작권 라이선스 또는 양도 계약의 경우, 계약 당사자 쌍방이 창작에 AI를 사용하는 것에 대해 합의하지 않는 한, 그러한 합성 저작물은 독창성이 부족하여 성능 결함이 있거나 침해로 인해 권리 결함이 있을 수 있습니다. 타인의 저작권을 라이센시에게 양도하는 행위 당사자 또는 양수인은 후속 저작물의 상업적 이용 시 불필요한 손실을 초래할 수 있습니다.

또한 AI 기술의 접근성으로 인해 도덕적 해이도 증가할 것입니다. 베이징 제4중급인민법원 판사는 개인이 독립적인 지적 작업을 수행하는 데 필요한 작업량과 비교할 때, 글쓰기, 그림 작업을 완료하는 데 필요한 작업량 사이에는 시간, 경제적, 에너지 비용이 크게 다르다고 말했습니다. 현장 실무자들은 유료 고객에게 알리지 않고 작업을 완료하기 위해 AI에 크게 의존하고 있으며 여전히 개인이 독립적으로 완성한 기준에 따라 견적을 작성하면 관련 업계의 건전한 경쟁 질서가 무너지고 직업 윤리도 무너질 것입니다. 위기. 물론 위험이 높은 학문 분야도 있습니다. 학생들이 논문 작성을 돕기 위해 ChatGPT와 같은 인공지능 도구를 사용하는 것은 새로운 것이 아닙니다. 그러나 현 단계에서 AI가 작성한 논문은 여전히 ​​참신함, 논리적 표현, 심지어 참고문헌이 부족하다는 점 등 많은 단점을 갖고 있을 수 있습니다. AI가 무분별하게 꾸며낸 일이다. 그러한 학문적 성취는 전혀 가치가 없을 뿐만 아니라 오히려 학문적 부정행위 현상을 더욱 악화시킨다.

관련 위험에 직면하면 개선 조치뿐만 아니라 예방 조치도 취해야 합니다. 중국 사이버 공간 관리국이 공포한 '인터넷 정보 서비스 심층 합성 관리 규정'은 올해 1월 10일 공식적으로 시행되었습니다. 이 규정은 주로 심층 합성 서비스 제공업체가 지능적인 대화와 합성 인간을 제공해야 하는 의무를 규정하고 있습니다. 정보 콘텐츠의 기능을 생성하거나 크게 변경하는 음성, 얼굴 생성, 몰입형 시뮬레이션 장면 및 기타 서비스는 대중의 혼란이나 오해를 피하기 위해 명확하게 표시되어야 합니다. 위험을 예방하려면 먼저 기술 개발자와 서비스 제공업체부터 시작해야 한다는 것을 알 수 있습니다.

개인의 경우 얼굴, 지문, 음성 등의 생체정보는 물론 신분증, 은행카드, 소셜미디어 계정 등의 개인정보 보호가 점점 더 중요해지고 있습니다. 지인이 온라인으로 송금을 요청할 경우 여러 번의 인증을 거쳐 본인 여부를 확인해야 하는데, 특히 AI 기술에 대해 잘 모르는 노인의 경우 더욱 그렇다.

사진 제공: 비주얼 차이나

출처: 베이징 데일리 고객 기자: Yuan Jing

프로세스 편집기: u060

위 내용은 판사는 상기시킨다 - AI 기술의 오용으로 인한 법적 위험을 주의하라의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!