Hakim mengingatkan - Berwaspada dengan risiko undang-undang penyalahgunaan teknologi AI

Teknologi kecerdasan buatan telah disepadukan secara senyap-senyap ke dalam setiap sudut kehidupan kita dalam beberapa tahun kebelakangan ini: fungsi biasa seperti perkhidmatan pelanggan suara pintar, sauh AI dan suara-ke-teks telah banyak meningkatkan kemudahan kerja dan kehidupan Apl melukis AI atau program kecil yang mengubah wajah juga mudah digunakan, membolehkan orang biasa merealisasikan impian mereka untuk menjadi bintang atau pelukis dalam satu saat, alat sembang yang dibangunkan di Amerika Syarikat pada akhir tahun lalu , menjadi sangat popular di seluruh dunia sebaik sahaja ia dikeluarkan. Walau bagaimanapun, teknologi sentiasa menjadi pedang bermata dua Berikutan insiden penutup "AI Stefanie Sun", baru-baru ini, seorang lelaki di Fujian telah ditipu sebanyak 4.3 juta yuan oleh seorang penipu menggunakan teknologi AI mengubah wajah dan onomatopoeia untuk berpura-pura menjadi rakannya. dan menipunya sebanyak 4.3 juta yuan melalui sembang video selama 10 minit, membuatkan orang ramai berfikir dengan lebih mendalam: Bagaimanakah teknologi AI seharusnya memberi manfaat kepada manusia? Apakah risiko undang-undang yang akan dibawa oleh penyalahgunaan teknologi, dan apakah jenis krisis amanah yang akan ditimbulkannya?

1. “Penciptaan” AI berisiko dilanggar

Niat asal pembangunan teknologi AI adalah untuk meningkatkan kehidupan manusia Dalam beberapa tahun kebelakangan ini, pemprosesan video, audio, imej dan teksnya telah beralih secara beransur-ansur dari makmal kepada orang ramai, mengubah pengeluaran dan gaya hidup orang ramai, dengan. pelbagai senario aplikasi dan permainan yang pelbagai Ia mempunyai prestasi yang luar biasa dalam mengurangkan kos, meningkatkan kecekapan, dan membebaskan produktiviti.

Ambil teknologi video AI sebagai contoh. Pada masa lalu, salah laku pelakon tertentu mungkin menyebabkan keseluruhan karya yang disertainya tidak dapat disiarkan sehingga menyebabkan kerugian kewangan kepada pihak penggambaran. Melalui teknologi AI, pelakon berkenaan boleh "berubah muka" selepas penggambaran kerja selesai, dan kehilangan itu boleh dihentikan tepat pada masanya. Dari segi pengeluaran kesan khas, pada masa lalu, AI hanyalah pembantu kepada artis kesan khas, tetapi kini terdapat pelbagai perisian yang boleh menjana kesan khas blockbuster dalam cara "seperti orang bodoh" kesan khas Filem telah memasuki "sivil era", dan orang biasa juga boleh mempunyai pengalaman indah membuat kesan khas mereka sendiri. Selain itu, teknologi AI juga boleh mencipta video "daripada tiada" berdasarkan hanya copywriting tanpa menambah gambar dan bahan video lain, memenuhi keperluan pencipta yang lebih pelbagai.

Semasa Festival Musim Bunga tahun ini, satu set gambar arnab kartun gebu dengan latar belakang merah menjadi popular dalam kalangan rakan-rakan dan menjadi kertas dinding dan avatar penyelamat skrin ramai orang. Semua gambar ini dihasilkan oleh teknologi lukisan AI. Banyak alat lukisan AI telah muncul dalam bidang reka bentuk dan lukisan Pengguna hanya perlu memasukkan arahan teks untuk mencapai "lukisan daripada teks" dan mendapatkan kerja yang baik dalam beberapa minit, yang meningkatkan kecekapan pengeluaran. Walau bagaimanapun, ini mungkin memberi kesan kepada industri hak cipta imej.

Secara umumnya, jika anda ingin menggunakan imej berhak cipta, termasuk lukisan dan fotografi, anda perlu membayar untuk menggunakannya secara sah, jika tidak, kes pelanggaran hak cipta akan berlaku, terutamanya dalam bidang pertikaian berkaitan media sendiri. Sesetengah akaun media sendiri telah menggunakan imej berhak cipta orang lain sebagai ilustrasi dalam iklan tanpa kebenaran, dan telah disaman oleh pemegang hak untuk mendapatkan pampasan Sesetengah agensi hak cipta juga mungkin sengaja menyembunyikan dan mendorong orang lain menggunakan imej berhak cipta, dsb. untuk mendapatkan fakta. Pelanggaran kemudiannya, mereka meminta pampasan daripada pihak yang satu lagi, memaksa mereka menandatangani kontrak tahunan atau memfailkan tuntutan mahkamah, menjadikan perlindungan hak sebagai cara mengaut keuntungan. Kemunculan teknologi lukisan AI boleh, pada tahap tertentu, membantu pengendali media sendiri mengawal kos dan mengurangkan risiko tindakan undang-undang yang disebabkan oleh penggunaan karya gambar yang tidak betul Sebaliknya, ia juga boleh mengganggu susunan pasaran hak komersial rantaian kerja gambar industri perlindungan merupakan satu tamparan.

Video AI yang disebut di atas, teknologi lukisan AI dan alat sembang "semua guna" ChatGPT yang boleh membantu orang menulis kertas, e-mel, skrip, puisi dan kod adalah semua aplikasi khusus teknologi sintesis mendalam, tanpa mengira sama ada orang mempunyai latar belakang profesional dan Pengalaman yang berkaitan, selagi anda mempunyai kemahiran ekspresi mudah, anda boleh "membuat" dengan bantuan alatan AI ini. Jadi, apakah pemilikan hak cipta bagi video, gambar dan karya teks yang dihasilkan ini? Malah, undang-undang hak cipta negara saya tidak menetapkan dengan jelas pemilikan hak cipta karya yang dijana menggunakan AI Walau bagaimanapun, banyak alatan AI telah menetapkan peraturan penggunaan yang sepadan untuk pemilikan hak karya yang dihasilkan Sesetengah perisian juga mempunyai peraturan untuk pengguna percuma dan pengguna berbayar. Pemilikan hak karya dan sama ada ia boleh dikomersialkan dibezakan, yang boleh dianggap sebagai kedua-dua pihak mencapai persetujuan mengenai isu hak cipta karya yang dihasilkan, dan pelupusan pengguna terhadap karya itu harus mematuhi perjanjian itu.

Selain itu, sesetengah orang juga mempersoalkan sama ada karya yang dihasilkan oleh AI melalui pembelajaran dan tiruan sampel besar-besaran akan melanggar hak undang-undang pemegang hak cipta karya terdahulu? Dalam hal ini, hakim Mahkamah Rakyat Pertengahan No. 4 Beijing percaya bahawa ia bergantung kepada sama ada tahap rujukan dan penggunaan kerja AI pada karya orang lain merupakan persamaan yang ketara. Jika ia hanya satu kajian dan tiruan teknik, peraturan, teknik dan gaya orang lain yang kreatif, sukar untuk mengenal pasti ia sebagai "plagiarisme." Walau bagaimanapun, jika ia adalah penyalinan mekanikal dan penyambungan karya orang lain, ia boleh menjadi pelanggaran. Oleh itu, berdasarkan penggunaan AI untuk mendapatkan inspirasi dan kreativiti pada peringkat awal, pencipta harus menyuntik idea, perspektif, emosi kemanusiaan dan lain-lain mereka sendiri, untuk mengubah kandungan secara substantif dan menjadikan pemilikan dan penggunaan seterusnya karya itu lebih selamat. .

2. AI "mengubah wajah" mungkin melanggar hak potret

Lelaran teknologi telah membolehkan banyak perkara mustahil, seperti halnya dengan "AI Stefanie Sun" yang telah meletup di Internet baru-baru ini. Ramai pencipta menggunakan timbre Stefanie Sun untuk melatih AI dan menggunakan timbre yang disintesis untuk membuat liputan karya penyanyi lain Stefanie Sun, yang tidak mengeluarkan album selama bertahun-tahun, serta-merta mempunyai lebih daripada seribu lagu penutup Malah dia sendiri mengatakan bahawa "manusia makhluk tidak dapat mengatasinya." Hanya di sudut." Jadi, adakah perlindungan AI ini sah?

Malah, suara nyanyian dan timbre penyanyi itu sendiri tidak termasuk dalam skop perlindungan di bawah Undang-undang Hak Cipta Walau bagaimanapun, Perkara 1023 Kanun Sivil menetapkan bahawa perlindungan suara orang asli hendaklah dikawal oleh peruntukan yang berkaitan. mengenai perlindungan hak potret, iaitu, tidak boleh menggunakan cara teknologi maklumat untuk memalsukan untuk melanggar hak orang lain untuk berbunyi.

Selain itu, sesetengah orang menuntut pengecualian atas alasan "untuk hiburan sahaja dan bukan untuk kegunaan komersial". Namun, mengikut peruntukan Perkara 42 Undang-undang Hak Cipta, pengeluar bunyi menggunakan karya muzik yang telah direkodkan secara sah sebagai rakaman bunyi oleh orang lain untuk membuat rakaman bunyi Anda boleh berbuat demikian tanpa kebenaran pemilik hak cipta, tetapi anda mesti membayar imbuhan mengikut peraturan Penafian bukan alasan untuk menghalang pelanggaran hak cipta. Selain itu, sesetengah orang akan menerima hasil platform atau ganjaran pengguna selepas memuat naik karya perlindungan AI Walaupun mereka tidak perlu membayar untuk mendengar, pengeluar memang mendapat pendapatan daripada ini, jadi sukar untuk menentukan karya mereka sebagai penggunaan adil di bawah undang-undang hak cipta. . "Pertunjukan percuma".

Dapat dilihat bahawa walaupun teknologi AI bagus, ia mesti dijaga daripada penyalahgunaan. Ada ketika selebriti seperti "Yang Mi" dan "Reba" sering muncul di bilik siaran langsung untuk membawa barangan, dan netizen yang bermata tajam melihatnya dengan sepintas lalu Ternyata ini adalah teknologi AI yang mengubah wajah , dan sesetengah orang cuba memakai "muka bintang" Tarik lebih ramai pengguna untuk memasuki bilik siaran langsung. Dengan berbuat demikian, walaupun terdapat trafik, ia juga melanggar hak sah dan kepentingan orang lain. Menurut Perkara 1019 Kanun Sivil, tiada organisasi atau individu boleh melanggar hak potret orang lain dengan memburuk-burukkan, memfitnah, atau menggunakan cara teknologi maklumat untuk memalsukan. Tanpa persetujuan pemegang hak potret, potret pemegang hak potret tidak boleh dihasilkan, digunakan atau didedahkan, melainkan diperuntukkan sebaliknya oleh undang-undang. Tanpa persetujuan pemegang hak potret, pemegang hak karya potret tidak boleh menggunakan atau mendedahkan potret pemegang hak potret dalam apa jua cara seperti menerbitkan, menyalin, mengedar, menyewa atau mempamerkan. Potret selebriti mempunyai nilai komersial yang lebih tinggi daripada orang biasa secara haram "memindahkan" potret selebriti ke sauh adalah sama dengan mendapatkan kesan selebriti pada kos sifar. Ia bukan sahaja melanggar hak potret selebriti yang wajahnya telah ditukar dan kepentingan ekonomi mereka mewakili, tetapi juga menjejaskan Pengendali lain yang membayar untuk menggunakan potret selebriti mengikut undang-undang juga jelas tidak adil.

Selain itu, beberapa netizen telah memuat naik gambar mereka sendiri dan menggantikan wajah pelakon filem dan drama televisyen dengan wajah mereka sendiri. Menurut peruntukan undang-undang hak potret, "pertukaran muka terbalik" juga merupakan tindakan melanggar hak potret orang lain dengan memalsukan cara teknologi maklumat. Khususnya, menukar wajah watak dalam filem dan drama televisyen dan memuat naik video ke Internet juga mungkin merupakan pelanggaran hak cipta seperti hak untuk menyebarkan maklumat filem dan televisyen dalam talian dan hak untuk melindungi integriti karya pemilik hak cipta yang berkaitan mungkin berhak untuk meneruskan liabiliti mereka dan mendapatkan pampasan.

Seorang hakim dari Mahkamah Rakyat Pertengahan No. 4 Beijing mengingatkan bahawa "mengubah wajah" juga boleh mencetuskan pertikaian lain mengenai hak keperibadian. Seorang penulis blog video baru-baru ini menggunakan teknologi AI mengubah wajah untuk menggantikan wajah protagonis lelaki dalam beberapa adegan intim filem dan siri televisyen dengan sendiri, menyebabkan ketidakselesaan kepada ramai netizen dan peminat pelakon itu. Adegan intim pelakon dalam drama adalah keperluan persembahan, yang dicerminkan dalam kontrak dan skrip Ia adalah tafsiran yang diperlukan untuk plot berdasarkan pengetahuan dan persetujuan pelakon. Walau bagaimanapun, tingkah laku penulis blog bukan sahaja membentuk kekasaran dan kesalahan kepada pelakon, tetapi juga boleh dianggap sebagai "melanggar kehendak orang lain dengan bahasa, tulisan, imej, tingkah laku fizikal, dan lain-lain seperti yang ditetapkan dalam Perkara 1010 Kanun Sivil." Yang lain melakukan gangguan seksual" dan menanggung liabiliti sivil. Apatah lagi, untuk "mencipta khabar angin lucah" atau mengaut keuntungan haram, potret selebriti wanita atau wanita biasa ditukar kepada video lucah, yang secara serius mencabul hak reputasi orang lain dan menyebabkan sakit jiwa yang besar kepada pihak berkenaan hendaklah dihukum mengikut undang-undang.

3. Fokus pada mencegah penggunaan AI untuk melakukan jenayah

Ketika orang ramai masih menerokai pelbagai kemudahan AI, penjenayah telah pun memberi tumpuan kepada teknologi ini. Menurut laporan, "rakan" WeChat Encik Guo dari Fujian menghubunginya melalui video dan berkata dia mahu meminjam deposit sebanyak 4.3 juta yuan. Berdasarkan kepercayaannya terhadap panggilan video itu, Encik Guo menyelesaikan pemindahan itu dalam masa 10 minit dan tidak lama kemudian mendapati dia telah ditipu. Ternyata penipu itu mula-mula mencuri akaun WeChat rakan-rakan Encik Guo, mengetahui tentang kekuatan kewangan Encik Guo, dan kemudian memperoleh wajah, suara dan maklumat lain "rakan" itu untuk sintesis kemudian, dan akhirnya menyelesaikan penipuan itu, menjadikannya sukar dikesan. Pada asalnya, komunikasi jarak jauh dicipta untuk kemudahan, tetapi penyalahgunaan teknologi AI telah mengurangkan kepercayaan orang ramai terhadap komunikasi dalam talian. Bayangkan, jika seseorang menggunakan teknologi AI untuk menghasilkan video haram, berita palsu, dll., ini sudah pasti akan memudaratkan sistem kepercayaan sosial.

Integriti adalah penting untuk memastikan keselamatan transaksi, tetapi penggunaan teknologi sintesis mendalam yang tidak betul boleh meningkatkan risiko lalai, terutamanya dalam bidang urus niaga berdasarkan pencapaian intelektual pihak yang satu lagi. Apabila karya pencipta ialah teks atau gambar yang dijana melalui alatan AI seperti ChatGPT dan Midjourney, keaslian karya itu mungkin cacat. Sebagai contoh, dari segi pelesenan hak cipta atau kontrak pemindahan, melainkan kedua-dua pihak dalam kontrak telah mencapai persetujuan mengenai penggunaan AI untuk penciptaan, karya sintetik tersebut mungkin merupakan prestasi yang rosak akibat keaslian yang tidak mencukupi, atau mungkin mempunyai kecacatan hak akibat pelanggaran. hak cipta orang lain Pihak atau penerima pindahan mungkin menyebabkan kerugian yang tidak perlu dalam penggunaan komersil karya tersebut.

Selain itu, kebolehcapaian teknologi AI juga akan meningkatkan bahaya moral. Hakim Mahkamah Rakyat Pertengahan Keempat Beijing berkata, berbanding dengan beban kerja yang diperlukan untuk individu menjalankan kerja intelektual bebas, kos masa, ekonomi dan tenaga adalah jauh berbeza antara beban kerja yang diperlukan untuk menyiapkan kerja menggunakan AI Jika menulis, melukis , dsb. Pengamal dalam bidang sangat bergantung pada AI untuk menyelesaikan kerja tanpa memaklumkan pelanggan yang membayar, dan masih memetik mengikut piawaian yang disiapkan oleh individu secara bebas Urutan persaingan sihat dalam industri berkaitan akan dipecahkan, dan etika profesional juga akan krisis. Sudah tentu, terdapat juga bidang akademik yang mempunyai kepentingan yang tinggi. Bukan sesuatu yang baru bagi pelajar untuk menggunakan alat kecerdasan buatan seperti ChatGPT untuk membantu dalam menulis kertas kerja. Walau bagaimanapun, pada peringkat ini, kertas yang dibuat oleh AI masih mempunyai banyak kekurangan, seperti kekurangan kebaharuan, ungkapan logik, dan juga rujukan AI telah mengada-adakannya bukan sahaja pencapaian akademik sebegitu tidak mempunyai nilai langsung, malah ia memburukkan lagi fenomena salah laku akademik.

Dalam menghadapi risiko yang berkaitan, kita bukan sahaja perlu membuat langkah pemulihan, tetapi juga mengambil langkah berjaga-jaga. "Peraturan Pengurusan Sintesis Dalam Perkhidmatan Maklumat Internet" yang diisytiharkan oleh Pentadbiran Ruang Siber China telah dilaksanakan secara rasmi pada 10 Januari tahun ini. Ia terutamanya menetapkan kewajipan penyedia perkhidmatan sintesis mendalam, yang memerlukan penyedia perkhidmatan sintesis yang mendalam untuk menyediakan dialog pintar dan manusia yang disintesis. suara, penjanaan wajah, adegan simulasi yang mengasyikkan dan perkhidmatan lain yang menjana atau mengubah fungsi kandungan maklumat dengan ketara hendaklah ditandakan dengan jelas untuk mengelakkan kekeliruan atau salah faham oleh orang ramai. Dapat dilihat bahawa untuk mengelakkan risiko, kita mesti bermula dengan pembangun teknologi dan penyedia perkhidmatan.

Bagi individu, perlindungan maklumat biometrik seperti muka, cap jari dan suara, serta maklumat peribadi seperti kad ID, kad bank dan akaun media sosial, telah menjadi semakin penting. Jika kenalan meminta pemindahan dalam talian, identiti mereka mesti disahkan melalui pelbagai pengesahan Ini terutama berlaku untuk warga tua yang tidak tahu banyak tentang teknologi AI.

Foto ihsan: Visual China

Sumber: Pelapor Pelanggan Harian Beijing: Yuan Jing

Editor Proses: u060

Atas ialah kandungan terperinci Hakim mengingatkan - Berwaspada dengan risiko undang-undang penyalahgunaan teknologi AI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!