Sukar untuk membezakan antara benar dan salah, menyebabkan kontroversi Apakah sempadan pengklonan suara AI yang boleh digunakan?

Baru-baru ini, ciptaan AI simulasi seperti Stefanie Sun dan Jay Chou telah menarik perhatian meluas di Internet dan dengan cepat membangkitkan perbincangan hangat di kalangan netizen. Oleh kerana sifatnya yang realistik, suara AI bukan sahaja boleh menghasilkan semula karya penyanyi terkenal, tetapi juga menimbulkan beberapa siri isu etika dan undang-undang, malah digunakan oleh penjenayah, menjadi cara penting untuk meningkatkan kadar kejayaan penipuan telekomunikasi.

Menurut Science and Technology Daily, dalam penipuan telekomunikasi, penipu menggunakan perisian AI untuk mengimbas rekod suara dan menyalinnya, dengan kadar ketepatan sehingga 99%. Data korpusnya diekstrak daripada video media sosial dan klip audio lain yang dimuat naik Selepas dimasukkan ke dalam perisian AI, ia boleh menjana suara dan menuturkan frasa atau ayat yang berbeza. Menurut sarjana asing, terdapat beberapa model dan algoritma yang boleh menghasilkan bunyi klon yang agak berkualiti tinggi dalam masa hanya 1 minit atau kurang. Jika model dan algoritma kecerdasan buatan yang lebih maju digunakan, bunyi yang dihasilkan akan menjadi lebih sukar untuk orang biasa membezakan antara benar dan palsu.

Apa yang lebih membimbangkan ialah apabila produk hitam dan kelabu seperti pengklonan suara AI, perubahan wajah AI dan kebocoran maklumat peribadi disepadukan sepenuhnya, penipu bukan sahaja boleh membentuk "gabungan" penipuan elektronik melalui video dan suara AI yang disintesis, tetapi juga menggunakan Maklumat peribadi yang telah dikuasai dan skrip penipuan yang sangat matang digunakan untuk menjana teks dialog yang disesuaikan secara mendalam, meningkatkan penipuan elektronik kepada "dunia selari" yang sukar untuk dicegah, dikesan, bangun dan tiada tempat untuk diperiksa. .

Selain itu, penggunaan audio klon AI dalam bidang artistik seperti penyanyi-penulis lagu, lagu dan muzik juga merupakan cabaran yang kuat kepada bidang hak cipta. Penghasilan ciptaan sekunder mungkin merupakan pelanggaran kepada pengarang bunyi asal Pada masa yang sama, pemilikan hak cipta karya itu juga tidak jelas dan sukar untuk menentukan sama ada ia milik manusia atau AI.

Sama seperti proses yang terus berulang dalam sejarah, teknologi didahulukan dan institusi mengikuti dalam tempoh norma dan peraturan kosong ini, bukan sahaja "pertumbuhan biadab" konvensional, tetapi juga kaedah yang tidak bertanggungjawab di sisi gelap. Tradisi juga akan dipecahkan oleh kemajuan dan diganti.

Atas ialah kandungan terperinci Sukar untuk membezakan antara benar dan salah, menyebabkan kontroversi Apakah sempadan pengklonan suara AI yang boleh digunakan?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!