最近，模擬出來的孫燕姿和周傑倫等AI創作作品在網路上廣受關注，並迅速激起網友們的熱議。 AI聲音因其擬真性，不僅能復現知名歌手的作品，同時也引發了一系列倫理和法律問題，甚至被不法分子利用，成為了提升電信詐騙成功率的重要手段。
根據科技日報報導，在電信詐騙中，騙子使用AI軟體掃描語音記錄並複製，其準確率高達99%。其語料資料提取自社群媒體的影片和其他上傳音訊中的片段，輸入AI軟體後，可以產生聲音並說出不同短語或句子。根據國外學者的介紹，有一些模型和演算法只需要1分鐘甚至更短的時間就能產生一段相當高品質的克隆聲音。如果利用更先進的人工智慧模型和演算法，產出的聲音更難以讓一般人分辨真假。
更令人擔憂的是，當AI克隆聲音、AI換臉與個人資訊外洩等黑灰產全面合流，騙子不僅能透過合成的AI視訊和語音形成電詐“組合拳”，還能通過已掌握的隱私資訊、高度成熟的騙術劇本，產生深度客製化的對話文本，將電詐升級為難以防範、難以察覺、難以醒悟、無處可查的「平行世界」。
此外，將AI克隆音訊用於創作歌手、歌曲、音樂等藝術領域，也是對版權領域的強烈挑戰。二次創作品的產生可能會對原聲作者構成侵權，同時該作品的版權歸屬也同樣存在模糊難定的問題，究竟歸於人還是AI。
正如歷史上不斷重複的過程那樣，技術先行、制度隨後，中間這段規範和秩序的空白期內，不僅存在常規的“野蠻生長”，暗面的不擇手段，傳統也會被進步所打破並取代。
以上是真假難辨引爭議，AI語音複製的適用邊界在哪？的詳細內容。更多資訊請關注PHP中文網其他相關文章！
