Penipuan pertukaran muka AI menipu 4.3 juta yuan Dengan serta-merta pakar pengguna mengesyorkan tiga langkah pertahanan

Baru-baru ini, Biro Keselamatan Awam Bandar Baotou mengumumkan bahawa Encik Guo, wakil sah sebuah syarikat teknologi di Fuzhou, telah ditipu sebanyak 4.3 juta yuan dalam masa 10 minit disebabkan AI menukar wajah, mencetuskan perbincangan hangat yang meluas mengenai keselamatan kecerdasan buatan.

Dalam hal ini, Feng Yue, pakar teras pintar Institut Penyelidikan Kecerdasan Buatan Pengguna Masha, berkata, "Fungsi teras anti-pemalsuan hidup, pengenalan perantara dan teknologi lain adalah untuk

mengelakkan kekurangan pengecaman muka dan mengenal pasti orang secara berkesan Foto, video, topeng, model simulasi, dsb., terutamanya penipuan menukar wajah dan suara yang berlaku dalam kejadian ini.”

Mengenai potensi risiko yang dibawa oleh AI, "AI Godfather" Hinton pernah berkata dalam temu bual dengan New York Times, "Berbanding dengan perubahan iklim,

AI mungkin menimbulkan ancaman 'lebih mendesak' kepada manusia ”

Berdasarkan realiti, kenyataan ini bukan "penggera". "Kejahatan" dalam Kotak Pandora secara beransur-ansur muncul Pada masa yang sama, AIGC dengan pantas mempromosikan pembangunan AI ke peringkat baharu.

Berhati-hati dengan "kejahatan" teknologi: Melihat tidak semestinya percaya

Menurut akaun awam WeChat "Safe Baotou", Biro Siasatan Jenayah Siber Telekomunikasi Biro Keselamatan Awam Bandar Baotou mengumumkan kes penipuan telekomunikasi Encik Guo, wakil sah sebuah syarikat teknologi di Fuzhou

telah ditipu sebanyak 4.3 juta yuan dalam masa 10 minit, mujurlah, dana yang ditipu sebanyak 3.3684 juta yuan telah dipintas, dan "teknologi AI pintar mengubah wajah dan onomatopoeia" telah digunakan. Bagaimana mereka melakukannya? Ini adalah proses yang rumit Dari perspektif berita itu sendiri, mangsa Encik Guo

terutamanya ditipu oleh teknologi mengubah wajah dan teknologi onomatopoeia

, tetapi mungkin terdapat beberapa perkara lain di sebalik kejadian itu. . Syarat, seperti melalui saluran mana penjenayah menjalinkan hubungan dengan mangsa, cara mendapatkan akaun perisian sosial yang berkaitan, cara mengetahui siapa yang dia perlu menyamar, cara mendapatkan imej dan bahan bunyi yang sepadan, dan cara memilih mangsa. Jika kita menumpukan pada dua isu utama

teknologi perubahan wajah dan teknologi onomatopoeia

, masalah utama ialah mendapatkan data asas, rangka kerja latihan dan pemaparan masa nyata. Pada peringkat data, maklumat audio dan video penyamar boleh diperolehi daripada perpustakaan kejuruteraan sosial seperti media sosial, atau ia boleh diekstrak daripada album foto dan sejarah sembang telefon hitam yang hilang. Dari segi rangka kerja latihan, perisian penyuntingan beberapa platform video pendek domestik arus perdana kini menyokong kesan khas menukar muka tanpa mesej amaran Terdapat lebih daripada 30 kaedah sintesis dalam rangka kerja sumber terbuka asing. Dari segi rendering masa nyata, rendering yang dirampas juga boleh dicapai melalui operasi serangan seperti menghidupkan telefon dan memasang perisian yang mengganggu. Oleh itu,

“Melihat tidak semestinya percaya”

Sentiasa ada “kejahatan” yang disengajakan di sebalik teknologi, yang mesti dijaga.

Cucuk-cucuknya dan kalahkan "sihir"

dengan kaedah "魔" Risiko tidak dapat dielakkan, jadi bagaimana kita boleh menggunakan "sihir" untuk mengalahkan "sihir"?

Pada masa ini, banyak institusi kewangan mempunyai langkah pelaksanaan yang relevan dan aplikasi teknologi yang berkaitan. Contohnya

In vivo anti-pemalsuan, pengenalan perantara dan teknologi lain juga telah digunakan dalam senario perniagaan kewangan.

“Fungsi teras anti-pemalsuan langsung, pengecaman perantara dan teknologi lain adalah untuk

mengelakkan kekurangan pengecaman muka

dan mengenal pasti foto, video, topeng, model simulasi, dsb. secara berkesan, terutamanya yang muncul dalam insiden ini. dan berkesan mencegah maklumat palsu , agensi perantara, aplikasi palsu, pinjaman jangka panjang, penipuan telekomunikasi dan risiko lain “. Berbanding dengan institusi kewangan pada penghujung proses keseluruhan, perisian sosial bertanggungjawab untuk memperkenalkan mekanisme pemalsuan dan memberikan peringatan pengesahan panggilan masa nyata kepada pengguna untuk menandakan sama ada pengguna sebaya mempunyai tingkah laku yang tidak normal atau pemalsuan imej yang tidak normal pemalsuan. Maklumat amaran risiko lebih awal boleh mencegah berlakunya keputusan risiko dengan lebih berkesan.

Selain pelaksanaan yang berkaitan dengan platform, orang ramai juga boleh mengambil beberapa langkah bantu diri Pada masa ini, terdapat jenis teknologi yang boleh melindungi data pengguna daripada digunakan untuk menukar muka atau menukar suara teknologi dipanggil

Teknologi Sampel Adversarial

. Mengambil imej muka manusia sebagai contoh, teknologi mengubah wajah boleh menjadi tidak berkesan dengan mencampurkan topeng gangguan musuh yang tidak dapat dilihat dengan mata kasar ke dalam imej. Pengguna boleh menggunakan teknologi jenis ini untuk melindungi maklumat media mereka seperti imej dan suara di media sosial sebelum menjadikannya umum. Akhir sekali,

"Kesedaran berjaga-jaga" adalah asas kepada semua "sihir"

, dan orang ramai juga perlu mengukuhkan perlindungan keselamatan harta benda dan maklumat peribadi.

“Jangan klik pada pautan mesej teks yang tidak dikenali, pautan e-mel, dsb., jangan imbas kod QR daripada sumber yang tidak diketahui, muat turun APP, jangan mudah memberikan muka anda dan maklumat biometrik peribadi lain kepada orang lain, jangan' t mendedahkan kad pengenalan, kad bank, kod pengesahan dan maklumat lain anda dengan mudah, dan jangan terlalu mendedahkan atau berkongsi animasi, video, dsb.," saran Feng Yue. "Tiada jaminan bahawa telefon mudah alih dan peranti mudah alih lain tidak akan hilang. Anda boleh mengosongkan rekod sembang WeChat secara kerap, menyembunyikan jejak yang berkaitan dengan orang yang mempunyai hubungan rapat dengan anda, menyulitkan album foto telefon mudah alih atau mengaktifkan fungsi perlindungan data anda telefon bimbit. Tingkah laku harian ini boleh menyebabkan penipuan di luar

Ia mengambil masa yang lama untuk mencapai kejayaan, langkah demi langkah. Mencegah "penyalahgunaan" teknologi kecerdasan buatan akan kekal sebagai isu teras dalam era digital.

Sumber: Maklumat Industri Kewangan

Atas ialah kandungan terperinci Penipuan pertukaran muka AI menipu 4.3 juta yuan Dengan serta-merta pakar pengguna mengesyorkan tiga langkah pertahanan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!