Adakah penipuan AI adalah kadar kejayaan 100%? Model anti-deepfake 'kalahkan sihir dengan sihir'

Beberapa hari lalu, topik tentang penipuan AI dengan kadar kejayaan hampir 100%# telah menjadi sohor kini di Weibo. Wakil sah sebuah syarikat teknologi di Fujian telah ditipu sebanyak 4.3 juta yuan dalam masa 10 minit kerana dia menonton video yang dibuat menggunakan teknologi AI mengubah wajah.

Penipuan berkaitan AI juga berlaku di luar negara. E-mel dengan video CEO Google dilampirkan menyebabkan ramai penulis blog YouTube memuat turun fail yang mengandungi virus berbahaya.

Kedua-dua insiden penipuan ini melibatkan teknologi deepfake. Ini adalah kaedah mengubah wajah yang telah wujud selama 6 tahun Kini, ledakan teknologi AIGC telah memudahkan dan memudahkan untuk mencipta video palsu yang sukar dikenal pasti. Bagi industri kewangan di mana pengecaman muka digunakan secara meluas, mencegah serangan palsu mendalam juga amat penting.

Dalam industri kewangan, penipuan yang disebabkan oleh deepfake adalah terutamanya penipuan identiti, iaitu, menggunakan imej dan video palsu palsu untuk menyamar sebagai identiti orang lain, menipu sistem pengesahan identiti dalam proses kredit kewangan, dan kemudian melakukan penipuan dan pendaftaran berniat jahat. Pada masa ini, industri kewangan mempunyai kaedah dan penyelesaian teknikal yang agak matang untuk menangani deepfake, dan Du Xiaoman telah mengumpul pengalaman yang kaya dalam menangani deepfake.

Du Xiaoman memperkenalkan bahawa dalam beberapa tahun kebelakangan ini, trend penggunaan teknologi palsu mendalam untuk memintas proses pengecaman muka telah meningkat, menimbulkan ancaman tertentu kepada sistem pengesahan nama sebenar institusi kewangan. Membangunkan algoritma pengesanan "anti-Deepfake" dan menyerahkan pengesahan ketulenan kandungan kepada kecerdasan buatan ialah kaedah yang paling boleh dipercayai. Strategi algoritma model pengesanan Du Xiaoman untuk mencegah pemalsuan mendalam berjaya menyelesaikan masalah mencipta video palsu daripada tiga aspek.

Pertama ialah menjana kecacatan. Khususnya, disebabkan kekurangan data latihan yang berkaitan, model deepfake mungkin tidak dapat memaparkan beberapa ciri wajah manusia dengan betul, daripada kekerapan berkelip tidak normal kepada ketidakkonsistenan antara bentuk mulut dan suara, dsb. Dengan mereka bentuk algoritma analisis khusus, model pengesanan boleh mengekstrak ciri "pada asasnya boleh dilihat dengan mata kasar" dan melakukan analisis dan pertimbangan.

Yang kedua ialah sifat yang wujud. Memandangkan kamera yang berbeza mempunyai cap jari peranti yang berbeza, model seperti GAN juga akan meninggalkan cap jari yang unik untuk mengenal pasti penjana semasa menjana muka, jadi petunjuk boleh didapati melalui perbandingan.

Perincian ketiga ialah semantik peringkat tinggi. Ia merujuk kepada isu seperti pengesanan koordinasi unit tindakan muka (kumpulan otot), konsistensi orientasi pelbagai kawasan muka, dan kesinambungan mikroskopik video Oleh kerana butiran ini sukar untuk dimodelkan dan disalin, ia mudah ditangkap.

Sudah tentu, memandangkan satu ciri sukar untuk disesuaikan dengan kandungan deepfake yang kompleks, rangka kerja keseluruhan model pengesanan menggunakan gabungan pelbagai ciri untuk memastikan keteguhan dalam membuat keputusan.

Selain kelebihan sampel data, Du Xiaoman juga menggabungkan keasliannya sendiri, termasuk algoritma carian dan pengoptimuman rangkaian saraf, analisis ekspresi mikro dan teknologi lilitan graf (GCN), dan pra-latihan kendiri berasaskan pembinaan semula kaedah, membolehkan Model merealisasikan transformasi daripada "pemalsuan" kepada "keaslian".

Atas sebab ini, pada September tahun lepas, model pengesanan palsu anti-deep Xiaoman berjaya melepasi penilaian keselamatan pengecaman muka khas Akademi Teknologi Maklumat dan Komunikasi, dan memperoleh pensijilan cemerlang untuk keupayaan perlindungan keselamatan pengesanan langsung. Dari segi kesan khusus, ia boleh merangkumi pelbagai bentuk palsu dalam, termasuk pengaktifan gambar potret statik, penukaran wajah AI, sintesis muka palsu, dsb., mencapai panggilan semula lebih daripada 90% dengan kadar penggera palsu sebanyak seperseribu, yang ialah 99%+ ketepatan.

Memandangkan alat deepfake baharu terus muncul, industri kewangan akan menghadapi peningkatan dalam serangan deepfake. Du Xiaoman percaya bahawa lebih banyak teknologi pengesanan pemalsuan pada masa hadapan harus menumpukan pada ciri semantik perlombongan, ciri rentas modal, dsb., supaya model boleh menggunakan semantik peringkat tinggi dengan kebolehtafsiran yang kukuh untuk mengesan pemalsuan.

(Sumber: Guangming.com)

Atas ialah kandungan terperinci Adakah penipuan AI adalah kadar kejayaan 100%? Model anti-deepfake 'kalahkan sihir dengan sihir'. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!