Pemahaman mendalam tentang teknologi palsu mendalam: penerokaan dan penyelidikan IEEE

Kebanyakan orang yakin dalam mengenal pasti ketulenan, tetapi kemunculan deepfakes mungkin menjadikan keupayaan ini semakin sukar.

Deepfake ialah kandungan digital yang dicipta oleh kecerdasan buatan (AI), yang boleh merangkumi audio, video dan imej pegun serta kelihatan sangat nyata. Ia sering menggambarkan watak bercakap dan melakukan perkara yang tidak benar. Pakar keselamatan siber dan pakar teknologi semakin memberi amaran bahawa kandungan ini boleh digunakan dalam pelbagai cara yang berniat jahat, termasuk skim penipuan atau menyebarkan maklumat salah.

Tentukan risiko

Salah satu pakar bidang utama telah memberi amaran tentang kebangkitan deepfake ialah selebriti dan ahli politik, tetapi serangan juga boleh menyasarkan individu.

Ahli IEEE Rebecca Herold berkongsi anekdot yang menggambarkan risiko deepfakes. "Seorang kawan saya sedang dalam perjalanan perniagaan apabila dia mendapat panggilan daripada isterinya," kata Herold "Dia sangat kecewa, menangis teresak-esak dan memberitahunya dia telah mengalami kemalangan dan tidak mempunyai wang untuk memanggil tunda. Rakan saya hampir mempercayai panggilan itu dan bunyi seperti itu adalah isterinya Tetapi apabila rakan itu memberitahu isterinya bahawa dia perlu membuat pemindahan wayar ke syarikat trak tunda, dan selepas menutup telefon, dia mendail nombor telefon isterinya - dia berkata bahawa dia hampir ditipu, dan suara itu sangat nyata, tetapi isterinya sangat Selamat."

BERAPA JARI YANG SAYA TAHAN?

Sedangkan deepfakes boleh sangat meyakinkan, mereka sering meninggalkan petunjuk halus di belakang Mereka mungkin tidak sebenar

Ahli IEEE Yale Fox berkata: "Pada masa ini, deepfakes tidak dapat dibezakan sepenuhnya daripada video sebenar, tetapi kami semakin hampir. Kebanyakan orang masih boleh mengenal pasti video palsu."# 🎜🎜#

Kecerdasan buatan sangat baik dalam membentuk imej positif orang lain, tetapi masih terdapat masalah dengan butiran, seperti pemerhatian sisi dan belakang. Imej itu perlu dilihat dari semua sudut. Foto dan video palsu cenderung mempunyai lebih banyak gigi daripada gigi sebenar. Jika seseorang tersenyum atau menampakkan gigi, lihat betul-betul

• Foto dan video palsu juga sering memberi orang terlalu banyak atau terlalu sedikit jari. Berhati-hati untuk mengira bilangan jari pada subjek foto atau video anda.

Terdapat juga beberapa isu dengan teknologi deepfake apabila ia berkaitan dengan pandangan sisi dan sudut orang. Jika anda berkomunikasi dengan seseorang melalui video langsung dan anda mengesyaki itu palsu, anda boleh meminta mereka melihat ke tepi atau bertanya soalan yang akan membuat mereka menoleh, seperti: "Hei, saya suka dinding di belakang anda Lukisan itu pada. Artis yang mana?”

• Foto dan video palsu sering mengandungi ketidakkonsistenan, seperti pencahayaan, pantulan dan bayang-bayang.

• Video palsu selalunya mengandungi pergerakan yang pantas tetapi tidak wajar. Contohnya, cari/pergerakan tersentak yang luar biasa atau lompatan yang kelihatan mengikut masa.

Audio Deepfake selalunya mempunyai kualiti audio yang tidak semulajadi atau tidak konsisten, yang kadangkala mungkin berlaku

PERLUMBAAN UNTUK TEKNOLOGI BARU

Kemudaratan teknologi deepfake membawa kepada masyarakat telah mencetuskan gelombang penyelidikan ke atas alat pengesanan oleh kerajaan, universiti dan syarikat swasta Beberapa teknik menilai kandungan yang mencurigakan itu sendiri. Contohnya, sesetengah alat mungkin menilai aliran darah pada muka seseorang, mencari pengadunan atau kekaburan yang tidak semulajadi. Atau lihat pantulan mata seseorang untuk melihat sama ada ia sepadan dengan persekitaran mereka sebagai penunjuk keaslian. Perbincangan komprehensif yang dihoskan oleh Persatuan Pemprosesan Isyarat IEEE menunjukkan beberapa teknik ini dalam amalan.

Alat lain mungkin menyemak metadata fail untuk mengesan manipulasi

Ahli Kanan IEEE Kayne MGladrey berkata: “Begitu juga, mereka yang terlibat dalam ancaman palsu mungkin dipengaruhi oleh algoritma pengesanan adalah sangat penting di sini bahawa pengedar utama kandungan video dan audio melabur dalam menggunakan penyelesaian ini secara berskala untuk mengelakkan penyebaran maklumat salah atau salah maklumat."

Atas ialah kandungan terperinci Pemahaman mendalam tentang teknologi palsu mendalam: penerokaan dan penyelidikan IEEE. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!