Penjana Imej AI: Ancaman Keselamatan Siber yang Muncul

Kecerdasan buatan (AI) berpotensi mengubah sifat masyarakat. Walaupun alat kecerdasan buatan telah membawa kita banyak jangkaan, kita juga perlu berwaspada dalam banyak aspek. Sebagai contoh, penjenayah siber dan pelakon ancaman lain menggunakan kecerdasan buatan, malah penjana imej AI tidak kebal daripada penyalahgunaan.

Apakah penjana imej AI? Bagaimana mereka bekerja? Jika anda pernah menggunakan penjana imej AI, ia cukup jelas tentang semua itu. Walaupun anda tidak pernah menggunakannya, anda mungkin menemui imej yang dijana AI di media sosial dan di tempat lain. Perisian popular hari ini berfungsi dengan sangat mudah: pengguna memasukkan teks, dan kecerdasan buatan menjana imej berdasarkan teks tersebut.

Dalam beberapa tahun kebelakangan ini, dengan perkembangan teknologi kecerdasan buatan, kebanyakan penjana teks-ke-imej menggunakan model penyebaran, yang bermaksud bahawa mereka menerima "latihan" berjam-jam , yang merupakan sebab utama mengapa kerja mereka sangat mengagumkan dan realistik yang menakjubkan.

Apa yang menjadikan alatan AI ini lebih mengagumkan ialah ia bukan sahaja mengubah suai imej sedia ada atau menggabungkan beribu-ribu imej menjadi satu, tetapi juga mencipta imej asal baharu dari awal. Lebih ramai orang menggunakan penjana teks-ke-imej ini, lebih banyak maklumat yang mereka dapat dan lebih baik ciptaan mereka.

Sudah ada banyak penjana imej AI yang terkenal: WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor dan Craiyon. Gergasi teknologi - termasuk Google - mengeluarkan mereka sendiri, jadi kami hanya boleh membuat spekulasi bahawa lebih banyak nilai akan datang pada masa hadapan.

4 Cara Mengancam Pelakon Mempersenjatai Penjana Imej AI

Seperti hampir semua teknologi, penjana imej AI boleh disalahgunakan oleh pelakon yang berniat jahat. Malah, mereka telah digunakan untuk pelbagai tujuan jahat. Tetapi sebenarnya apakah jenis penipuan yang boleh dilakukan oleh penjenayah dengan bantuan penjana imej AI?

1. Kejuruteraan Sosial

Salah satu perkara yang boleh dilakukan oleh pelakon ancaman dengan penjana imej AI ialah melibatkan diri dalam kejuruteraan sosial sebagai contoh, mencipta profil media sosial palsu . Sesetengah program ini boleh mencipta imej yang sangat realistik yang kelihatan seperti foto sebenar orang sebenar, dan penipu boleh menggunakan profil media sosial palsu ini untuk tujuan pancingan data.

Tidak seperti foto orang sebenar, foto yang dijana AI tidak boleh ditemui melalui carian imej terbalik Penjenayah siber tidak perlu menggunakan bilangan foto yang terhad untuk memperdaya sasaran – menggunakan AI, mereka boleh menjana sebarang bilangan foto. , Bina identiti dalam talian yang menarik dari bawah.

Walau bagaimanapun, dalam kehidupan sebenar, pelakon ancaman boleh menggunakan penjana imej AI untuk menipu orang. Pada April 2022, blogger Tech Talk Ben Dickinson menerima e-mel daripada firma guaman yang mendakwa bahawa dia telah menggunakan imej tanpa kebenaran. Peguam menghantar e-mel notis pelanggaran hak cipta DMCA, memberitahu Dickinson dia perlu memaut kembali kepada pelanggan mereka atau mengalih keluar imej itu.

Dickinson melayari Google firma guaman dan menemui tapak web rasmi. Semuanya kelihatan benar-benar sah; laman web itu malah mempunyai foto 18 peguam, termasuk biografi dan kelayakan mereka. Tetapi semua ini tidak benar. Foto-foto itu semuanya dihasilkan oleh kecerdasan buatan, dan notis pelanggaran hak cipta yang didakwa telah dihantar oleh seseorang yang berharap dapat memeras pautan balik daripada blogger yang tidak curiga.

2. Penipuan Amal

Apabila gempa bumi yang dahsyat melanda Turki dan Syria pada Februari 2023, berjuta-juta orang di seluruh dunia menyatakan rasa terima kasih mereka dengan menderma pakaian, makanan dan wang Perpaduan dengan mangsa.

Penipu mengambil kesempatan daripada ini, menggunakan kecerdasan buatan untuk mencipta imej realistik dan meminta derma, menurut laporan BBC. Seorang penipu menunjukkan imej runtuhan yang dijana AI di TikTok Live, meminta penonton mereka untuk derma. Seorang lagi menyiarkan imej yang dijana oleh AI tentang seorang anggota bomba Yunani menyelamatkan kanak-kanak yang cedera daripada runtuhan dan meminta pengikutnya untuk menderma.

Seseorang hanya boleh membayangkan jenis penipuan amal yang akan dijalankan oleh penjenayah dengan bantuan kecerdasan buatan pada masa hadapan, tetapi satu perkara yang pasti, mereka hanya akan menjadi lebih baik dalam menyalahgunakan perisian.

3 Deepfake dan disinformasi

Kerajaan, kumpulan aktivis dan badan pemikir telah lama memberi amaran tentang bahaya penjana imej AI deepfake kerana tiada apa yang boleh menghalang ejen disinformasi daripada mencipta palsu imej dengan bantuan bot dan mempromosikannya di media sosial.

Pada Mac 2022, video palsu yang menggambarkan presiden Ukraine memberitahu rakyat Ukraine untuk menyerah diri diedarkan dalam talian, menurut NPR. Walaupun ini hanyalah satu contoh, kemungkinannya hampir tidak berkesudahan dan terdapat banyak cara pelakon ancaman boleh merosakkan reputasi seseorang, mempromosikan naratif palsu atau menyebarkan berita palsu dengan bantuan kecerdasan buatan.

4. Penipuan pengiklanan

Penyelidik Trend Micro mendapati pada tahun 2022 bahawa penipu menggunakan kandungan yang dijana AI untuk membuat iklan yang mengelirukan dan mempromosikan produk yang teduh. Mereka mencipta imej yang mencadangkan selebriti popular menggunakan produk tertentu dan menjalankan kempen pengiklanan berdasarkan imej tersebut.

Sebagai contoh, iklan untuk "Peluang Nasihat Kewangan" menampilkan pengasas dan CEO Tesla. Sudah tentu, Musk tidak pernah mengesahkan produk yang dipersoalkan, tetapi rakaman yang dihasilkan oleh AI menjadikannya kelihatan seperti ini, mungkin untuk menarik penonton yang tidak curiga supaya mengklik pada iklan tersebut.

Kecerdasan Buatan dan Keselamatan Siber: Isu Kompleks yang Perlu Kami Selesaikan

Melihat ke hadapan, pengawal selia kerajaan dan pakar keselamatan siber mungkin perlu bekerjasama untuk menangani kemunculan ancaman jenayah siber yang dipacu AI. Tetapi bagaimanakah kita boleh mengawal selia AI dan melindungi orang biasa tanpa menyekat inovasi dan mengehadkan kebebasan digital? Isu ini akan menjadi terkenal pada tahun-tahun akan datang.

Sehingga anda mendapat jawapan, lakukan apa yang anda boleh untuk melindungi diri anda: teliti apa sahaja yang anda lihat dalam talian, elakkan tapak web yang boleh dipersoalkan, gunakan perisian keselamatan, pastikan peranti anda dikemas kini dan belajar menggunakan Gunakan kecerdasan buatan untuk anda kelebihan.

Tajuk asal: AI Image Generators: An Emerging Cybersecurity Threat

Penulis asal: DAMIR MUJEZINOVIC

Atas ialah kandungan terperinci Penjana Imej AI: Ancaman Keselamatan Siber yang Muncul. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!