Selfie anda mungkin disertakan dalam 'perpustakaan bahan imej tidak senonoh', dan kejahatan AI sebenarnya sangat dekat dengan anda!

Pengarang |

Sunting |

Imej pengepala |

* Gambar pengepala hari ini dibuat menggunakan Midjourney, dengan kata kunci "seorang gadis, duduk dalam bilik gelap menangis, gaya ilustrasi"

Jarak antara kita dan kejahatan adalah berkaitan dengan alat.

AI, alat (mungkin) paling berkuasa dalam sejarah, juga bersenjata sepenuhnya di tangan orang jahat. Bagi orang biasa, penambahan AI telah menjadikan semua jenis penipuan dan bahaya menjadi lebih sukar untuk dikawal.

Bayangkan, mana-mana figura atau pergerakan, wajah itu mungkin milik anda, adakah ia menakutkan?

Sfoto diri dan video yang disiarkan oleh individu di platform sosial boleh diproses dengan mudah oleh AI mengubah wajah dan teknologi lukisan AI, dan digunakan oleh penjenayah sebagai "bahan" untuk gambar dan video tidak senonoh, untuk dijual atau digunakan secara penipuan.

Fikirkan sekali lagi, maklumat yang anda lihat secara meluas semuanya dihasilkan dan diedarkan untuk tujuan tertentu, bukankah ia menakutkan?

Sukar untuk memberitahu ketulenan pelbagai tangkapan skrin dan rekod sembang yang diedarkan di Internet Apabila AI ditambahkan pada "penciptaan", gaya boleh ditiru, logiknya boleh menjadi konsisten sendiri, dan ia juga boleh beramai-ramai tanpa jemu. menghasilkan, pencemaran maklumat boleh dicapai dengan satu klik .

AI telah digunakan dalam insiden jahat berikut.

Model peta warna "diperhalusi" AI

1. Foto pornografi lembut kanak-kanak yang dihasilkan oleh AI muncul di platform sosial

Pada 16 Mei, blogger Weibo "Cyber ​​​​Shikuai Appraisal Office" menyiarkan bahawa didapati bahawa beberapa pengguna di stesen B telah memuat naik imej lucah lembut gaya realistik kanak-kanak yang disintesis oleh alat lukisan AI. Gadis-gadis dalam gambar yang dihasilkan berpakaian kurang dan berkelakuan tidak senonoh, dan pengguna akan berkongsi "pakej gambar" dalam ulasan dan kemas kini.

Selepas kejadian itu didedahkan, disebabkan laporan daripada pengguna, beberapa video telah dialih keluar dari rak, dan akaun pengguna yang berkaitan telah disekat.

Sumber gambar: Cyber ​​​​Ten Block Appraisal Office

2. Foto-foto di Pameran Komik CP29 "diperhalusi" untuk gambar tidak senonoh

Pada 6 Mei, seorang netizen menyiarkan siaran kepada penulis blog Weibo "Spring Short Man", mengatakan bahawa seorang netizen menyatakan rasa tidak puas hati dengan gambar cosplay yang diambil pada pameran komik hari itu di sebuah forum, jadi dia menggunakan alat lukisan AI dan Model LoRA (model penalaan halus), yang "memperhalusi" gambar amatur menjadi foto tidak senonoh "skirt-up" melalui pelarasan separa.

Selepas penyerahan diterbitkan di Weibo, ia telah dimajukan setinggi 21,000 kali.

Sumber gambar: Lelaki Pendek Kasuga melalui Weibo

Kebetulan pada 3 Mei, blogger DeadPrince dimaklumkan dalam mesej peribadi di Weibo bahawa swafotonya telah dijadikan model LoRA oleh orang yang tidak dikenali dan dimuat naik ke laman web perkongsian model lukisan Civil, dan seseorang menggunakan model itu untuk melukis gambar bogel .

Sumber: DeadPrince

AI menulis berita palsu

Pada 16 Februari, ChatGPT telah dibincangkan dalam kumpulan pemilik komuniti di Hangzhou Seorang pemilik cuba menggunakan ChatGPT untuk menulis siaran akhbar palsu, dengan kandungan umum ialah "Hangzhou akan membatalkan sekatan perjalanan mulai 1 Mac 2023 . Selepas itu, berita palsu ini telah discreenshot dan disebarkan oleh ahli kumpulan yang tidak memahami puncanya, malah menjadi carian hangat Akhirnya pihak polis campur tangan dalam siasatan dan pemilik perniagaan terbabit memohon maaf secara terbuka.

Sumber gambar: Voice of Zhejiang

AI berpura-pura menjadi selebriti untuk menipu

Pada 13 Mei, menurut laporan "Daily Mail", sebuah syarikat filem kecil Sepanyol, Peabody Films, menerima panggilan daripada pelakon terkenal Britain, Benedict Cumberbatch, mengatakan "Juan Fu" berminat dengan skrip filem dan ingin buat filem bersama.

Namun, syarikat perfileman itu beberapa kali menjemputnya untuk temu duga, tetapi "Juan Fu" menolaknya malah menawarkan yuran temu duga yang tinggi dan meminta syarikat itu menghantar 200,000 pound terlebih dahulu.

Merasakan sesuatu yang tidak kena, syarikat penerbitan filem mengesahkan dengan agensi "Juan Fu", dan hanya selepas pengesahan mereka mendapati bahawa ini adalah penipuan AI.

Menurut kakitangan syarikat filem itu, jika mereka hanya melihat panggilan suara, memandangkan persamaan suara adalah setinggi 100%, mereka benar-benar yakin bahawa pihak lain adalah "Quan Fu".

AI mengubah wajah untuk menjana video tidak senonoh

Pada 26 April, selebriti Internet "Caro Lailai_" menyiarkan di Weibo bahawa wajahnya "dicuri" oleh platform sosial luar, berpura-pura mendaftar akaun palsunya sendiri, dan peminat boleh menontonnya selagi mereka membayar video.

Dia juga mendapati bahawa banyak gambar selebriti, blogger dan juga amatur telah dijadikan video tidak senonoh untuk menghasilkan wang dengan cara ini. Mereka juga menyediakan perkhidmatan penyesuaian AI menggunakan teknologi AI laman web dalam talian, anda boleh mencapai ". satu saiz-muat-semua" "Butang untuk menanggalkan pakaian anda".

AI "Membuka pakaian sekali klik"

Pada 28 Mac, "Foto kereta bawah tanah wanita disebarkan oleh AI dengan satu klik pelucutan" menjadi carian hangat di Weibo Wanita dalam foto itu ialah seorang blogger Xiaohongshu, dan apa yang dipanggil "foto bogel" adalah dirinya pada Julai tahun lepas Foto yang dikongsi oleh Yue di platform.

Dalam gambar asal, dia berpakaian seperti biasa, tetapi seseorang yang berniat buruk menggunakan perisian AI untuk "membuka pakaian" dengan satu klik, dan sengaja menyebarkannya ke seluruh Internet, menyebabkan kesan negatif. Selepas kejadian itu tercetus, penulis blog telah mendapatkan perlindungan hak daripada jabatan berkaitan.

Sukar untuk membezakan keaslian kandungan AI, dan penyeliaan di dalam dan luar negara telah dipertingkatkan

Disebabkan oleh pempopularan teknologi AI, sejumlah besar kandungan yang dijana AI telah muncul pada platform media sosial utama Walau bagaimanapun, gambar dan video sebenar yang dihasilkan oleh AI, dan manuskrip teks yang sukar untuk dibezakan antara. benar dan salah mudah keliru jika anda tidak tahu banyak tentang teknologi AI.

Sebagai contoh, suatu ketika dahulu, seorang netizen luar negara menyiarkan satu set foto palsu "Fashion Pope" di platform Twitter yang menjadi tular. "Paus palsu" dalam gambar itu menanggalkan jubah tradisionalnya dan memakai jaket putih yang bergaya Sangat mudah bagi orang yang lalu-lalang yang tidak mengetahui kebenaran untuk salah faham bahawa ini adalah paus sebenar yang menukar pakaiannya, tetapi. ia sebenarnya dilukis menggunakan alat lukisan AI Midjourney.

Sumber imej: @skyferrori melalui twitter

Oleh kerana gambar yang dijana oleh kumpulan AI ini terlalu "panas" untuk mengelakkan orang yang lalu-lalang daripada salah faham, Twitter, sebagai platform, segera menandakan gambar tersebut sebagai "dijana AI".

Melihat di dalam dan luar negara, banyak platform baru-baru ini telah membuat susulan terhadap penyeliaan kandungan AI tepat pada masanya dan mengeluarkan spesifikasi dan langkah berkaitan kecerdasan buatan.

1 Douyin mengeluarkan "Spesifikasi Platform Douyin dan Inisiatif Industri mengenai Kandungan Dijana Kecerdasan Buatan"

Artikel 9 hingga 11 inisiatif industri ini menyebut pengenalan kandungan yang dijana AI dan keupayaan untuk mendaftar orang maya, dan membuka saluran maklum balas pengguna.

9. Platform ini akan menyediakan keupayaan pengenalan kandungan yang dijana oleh kecerdasan buatan bersatu untuk membantu pencipta menandai dan memudahkan pengguna membezakan.

10. Platform ini akan menyediakan keupayaan untuk mendaftar orang maya dan melindungi imej orang maya yang didaftarkan.

11. Platform ini akan menyediakan saluran maklum balas pengguna untuk memudahkan pengguna melaporkan kandungan yang dijana secara haram.

Artikel berkaitan: "Peraturan baharu Douyin berkuat kuasa!" Sauh maya akhirnya "sah" tetapi mereka mesti mendedahkan identiti mereka dan didorong oleh orang sebenar》

2. Xiaohongshu menambahkan logo penciptaan AI pada nota

Pada penghujung April, beberapa pengguna Xiaohongshu mendapati bahawa platform itu mula menandakan kandungan yang dijana AI, dan meminta pengguna untuk memberi perhatian kepada keasliannya.

Sumber gambar: Internet

3 Google mengumumkan penanda air bagi imej yang dijana oleh AI pada Persidangan Pembangun 2023

Google mengumumkan pada Persidangan Pembangun 2023 baru-baru ini bahawa ia akan memastikan bahawa setiap imej yang dijana oleh AI bagi syarikat itu mempunyai tera air terbenam Walaupun tera air tidak dapat dikenali dengan mata kasar, perisian seperti enjin carian Google boleh membacanya dan gunakannya sebagai Label dipaparkan untuk mengingatkan pengguna bahawa imej itu dihasilkan oleh AI. Ciri ini akan tersedia dalam beberapa bulan akan datang.

Selain itu, negara saya mengeluarkan "Kod Etika Kecerdasan Buatan Generasi Baharu" pada tahun 2021, yang melibatkan perancangan strategik, penggubalan dan pelaksanaan dasar, peraturan dan standard teknikal, peruntukan sumber, penyeliaan dan semakan, dsb. Dan pada bulan Mac tahun ini, Pentadbiran Ruang Siber China mengeluarkan "Peraturan mengenai Pengurusan Perkhidmatan Kepintaran Buatan Generatif (Draf untuk Komen)", yang mengawal selia tingkah laku penyedia perkhidmatan AI generatif, termasuk perlindungan hak dan kepentingan pengguna, maklumat jaminan keselamatan, teknologi Keselamatan dan keselamatan, dsb.

Melihat ke luar negara, kerajaan Itali mengenakan larangan sementara ke atas ChatGPT pada Mac tahun ini, memetik kebimbangan bahawa ia melanggar Peraturan Perlindungan Data Am EU. Pada 16 Mei, Ketua Pegawai Eksekutif OpenAI Sam Altman turut memberi keterangan di hadapan Senat A.S. tentang potensi bahaya teknologi AI, dan menggesa penggubal undang-undang untuk melaksanakan keperluan pelesenan dan peraturan lain untuk organisasi yang membangunkan sistem AI lanjutan seperti GPT-4.

Ketua Pegawai Eksekutif OpenAI muncul di Capitol Hill di Amerika Syarikat, meminta peraturan AI Sumber: Internet

Dapat dilihat bahawa kebanyakan pelanggaran ini masih dalam bidang maklumat. Di satu pihak, dari sudut material, ia adalah maklumat awam yang secara relatifnya tanpa pemilik Perkara-perkara yang pada asalnya dibincangkan di jalanan selepas makan malam, walaupun terdapat banyak kepalsuan dan sangkaan, tidak lebih daripada menyebar dari satu jalan ke itu. Tetapi seperti media sosial yang boleh menyebarkan maklumat Apabila orang buangan meningkat, orang jahat juga boleh menggunakan AI untuk menguatkan arus keruh sebaliknya, dari perspektif mangsa, kebanyakan mereka adalah orang biasa yang mempunyai kesukaran bercakap; dan tiada siapa yang akan membaca kenyataan mereka, dan lebih sukar untuk menghantar surat undang-undang. Walaupun undang-undang, peraturan dan platform sedang mengikuti penyeliaan teknologi AI, kos perlindungan hak untuk orang biasa masih sangat tinggi.

Masalahnya kembali kepada orang jahat Apabila mereka bersembunyi di sebalik Internet, ia menjadi satu kemestian untuk mengawal pisau di tangan mereka.

ps. Esok ialah 520

, sebagai pemain AI yang romantis, bagaimana saya boleh terlepas bunga mawar?

Balas kata kunci “520” atau “521” di bahagian belakang akaun awam “Number One AI Player”, dan anda akan secara rawak mendapat bunga mawar kotak buta yang dijana oleh AI

Atas ialah kandungan terperinci Selfie anda mungkin disertakan dalam 'perpustakaan bahan imej tidak senonoh', dan kejahatan AI sebenarnya sangat dekat dengan anda!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!