Imej sintetik yang dijana oleh AI berleluasa dan sukar untuk dibezakan antara benar dan palsu. Pakar meminta pengawasan dasar menjadi penting

Berita pada 3 April, beberapa gambar bekas Presiden AS Trump ditahan polis New York baru-baru ini muncul di Internet, yang menarik perhatian ramai. Walau bagaimanapun, foto ini tidak nyata, tetapi imej sintetik yang dihasilkan oleh teknologi kecerdasan buatan (AI).

Pakar mengingatkan bahawa imej komposit ini menggambarkan realiti baharu: apabila peristiwa besar berlaku, media sosial boleh dibanjiri dengan imej dan video palsu, fakta yang mengelirukan dan mengelirukan orang ramai, adalah penting untuk menggunakan teknologi yang berkaitan dan merangka dasar yang berkaitan untuk mengawal selia teknologi yang serupa.

Menurut pemahaman IT House, foto "Trump Arrest" ini dicipta oleh Elliot Higgins, pengasas laman web "Ringcat", sebuah media penyiasatan sumber terbuka di Belanda, menggunakan alat lukisan AI Dihasilkan oleh Midjourney.

Higgins berkata dia mahu menggambarkan berita tentang kemungkinan penahanan Trump, jadi dia menggunakan Midjourney, model teks-ke-imej, untuk menjana beberapa foto yang kelihatan realistik dan menyiarkannya di bahagian Twitter. Tweet itu dilihat hampir 5 juta kali dalam dua hari dan menerima lebih 79,000 suka.

Walaupun teknologi untuk mencipta dan menjana imej palsu bukanlah baharu, kadar kemajuan teknologi dalam bidang tersebut dan cara orang menyalahgunakannya membimbangkan, kata pakar kecerdasan buatan. Munir Ibrahim dari syarikat analisis kandungan digital Truepic berkata, "Kandungan sintetik berkembang pesat, dan jurang antara kandungan sebenar dan palsu menjadi semakin sukar untuk dibezakan."

Majalah "Fortune" menegaskan bahawa pelbagai alatan penjanaan imej AI kini boleh dicapai, dan ia boleh menjana sejumlah besar imej seperti hidup dengan cepat selepas pengguna mengeluarkan arahan mudah. Contohnya, Midjourney, model teks-ke-imej, kini boleh menjana imej yang meniru gaya foto yang diambil oleh organisasi berita, jadi imej yang dijana AI ini berpotensi untuk mengotori perairan persekitaran berita yang bersepah.

Higgins percaya bahawa apabila imej sintetik menjadi semakin sukar untuk membezakan antara benar dan palsu, cara terbaik untuk memerangi maklumat visual palsu adalah untuk meningkatkan kesedaran orang ramai dan mengukuhkan pendidikan dalam bidang ini syarikat media sosial boleh memfokuskan pada Membangunkan baharu teknologi yang boleh mengenal pasti imej yang dijana AI dan menyepadukan teknologi ini ke dalam platformnya sendiri.

Percambahan imej palsu "Trump arrested" di internet juga menggambarkan kekurangan piawaian korporat atau peraturan kerajaan untuk menangani penggunaan AI untuk mencipta dan menyebarkan pembohongan. Pakar bersetuju bahawa profil tinggi Trump memudahkan orang ramai mengesan foto palsunya, tetapi gambar palsu orang biasa tidak begitu mudah dikesan, dan teknologi untuk mencipta foto palsu terus bertambah baik. Oleh itu, undang-undang adalah perlu untuk mengawal penggunaan teknologi sintesis mendalam.

Atas ialah kandungan terperinci Imej sintetik yang dijana oleh AI berleluasa dan sukar untuk dibezakan antara benar dan palsu. Pakar meminta pengawasan dasar menjadi penting. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!