Microsoft membanteras deepfakes, menambah 'ID' pada imej dan video yang dijana AI

IT House melaporkan pada 24 Mei bahawa Microsoft baru-baru ini telah melancarkan pelbagai perisian dan perkhidmatan berdasarkan kecerdasan buatan Pada bulan Mac, syarikat itu secara rasminya mengeluarkan Bing Image Creator, yang membolehkan pengguna mencipta karya seni menggunakan gesaan teks mudah. Pada bulan April, syarikat itu melancarkan beta awam penuh Microsoft Designer, membenarkan pengguna menggunakan gesaan teks dan model AI untuk membuat catatan blog, tapak web dan projek lain.

Walau bagaimanapun, terdapat juga kebimbangan bahawa penggunaan berniat jahat seni janaan AI boleh membawa kepada penyebaran maklumat palsu. Memandangkan semakin banyak imej dan video "deepfake" muncul, Microsoft telah memutuskan untuk mengambil langkah proaktif untuk memastikan seni AI yang dihasilkan secara prosedur dapat dikenal pasti. Hari ini, pada persidangan pembangun Microsoft Build 2023, syarikat itu mengumumkan bahawa ia akan menambah ciri dalam beberapa bulan akan datang yang akan membolehkan sesiapa sahaja mengenal pasti sama ada imej atau klip video yang dijana oleh Bing Image Creator dan Microsoft Designer telah dihasilkan oleh AI.

Menurut Microsoft, mereka menggunakan kriptografi untuk menandakan dan menandatangani kandungan yang dihasilkan oleh kecerdasan buatan dan menambah maklumat yang mengandungi maklumat metadata sumber. Microsoft telah menjadi peneraju dalam pembangunan kaedah untuk mengesahkan asal dan mengasaskan Project Origin dan badan piawaian Content Provence and Authenticity Alliance (C2PA). Microsoft akan menggunakan piawaian C2PA untuk menandatangani dan mengesahkan kandungan yang dijana untuk mengesahkan ketulenan sumber medianya. ”

Microsoft berkata ciri itu akan berfungsi dengan "format imej dan video utama" yang disokong oleh dua program penjanaan kandungan AInya, tetapi tidak mengumumkan format mana yang disokong. IT House sebelum ini melaporkan bahawa Microsoft mengumumkan awal bulan ini bahawa Bing Image Creator kini menyokong lebih daripada 100 bahasa dan program itu telah mencipta lebih daripada 200 juta imej.

Atas ialah kandungan terperinci Microsoft membanteras deepfakes, menambah 'ID' pada imej dan video yang dijana AI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!