Katakan tidak kepada prasangka dan ketidaksamaan! Microsoft berhenti menawarkan perkhidmatan pengecaman muka yang kontroversial

Microsoft berkata ia akan menghentikan akses kepada beberapa alat pengecaman muka yang dikuasakan kecerdasan buatannya, termasuk perkhidmatan yang mengenali emosi berdasarkan video dan imej.

Apabila Microsoft mengumumkan keputusan ini beberapa hari yang lalu, ia turut mengeluarkan "Standard Kecerdasan Buatan Bertanggungjawab" 27 halaman . Untuk memenuhi piawaian ini, Microsoft telah mengehadkan akses kepada beberapa alat pengecaman muka, termasuk yang disediakan oleh perkhidmatan API AzureFace, Penglihatan Komputer dan Pengindeks Video.

Microsoft berkata pengguna baharu tidak akan mempunyai akses kepada ciri ini, manakala pelanggan sedia ada perlu berhenti menggunakannya menjelang akhir tahun.

Teknologi pengecaman muka telah menjadi kebimbangan utama bagi kumpulan hak sivil dan privasi. Penyelidikan sebelum ini telah menunjukkan bahawa teknologi pengecaman muka adalah jauh dari sempurna, sering tersilap mengenal pasti subjek wanita dan orang yang berkulit gelap pada kadar yang tidak seimbang. Ini boleh membawa kepada potensi masalah yang ketara apabila AI digunakan untuk mengenal pasti suspek jenayah dan situasi pengawasan lain.

Penggunaan alat kecerdasan buatan untuk mengesan emosi adalah lebih kontroversi. Awal tahun ini, Zoom Video Communications Inc mengumumkan bahawa ia sedang mempertimbangkan untuk menambah keupayaan "kecerdasan buatan emosi", dan kumpulan privasi Fight for the Future melancarkan kempen menggesa Zoom untuk tidak berbuat demikian kerana kebimbangan bahawa teknologi itu boleh disalahgunakan.

Kontroversi seputar pengecaman muka telah mendapat perhatian daripada syarikat teknologi, dengan Amazon Web Services Inc. dan induk Facebook Meta Platforms Inc. kedua-duanya mengurangkan penggunaan alatan tersebut.

Natasha Crampton, ketua pemimpin kecerdasan buatan di Microsoft, berkata dalam catatan blog bahawa Microsoft mengiktiraf bahawa untuk sistem kecerdasan buatan boleh dipercayai, sistem kecerdasan buatan mestilah penyelesaian yang sesuai untuk masalah yang dihadapi. bertujuan untuk menyelesaikan. Pengecaman muka dianggap penyelesaian yang tidak sesuai, kata Crampton, dan Microsoft akan menangguhkan perkhidmatan Azurenya yang menyimpulkan "keadaan emosi dan atribut identiti seperti jantina, umur, senyuman, rambut muka, rambut dan solek."

Beliau juga berkata, “Sistem AI berpotensi untuk memburukkan lagi berat sebelah dan ketidaksamaan sosial, boleh dikatakan salah satu kemudaratan yang paling dikenali secara meluas yang dikaitkan dengan sistem ini tidak mengejar risiko unik AI atau sosial keperluan. Kami melihat tanda-tanda bahawa tindakan kerajaan terhadap AI semakin berkembang, tetapi kami juga menyedari bahawa kami mempunyai tanggungjawab untuk bertindak.”

Penganalisis mempertimbangkan sama ada keputusan Microsoft adalah keputusan yang baik . Charles King of Pund-IT memberitahu pemberita bahawa selain kontroversi mengenai teknologi pengecaman wajah, kesan alat pengelasan dan pemprofilan kecerdasan buatan sering tidak memuaskan dan jarang mencapai hasil yang didakwa oleh penciptanya. "Sama pentingnya," kata King, "pelarian dan orang kulit berwarna yang mencari kehidupan yang lebih baik diserang di banyak tempat, dan potensi alat profil untuk disalahgunakan adalah sangat tinggi. Oleh itu, saya percaya bahawa Microsoft mengehadkan penggunaan ini jenis alat." Keputusan itu masuk akal."

Rob Enderle dari Kumpulan Enderle berkata ia mengecewakan untuk melihat Microsoft menjauhkan diri daripada pengecaman muka, alat yang telah jauh daripada banyak kesilapan awalnya . Beliau berkata publisiti negatif yang menyelubungi pengecaman wajah telah memaksa beberapa syarikat besar untuk menjauhkan diri daripada bidang tersebut.

Enderle berkata, “Teknologi pengecaman wajah berasaskan kecerdasan buatan terlalu berharga untuk menangkap penjenayah, pengganas dan pengintip, jadi agensi kerajaan tidak akan berhenti menggunakan teknologi ini Walau bagaimanapun, pengunduran Microsoft Bermakna mereka akan menggunakan alat daripada syarikat pertahanan pakar atau vendor asing, yang berkemungkinan tidak berkesan dan tidak mempunyai kawalan yang sama seperti yang telah dikeluarkan oleh jin, dan membunuh teknologi pengecaman muka hanya akan memburukkan lagi keadaan masyarakat secara keseluruhannya tidak mendapat manfaat daripada ini.

Microsoft berkata piawaian kecerdasan buatannya yang bertanggungjawab tidak terhad kepada pengecaman muka. Microsoft juga akan menggunakan piawaian ini pada Azure AI Custom Neural Speech, perkhidmatan pertuturan ke teks yang boleh digunakan untuk menggerakkan alat transkripsi. Microsoft menjelaskan bahawa kajian Mac 2020 mendapati bahawa komuniti Afrika-Amerika dan kulit hitam mempunyai kadar ralat yang lebih tinggi apabila menggunakan perisian, dan sehubungan dengan ini, Microsoft telah mengambil langkah untuk menambah baik perisian tersebut.

Atas ialah kandungan terperinci Katakan tidak kepada prasangka dan ketidaksamaan! Microsoft berhenti menawarkan perkhidmatan pengecaman muka yang kontroversial. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!