Alat FACET sumber terbuka Meta untuk menilai berat sebelah kaum dan jantina dalam model AI

IT House melaporkan pada 2 September bahawa untuk mengurangkan masalah berat sebelah sistemik terhadap wanita dan orang kulit berwarna dalam banyak model penglihatan komputer semasa, baru-baru ini melancarkan alat AI baharu yang dipanggil FACET untuk mengenal pasti sistem penglihatan komputer dan berat sebelah.

Alat FACET kini dilatih pada 30,000 imej, termasuk imej 50,000 orang Ia terutamanya meningkatkan persepsi jantina dan warna kulit dan boleh digunakan untuk menilai model penglihatan komputer pada pelbagai ciri.

Selepas latihan, alat FACET mampu menjawab soalan yang kompleks. Sebagai contoh, apabila subjek diiktiraf sebagai lelaki, ia boleh mengenal pasti lebih lanjut pemain papan selaju, serta kulit cerah atau gelap

Meta menggunakan FACET untuk menilai model DINOv2 dan model SEERv2 yang dibangunkan oleh syarikat, serta model OpenCLIP OpenAI Secara keseluruhannya, OpenCLIP berprestasi lebih baik daripada model lain dari segi jantina, manakala DINOv mempunyai prestasi yang lebih baik dalam pertimbangan umur dan warna kulit.

FACET sumber terbuka akan membantu penyelidik melakukan penanda aras yang serupa untuk memahami berat sebelah dalam model mereka sendiri dan memantau kesan langkah mitigasi yang diambil untuk menangani isu ekuiti. IT House melampirkan alamat siaran akhbar Meta di sini, dan pengguna yang berminat boleh membacanya secara mendalam. FACET sumber terbuka akan membantu penyelidik menjalankan penanda aras yang serupa untuk memahami kecenderungan yang terdapat dalam model mereka dan memantau kesan mengambil langkah penyelesaian yang saksama. IT House menyediakan pautan ke siaran akhbar Meta di sini. Pengguna yang berminat boleh membacanya secara mendalam

Atas ialah kandungan terperinci Alat FACET sumber terbuka Meta untuk menilai berat sebelah kaum dan jantina dalam model AI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!