Bagaimana untuk memastikan penggunaan beretika pelaksanaan AI?

Pertumbuhan ketara dalam automasi dan teknologi mesin (seperti kecerdasan buatan dan pembelajaran mesin) sudah pasti membawa skala dan tahap perkhidmatan baharu kepada organisasi.

Salah satu kelebihan yang mungkin kita semua jangkakan daripada AI ialah peluang untuk menghapuskan berat sebelah yang diterajui manusia dan menambah baik diskriminasi terhadap kumpulan minoriti. Walau bagaimanapun, jika tidak diurus dengan baik, AI boleh mengukuhkan lagi diskriminasi dengan membenamkan berat sebelah dalam algoritmanya.

Hari ini, mesin sering memutuskan sama ada kami layak untuk gadai janji atau dipantau oleh agensi penguatkuasa undang-undang atau syarikat insurans yang ingin memerangi penipuan. Pengaruh mereka juga meluas hingga memutuskan iklan yang anda lihat dalam talian - termasuk iklan pekerjaan untuk pekerjaan bergaji tinggi.

Terdapat banyak organisasi di mana kecerdasan buatan dalam sistem automatik tidak didokumenkan atau difahami dengan baik. Sudah tiba masanya untuk membuat keputusan automatik untuk keluar dari bayang-bayang dan bertanggungjawab.

Apabila keputusan automatik secara langsung atau tidak langsung memberi kesan kepada kehidupan orang ramai, dan mesin mungkin mendiskriminasi dengan cara yang berbahaya, organisasi mesti berdiri, mengambil perhatian dan mengambil tindakan untuk memastikan AI dilaksanakan secara beretika yang mungkin.

Langkah Satu

Perniagaan dan organisasi kerajaan harus berusaha untuk mendapatkan tahap perlindungan tertinggi daripada mana-mana teknologi mesin yang mereka gunakan. Pada permulaan mana-mana projek automasi, organisasi mesti menjalankan penilaian kesan undang-undang, privasi dan etika untuk mengesahkan bahawa risiko itu difahami sepenuhnya dan boleh dikurangkan dengan memuaskan. Ini juga memastikan bahawa penyelesaian yang paling sesuai dipilih untuk mewujudkan tahap risiko yang boleh diterima sambil menyampaikan nilai.

Log keluar pada penilaian ini harus dijalankan oleh pasukan penyemakan objektif pelbagai disiplin yang mempunyai kuasa veto ke atas sebarang aspek projek yang bermasalah, termasuk kaedah penggunaan, tahap automasi dan peluang rekursa. Penerapan mestilah proses kerjasama antara pasukan data/teknologi dan pasukan kepimpinan perniagaan untuk melaksanakan etika amalan terbaik dalam data dan analitik.

Pengerahan

Laporan Ombudsman menggariskan beberapa cadangan kukuh tentang amalan baik dalam reka bentuk dan pelaksanaan teknologi mesin. Namun begitu, kami percaya bahawa semua organisasi mempunyai kewajipan untuk mempertimbangkan sekurang-kurangnya amalan terbaik berikut:

• Kesaksamaan, ketelusan, tidak jahat, privasi, menghormati autonomi dan akauntabiliti Pertimbangan etika memerlukan sebarang pelaksanaan mana-mana mesin Organisasi teknologi mesti memastikan bahawa mereka berprestasi pada tahap ketepatan tertinggi untuk semua kumpulan yang terjejas
• Mempunyai mekanisme untuk menerangkan sebarang keputusan berdasarkan output model atau sistem;
• Adakan pengesanan dan proses untuk mengurangkan hasil yang berbahaya
• Orang ramai boleh memberikan persetujuan termaklum untuk mengambil bahagian dalam proses
• Terdapat mekanisme untuk mencabar sebarang hasil yang dianggap tidak adil.

Pembangunan dan penggunaan mana-mana teknologi mesin hendaklah berulang, bermula dengan semakan etika ketepatan berdasarkan data sejarah untuk memastikan prestasi yang konsisten merentas keseluruhan populasi sampel. Jika sesetengah kumpulan menunjukkan prestasi yang lebih teruk, lebih banyak data mesti dicari untuk memastikan perwakilan yang mencukupi bagi semua kumpulan.

Apabila risiko akibat berbahaya dikenal pasti, penggunaan harus sama berulang dan berhati-hati, bermula dengan penyelesaian manusia-dalam-gelung untuk memastikan pengawasan manusia sambil memperoleh keyakinan terhadap model atau prestasi sistem.

Ini bukan untuk mengatakan bahawa proses membuat keputusan manusia adalah tidak mudah. Ia hanya memberi peluang untuk memahami dan menyoal siasat output sebelum penggunaan. Proses ini harus dilakukan dengan pengendali yang paling dipercayai untuk mengurangkan kemungkinan memperkenalkan semula berat sebelah manusia ke dalam proses tersebut. Selain itu, setiap orang yang terlibat dalam proses itu harus mempunyai latihan berat sebelah tidak sedarkan diri.

Sebaik sahaja dalam pengeluaran, ketepatan dan prestasi berterusan mana-mana teknologi mesin mesti diukur dan dipantau secara berterusan. Bersama-sama dengan KPI sedia ada, prestasi ini harus dilaporkan dan boleh dilihat di seluruh organisasi.

Semakan

Mana-mana organisasi yang melaksanakan pembuatan keputusan algoritma perlu mempunyai proses semakan etika objektif yang merangkumi pertimbangan kuantitatif dan kualitatif. Prestasi model harus dipantau berdasarkan metrik etika ini untuk memahami anomali prestasi untuk kumpulan minoriti dan sebarang perubahan dalam prestasi dari semasa ke semasa. Model itu kemudiannya boleh disesuaikan dan disesuaikan secara berterusan sebagai sebahagian daripada proses operasi.

Walaupun pelaksanaan mungkin kelihatan menakutkan, organisasi mesti meningkatkan pemahaman dan pelaksanaan pertimbangan etika mereka dalam projek AI dan pembelajaran mesin mereka. Perniagaan harus menggunakan pendekatan "semakan masalah-langkah-penambahbaikan" untuk mengurus prestasi dan kesan keputusan automatik mereka untuk memastikan hasil yang beretika.

Atas ialah kandungan terperinci Bagaimana untuk memastikan penggunaan beretika pelaksanaan AI?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!