Mempraktikkan Penggunaan AI Bertanggungjawab: Empat Prinsip

Kecerdasan Buatan (AI) sedang mengubah setiap industri, dengan lebih daripada satu pertiga organisasi kini menghasilkan AI secara meluas atau secara terhad. Tetapi seperti mana-mana teknologi, AI datang dengan risiko ekonomi dan sosial yang ketara, seperti penyebaran berat sebelah tidak beretika, pencairan akauntabiliti dan pelanggaran privasi data.

Untuk mengelakkan risiko ini dan menggunakan AI secara bertanggungjawab, kedua-dua dasar kawal selia dan industri mempunyai tanggungjawab untuk membangunkan proses dan piawaian untuk pengamal dan pengguna yang bekerja di sekitar teknologi. Untuk tujuan itu, pasukan di Ethical AI dan ML Institute telah menyusun Prinsip AI Bertanggungjawab untuk memperkasakan pengamal untuk memastikan prinsip ini dibenamkan melalui reka bentuk ke dalam infrastruktur dan proses yang mengelilingi pengeluaran AI dan sistem pembelajaran mesin.

Artikel ini memecahkan empat daripada lapan prinsip: penilaian berat sebelah, kebolehjelasan, peningkatan buatan dan kebolehulangan.

Penilaian Bias

Model AI sememangnya berat sebelah dalam erti kata ia direka bentuk untuk menangani jawapan yang berkaitan secara berbeza. Itu kerana kecerdasan, pada terasnya, adalah keupayaan untuk mengenali dan bertindak mengikut corak yang kita lihat di dunia. Apabila membangunkan model AI, kami cuba meniru keupayaan tepat ini dan menggalakkan AI untuk menemui corak dalam data yang dimasukkan ke dalamnya dan membangunkan berat sebelah dengan sewajarnya. Sebagai contoh, model yang mengkaji data kimia protein akan mempunyai kecenderungan yang wujud terhadap protein yang strukturnya boleh dilipat dengan cara tertentu, dengan itu menemui protein mana yang berguna dalam kes penggunaan yang berkaitan dalam perubatan.

Oleh itu, kita harus berhati-hati apabila bersuara menentang kecenderungan AI. Apabila bercakap tentang topik berat sebelah dalam AI, kami biasanya merujuk kepada berat sebelah yang sebenarnya tidak diingini atau tidak munasabah, seperti berat sebelah berdasarkan ciri yang dilindungi seperti bangsa, jantina atau asal negara.

Tetapi mengapa model AI menghasilkan berat sebelah yang tidak beretika? Jawapannya bergantung pada data yang dimasukkan ke dalamnya. Model akhirnya akan mencerminkan bias yang terdapat dalam data latihan yang digunakan sebelum penggunaan, jadi jika data latihan tidak mewakili atau menggabungkan bias yang sedia ada, model yang terhasil akhirnya akan mencerminkannya. Seperti yang mereka katakan dalam sains komputer, "sampah masuk, sampah keluar."

Pasukan juga mesti mencipta satu set proses dan prosedur untuk mengenal pasti dengan betul sebarang berat sebelah yang tidak diingini di sekitar keberkesanan data latihan AI, latihan dan penilaian model itu sendiri, dan kitaran hayat operasi model itu sendiri . Jika anda menggunakan AI, contoh yang baik untuk dilihat ialah AI Etika dan rangka kerja AI Boleh Diterangkan Institut Pembelajaran Mesin, yang akan kami bincangkan dengan lebih terperinci seterusnya.

Kebolehtafsiran

Untuk memastikan model AI sesuai untuk tujuan, penyertaan pakar dalam bidang yang berkaitan juga penting. Orang ini boleh membantu pasukan memastikan model AI menggunakan metrik prestasi yang betul, bukan hanya statistik dan metrik prestasi terdorong ketepatan. Perlu ditekankan bahawa pakar domain termasuk bukan sahaja pakar teknikal, tetapi juga pakar dalam sains sosial dan kemanusiaan yang berkaitan dengan kes penggunaan.

Walau bagaimanapun, agar ia berguna, adalah penting juga untuk memastikan ramalan model boleh ditafsirkan oleh pakar domain yang berkaitan. Walau bagaimanapun, model AI lanjutan sering menggunakan teknik pembelajaran mendalam yang terkini, yang mungkin tidak hanya menjelaskan sebab ramalan tertentu dibuat.

Untuk mengatasi kesukaran ini, organisasi cenderung untuk mencapai kebolehtafsiran pembelajaran mesin dengan memanfaatkan pelbagai teknik dan alatan yang boleh digunakan untuk menguraikan ramalan model AI.

Selepas kebolehtafsiran datang pengoperasian model kecerdasan buatan. Inilah masanya untuk penyiasatan dan pemantauan oleh pihak berkepentingan yang berkaitan. Kitaran hayat model AI sedemikian hanya bermula selepas ia digunakan dengan betul untuk pengeluaran. Setelah siap dan berjalan, model hanya mengalami kemerosotan prestasi disebabkan oleh tekanan luaran, sama ada hanyutan konsep atau perubahan dalam persekitaran di mana model dijalankan.

Pembesaran Manusia

Apabila menggunakan AI, adalah penting untuk menilai dahulu keperluan semasa proses asal bukan automatik, termasuk menggariskan risiko hasil yang tidak diingini. Ini akan membolehkan pemahaman yang lebih mendalam tentang proses dan membantu mengenal pasti kawasan yang mungkin memerlukan campur tangan manusia untuk mengurangkan risiko.

Sebagai contoh, AI yang mengesyorkan pelan makan kepada atlet profesional mempunyai faktor risiko berimpak tinggi yang jauh lebih sedikit berbanding model AI yang mengautomasikan proses kelulusan pinjaman bahagian belakang untuk bank, yang menunjukkan keperluan untuk campur tangan manusia dalam yang pertama lebih kecil daripada yang kedua. Apabila pasukan mengenal pasti titik risiko yang berpotensi dalam aliran kerja AI, mereka boleh mempertimbangkan untuk melaksanakan proses semakan Gelung Manusia-Mesin (HITL).

HITL memastikan bahawa selepas proses diautomasikan, masih terdapat pelbagai titik sentuh di mana campur tangan manusia diperlukan untuk menyemak keputusan, menjadikannya lebih mudah untuk memberikan pembetulan atau membalikkan keputusan apabila perlu. Proses ini boleh termasuk sekumpulan pakar teknikal dan pakar industri (contohnya, penaja jamin untuk pinjaman bank, atau pakar pemakanan untuk perancangan makanan) untuk menilai keputusan yang dibuat oleh model AI dan memastikan bahawa mereka mematuhi amalan terbaik.

Kebolehulangan

Kebolehulangan ialah keupayaan pasukan untuk menjalankan algoritma berulang kali pada titik data dan mendapat hasil yang sama setiap kali. Ini adalah komponen teras AI yang bertanggungjawab, kerana ia penting untuk memastikan ramalan model sebelumnya diterbitkan semula apabila ditayangkan semula pada peringkat seterusnya.

Sememangnya, kebolehulangan sukar dicapai, terutamanya disebabkan oleh kesukaran yang wujud dalam sistem kecerdasan buatan. Ini kerana output model AI boleh berbeza-beza bergantung pada pelbagai situasi latar belakang, seperti:

• Kod yang digunakan untuk mengira gangguan AI
• Berat yang dipelajari daripada data yang digunakan
• Persekitaran, infrastruktur dan konfigurasi untuk menjalankan kod
• Input dan struktur input yang disediakan kepada model

Ini adalah isu yang rumit, terutamanya apabila model AI Apabila digunakan pada skala dan banyak alat dan rangka kerja lain perlu dipertimbangkan. Untuk melakukan ini, pasukan perlu membangunkan amalan yang mantap untuk membantu mengawal situasi di atas dan melaksanakan alat untuk membantu meningkatkan kebolehulangan.

Pengambilan Utama

Dengan prinsip peringkat tinggi di atas, industri boleh memastikan mereka mengikuti amalan terbaik untuk penggunaan AI yang bertanggungjawab. Mengguna pakai prinsip sedemikian adalah penting untuk memastikan AI mencapai potensi ekonomi sepenuhnya dan tidak melemahkan kumpulan yang terdedah, mengukuhkan berat sebelah tidak beretika, atau menjejaskan akauntabiliti. Sebaliknya, ia boleh menjadi teknologi yang boleh kita gunakan untuk memacu pertumbuhan, produktiviti, kecekapan, inovasi dan kebaikan yang lebih besar untuk semua.

Atas ialah kandungan terperinci Mempraktikkan Penggunaan AI Bertanggungjawab: Empat Prinsip. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!