Bagaimana CIO boleh menangani risiko yang dirasakan daripada AI

Tanya orang biasa tentang risiko terbesar AI, dan jawapan mereka mungkin termasuk: AI akan menjadikan kita manusia usang, Skynet akan menjadi realiti dan menjadikan kita pupus, dan alat penciptaan deepfake akan digunakan oleh orang jahat untuk melakukan perkara yang tidak baik.

Ketua Pegawai Eksekutif Am percaya bahawa risiko terbesar AI ialah terlepas peluang, terutamanya kerana pesaing mungkin melaksanakan keupayaan perniagaan berasaskan AI lebih awal daripada yang mereka lakukan.

Sebagai CIO, anda perlu mempertimbangkan risiko AI sebenar dan juga meramalkan potensi risiko. Berikut ialah cara untuk mencapai ini dengan berkesan.

Risiko yang dilihat oleh orang biasa

1 Adakah AI akan memberi kesan kepada manusia Jawapan: Ini bukan risiko, tetapi pilihan. Komputer peribadi, kemudian Internet, kemudian telefon pintar, semuanya membuka peluang untuk manusia yang ditambah komputer. AI boleh melakukan perkara yang sama, dan pemimpin perniagaan boleh menumpukan pada membina perniagaan yang lebih kukuh dan berdaya saing dengan menggunakan keupayaan AI untuk menambah dan memperkasakan pekerja mereka.

Mereka boleh, sesetengahnya akan, yang lain akan menggunakan AI untuk mengautomasikan tugasan yang sedang dilakukan oleh manusia yang mereka kerjakan.

Atau, kemungkinan besar, mereka akan melakukan kedua-duanya, tidak akan menjadi lebih baik dalam erti kata yang mutlak, tetapi mereka akan berbeza. Sebagai CIO, anda mesti membantu menyampaikan hasrat syarikat, sama ada AI digunakan untuk menambah pekerja atau menggantikan mereka.

Skynet ialah salah satu kemungkinan niaga hadapan AI yang menyebabkan orang menggigil, tetapi juga dianggap sebagai senario yang paling tidak mungkin. Ini bukan kerana mustahil untuk mencipta robot pembunuh, tetapi kerana tidak ada sebab yang kukuh untuk mencipta dan melabur dalam kecerdasan buatan yang merosakkan itu.

Secara semula jadi, memangsa organisma lain adalah salah satu keperluan kemandirian kebanyakan organisma. Pemangsa mengejar mangsanya untuk memastikan kemandirian dan keupayaannya untuk membiak. Walau bagaimanapun, sangat sedikit makhluk selain manusia akan membahayakan spesies lain hanya untuk keseronokan. Tingkah laku ini jarang berlaku dan biasanya merupakan tingkah laku yang tidak normal yang disebabkan oleh campur tangan manusia atau kerosakan alam sekitar. Saling kebergantungan dan keseimbangan dalam alam semulajadi membolehkan hubungan mangsa dan mangsa dapat dikekalkan, dan setiap hidupan memainkan peranan penting dalam ekosistem ini

Selain bidang elektrik dan semikonduktor, adakah kita akan menemui hubungan dengan semangat yang kuat? AI? Persaingan untuk sumber telah menjadi begitu sengit sehingga senario robot pembunuh akan menjadi masalah yang mesti kita hadapi, yang masih terbuka untuk dipersoalkan.

Ini kerana jika AI bersaing dengan kita dalam kuasa dan semikonduktor, ia kurang berkemungkinan membazirkan sumber untuk membina robot pembunuh.

3 Deepfakes, ya deepfakes adalah masalah, sebagai puncak perang realiti, mereka adalah masalah yang hanya akan menjadi lebih teruk, AI deepfake dan pengesanan deepfake AI perlu menjadi lebih cepat dan lebih cepat Penambahbaikan hanya untuk mengekalkan status masing-masing. .

Maka sama seperti langkah balas perisian hasad berkembang daripada langkah antivirus kendiri kepada keselamatan siber seluruh industri, kita boleh menjangkakan trajektori yang sama untuk langkah balas palsu yang mendalam apabila perang terhadap realiti semakin panas.

Risiko AI seperti yang Diperhatikan oleh CEO

Para CEO yang tidak mahu menjadi bekas CEO dalam masa terdekat akan menghabiskan banyak masa dan perhatian pada beberapa bentuk analisis “TOWS” (Ancaman, Peluang, Kelemahan dan Kekuatan ).

Sebagai CIO, salah satu tanggungjawab terpenting anda sejak sekian lama ialah membantu memacu strategi perniagaan dengan menghubungkan titik-titik, daripada keupayaan berasaskan IT kepada peluang perniagaan (jika perniagaan anda mengeksploitasinya dahulu) atau ancaman (Jika pesaing mengeksploitasi mereka dahulu).

Itulah keadaannya sebelum kegilaan AI semasa mengambil alih industri IT, itulah yang dimaksudkan dengan "digital", dan lebih-lebih lagi sekarang.

Digabungkan dengan AI, CIO mempunyai satu lagi lapisan tanggungjawab, iaitu cara mengintegrasikan keupayaan baharu mereka ke dalam keseluruhan perniagaan.

Ancaman Berasaskan AI Senyap: Kelemahan Manusia Buatan

Terdapat juga kategori risiko yang perlu dibimbangkan yang kurang mendapat perhatian, dipanggil "kelemahan manusia buatan."

Bermula dari pemikiran Daniel Kahneman, cepat dan perlahan. Dalam buku itu, Kahneman mengenal pasti dua cara kita berfikir. Apabila kita berfikir dengan cepat, kita menggunakan litar otak yang membolehkan kita memahami sesuatu dengan pantas, tanpa berlengah-lengah, dan hampir tanpa usaha. Berfikir pantas juga adalah perkara yang kita lakukan apabila kita "memercayai keberanian kita."

Apabila kita berfikir dengan perlahan, kita menggunakan litar yang membolehkan kita mendarab 17 dengan 53 - satu proses yang memerlukan tumpuan, masa dan kuasa otak yang banyak.

Apabila bercakap tentang AI, pemikiran perlahan ialah apa yang sistem pakar lakukan, dan pada ketika itu, apa yang dilakukan oleh pengaturcaraan komputer sekolah lama, berfikir dengan pantas adalah perkara yang paling menarik tentang AI, dan itulah gunanya rangkaian saraf.

Dalam keadaan perkembangan semasa, bentuk pemikiran pantas AI juga terdedah kepada kesilapan kognitif yang sama seperti mempercayai gerak hati kita. Contohnya:

Menyimpul sebab daripada korelasi: Kita semua tahu kita tidak sepatutnya melakukan ini, namun, sukar untuk menghalang diri kita daripada membuat kesimpulan sebab apabila semua bukti kita disandingkan.

Seperti yang berlaku, apa yang dipanggil AI hari ini sebahagian besarnya terdiri daripada pembelajaran mesin rangkaian saraf, yang melibatkan kesimpulan sebab daripada korelasi.

Kembali kepada maksud: Anda menonton The Great British Baking Show. Anda akan perasan bahawa sesiapa yang memenangi Anugerah Star Baker dalam satu episod cenderung menjadi lebih teruk dalam episod seterusnya, iaitu kutukan Star Baker.

Cuma ia bukan kutukan, ia hanya secara rawak dalam tindakan, setiap persembahan pembuat roti mengikut lengkung loceng, apabila seseorang memenangi Star Baker dalam seminggu, persembahan mereka telah mencapai satu ekor lengkung loceng, pada kali berikutnya mereka membakar, mereka berkemungkinan besar membuat persembahan secara purata, bukan di Star Baker Tail lagi, kerana setiap kali mereka membakar, mereka berkemungkinan besar akan beraksi secara purata, bukan ekor yang menang.

Tiada sebab untuk mengharapkan AI pembelajaran mesin kebal terhadap kesilapan ini, sebaliknya, berhadapan dengan titik data prestasi proses rawak, kita harus mengharapkan AI ​​untuk meramalkan peningkatan selepas setiap keputusan buruk.

Kemudian simpulkan bahawa sebab dan akibat berfungsi.

Tidak "tunjukkan kerja anda": Nah, ini bukan tugas anda, ini tugas AI. Terdapat beberapa penyelidikan aktif untuk membangunkan apa yang dipanggil "AI yang boleh dijelaskan", yang diperlukan.

Andaikan anda menugaskan pekerja untuk menilai peluang perniagaan yang mungkin dan mengesyorkan tindakan kepada anda, dan mereka akan berbuat demikian dan anda akan bertanya, "Mengapa anda fikir begitu seperti yang dijangkakan oleh mana-mana pekerja yang cekap?" bersedia untuk menjawabnya.

Sehingga "AI yang boleh dijelaskan" menjadi ciri dan bukannya senarai keinginan, AI kurang berkemampuan dalam bidang ini berbanding pekerja yang banyak perniagaan harapkan mereka gantikan - mereka tidak dapat menjelaskan pemikiran mereka sendiri.

Frasa untuk Abaikan

Tidak syak lagi anda pernah mendengar seseorang mendakwa, dalam konteks AI, bahawa "komputer tidak akan tahu x," di mana x ialah sesuatu yang dikuasai oleh manusia yang paling mahir.

Mereka salah, ini telah menjadi penegasan popular sejak saya mula-mula memulakan perniagaan ini dan sejak itu adalah jelas bahawa tidak kira yang x anda pilih, komputer boleh melakukan apa sahaja dan melakukannya dengan lebih baik daripada Kami lebih baik.

Persoalannya ialah berapa lama kita perlu menunggu untuk ia berlaku.

Atas ialah kandungan terperinci Bagaimana CIO boleh menangani risiko yang dirasakan daripada AI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!