Berpuluh bilion dolar gergasi teknologi itu dalam penyelidikan dan pembangunan AI dipersoalkan dan dibanggakan: AI yang pernah mengalahkan manusia akan dijual

Selama bertahun-tahun, gergasi teknologi seperti Google dan Facebook telah melabur berbilion-bilion dolar dalam penyelidikan dan pembangunan kecerdasan buatan (AI), mengkagumkan potensinya. Tetapi kini, penyelidik mengatakan sudah tiba masanya untuk menetapkan semula jangkaan untuk AI.

Memang benar pembangunan teknologi AI telah membuat lonjakan tertentu sejak kebelakangan ini. Syarikat telah membangunkan lebih banyak sistem AI yang boleh menghasilkan perbualan, puisi dan imej yang kelihatan seperti manusia. Walau bagaimanapun, pakar etika dan penyelidik AI memberi amaran bahawa sesetengah syarikat membesar-besarkan keupayaan AI, dan gembar-gembur ini mewujudkan salah faham yang meluas dan memutarbelitkan pandangan pembuat dasar tentang kuasa dan ketidakbolehpercayaan AI.

"Kami telah kehilangan keseimbangan," kata Oren Etzioni, Ketua Pegawai Eksekutif Institut Allen untuk Kecerdasan Buatan, sebuah organisasi penyelidikan bukan untung di Seattle. Ketidakseimbangan ini, kata Etzioni dan penyelidik lain, membantu menjelaskan mengapa begitu ramai orang terpengaruh dengan dakwaan jurutera Google bahawa AI adalah peka.

Jurutera Google Blake Lemoine mencadangkan bahawa salah satu sistem AI syarikat itu harus dianggap berperasaan berdasarkan kepercayaan agamanya. Dia mendakwa bahawa chatbot AI telah menjadi seseorang secara berkesan, dengan hak untuk memutuskan sama ada untuk membenarkan eksperimen ke atasnya. Google kemudiannya menggantungnya dan menolak dakwaannya. Google berkata ahli etika syarikat dan pakar teknologi telah mengkaji kemungkinan itu dan menolak dakwaannya.

Lemoyne mendakwa AI adalah peka

Penyelidik mengatakan persepsi dalam komuniti saintifik yang lebih luas bahawa AI semakin, atau mungkin, sedar Masih di pinggir.

Dari sudut pandangan praktikal, siri teknologi yang diliputi oleh AI masih banyak membantu untuk satu siri tugas logistik bahagian belakang biasa, seperti memproses data daripada pengguna untuk memberi perkhidmatan yang lebih baik kepada pengguna. Pengiklanan, kandungan dan pengesyoran produk.

Pelaburan dan publisiti yang kukuh

Sejak dekad yang lalu, syarikat seperti Google, syarikat induk Facebook Meta dan Amazon telah melabur banyak dalam meningkatkan keupayaan sedemikian untuk memacu pertumbuhan dan enjin keuntungan mereka. Google, sebagai contoh, menggunakan AI untuk menghuraikan gesaan carian yang kompleks dengan lebih baik, membantunya menyampaikan iklan dan hasil web yang berkaitan.

Sesetengah syarikat permulaan mempunyai cita-cita yang lebih besar. Salah satu syarikat, OpenAI, yang telah mengumpul berbilion-bilion dolar daripada penderma dan pelabur termasuk Ketua Pegawai Eksekutif Tesla Elon Musk dan Microsoft Corp., bertujuan untuk mencapai apa yang dipanggil AI umum, iaitu keupayaan untuk Sistem yang sepadan atau melebihi setiap dimensi manusia. kecerdasan. Sesetengah penyelidik percaya ini adalah beberapa dekad, jika tidak mustahil, jauh.

Persaingan antara syarikat-syarikat ini untuk mengatasi satu sama lain memacu perkembangan pesat AI dan melahirkan peningkatan bilangan demonstrasi yang menarik. Demonstrasi ini menangkap imaginasi orang ramai dan menarik perhatian kepada teknologi.

Sistem DALL-E OpenAI, yang menjana karya seni berdasarkan gesaan pengguna seperti "McDonald's in Saturn's orbit" atau "bear memakai peralatan sukan yang mengambil bahagian dalam triatlon," telah mencetuskan kemarahan di media sosial dalam beberapa minggu kebelakangan ini. meme. Selepas itu, Google mengikuti contoh sistem DALL-E dan melancarkan sistem penjanaan karya seni berasaskan teksnya sendiri.

Walaupun keputusan ini mengagumkan, semakin ramai pakar memberi amaran bahawa syarikat tidak mengawal publisiti dengan betul.

Margaret Mitchell, yang mengetuai bersama pasukan AI etika Google, telah dipecat selepas menulis kertas kritikal tentang sistem Google. Beliau berkata salah satu mata jualan Google kepada pemegang saham ialah ia adalah yang terbaik di dunia di AI.

Keterbatasan AI

Mitchell kini bekerja di syarikat permulaan AI yang dipanggil Hugging Face, di mana dia dan Timnit Gebb, seorang lagi ketua bersama etika AI di Google, Timnit Gebru adalah salah seorang yang pertama memberi amaran tentang bahaya AI. Gebru juga telah dipecat daripada Google.

Menurut kertas terakhir yang mereka tulis semasa bekerja di Google, mereka berpendapat bahawa teknologi ini kadangkala boleh menyebabkan kemudaratan kerana kebolehan mereka yang seperti manusia bermakna mereka berkemungkinan gagal seperti manusia. Sebagai contoh, sistem AI Facebook salah menterjemah perkataan Arab "selamat pagi" sebagai "sakitkan mereka" apabila diterjemahkan ke dalam bahasa Inggeris dan "serang mereka" apabila diterjemahkan ke dalam bahasa Ibrani, menyebabkan penahanan oleh polis Israel. Lelaki Palestin yang menyiarkan ucapan itu kemudian menyedari kesilapan.

Dokumen dalaman Facebook yang didedahkan tahun lepas juga menunjukkan bahawa sistem AI Facebook tidak dapat secara konsisten mengenal pasti video rakaman orang pertama dan kenyataan perkauman, dan hanya memadamkan sebahagian kecil kandungan yang melanggar peraturan syarikat. Facebook berkata peningkatan dalam teknologi AI telah mengurangkan ucapan kebencian dan kandungan lain yang melanggar peraturannya dengan ketara.

Jurang antara ideal dan realiti

Ideal sangat tembam, tetapi realitinya sangat kurus. Etzioni dan yang lain menunjuk kepada pemasaran IBM di sekitar Watson. Watson ialah sistem AI yang dibangunkan oleh IBM yang menjadi terkenal kerana mengalahkan manusia dalam rancangan kuiz "Jeopardy!" Bagaimanapun, selepas 10 tahun dan berbilion dolar pelaburan, IBM berkata tahun lepas bahawa ia sedang meneroka kemungkinan menjual unit Watson Healthnya, yang produk utamanya sepatutnya membantu doktor mendiagnosis dan merawat kanser.

Memandangkan AI kini ada di mana-mana dan melibatkan lebih banyak syarikat, perisian yang mereka bangunkan termasuk e-mel, enjin carian, suapan berita, pembantu suara dan telah menembusi kehidupan digital kita, jadi risikonya lebih besar.

Menolak dakwaan bahawa AI sentiasa hidup, jurucakap Google Brian Gabriel berkata chatbots syarikat dan alat perbualan lain "boleh membuat improvisasi pada sebarang topik yang tidak sebenar." "Jika anda bertanya kepada dinosaur ais krim bagaimana rupanya, mereka boleh menghasilkan teks tentang perkara seperti cair dan mengaum, yang berbeza daripada persepsi," katanya.

Jurang kognitif AI meresap ke dalam dasar kerajaan

Elizabeth Kumar, seorang pelajar kedoktoran sains komputer di Brown University yang mempelajari dasar AI, berkata bahawa jurang kognitif ini secara senyap-senyap telah meresap ke dalam dasar dalam fail.

Baru-baru ini, peraturan tempatan, persekutuan dan antarabangsa serta cadangan kawal selia telah cuba menangani potensi sistem AI untuk menyebabkan bahaya melalui diskriminasi, manipulasi atau cara lain, semuanya berdasarkan andaian bahawa sistem AI berkeupayaan tinggi . Kumar berkata mereka sebahagian besarnya mengabaikan kemungkinan bahawa sistem AI "semata-mata tidak berfungsi" untuk menyebabkan kemudaratan, dan ia lebih berkemungkinan.

Etzioni juga merupakan ahli Pasukan Petugas Penyelidikan Sumber Kecerdasan Buatan Nasional pentadbiran Biden. Beliau menyatakan bahawa pembuat dasar sering bergelut untuk memahami isu-isu ini. "Saya boleh memberitahu anda daripada perbualan saya dengan beberapa daripada mereka bahawa mereka mempunyai niat yang baik dan bertanya soalan yang baik, tetapi mereka tidak tahu segala-galanya," katanya.

Atas ialah kandungan terperinci Berpuluh bilion dolar gergasi teknologi itu dalam penyelidikan dan pembangunan AI dipersoalkan dan dibanggakan: AI yang pernah mengalahkan manusia akan dijual. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!