Hampir 400 nama besar menandatangani surat terbuka amaran tentang risiko AI, termasuk pengasas OpenAI

Wartawan Rangkaian Pemerhati Ekonomi Ren XiaoningPada 30 Mei, Eastern Time, Pusat Keselamatan Kecerdasan Buatan (CAIS), sebuah pertubuhan bukan untung Amerika, menerbitkan surat terbuka bersama di laman web rasminya, berkata bahawa AI adalah setanding dengan "pandemik" dan perang nuklear" mungkin membawa risiko kepupusan kepada manusia.

Surat terbuka hanya mempunyai satu ayat: "Mengurangkan risiko kepupusan yang ditimbulkan oleh kecerdasan buatan harus menjadi keutamaan global pada tahap yang sama dengan risiko berskala masyarakat lain seperti wabak dan perang nuklear

Lebih 370 taikun AI telah menandatangani surat terbuka bersama yang disebutkan di atas, termasuk ketua tiga syarikat AI utama, termasuk Ketua Pegawai Eksekutif OpenAI Sam Altman, Ketua Pegawai Eksekutif Google DeepMind Demis Hassabis dan Ketua Pegawai Eksekutif Anthropic Dario Amode.

Geoffrey Hinton dan Yoshua Bengio, pemenang Anugerah Turing dan dikenali sebagai "godfathers" kecerdasan buatan, turut menandatangani surat terbuka ini.

Terdapat juga sarjana Cina dalam senarai penandatangan, termasuk Zhang Yaqin, ahli akademik Akademi Kejuruteraan Cina dan pengarah Institut Industri Pintar Universiti Tsinghua, Zeng Yi, pengarah Pusat Penyelidikan Etika dan Tadbir Urus Kepintaran Buatan dari Institut Automasi, Akademi Sains China, dan Zhan Xianyuan, profesor madya Universiti Tsinghua.

Senarai ini terutamanya terdiri daripada profesor dari universiti terkenal dunia, diikuti oleh saintis kecerdasan buatan, dan juga ahli politik, seperti Kersti Kaljulaid, bekas Presiden Republik Estonia.

Senarai ini masih berkembang. Wartawan Rangkaian Pemerhati Ekonomi melihat di laman web rasmi CAIS bahawa saintis atau selebriti kecerdasan buatan (eksekutif, profesor, pemimpin) boleh menyerahkan kenyataan yang ditandatangani dan menerima e-mel pengesahan.

CAIS, sebuah organisasi bukan untung yang terletak di San Francisco, Amerika Syarikat, memfokuskan pada keselamatan kecerdasan buatan. Mereka menyatakan di laman web rasmi mereka bahawa selagi kecerdasan buatan (AI) boleh dibangunkan dan digunakan dengan selamat, ia dijangka membawa banyak manfaat global. Walaupun kemajuan luar biasa dalam kecerdasan buatan, masih terdapat banyak isu asas yang perlu diselesaikan apabila ia berkaitan dengan keselamatan kecerdasan buatan. Misi mereka adalah untuk mengurangkan risiko berskala masyarakat yang dikaitkan dengan kecerdasan buatan dengan menjalankan penyelidikan keselamatan, mewujudkan bidang penyelidikan keselamatan AI, dan menyokong standard keselamatan.

Pada Mac tahun ini, beribu-ribu selebriti asing turut menandatangani surat terbuka amaran tentang risiko AI. Pada 29 Mac, pengasas Tesla Elon Musk, pemenang Anugerah Turing Yoshua Bengio dan yang lain mengeluarkan pengumuman bersama di laman web organisasi bukan untung Future of Life Institute, menyeru penggantungan pembangunan sistem AI yang lebih berkuasa daripada GPT-4 untuk di sekurang-kurangnya 6 bulan, mengatakan ia "menimbulkan potensi risiko kepada masyarakat dan manusia."

Pada masa ini, OpenAI telah menggantung pembangunan GPT-5.

Yoshua Bengio menyebut sebab menandatangani dan berkata bahawa surat terbuka ini boleh mengingatkan ahli akademik dan industri: Kita mesti meluangkan masa untuk lebih memahami sistem ini dan membangunkan rangka kerja yang diperlukan di peringkat nasional dan antarabangsa untuk meningkatkan perlindungan orang ramai . Walaupun kesan menandatangani surat terbuka ini mungkin tidak begitu ketara, ia sekurang-kurangnya akan mencetuskan perbincangan di seluruh masyarakat.

Di luar negara, kerana ChatGPT digunakan lebih meluas, risiko pendedahan semakin meningkat secara beransur-ansur. Pada 28 Mac, menurut media Belgium LaLibre, seorang lelaki Belgium berusia 30 tahun membunuh diri selepas berminggu-minggu berkomunikasi intensif dengan chatbot ELIZA, model bahasa kecerdasan buatan sumber terbuka yang dibangunkan oleh EleutherAI.

Gambar menunjukkan letupan berlaku di kawasan berhampiran Pentagon pada 22 Mei dan cepat tersebar di media sosial. Penyebaran meluas gambar palsu itu menyebabkan S&P 500 turun kira-kira 0.3% kepada paras terendah harian dalam jangka pendek, beralih daripada untung kepada kerugian. Kemudian, jurucakap Jabatan Pertahanan AS mengesahkan bahawa ini adalah gambar palsu yang dihasilkan oleh AI Gambar ini mempunyai ciri yang dijana AI yang jelas, seperti lampu jalan yang sedikit bengkok dan pagar yang tumbuh di kaki lima.

Selepas lagu cover AI menjadi trend, Universal Music, yang mengawal hampir satu pertiga daripada pasaran muzik global, telah mengeluarkan surat meminta platform media penstriman seperti Apple dan Spotify untuk melarang karya AI yang melanggar melodi dan lirik syarikat. hak cipta.

Atas ialah kandungan terperinci Hampir 400 nama besar menandatangani surat terbuka amaran tentang risiko AI, termasuk pengasas OpenAI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!