Syarikat AI akan dikehendaki melaporkan ujian keselamatan kepada kerajaan AS

Pentadbiran Biden telah mengumumkan bahawa ia akan memperkenalkan peraturan kecerdasan buatan baharu yang memerlukan pembangun untuk mendedahkan keputusan ujian keselamatan sistem kecerdasan buatan utama.

Di bawah peraturan baharu ini, syarikat teknologi perlu memaklumkan kerajaan apabila menggunakan sejumlah besar kuasa pengkomputeran untuk melatih model AI. Langkah ini akan memastikan kerajaan AS mempunyai akses kepada data sensitif daripada syarikat seperti Google, AWS (Amazon Web Services) dan OpenAI untuk menyelia dan mengurus aktiviti syarikat ini dengan lebih baik dalam bidang kecerdasan buatan.

Institut Piawaian dan Teknologi Kebangsaan sedang berusaha untuk memastikan alat kecerdasan buatan menjalani semakan standard yang selamat dan boleh dipercayai sebelum dikeluarkan. Pada masa yang sama, Kementerian Perdagangan akan mengeluarkan panduan yang memerlukan penambahan tera air pada kandungan yang dijana AI untuk membezakan dengan jelas antara kandungan sebenar dan kandungan yang dijana AI.

Dalam temu bual, Penasihat Khas Rumah Putih mengenai Kepintaran Buatan Ben Buchanan berkata bahawa kerajaan mahu memastikan keselamatan sistem kecerdasan buatan sebelum mengeluarkannya kepada umum. Presiden telah menjelaskan bahawa syarikat mesti memenuhi piawaian ini.

Kerajaan AS memberi perhatian kepada kecerdasan buatan sebagai isu ekonomi dan keselamatan negara yang utama. Ini tidak menghairankan memandangkan gembar-gembur yang mengelilingi AI generatif dan ketidakpastian mengenai pelaburan dalam pasaran.

Tiga bulan lalu, Presiden Amerika Syarikat menandatangani perintah eksekutif yang bertujuan untuk mengawal selia teknologi yang berkembang pesat. Perintah eksekutif menetapkan prinsip panduan untuk pembangunan kecerdasan buatan, termasuk piawaian keselamatan yang ditetapkan.

Jawatankuasa Kepintaran Buatan Rumah Putih baru-baru ini mengadakan mesyuarat untuk membincangkan mengkaji semula pelaksanaan perintah eksekutif. Mesyuarat itu termasuk pegawai kanan dari pelbagai jabatan dan agensi persekutuan A.S. Jawatankuasa itu berkata dalam satu kenyataan bahawa mereka telah mencapai kemajuan besar dalam usaha mereka untuk melindungi rakyat Amerika daripada potensi bahaya sistem kecerdasan buatan. Di samping itu, pentadbiran Biden secara aktif bekerjasama dengan sekutu antarabangsa seperti Kesatuan Eropah untuk membangunkan peraturan dan peraturan rentas sempadan untuk mengurus teknologi ini.

Peraturan baharu memerlukan syarikat awan A.S. untuk mengesahkan sama ada entiti asing mengakses data di pusat data A.S. untuk melatih model kecerdasan buatan. Kerajaan A.S. telah mencadangkan cadangan "Kenali Pelanggan Anda (KYC)" yang memerlukan syarikat pengkomputeran awan untuk mengesahkan maklumat identiti pengguna asing.

Peraturan baharu mungkin menimbulkan cabaran tambahan kepada syarikat teknologi AS seperti Amazon dan Google, yang memerlukan mereka mengumpul nama dan alamat IP pelanggan asing dan melaporkan aktiviti yang mencurigakan kepada kerajaan, sambil memerlukan pensijilan pematuhan tetap.

Walaupun peraturan pelaporan sendiri boleh memberikan sedikit perlindungan untuk kepentingan A.S. dan menggalakkan pembangun AI untuk lebih berhati-hati, adalah tidak jelas bagaimana kerajaan akan menangani mereka yang memilih untuk melaporkan secara tidak tepat atau tidak sama sekali. Terdapat juga kebimbangan undang-undang dan etika tentang mengakses data sensitif.

Atas ialah kandungan terperinci Syarikat AI akan dikehendaki melaporkan ujian keselamatan kepada kerajaan AS. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!