Ketua Pegawai Eksekutif OpenAI menggesa peraturan model bahasa besar, memberi amaran tentang risiko AI generatif

Sam Altman, Ketua Pegawai Eksekutif OpenAI yang disokong Microsoft, telah menyeru agar peraturan A.S. mengenai penggunaan model bahasa berskala besar termaju, memberi amaran tentang bahaya AI generatif tanpa rangka kerja dasar yang kukuh.

Semasa perbicaraan dengan Senat A.S. membincangkan tadbir urus AI generatif, Altman berhujah bahawa apabila kebimbangan tentang ancaman kepada masyarakat semakin meningkat, peraturan adalah penting untuk mengurangkan risiko yang ditimbulkan oleh model yang semakin berkuasa.

Ancaman yang dibincangkan dalam keterangannya tertumpu pada penyebaran maklumat salah dan pelanggaran undang-undang privasi data yang berkaitan dengan cara OpenAI melatih modelnya.

Senator Richard Blumenthal berkata pada perbicaraan bahawa prospek kecerdasan buatan yang tidak dilatih dengan secukupnya adalah "sangat menakutkan" dan berhujah bahawa teknologi baharu mesti "bertanggungjawab."

Dia menegaskan bahawa OpenAI's ChatGPT mempunyai keupayaan untuk meniru dan mensimulasikan interaksi manusia sebenar, dan dia memulakan keterangannya dengan sepotong ucapan yang dihasilkan oleh model terlatih pertuturan.

Altmann mencadangkan agar mewujudkan agensi kerajaan untuk menyelia latihan dan penggunaan kecerdasan buatan akan membantu pembangunan, menjelaskan keperluan untuk "gabungan keperluan pelesenan dan ujian" untuk pembangun.

Beliau juga mencadangkan untuk membatalkan lesen pembangun yang membangunkan alatan AI yang melebihi "ambang" atau "keupayaan" tertentu seperti model yang meniru diri mereka sendiri atau menghasilkan kandungan berbahaya.

Altman menyokong pembangunan peraturan kawal selia tentang cara alatan pembelajaran mesin boleh menjana respons daripada data mudah alih Internet.

"Pengguna sepatutnya boleh memilih untuk tidak menggunakan data mereka oleh syarikat seperti kami atau syarikat media sosial lain," tambahnya.

Rangkaian Komunikasi C114 Jiang Junmu

Atas ialah kandungan terperinci Ketua Pegawai Eksekutif OpenAI menggesa peraturan model bahasa besar, memberi amaran tentang risiko AI generatif. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!