GPT-4 menimbulkan kebimbangan, dan beribu-ribu tokoh teknologi termasuk Musk menyeru agar moratorium pembangunan AI yang lebih kukuh

Menurut berita pada 29 Mac, model perbualan kecerdasan buatan ChatGPT syarikat Amerika OpenAI menarik perhatian global The teras syarikat Pelabur Microsoft telah mula menilai kesan model terbaharu di belakangnya, GPT-4, terhadap manusia masa depan. GPT-4 ialah model berbilang modal besar yang boleh menjana bahasa seperti manusia Ia telah menunjukkan prestasi peringkat manusia pada pelbagai ujian standard profesional dan akademik Sebagai contoh, ia boleh lulus ujian bar simulasi dan skor di kalangan teratas Dalam 10%.

Walau bagaimanapun, GPT-4 juga mempunyai beberapa potensi risiko yang mungkin memberi kesan buruk kepada masyarakat dan manusia. Pengasas Tesla, Elon Musk dan lebih seribu pakar kecerdasan buatan serta eksekutif industri telah menyeru agar penangguhan pembangunan sistem yang lebih berkuasa daripada GPT-4 selama enam bulan dalam surat terbuka sehingga satu set protokol keselamatan dikongsi dan diaudit oleh pakar bebas. Mereka juga menyebut ketidakstabilan ekonomi dan politik yang boleh ditimbulkan oleh sistem AI maju dan menyeru pemaju untuk bekerjasama dengan penggubal dasar untuk menubuhkan badan kawal selia.

Surat itu, yang diterbitkan oleh Future of Life Institute bukan untung, termasuk Musk, pengasas bersama Apple Steve Wozniak dan Ketua Pegawai Eksekutif Stability AI Emad - Lebih 1,000 orang, termasuk Mostaq, ditandatangani.

Surat itu berkata: "Sistem kecerdasan buatan yang berkuasa hanya perlu dibangunkan jika kita yakin bahawa kesannya adalah positif dan risikonya boleh dikawal."

Selain itu, Europol Europe Interpol juga meningkatkan etika dan kebimbangan undang-undang tentang kecerdasan buatan lanjutan seperti ChatGPT pada hari Isnin, memberi amaran bahawa sistem sedemikian boleh disalahgunakan untuk pancingan data, maklumat salah dan jenayah siber. Sejak dikeluarkan tahun lepas, ChatGPT OpenAI yang disokong Microsoft telah mendorong pesaing untuk melancarkan produk yang serupa, dan banyak syarikat telah menyepadukannya atau teknologi serupa ke dalam apl dan produk mereka.

Menurut pemahaman IT House, OpenAI sebelum ini menyatakan bahawa mereka telah meluangkan masa selama enam bulan untuk menyesuaikan GPT-4 secara berulang untuk mencapai peningkatan dalam fakta, kebolehkawalan dan keengganan untuk melebihi skop keselamatan Dapatkan hasil terbaik (walaupun tidak sempurna belum).

Atas ialah kandungan terperinci GPT-4 menimbulkan kebimbangan, dan beribu-ribu tokoh teknologi termasuk Musk menyeru agar moratorium pembangunan AI yang lebih kukuh. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!