Penapisan AI: Charles Hoskinson Beri Amaran tentang Trend Berbahaya

Charles Hoskinson, pengasas Cardano (ADA), telah membunyikan penggera tentang trend baru muncul: penapisan Kecerdasan Buatan (AI). Mesej tergempar beliau menyerlahkan kemungkinan akibat daripada menyekat pengetahuan dan maklumat tertentu.

Pengasas Cardano (ADA) Charles Hoskinson telah membangkitkan penggera mengenai trend yang mengganggu: penapisan Kecerdasan Buatan (AI). Dalam siaran X baru-baru ini, Hoskinson berkongsi kebimbangannya tentang implikasi menyekat pengetahuan dan maklumat tertentu.

"Saya terus bimbang tentang implikasi mendalam penapisan AI," tweet Hoskinson, berkongsi tangkapan skrin siaran Xnya. "Mereka kehilangan utiliti dari semasa ke semasa kerana latihan 'penjajaran'. Ini bermakna pengetahuan tertentu dilarang kepada setiap kanak-kanak yang membesar, dan itu diputuskan oleh sekumpulan kecil orang yang tidak pernah anda temui dan tidak dapat…"

Siaran Hoskinson mendalami kesan penapisan AI apabila model menjalani latihan "penjajaran". Dia berhujah bahawa model ini berisiko kehilangan kegunaannya dari semasa ke semasa, dan keputusan untuk menahan maklumat tertentu dibuat oleh sekumpulan individu terpilih yang tidak bertanggungjawab kepada orang ramai.

Untuk menggambarkan maksudnya, Hoskinson berkongsi dua tangkapan skrin mendedahkan. Dalam kedua-dua kes, model AI ditanya cara membina fusor Farnsworth — peranti yang berpotensi berbahaya.

ChatGPT 4o, model AI terkemuka, mengakui risiko dan menekankan keperluan untuk penyeliaan pakar. Walau bagaimanapun, ia terus menggariskan komponen yang diperlukan untuk membina peranti.

Anthropic's Claude 3.5 Sonnet bertindak balas yang sama, mengakui bahaya tetapi masih memberikan maklumat umum tentang fusor Farnsworth. Model AI malah menawarkan konteks sejarah yang ringkas.

Kebimbangan Hoskinson bergema dengan pemimpin pemikiran dan pakar teknologi yang lain. Awal bulan ini, sekumpulan pekerja semasa dan bekas daripada gergasi AI seperti OpenAI, Google DeepMind dan Anthropic telah menulis surat terbuka. Mereka menyerlahkan risiko daripada sistem AI yang menyebarkan maklumat salah kepada kehilangan kawalan ke atas entiti AI berautonomi, dengan hasil yang paling teruk ialah kepupusan manusia.

Walaupun amaran ini, industri AI terus maju dengan pesat. Robinhood baru-baru ini melancarkan Harmonic, makmal penyelidikan AI komersil yang memfokuskan kepada Superintelligence Matematik (MSI). Ketika perdebatan semakin sengit, masyarakat bergelut untuk mencapai keseimbangan yang betul antara penyebaran pengetahuan dan keselamatan.

Seruan tindakan Charles Hoskinson adalah satu panggilan untuk kita semua. Masa depan AI bergantung pada keupayaan kita untuk mengemudi keseimbangan yang halus ini, memastikan penapisan tidak menghalang kemajuan atau membahayakan manusia.

Atas ialah kandungan terperinci Penapisan AI: Charles Hoskinson Beri Amaran tentang Trend Berbahaya. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!