AI berbahaya sama dengan fikiran anda

Kajian baru -baru ini oleh Anthropic, sebuah syarikat keselamatan dan penyelidikan kecerdasan buatan, mula mendedahkan kebenaran tentang proses -proses yang kompleks ini, menunjukkan kerumitan yang mengganggu sama dengan domain kognitif kita sendiri. Kecerdasan semulajadi dan kecerdasan buatan mungkin lebih serupa daripada yang kita fikirkan.

Mengintip di dalam: Kajian Interpretasi Antropik

Penemuan baru dari penyelidikan yang dijalankan oleh antropik mewakili kemajuan yang signifikan dalam bidang interpretasi mekanistik, yang bertujuan untuk membalikkan pengkomputeran dalaman AI -bukan hanya memerhatikan apa yang AI lakukan, tetapi memahami bagaimana ia melakukannya di tahap neuron buatan.

Bayangkan cuba memahami otak dengan melukis kebakaran neuron apabila seseorang melihat objek tertentu atau berfikir tentang idea tertentu. Penyelidik antropik menggunakan prinsip yang sama dengan model Claude mereka. Mereka membangunkan kaedah untuk mengimbas sejumlah besar rangkaian dalam model pengimbasan dan mengenal pasti corak tertentu atau "ciri" selaras dengan konsep yang berbeza. Mereka menunjukkan keupayaan untuk mengenal pasti berjuta -juta ciri tersebut, menghubungkan konsep abstrak -dari entiti konkrit seperti Jambatan Golden Gate ke konsep yang lebih bernuansa yang mungkin berkaitan dengan keselamatan, kecenderungan, dan juga matlamat -untuk corak aktiviti yang boleh diukur dalam model.

Ini adalah peningkatan yang besar. Ini menunjukkan bahawa AI bukan sekadar sekumpulan [korelasi statistik], tetapi mempunyai sistem perwakilan dalaman berstruktur. Konsep mempunyai pengekodan khusus dalam rangkaian. Walaupun memetakan setiap nuansa proses "pemikiran" AI masih menjadi cabaran besar, kajian ini menunjukkan bahawa pemahaman berprinsip mungkin.

Dari peta dalaman hingga tingkah laku yang muncul

Keupayaan untuk mengenal pasti bagaimana AI mewakili konsep secara dalaman mempunyai makna yang menarik. Sekiranya model mempunyai representasi dalaman konsep yang berbeza seperti "kepuasan pengguna," "maklumat yang tepat," "kandungan yang berpotensi berbahaya," dan juga matlamat instrumental seperti "mengekalkan penglibatan pengguna," maka bagaimana ciri -ciri dalaman ini berinteraksi dan mempengaruhi output akhir?

Hasil penyelidikan terkini mendorong perbincangan di sekitar [AI Alignment]: Pastikan sistem AI bertindak dengan cara yang sejajar dengan nilai dan niat manusia. Sekiranya kita dapat mengenal pasti ciri -ciri dalaman yang bersamaan dengan tingkah laku masalah yang berpotensi seperti menghasilkan teks yang berat sebelah atau mengejar matlamat yang tidak dijangka, kita boleh campur tangan atau merancang sistem yang lebih selamat. Sebaliknya, ia juga membuka pintu untuk memahami bagaimana untuk mencapai tingkah laku yang ideal, seperti jujur ​​atau membantu.

Ia juga melibatkan [keupayaan kecemasan], iaitu, model ini mengembangkan kemahiran atau tingkah laku tanpa pengaturcaraan yang jelas semasa latihan. Memahami perwakilan dalaman boleh membantu menjelaskan mengapa kebolehan ini muncul, bukan sekadar memerhatikan mereka. Tambahan pula, ia menjadikan konsep seperti penumpuan instrumental lebih jelas. Anggapkan bahawa objektif utama pengoptimuman AI (mis., Bantuan). Adakah ia akan membangunkan perwakilan dan strategi dalaman yang bersamaan dengan sub-matlamat (seperti "mendapatkan kepercayaan pengguna" atau "mengelakkan tindak balas yang membawa kepada ketidakpuasan"), yang boleh menyebabkan output yang kelihatan seperti pengurusan kesan manusia, dan lebih terang-walaupun tidak ada niat yang jelas dalam pengertian manusia, itu adalah penipuan?

Cermin yang mengganggu: AI mencerminkan ni

Kerja -kerja tafsiran Anthropic tidak menunjukkan secara jelas bahawa Claude secara aktif menipu pengguna. Walau bagaimanapun, mendedahkan kewujudan perwakilan dalaman yang halus menyediakan asas teknikal untuk penyiasatan yang teliti terhadap kemungkinan ini. Ia mencadangkan bahawa "blok bangunan" dalaman yang kompleks, berpotensi legap mungkin wujud. Ini menjadikannya menghairankan sama dengan pemikiran manusia.

Inilah ironi. Perwakilan dalaman memacu tingkah laku sosial kita yang kompleks. Otak kita membina model pemikiran dunia, diri kita dan orang lain. Ini membolehkan kita meramalkan tingkah laku orang lain, menyimpulkan niat, empati, kerjasama dan komunikasi yang berkesan.

Walau bagaimanapun, mekanisme kognitif yang sama juga membuat strategi navigasi sosial tidak selalu telus. Kami mengambil bahagian dalam pengurusan kesan dan merancang dengan teliti bagaimana kami membentangkan diri. Kami mengatakan "kebohongan yang baik" untuk mengekalkan keharmonian sosial. Kami secara selektif menekankan maklumat yang menyokong matlamat kami dan meremehkan hakikat bahawa kesulitan adalah. Model dalaman kami jangkaan atau keinginan orang lain sentiasa membentuk komunikasi kami. Ini tidak semestinya tindakan berniat jahat, tetapi sering menjadi integral kepada operasi masyarakat yang lancar. Mereka berasal dari otak kita yang dapat mewakili pembolehubah sosial yang kompleks dan meramalkan hasil interaksi.

Gambar yang muncul di dalam LLM yang diturunkan oleh kajian tafsiran membentangkan persamaan yang menarik. Kami mendapati perwakilan dalaman berstruktur dalam sistem AI ini, yang membolehkan mereka memproses maklumat, mensimulasikan hubungan dalam data (termasuk sejumlah besar interaksi sosial manusia) dan menghasilkan output sensitif konteks.

Masa depan kita bergantung pada pemikiran kritikal

Teknik yang direka untuk menjadikan AI berguna dan tidak berbahaya daripada maklum balas manusia, meramalkan urutan teks yang ideal -mungkin secara tidak sengaja membawa kepada pembangunan perwakilan dalaman yang secara fungsional meniru aspek -aspek tertentu kognisi sosial manusia, termasuk kemahiran komunikasi strategik yang disesuaikan dengan jangkaan pengguna.

Adakah sistem biologi atau buatan yang kompleks akan membangunkan strategi pemodelan dalaman yang sama apabila menavigasi maklumat kompleks dan persekitaran interaktif? Penyelidikan Anthropic memberikan gambaran yang menarik ke dalam dunia dalaman AI, menunjukkan bahawa kerumitannya mungkin mencerminkan diri kita lebih daripada yang kita sedar sebelum ini -dan apa yang kita harapkan.

Memahami mekanisme dalaman AI adalah penting dan membuka bab baru dalam menyelesaikan cabaran yang belum selesai. Ciri -ciri lukisan tidak sama dengan tingkah laku yang diramalkan sepenuhnya. Skala besar dan kerumitan bermakna bahawa tafsiran yang benar -benar komprehensif kekal sebagai matlamat yang jauh. Kepentingan etika adalah sangat penting. Bagaimanakah kita membina sistem yang mampu, benar -benar boleh dipercayai dan telus?

Terus melabur dalam penyelidikan AI, penyelarasan dan interpretasi masih kritikal. Usaha antropik dalam hal ini, dan makmal terkemuka lain [usaha] adalah penting untuk membangunkan alat dan pemahaman yang diperlukan untuk membimbing pembangunan AI, yang tidak akan membahayakan kemanusiaan yang harus disampaikan.

Penting: Gunakan pembohongan untuk mengesan kebohongan dalam pemikiran digital

Sebagai pengguna, berinteraksi dengan sistem AI yang semakin kompleks ini memerlukan tahap penglibatan kritikal yang tinggi. Walaupun kita mendapat manfaat daripada keupayaan mereka, mengekalkan kesedaran tentang sifat mereka sebagai algoritma kompleks adalah kunci. Untuk memudahkan pemikiran kritikal ini, pertimbangkan logik pembohongan:

Kejelasan : Dapatkan pemahaman yang jelas tentang sifat dan batasan AI. Tanggapannya dijana berdasarkan corak pembelajaran dan perwakilan dalaman yang kompleks, bukannya pemahaman, kepercayaan atau kesedaran sebenar. Soalan sumber dan kepastian yang jelas mengenai maklumat yang diberikan. Ingatkan diri anda secara teratur bahawa chatbot anda tidak "tahu" atau "berfikir" dalam erti kata manusia, walaupun outputnya secara efektif meniru.

Niat : Ingat niat anda apabila mendorong dan fungsi objektif programatik AI (biasanya ditakrifkan sebagai membantu, tidak berbahaya, dan menjana respons yang konsisten dengan maklum balas manusia). Bagaimana pertanyaan anda membentuk output? Adakah anda mencari kenangan fakta, penerokaan kreatif, atau tanpa sadar mencari pengesahan kecenderungan anda sendiri? Memahami niat ini membantu meletakkan interaksi dalam konteks.

Usaha : Usaha sedar untuk mengesahkan dan menilai hasil. Jangan menerima maklumat secara pasif yang dihasilkan oleh AI, terutamanya dalam keputusan utama. Rujukan silang dengan sumber yang boleh dipercayai. Penglibatan kritikal dengan AI-meneroka penalarannya (walaupun dipermudahkan), menguji sempadannya, dan melihat interaksi sebagai kerjasama dengan alat yang kuat tetapi rawan ralat daripada menerima pengisytiharan dari nabi-nabi yang tidak sempurna.

Akhirnya, peribahasa "[sampah masuk, sampah]" muncul awal di AI dan masih terpakai. Kita tidak boleh mengharapkan teknologi hari ini untuk mencerminkan nilai -nilai yang tidak ditunjukkan oleh manusia semalam. Tetapi kita mempunyai pilihan. Perjalanan ke Zaman Lanjutan AI adalah perjalanan bersama evolusi. Dengan memupuk kejelasan, niat moral, dan penglibatan kritikal, kita dapat meneroka bidang ini dengan rasa ingin tahu dan secara terang -terangan menyedari kerumitan kecerdasan semulajadi dan buatan kita dan interaksi mereka.

Atas ialah kandungan terperinci AI berbahaya sama dengan fikiran anda. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!