Bapa ChatGPT 'tidak boleh tidur pada waktu malam': Saya benar-benar bimbang model besar itu akan disalahgunakan

Menurut berita pada 21 Mac, minggu lepas Sam Altman, Ketua Pegawai Eksekutif organisasi permulaan kecerdasan buatan OpenAI, telah ditemu bual Shi berkata bahawa tiruan kecerdasan mungkin "teknologi terhebat yang dibangunkan oleh manusia setakat ini" dan akan membentuk semula masyarakat sedia ada. Pada masa sama, beliau turut mengakui teknologi ini mempunyai risiko dan masih "sedikit takut" terhadapnya.

Altmann menekankan bahawa kecerdasan buatan akan membawa bahaya sebenar, tetapi ia juga mungkin "teknologi terhebat yang dibangunkan oleh manusia setakat ini" yang boleh membentuk semula masyarakat dan membawa perubahan yang menggemparkan dalam kehidupan.

Beliau berkata: "Kita perlu berhati-hati dalam hal ini...Saya rasa bersyukur kami sedikit takut dengannya

Altmann bercakap tentang berita terbaru OpenAI dalam temu bual The latest versi model bahasa kecerdasan buatan GPT-4 yang dikeluarkan. Beliau menekankan bahawa pelancaran ChatGPT memerlukan penyertaan bersama agensi kawal selia dan seluruh masyarakat, dan pelbagai maklum balas boleh membantu mencegah potensi kesan negatif teknologi kecerdasan buatan terhadap manusia. Dia menambah bahawa dia telah melakukan "hubungan tetap" dengan pegawai kerajaan.

Hanya dalam beberapa bulan sejak ChatGPT dilancarkan, bilangan pengguna aktif bulanan telah melebihi 100 juta, menjadikannya diiktiraf sebagai aplikasi pengguna yang paling pesat berkembang dalam sejarah. Menurut kajian oleh UBS, TikTok mengambil masa sembilan bulan untuk menarik 100 juta pengguna aktif bulanan, dan Instagram mengambil masa hampir tiga tahun.

Walaupun ia belum sempurna, Altman berkata bahawa GPT-4 mencapai markah yang baik iaitu ke-90 dalam peperiksaan undang-undang Amerika dan mencapai skor hampir sempurna pada ujian matematik SAT. GPT-4 kini boleh menulis kod komputer dengan mahir dalam kebanyakan bahasa pengaturcaraan di pasaran.

GPT-4 hanyalah satu langkah kecil ke arah penciptaan muktamad kecerdasan buatan am oleh OpenAI. Apabila teknologi kecerdasan buatan membuat kemajuan yang cemerlang, sistem kecerdasan buatan yang lebih pintar daripada manusia akan muncul Ini adalah apa yang dipanggil kecerdasan buatan umum.

Sambil Altmann memuji kejayaan produknya, dia juga mengakui bahawa kemungkinan bahaya kecerdasan buatan membuatkan dia terjaga pada waktu malam.

"Saya amat bimbang bahawa model ini akan digunakan untuk menjana maklumat salah secara besar-besaran," kata Altman "Sekarang mereka semakin baik dan lebih baik dalam menulis kod komputer, ia boleh digunakan untuk menyerang serangan siber."

Tetapi Altman tidak percaya bahawa model kecerdasan buatan tidak lagi memerlukan manusia seperti yang diterangkan dalam fiksyen sains dan boleh membuat keputusan sendiri dan merancang untuk memerintah dunia. "Ia sedang menunggu seseorang untuk memberinya maklumat," kata Altman "Ia masih merupakan alat yang dikawal oleh manusia." "Selalunya akan ada orang yang tidak mematuhi beberapa peraturan keselamatan yang telah kami tetapkan," tambahnya "Saya rasa tidak ada banyak masa lagi sebagai masyarakat untuk memikirkan bagaimana untuk bertindak balas terhadap perkara ini, bagaimana untuk mengawal selianya, bagaimana untuk menanganinya."

Apabila mengulas idea bahawa adalah mungkin untuk "menguasai dunia" dengan menguasai teknologi kecerdasan buatan, Altman berkata: "Ini sememangnya satu kenyataan yang menyeramkan." "Sebaliknya, apa yang saya harapkan ialah kita terus membangunkan Sistem yang lebih berkuasa membolehkan orang ramai menggunakan sistem ini dengan cara yang berbeza, membolehkan sistem itu disepadukan ke dalam kehidupan seharian kita dan ke dalam ekonomi untuk memberikan permainan sepenuhnya kepada kehendak orang ramai. . ”

Kebimbangan tentang maklumat yang salah

Menurut OpenAI, GPT-4 telah membuat peningkatan besar melalui lelaran, seperti keupayaan untuk memahami imej sebagai input. Demonstrasi telah menunjukkan bahawa GTP-4 boleh menerangkan kandungan peti sejuk, menyelesaikan teka-teki, dan juga menjelaskan maksud tersembunyi di sebalik imej Internet.

Tetapi Altman berkata bahawa masalah yang wujud dengan model bahasa kecerdasan buatan seperti ChatGPT adalah maklumat yang salah, dan program itu mungkin memberikan pengguna maklumat yang tidak tepat secara fakta.

Altmann berkata: "Apa yang paling saya ingin ingatkan kepada orang ramai ialah apa yang dipanggil 'masalah ilusi'." "Model ini sememangnya akan menyatakan satu perkara dengan yakin, menjadikan rekaan lengkap kelihatan seperti fakta."

Menurut OpenAI, model AI mempunyai masalah ini sebahagiannya kerana mereka menggunakan penaakulan deduktif dan bukannya ingatan.

Ketua Pegawai Teknologi OpenAI Mira Murati pernah berkata: "Salah satu perbezaan terbesar antara GPT-3.5 dan GPT-4 ialah GPT-3.5 dan GPT-4 mempunyai keupayaan muncul yang lebih kuat dalam penaakulan."

"Matlamat adalah untuk AI meramalkan perkataan yang akan datang seterusnya, iaitu pemahaman tentang sifat bahasa," kata Mulati "Kami mahu model ini melihat dan memahami dunia seperti yang dilakukan oleh manusia."

"Anda perlu sedar bahawa model yang kami bangunkan ialah enjin inferens, bukan pangkalan data maklumat fakta," kata Altman "Sudah tentu, mereka juga boleh berfungsi sebagai pangkalan data fakta, tetapi itu tidak istimewa. "Apa yang kami mahu mereka capai ialah penaakulan, bukan ingatan."

Altman dan pasukannya berharap bahawa "dari masa ke masa, model ini akan menjadi enjin penaakulan sebenar." , model itu akhirnya akan bergantung pada maklumat Internet dan deduktifnya sendiri. menaakul untuk mengenal pasti maklumat yang mana yang sebenar dan yang mana fiksyen. Menurut data OpenAI, GPT-4 adalah 40% lebih berkemungkinan menghasilkan maklumat yang tepat berbanding versi sebelumnya. Tetapi Altman berkata orang ramai tidak seharusnya bergantung pada sistem sebagai sumber utama maklumat yang tepat dan menggalakkan pengguna untuk memeriksa dengan teliti keputusan yang dihasilkan oleh program itu.

Cara melindungi daripada orang jahat

Ramai orang juga bimbang tentang jenis maklumat yang akan dihasilkan oleh ChatGPT dan model bahasa kecerdasan buatan lain. Menurut Altman, ChatGPT tidak akan memberitahu pengguna cara membina bom kerana langkah keselamatan yang terbina dalam sistem.

"Apa yang saya bimbang ialah... kami bukan satu-satunya yang mencipta teknologi ini," kata Altman. "Akan sentiasa ada orang yang tidak menambah beberapa langkah keselamatan seperti yang kami lakukan."

Menurut Altman, terdapat penyelesaian dan perlindungan untuk semua potensi bahaya kecerdasan buatan ini. Salah satunya ialah membiarkan masyarakat bermain-main dengan ChatGPT apabila kepentingannya rendah untuk melihat cara orang menggunakannya.

Mulati berkata sebab utama ChatGPT kini dibuka kepada orang ramai adalah untuk "mengumpul banyak maklum balas" daripadanya. Beliau percaya bahawa apabila orang ramai terus menguji aplikasi OpenAI, ia akan menjadi lebih mudah untuk menentukan di mana langkah keselamatan diperlukan.

Mulati berkata: "Untuk apa orang menggunakannya, apa masalahnya, apa kekurangannya, semuanya membolehkan kami campur tangan dalam masa dan menambah baik teknologi itu." adalah penting bahawa orang ramai dapat berinteraksi dengan setiap versi ChatGPT. Dia berkata, "Jika kita hanya duduk di dalam makmal dan menjalankan penyelidikan rahsia, seperti membangunkan GPT-7, dan kemudian mendedahkannya kepada umum sekaligus... Saya fikir ia akan membawa lebih banyak kesan negatif." pemahaman mereka, bertindak balas, dan akhirnya membiasakan diri dengan teknologi ini, kami juga memerlukan masa untuk memahami di mana kelemahan sistem dan bagaimana untuk mengurangkan kesan buruk."

Altman mendedahkan bahawa OpenAI mempunyai pasukan yang berdedikasi. untuk menggubal dasar, dan mereka memutuskan Maklumat yang boleh dimasukkan ke dalam ChatGPT, dan maklumat yang boleh dikongsi oleh ChatGPT dengan pengguna.

Altmann menambah: "(Kami) sedang bercakap dengan pakar dasar dan keselamatan untuk menyemak sistem, hanya untuk menyelesaikan masalah ini dan melancarkan sesuatu yang kami percaya selamat dan boleh dipercayai "Sekali lagi, kami tidak boleh mendapatkannya ia sempurna pada kali pertama, tetapi penting untuk belajar pengajaran dan mencari margin keselamatan apabila risikonya agak rendah.”

Adakah kecerdasan buatan menggantikan pekerjaan?

Sebab orang ramai melakukannya. Antara kebimbangan mengenai kuasa gangguan teknologi AI ialah kepercayaan bahawa ia akan menggantikan pekerjaan sedia ada. Kecerdasan buatan mungkin menggantikan beberapa pekerjaan dalam masa terdekat, kata Altman, tetapi ia bergantung pada seberapa cepat ia berlaku.

"Saya fikir sepanjang beberapa generasi, manusia telah membuktikan dirinya mampu menyesuaikan diri dengan perubahan teknologi utama," kata Altmann "Tetapi jika ini berlaku dalam beberapa tahun, saya paling bimbang tentang akibatnya . Apa perubahan yang akan datang..."

Tetapi dia menggalakkan orang ramai untuk menganggap ChatGPT sebagai alat, bukan pengganti untuk kerja mereka sendiri. Altman menambah, "Kreativiti manusia tidak terhad. Kami akan mencari pekerjaan baharu dan perkara baharu untuk dilakukan

Altman percaya bahawa sebagai alat manusia, ChatGPT mempunyai Kesannya melebihi risiko."

Dia berkata: "Kita semua boleh mempunyai pendidik hebat yang dibuat khusus di dalam poket kita untuk membantu kita belajar."

"Co-pilot"

Disebabkan sesetengah pelajar menggunakan ChatGPT untuk menipu, ChatGPT telah menimbulkan banyak kontroversi dalam bidang pendidikan. Pendidik terbahagi kepada sama ada ChatGPT boleh berfungsi sebagai lanjutan pembelajaran pelajar atau sama ada ia akan menjejaskan motivasi pelajar untuk belajar sendiri.

"Cara pendidikan perlu berubah, tetapi dengan perkembangan teknologi, ini telah berlaku berkali-kali," kata Altmann, beliau menambah bahawa guru pelajar tidak lagi terhad kepada bilik darjah, "paling menggembirakan saya ialah kebolehan untuk menyampaikan pembelajaran peribadi yang lebih baik untuk setiap pelajar ”

Altman dan pasukannya berharap pengguna dalam mana-mana bidang boleh menganggap ChatGPT sebagai "co-pilot" mereka, seperti membantu pengguna menulis sejumlah besar kod komputer atau menyelesaikan masalah.

"Kami boleh menyediakan perkhidmatan seperti ini kepada setiap industri supaya orang ramai boleh mempunyai kualiti hidup yang lebih tinggi," kata Altmann "Kami juga akan mempunyai perkara baharu yang tidak dapat dibayangkan hari ini, yang juga merupakan janji Kami. ”

Atas ialah kandungan terperinci Bapa ChatGPT 'tidak boleh tidur pada waktu malam': Saya benar-benar bimbang model besar itu akan disalahgunakan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!