Adakah GPT akan menjadi sejuk? Buffett, Musk dan nama besar lain meminta penggantungan

ChatGPT dengan cepat menjadi popular di seluruh dunia dan sudah pasti menjadi "produk bintang" berprofil tinggi dalam bidang kecerdasan buatan Namun, apabila ChatGPT semakin digunakan secara meluas, ia telah dilaporkan telah digunakan untuk penipuan akademik, membuat senjata penggodam, dan membocorkan maklumat sembang sensitif dan satu siri berita negatif. Pada ketika ini, masyarakat telah mula mengkaji semula teknologi kecerdasan buatan seperti ChatGPT.

Berbanding dengan robot pintar yang pernah berkhidmat dalam bidang perindustrian pada masa lalu, mereka hanya boleh menggantikan manusia dalam kerja manual yang kompleks, mekanikal dan berbahaya , serupa dengan kecerdasan buatan ChatGPT Teknologi pintar mempunyai kebolehbicaraan yang lebih kuat, fleksibiliti dan "keupayaan berfikir bebas" yang baik, yang telah membentuk semula pemahaman masyarakat tentang bidang kecerdasan buatan. Pada masa ini, produk kecerdasan buatan yang dikeluarkan oleh gergasi teknologi telah disepadukan ke dalam pelbagai jenis industri seperti penulisan, pengaturcaraan dan lukisan, mencetuskan pusingan baharu perubahan teknologi.

Tidak dapat dipertikaikan bahawa apabila teknologi kecerdasan buatan seperti Chat GPT dibangunkan sepenuhnya, ia akan dapat memberi perkhidmatan kepada masyarakat dengan baik dan memberi manfaat kepada manusia. Pada masa yang sama, teknologi kecerdasan buatan Chat GPT juga merupakan "pedang bermata dua".

Ramai selebriti telah meminta pertimbangan terhadap penyelidikan dan pembangunan kecerdasan buatan yang serupa dengan ChatGPT

Apabila seluruh masyarakat tenggelam dalam "fantasi" bahawa teknologi kecerdasan buatan seperti ChatGPT akan mencetuskan revolusi industri keempat, ramai dalam komuniti teknologi Bos mengemukakan pendapat yang bercanggah malah menyatakan kebimbangan mengenai perkembangan pesat teknologi kecerdasan buatan seperti ChatGPT.

Buffett menyatakan keraguan tentang sama ada teknologi kecerdasan buatan memberi manfaat kepada masyarakat

Baru-baru ini, Buffett, bapa baptis industri pelaburan, bercakap tentang pemikirannya tentang perkembangan pesat kecerdasan buatan seperti ChatGPT dalam wawancara dengan pihak media. Buffett memberitahu pemberita bahawa tidak ada keraguan bahawa teknologi kecerdasan buatan sememangnya telah mencapai kemajuan yang luar biasa dari segi keupayaan teknikal, tetapi berdasarkan impaknya terhadap masyarakat secara keseluruhan, pada masa ini tiada hasil eksperimen berskala besar untuk menyokong pembangunan buatan. kecerdasan adalah bermanfaat kepada manusia Dari sudut pandangan ini, pembangunan kecerdasan buatan harus berhati-hati dan rasional.

Kebimbangan Buffett bukanlah sesuatu yang tidak munasabah Populariti ChatGPT yang pesat telah menutupi isu keselamatan, pematuhan dan lain-lain pengalaman langsung manusia tentang jenis teknologi ini hanya kerana ia adalah canggih dan cekap, dan mereka tidak memahami potensi ancaman yang mendalam.

Berdasarkan maklumat yang didedahkan media pada masa ini, sudah ada bukti bahawa sesetengah penggodam menggunakan produk kecerdasan buatan seperti ChatGPT untuk menulis kod berniat jahat dan e-mel Serangan pancingan data, apatah lagi isu keselamatan ChatGPT itu sendiri. (Sebelum ini, Samsung mempunyai maklumat yang bocor kerana data latihan pekerja pada ChatGPT; senarai maklumat sembang pengguna ChatGPT bocor, dsb.).

Musk bersama-sama menggesa penangguhan latihan sistem kecerdasan buatan yang lebih berkuasa

Sebelum Buffett menyatakan kebimbangan mengenai pembangunan teknologi kecerdasan buatan, pengasas Tesla Musk bersama-sama mengeluarkan kenyataan dengan ribuan orang teknologi Surat terbuka itu memerlukan moratorium melatih sistem kecerdasan buatan yang lebih berkuasa daripada GPT-4.

Pada 29 Mac, Musk mengambil tindakan dan menandatangani surat terbuka yang ditandatangani oleh ribuan selebriti industri dan akademik, menyeru semua makmal kecerdasan buatan untuk menangguhkan latihan selama sekurang-kurangnya 6 bulan untuk menjadi lebih berkuasa daripada GPT-4. Sistem AI untuk membangunkan dan menguatkuasakan protokol keselamatan.

Mengenai langkah ini, Musk berkata memandangkan keupayaan teknikal yang kukuh yang ditunjukkan oleh ChatGPT, isu keselamatannya perlu dikawal selia. Di samping itu, Elon Musk telah berulang kali menekankan bahawa kecerdasan buatan mempunyai keupayaan yang kuat tetapi juga datang dengan risiko yang besar. Tidak dinafikan Ia adalah pedang bermata dua Dia malah secara pesimis percaya bahawa teknologi kecerdasan buatan adalah salah satu risiko terbesar yang dihadapi oleh tamadun manusia pada masa hadapan. .

Perlu dinyatakan bahawa tidak seperti Buffett, Musk dan lain-lain mempunyai sikap "negatif" terhadap pembangunan teknologi kecerdasan buatan Bill Gates bekas orang terkaya di dunia Ci agak optimis tentang perkara ini dan berkata bahawa penggantungan pembangunan tidak dapat menyelesaikan masalah sepenuhnya. Memikirkan kaedah yang akan digunakan dan menggunakan pembangunan teknologi kecerdasan buatan secara rasional adalah penyelesaian terbaik.

Negara sedang mengkaji secara serius pembangunan teknologi kecerdasan buatan seperti ChatGPT

Banyak filem, siri TV dan novel telah membayangkan robot kecerdasan buatan berkhidmat untuk masyarakat dan memberi manfaat kepada manusia, dan mereka juga mempersoalkan keselamatan dan kebolehpercayaan kecerdasan buatan , kesetiaan, dan sama ada untuk menggantikan manusia untuk memerintah dunia Produk seperti ChatGPT perlahan-lahan mendorong idea ini ke arah realiti , mereka perlu serius mempertimbangkannya. Keselamatan, pematuhan dan isu-isu lain.

Itali mengambil "gambar pertama" dalam isu keselamatan ChatGPT.

Lebih sepuluh hari yang lalu, kerajaan Itali melarang operasi Chat GPT di Itali atas alasan OpenAI secara haram mengumpul sejumlah besar data peribadi pengguna Itali dan gagal mewujudkan mekanisme untuk menyemak umur Pengguna ChatGPT untuk menghalang kanak-kanak bawah umur daripada mengakses bahan haram. Selepas beberapa hari penimbal, agensi perlindungan data Itali membuat sedikit konsesi dan mencadangkan beberapa siri keperluan kepada OpenAI Jika ia dapat dipenuhi, Itali akan membenarkan ChatGPT terus beroperasi di negara itu.

Pada ketika ini, Itali telah melancarkan "tembakan pertama" mengenai isu pematuhan keselamatan ChatGPT.

Langkah keselamatan yang diambil oleh Itali pada ChatGPT telah menarik perhatian negara Eropah Pada masa ini, negara Eropah sedang mengkaji sama ada sekatan ketat terhadap teknologi kecerdasan buatan yang serupa dengan ChatGPT diperlukan. Antaranya, agensi perlindungan data Sepanyol telah meminta pengawal selia privasi EU untuk menilai isu pematuhan privasi sekitar penggunaan ChatGPT.

Berikutan ini, agensi kawal selia Jerman turut mengumumkan larangan penggunaan ChatGPT, dan negara Eropah seperti Perancis, Ireland, dan Sepanyol juga mula mempertimbangkan penyeliaan yang lebih ketat terhadap chatbot AI.

Amerika Syarikat mengikuti rapat EU dan merancang untuk mengawal selia kecerdasan buatan

Dengan satu asas, Itali telah mengukuhkan penyeliaannya terhadap ChatGPT, yang bukan sahaja telah membangkitkan kebimbangan negara EU tentang kecerdasan buatan . Kebimbangan juga mempengaruhi Amerika Syarikat di seberang lautan.

Pada 11 April waktu tempatan di Amerika Syarikat, "Wall Street Journal" tiba-tiba menyiarkan berita bahawa kerana masyarakat Amerika bimbang tentang ancaman keselamatan yang mungkin dibawa oleh teknologi kecerdasan buatan seperti ChatGPT, pentadbiran Biden telah mula mengkaji sama ada terdapat keperluan untuk mengawal alat tersebut Membuat sekatan.

Susulan ini, Jabatan Perdagangan A.S. secara rasmi meminta pendapat tentang langkah akauntabiliti yang berkaitan pada 11 April (tempoh untuk mendapatkan pendapat ialah 60 hari, termasuk pengeluaran model kecerdasan buatan baharu yang mempunyai potensi risiko). proses kelulusan dan pensijilan? Langkah ini dilihat sebagai langkah pertama dalam peraturan potensi teknologi kecerdasan buatan di Amerika Syarikat.

Mengenai keperluan mendesak untuk menetapkan peraturan untuk mengawal pembangunan teknologi kecerdasan buatan seperti ChatGPT, Alan Davidson, pengarah Pentadbiran Telekomunikasi dan Maklumat Kebangsaan, sebuah agensi di bawah Jabatan Perdagangan A.S., menegaskan bahawa diberikan bahawa teknologi kecerdasan buatan hanya di peringkat awalnya, "Advanced", kerajaan perlu mempertimbangkan penjenayah yang berpotensi menggunakan teknologi ini untuk menjalankan aktiviti jenayah, jadi ia perlu menetapkan beberapa sempadan yang diperlukan.

Kerajaan China telah mengeluarkan langkah pengurusan dalam bidang kecerdasan buatan

Bukan sahaja Amerika Syarikat, malah negara saya juga telah mula mengetatkan penyelidikan dan pembangunan dalam bidang kecerdasan manusia. Pada 11 April, Pentadbiran Ruang Siber China mengeluarkan "Langkah Pengurusan untuk Perkhidmatan Kecerdasan Buatan Generatif (Draf untuk Ulasan)" (selepas ini dirujuk sebagai "Langkah Pengurusan") atas alasan menggalakkan pembangunan sihat dan penggunaan piawaian buatan buatan generatif. teknologi perisikan. Dilaporkan bahawa "Langkah Pengurusan" merangkumi 21 item secara keseluruhan, antaranya "kecerdasan buatan generatif" termasuk teknologi yang menjana teks, gambar, bunyi, video, kod dan kandungan lain berdasarkan algoritma, model dan peraturan.

"Langkah Pentadbiran" menyekat pembahagian tanggungjawab untuk maklumat yang dijana oleh aplikasi teknologi kecerdasan buatan, dan dengan jelas menunjukkan bahawa organisasi dan individu yang menggunakan produk kecerdasan buatan generatif untuk menyediakan perkhidmatan seperti sembang dan teks, imej, dan penjanaan bunyi, termasuk dengan menyediakan antara muka boleh atur cara dan kaedah lain menyokong orang lain untuk menghasilkan teks, imej, bunyi, dsb. dengan sendirinya, dan memikul tanggungjawab pengeluar kandungan produk jika maklumat peribadi terlibat, menanggung undang-undang; tanggungjawab pemproses maklumat peribadi dan memenuhi kewajipan perlindungan maklumat peribadi.

Selain itu, terdapat juga keperluan bagi pengeluar produk kecerdasan buatan "Langkah-langkah Pentadbiran" menetapkan bahawa sebelum produk dilancarkan di pasaran, mereka harus melaporkan kepada negeri mengikut "Peraturan Penilaian Keselamatan. Perkhidmatan Maklumat Internet dengan Atribut Pendapat Awam atau Kapasiti Mobilisasi Sosial" Jabatan keselamatan siber dan maklumat hendaklah memohon penilaian keselamatan dan melaksanakan prosedur pemfailan, perubahan dan pembatalan algoritma mengikut "Peraturan Pengurusan Syor Algoritma untuk Maklumat Internet Perkhidmatan".

Apabila bercakap tentang produk kecerdasan buatan seperti ChatGPT di peringkat sosial, mereka lebih mengambil berat tentang data yang digunakan oleh pengeluar untuk melatih produk kecerdasan buatan Perkara ini juga diserlahkan dalam "Langkah Pengurusan", yang jelas menunjukkan untuk kecerdasan buatan generatif Pra-latihan dan data latihan yang dioptimumkan untuk produk pintar harus memenuhi keperluan berikut:

• (1) Memenuhi keperluan undang-undang dan peraturan seperti "Undang-undang Keselamatan Siber Rakyat Republik China";
• (2) ) tidak mengandungi kandungan yang melanggar hak harta intelek;
• (3) Jika data mengandungi maklumat peribadi, persetujuan subjek maklumat peribadi hendaklah diperolehi atau keadaan lain yang mematuhi undang-undang dan peraturan pentadbiran;
• (4) ) boleh memastikan ketulenan, ketepatan, objektiviti dan kepelbagaian data; jabatan ruang siber kebangsaan mengenai perkhidmatan kecerdasan buatan generatif.
• Akhir sekali, "Langkah Pengurusan" menekankan bahawa untuk kandungan terjana yang ditemui semasa operasi dan dilaporkan oleh pengguna yang tidak memenuhi keperluan langkah ini, selain mengambil langkah seperti penapisan kandungan, ia harus dioptimumkan melalui model dalam tempoh 3 bulan Latihan dan kaedah lain untuk mencegah penjanaan semula.

Pada masa ini, selepas sejumlah besar lelaran latihan, teknologi kecerdasan buatan seperti ChatGPT berkembang pesat Sebaliknya, sistem perundangan yang sedia ada di pelbagai negara jelas tidak mempunyai pengawasan yang mencukupi terhadap teknologi kecerdasan buatan seperti ChatGPT. peraturan telah digubal untuk mengawal teknologi kecerdasan buatan Pembangunan telah menjadi masalah utama yang perlu diselesaikan oleh semua negara.

Kesimpulan

Dengan perkembangan pesat teknologi pengkomputeran, gelombang revolusi teknologi kecerdasan buatan tidak dapat dielakkan, dan beberapa "kepintaran buatan" pasti akan diganti pada masa hadapan. Di samping itu, bilangan besar aplikasi teknologi kecerdasan buatan seperti ChatGPT pasti akan membawa kepada isu keselamatan seperti kebocoran data, pengoptimuman alat penggodaman rangkaian, penipuan berskala besar dan gambar rekaan AI.

Namun, tiada satu pun daripada faktor di atas boleh menjadi alasan untuk menggantung penyelidikan dan pembangunan teknologi kecerdasan buatan Manusia tidak seharusnya menghadapi kedatangan kecerdasan buatan dengan rasa takut asas pembangunan teknologi kecerdasan buatan saya percaya bahawa pada masa hadapan, melalui pengoptimuman berterusan teknologi dan penggubalan peraturan, bahaya yang disebabkan oleh "derivatif" dapat diminimumkan.

Atas ialah kandungan terperinci Adakah GPT akan menjadi sejuk? Buffett, Musk dan nama besar lain meminta penggantungan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!