GPT-4 telah berkembang begitu banyak sehingga hampir sepuluh ribu orang telah menandatangani petisyen untuk menyekatnya! Rumah Putih mengadakan mesyuarat tergempar, dan saham konsep ChatGPT menjunam

Ancaman GPT-5 telah menjadi hebat.

Selepas kelahiran GPT-4, kesan gangguan yang mungkin ada pada AI terhadap masyarakat manusia telah menakutkan ramai pemimpin industri.

Baru-baru ini, nampaknya seluruh dunia sedang menyerang ChatGPT.

Surat terbuka untuk menggantung penyelidikan dan pembangunan AI lanjutan telah dimulakan bersama oleh Musk, pemenang Anugerah Turing Bengio dan nama-nama besar lain beberapa ketika dahulu. Kini bilangan tandatangan telah meningkat kepada lebih daripada 9,000.

Susulan itu, organisasi bukan untung AS Center for Artificial Intelligence and Digital Policy (CAIDP) turut meminta Suruhanjaya Perdagangan Persekutuan (FTC) untuk siasat sama ada OpenAI melanggar peraturan perlindungan pengguna dan melarangnya daripada terus menerbitkan GPT-4.

Dan Itali telah mengharamkan ChatGPT di seluruh negara dan hanya memberikan OpenAI tempoh pelarasan 20 hari Jika ia tidak dapat menghasilkan penyelesaian yang layak, ia perlu membayar denda sehingga 20 juta euro.

Kegilaan menyekat ChatGPT telah melanda dunia

Apa yang menarik ialah sejak Itali mengambil inisiatif ini, beberapa negara lain juga tidak sabar-sabar untuk mencuba dan bersedia untuk mengambil tindakan di ChatGPT.

Pengawal selia privasi di Perancis dan Ireland telah menghubungi rakan sejawatannya dari Itali untuk mendapatkan butiran lanjut tentang siasatan.

Pesuruhjaya Perlindungan Data Persekutuan Jerman Ulrich Kelber berkata: "Secara prinsipnya, adalah mungkin untuk menerima pakai prosedur serupa di Jerman." , Kesatuan Eropah juga telah mencadangkan rancangan draf untuk mengawal selia ChatGPT sebagai sistem AI berisiko tinggi.

Amerika Syarikat turut mengambil tindakan

Dan baru hari ini, Presiden AS Biden turut berada di White House bersama penasihat Sains dan teknologi mengadakan mesyuarat untuk membincangkan risiko dan peluang yang dibawa oleh AI kepada manusia, masyarakat dan keselamatan negara.

Menurut Reuters, semasa mesyuarat Majlis Penasihat Presiden mengenai Sains dan Teknologi (PCAST), Biden menekankan, “Pada pandangan saya, syarikat teknologi mempunyai tanggungjawab untuk memastikan mereka produk adalah Ia selamat.”

Apabila ditanya sama ada AI berbahaya, dia berkata, “Ia masih perlu dilihat, ia adalah satu kemungkinan.”

Biden berkata bahawa bahaya yang boleh ditimbulkan oleh teknologi berkuasa tanpa langkah perlindungan telah nyata di media sosial.

“Oleh kerana kekurangan perlindungan, kami melihat teknologi memberi kesan kepada kesihatan mental orang, menyebabkan mereka mempunyai harga diri yang rendah dan putus asa tentang imej diri mereka di kalangan orang muda. disasarkan kepada remaja, dan meningkatkan pembangunan produk Mengutamakan kesihatan dan keselamatan.

Terjejas dengan berita ini, harga saham syarikat AI jatuh mendadak sebelum Biden mengadakan mesyuarat ini.

Harga saham saham konsep ChatGPT C3.ai terus jatuh, ditutup turun 26.34% pada AS$24.95, dengan nilai pasaran AS$2.8 bilion, penurunan harian terbesar sejak saham itu telah disenaraikan.

Sebelum ini, sejak Microsoft mengumumkan perkongsian berbilion dolarnya dengan OpenAI, C3.ai, seperti banyak syarikat dalam bidang AI, Ia telah menjadi salah satu syarikat paling hangat di Wall Street baru-baru ini, dengan harga saham C3.ai meningkat lebih daripada 130% tahun ini.

Gates: Menggantung penyelidikan dan pembangunan AI tidak boleh "menyelesaikan cabaran"

Pada 3 April, waktu tempatan, Gates membincangkan secara terbuka surat terbuka yang ditandatangani oleh ribuan pakar dalam temu bual dengan Reuters,

Meminta moratorium pembangunan AI tidak akan "menyelesaikan cabaran". R&D AI Bagaimanakah ini akan dicapai.

Saya tidak fikir meminta kumpulan tertentu berhenti seketika akan menyelesaikan cabaran, sambungnya. Jelas sekali, perkara-perkara ini mempunyai faedah yang besar... Apa yang perlu kita lakukan ialah mengenal pasti bahagian yang sukar.

Gates ialah penyokong kuat kecerdasan buatan.

Pada 21 Mac, sehari sebelum surat terbuka bersama dilancarkan, Gates menerbitkan catatan blog yang mengatakan "Era kecerdasan buatan telah bermula."

Ia menyebut bahawa kecerdasan buatan harus digunakan untuk membantu mengurangkan beberapa ketidaksamaan yang paling teruk di dunia.

Dia memuji kecerdasan buatan dalam blognya, "Era AI telah bermula, dan revolusi kecerdasan buatan tidak kurang pentingnya daripada kelahiran telefon mudah alih dan Internet Ini adalah satu-satunya kemajuan teknologi revolusioner dalam hidupnya. OpenAI sedang membina teknologi AI untuk Microsoft Bing, Edge, Microsoft 365 dan produk lain.

Dalam temu bual, Gates mempersoalkan kemungkinan untuk menggantung pembangunan AI dan ingin mengetahui cara melaksanakannya.

"Butiran mana-mana moratorium akan menjadi rumit dan sukar untuk dikuatkuasakan. Saya tidak begitu faham tentang siapa yang mereka bincangkan sebagai berkemungkinan berhenti, sama ada setiap negara di dunia akan bersetuju dengan pemberhentian, dan mengapa berhenti, akan terdapat banyak pendapat yang berbeza dalam bidang ini "

GPT-4 belajar untuk "memuhasabah diri" dan prestasinya meningkat sebanyak 30%Walau bagaimanapun, walaupun seluruh dunia Semua orang menghadapi musuh yang hebat menentang AI super, dan jika mereka mahu mengekang keadaan dengan cepat, ia mungkin sudah terlambat.

Kerana AI hari ini telah belajar untuk berkembang sendiri!

Ada bukti: GPT-4 sedang memperbaiki dirinya sendiri!

Beberapa ketika dahulu, bekas jurutera penyelidik Google Brain Eric Jang menemui sesuatu yang gila: GPT-4 boleh mengkritik keputusannya sendiri dengan cara yang munasabah .

Daripada mencari petunjuk sempurna untuk model bahasa besar (LLM) (mari kita fikirkan langkah demi langkah), biarkan LLM menilai outputnya sendiri dan membetulkan kesilapannya sendiri dengan segera.

Malah bekas pengarah AI Tesla dan saintis penyelidikan OpenAI Andrej Karpathy memuji ini sebagai contoh yang baik tentang perkara yang belum kita lihat dengan keupayaan maksimum GPT -4.

Dalam contoh yang diberikan oleh Eric Jang, saya melihat seorang penyelidik Microsoft menulis tweet bahawa GPT-4 tidak boleh menulis perkataan "tidak berirama" sama sekali dalam puisi .

Namun, apabila ditanya semula sama ada GPT-4 telah menyiapkan tugasan tersebut. Pada masa ini, selepas meminta maaf, ia menghasilkan puisi yang tidak berirama! Boleh dikatakan markah penuh.

Ini hanya membuktikan bahawa GPT-4 mempunyai keupayaan untuk "mencerminkan".

Baru-baru ini, penyelidik dari Northeastern University, MIT dan institusi lain di Amerika Syarikat mencadangkan Refleksi. Kaedah ini memberikan ejen ingatan dinamik dan keupayaan untuk mencerminkan diri.

Alamat kertas: https://arxiv.org/abs/2303.11366

Untuk mengesahkan keberkesanan kaedah, penyelidik menilai keupayaan ejen untuk menyelesaikan tugas membuat keputusan dalam persekitaran AlfWorld, dan untuk menyelesaikan tugasan soal jawab berasaskan carian yang intensif pengetahuan dalam persekitaran HotPotQA.

Kadar kejayaan dalam kedua-dua tugasan ini masing-masing adalah 97% dan 51%.

Senibina keseluruhan ejen Refleks

Sesetengah netizen berkata, Anda boleh meningkatkan prestasi GPT-4 sebanyak 30% dengan memintanya untuk memikirkan "Mengapa anda salah dan menjana gesaan baharu untuk dirinya sendiri yang mengambil kira ralat itu sehingga hasilnya betul.

Di samping itu, kertas kerja menunjukkan bahawa Reflexion+GPT-4 juga jauh lebih baik daripada GPT-4 konvensional apabila menguji keupayaan model untuk menulis kod.

Dengan cara ini, seperti yang dikatakan Eric Jang,

Kami kini boleh mempertimbangkan "Anjuran Akhiran Projek", bukan "Projek Prompt Awalan" yang bijak. Ini akan menggalakkan LLM mencari pembetulan dan ketidakkonsistenan dalam penyelesaian yang dijana sebelum ini.

Berkenaan keupayaan GPT-4 untuk menjadikan dirinya lebih bijak melalui peningkatan diri, seorang netizen membuat ringkasan video.

Penyelidik meta menerbitkan kertas kerja baharu Toolformer pada bulan Februari, secara langsung menyasarkan "kelemahan" ChatGPT, membolehkan model bahasa besar belajar menggunakan alatan sendiri.

Alamat kertas: https://arxiv.org/abs/2302.04761

Menurut pemikiran Meta, model bahasa besar seperti ChatGPT boleh menebus apa sahaja kekurangan mereka.

Sebagai contoh, jika anda tidak tahu bagaimana untuk membuat matematik, hanya keluarkan kalkulator jika anda memerlukan maklumat terkini, hanya sambungkan ke enjin carian anda boleh; malah terus membuang kandungan yang ingin anda terjemahkan kepadanya.

Kertas itu menjadi popular serta-merta. Ramai penyelidik AI berkata bahawa kertas kerja ini membuka minda orang ramai dan membenarkan model bahasa besar menjadi titik permulaan daripada semua perkara.

Begitu juga, kertas kerja baru-baru ini "Jarvis" HuggingGPT yang diterbitkan oleh Universiti Zhejiang dan Microsoft Research Asia telah menarik perhatian besar dalam industri.

Alamat kertas: https://arxiv.org/abs/2303.17580

Dalam kertas , HuggingGPT yang dicadangkan oleh penyelidik menggunakan ChatGPT sebagai pengawal untuk menyambungkan pelbagai model AI dalam komuniti HuggingFace untuk menyelesaikan pelbagai tugas yang kompleks seperti multi-modaliti.

Sesetengah netizen berkata saya amat mengesyaki bahawa kecerdasan buatan umum (AGI) pertama akan muncul lebih awal daripada jangkaan. Ia akan bergantung pada AI "gam" yang boleh menggabungkan satu siri kecerdasan buatan sempit dan alat praktikal dengan bijak.

Tulis kod secara automatik

Baru-baru ini, pembangun membuat projek yang membolehkan GPT-4 menjana kod secara automatik - —Auto- GPT.

malah boleh melaksanakan kod. Dalam penambahbaikan seterusnya, Auto-GPT boleh menggunakan GPT-4 untuk menulis kod dan melaksanakan skrip Python. Ini membolehkannya menyahpepijat secara rekursif, membangun dan memperbaiki dirinya sendiri...

Auto-GPT membolehkan orang ramai memahami dengan lebih lanjut keupayaan berkuasa GPT-4 , Beberapa netizen malah membuat meme:

Andrej Karpathy berkata, pada pendapat saya, sempadan seterusnya kejuruteraan segera ialah "AutoGPT" ”. Panggilan GPT adalah seperti arahan pada komputer. Mereka boleh digabungkan ke dalam program. Gunakan gesaan untuk mentakrif peranti I/O dan spesifikasi alat, mentakrifkan gelung kognitif, input dan output data halaman secara kontekstual, dan kemudian jalankan.

Netizen: Singulariti akan datang

Sesetengah netizen berkata bahawa ini pada asasnya definisi ketunggalan.

Satu-satunya perkara yang diperlukan sekarang untuk AI yang mempertingkatkan diri ialah dapat mengubah suai kod model dan melatihnya secara autonomi (dengan melayari internet dan melabelkan semuanya sendiri) .

Malah sesetengah netizen percaya bahawa kemajuan pesat teknologi telah membawa kita ke titik yang tidak dapat dipulihkan. Menjelang 2025, dunia akan berubah secara mendadak, menjadi lebih baik dan lebih buruk.

Belajar daripada kesilapan adalah asas kecerdasan.

Nampaknya GPT-4 mengalahkan dirinya sendiri dan mahu menjadi AI super.

Menurut berita terkini daripada bos besar tertentu, OpenAI sangat jelas bahawa lelaran pantas produk AI mereka baru-baru ini telah menyebabkan reaksi yang sangat kuat, dan mereka juga mengalu-alukan penyeliaan awam.

Orang yang bertanggungjawab mengatakan bahawa risiko semasa setiap token belum mencapai tahap kritikal, jadi penyalahgunaan GPT tidak akan menyebabkan banyak bahaya. Pelan jalan penjajaran AI akan dikeluarkan dalam masa beberapa bulan.

Atas ialah kandungan terperinci GPT-4 telah berkembang begitu banyak sehingga hampir sepuluh ribu orang telah menandatangani petisyen untuk menyekatnya! Rumah Putih mengadakan mesyuarat tergempar, dan saham konsep ChatGPT menjunam. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!