Selepas melengkapkan penilaian lengkap GPT-4, kertas hangat Microsoft mengatakan bahawa versi pertama AGI akan datang tidak lama lagi

Pada tahun 1956, pada seminar yang diadakan di Kolej Dartmouth, konsep kecerdasan buatan telah dicadangkan secara rasmi.

Istilah ini telah mencabar ahli psikologi, ahli falsafah dan saintis komputer kerana ia sangat sukar untuk ditakrifkan. Pada tahun 1994, 52 ahli psikologi menerbitkan kertas kerja yang cuba menangkap intipatinya.

Seiring dengan berlalunya masa, penyelidik mula mengalihkan perhatian mereka kepada sistem AI dalam bidang tertentu, seperti cabaran AlphaGo 2016 kepada pemain catur juara Korea dan kemenangan yang memberangsangkan. Kemudian, pada akhir 1990-an dan awal 2000-an, para penyelidik tidak lagi berpuas hati dengan AI khusus, jadi panggilan untuk pembangunan sistem kecerdasan buatan yang lebih umum semakin meningkat. Seiring dengan ini, istilah Artificial General Intelligence (AGI) mula mendapat populariti pada awal 2000-an.

Sejak kebelakangan ini, seperti yang anda lihat, model bahasa besar (LLM) telah menjadi perhatian utama Rangkaian saraf ini berdasarkan seni bina Transformer dan dilatih pada set data teks yang besar. Khususnya, keluaran terbaru OpenAI GPT-4 menunjukkan kepelbagaian model bahasa berskala besar dan mahir dalam matematik, penulisan, undang-undang, perubatan dan bidang lain.

Kami tidak boleh tidak bertanya, adakah GPT-4 satu langkah penting ke arah AGI?

Jawapan yang diberikan oleh Microsoft adalah ya, dan dalam kertas yang dikeluarkan baru-baru ini, mereka menghuraikan sudut pandangan ini. Artikel ini menyediakan penilaian menyeluruh GPT-4. Microsoft percaya bahawa "memandangkan keluasan dan kedalaman keupayaan GPT-4, kami percaya ia wajar dianggap sebagai versi awal (tetapi masih tidak lengkap) sistem kecerdasan am buatan (AGI)

Microsoft juga berkata, "Matlamat utama artikel ini adalah untuk meneroka keupayaan dan batasan GPT-4. Kami percaya bahawa kecerdasan GPT-4 menandakan anjakan paradigma sebenar dalam sains komputer dan bidang lain." >

Alamat kertas: https://arxiv.org/pdf/2303.12712.pdf

Menarik Malangnya, kertas popular ini juga didapati mempunyai banyak pemadaman, jadi seseorang menjumpai versi ringkas kertas itu.

Daripada versi yang belum dipotong, penulis blog ini juga mendedahkan banyak butiran tersembunyi Contohnya, nama dalaman GPT-4 ialah DV-3, yang sebenarnya adalah rahsia kertas itu . Selain itu, penulis blog juga mendedahkan bahawa bahagian tentang kandungan toksik telah dipadamkan apabila kertas ini diterbitkan (untuk mengelakkan kesan negatif pada OpenAI?).

Kami telah menampal benang Twitter blogger di bawah untuk mereka yang berminat.

Twitter thread: https://twitter.com/DV2559106965076/status/1638769434763608064Berbalik kepada artikel itu sendiri.

Menurut artikel itu, AGI ialah keupayaan khusus untuk menaakul, merancang, menyelesaikan masalah, berfikir secara abstrak, memahami idea yang kompleks, belajar dengan cepat dan belajar daripada pengalaman. Bermula daripada keupayaan ini, kertas kerja menjalankan eksperimen dan penilaian yang menarik.

Kertas ini dibahagikan kepada 10 bab: Bab 1 ialah bahagian umum; , memahami kod yang sedia ada; Bab 5 Interaksi dengan Dunia Bab 7 Diskriminasi Bab 9 Kesan Sosial;

Mari gunakan contoh khusus untuk melihat sama ada GPT-4 benar-benar memasuki era AGI.

Komposisi multimodal dan antara disiplin

Untuk menguji keupayaan model untuk menggabungkan seni dan pengaturcaraan, kajian itu meminta GPT-4 menulis sekeping kod dalam javascript untuk Menjana Kandinsky -gambar rawak gaya Gambar pertama di bawah dicipta oleh Wassily Kandinsky, dan gambar kedua dan ketiga masing-masing dihasilkan oleh GPT-4 dan ChatGPT:

Berikut ialah proses pelaksanaan kod GPT-4:

Fahami konsep visual: Dalam tugas lukisan ini, input menggesa untuk membenarkan model menggabungkan bentuk huruf Y, O dan H untuk melukis seseorang. Malah, semasa proses latihan GPT-4, tidak ada pengetahuan tentang bentuk huruf Ia hanya dapat mengetahui dengan jelas bahawa huruf berkaitan dengan beberapa bentuk tertentu daripada data latihan yang berkaitan. 4 tidak buruk:

Untuk penjanaan lakaran: GPT-4 juga boleh digabungkan dengan Stable Diffusion. Gambar di bawah ialah tangkapan skrin pemodelan bandar 3D Gesaan input mempunyai sungai yang mengalir dari kiri ke kanan, padang pasir dengan piramid dibina di sebelah sungai, dan empat butang di bahagian bawah skrin, yang warnanya hijau, biru, coklat dan merah. Berikut ialah hasil yang dijana:

Anda juga boleh meminta GPT-4 menjana dan mengubah suai lagu menggunakan tatatanda ABC:

Keupayaan Pengaturcaraan

GPT-4 mempunyai keupayaan pengaturcaraan yang sangat berkuasa, termasuk menulis kod mengikut arahan dan memahami kod sedia ada. Kajian itu secara khusus menguji keupayaan pengaturcaraan GPT-4.

Penulisan kod​

Rajah 3.1 di bawah ialah contoh membenarkan GPT-4 menulis fungsi python Gunakan LeetCode untuk menentukan sama ada kod itu betul dalam talian.

Kemudian, kajian membenarkan GPT-4 memvisualisasikan data ketepatan pada LeetCode dalam Jadual 2 di atas Sebagai graf, keputusan ditunjukkan dalam Rajah 3.2 di bawah.

Pembangunan bahagian hadapan/permainan​

Seperti yang ditunjukkan dalam Rajah 3.3 di bawah, kajian meminta GPT-4 menulis permainan 3D dalam HTML menggunakan JavaScript GPT-4 menghasilkan permainan yang memenuhi semua keperluan dengan sampel sifar.

Pengaturcaraan Pembelajaran Mendalam​

Menulis kod untuk pembelajaran mendalam memerlukan matematik , pengetahuan statistik dan kebiasaan dengan rangka kerja dan perpustakaan seperti PyTorch, TensorFlow, Keras, dll. Seperti yang ditunjukkan dalam Rajah 3.4 di bawah, penyelidik memerlukan GPT-4 dan ChatGPT untuk menulis modul pengoptimum tersuai, satu tugas yang juga mencabar untuk pakar pembelajaran mendalam manusia. Penyelidik menyediakan huraian bahasa semula jadi untuk GPT-4 dan ChatGPT, yang merangkumi satu siri operasi penting, seperti menggunakan SVD dan sebagainya.

Selain itu, kajian ini juga menguji keupayaan GPT-4 untuk menukar kod kepada formula LaTex, dan hasilnya ditunjukkan dalam Rajah 3.5 di bawah.

Dari segi pemahaman kod, penyelidikan ini cuba membenarkan GPT-4 dan ChatGPT "membaca" program C/C++ dan meramalkan output program tersebut adalah seperti berikut:

Kajian itu kemudiannya mempunyai GPT-4 mentafsir sekeping kod Python:

Juga Terdapat sekeping kod pseudo untuk menerangkan:

Keupayaan matematik

Untuk jangka masa yang lama, matematik keupayaan model bahasa besar nampaknya tidak begitu baik. Jadi bagaimanakah prestasi GPT-4 dalam hal ini? Selepas beberapa siri penilaian dalam artikel ini, keputusan menunjukkan bahawa GPT-4 telah membuat lonjakan kualitatif dalam matematik berbanding model sebelum ini, tetapi ia masih jauh dari tahap pakar dan tidak mempunyai keupayaan untuk melakukan penyelidikan matematik.

Berbanding dengan ChatGPT, GPT-4 berjaya menghasilkan penyelesaian, manakala ChatGPT menjana jawapan yang salah:

Mengenai isu AP, hasil perbandingan GPT-4 lwn ChatGPT. GPT-4 menggunakan pendekatan yang betul, tetapi ralat pengiraan membawa kepada jawapan akhir yang salah, manakala ChatGPT menghasilkan hujah yang tidak koheren.

Selain itu, artikel ini menguji keupayaan GPT-4 untuk menggunakan pemikiran dan teknologi matematik untuk menyelesaikan masalah dunia sebenar: Rajah di bawah menunjukkan cara GPT- 4 Berjaya membina model matematik yang munasabah untuk sistem kompleks yang memerlukan pengetahuan antara disiplin yang luas, ChatGPT gagal mencapai kemajuan yang bermakna.

Memandangkan kertas itu sepanjang 154 muka surat, artikel ini hanya memaparkan sejumlah besar hasil penilaian Untuk maklumat lanjut, pembaca boleh merujuk kepada yang asal kertas.

Akhir sekali lampirkan jadual kandungan:

Atas ialah kandungan terperinci Selepas melengkapkan penilaian lengkap GPT-4, kertas hangat Microsoft mengatakan bahawa versi pertama AGI akan datang tidak lama lagi. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!