Mengapa ChatGPT popular, tetapi OpenAI tidak mendapat perhatian yang meluas?

Dihasilkan oleh Big Data Digest

Pengarang: Caleb

Saya percaya semua orang telah melihat betapa popularnya ChatGPT sekarang.

Menurut statistik daripada Brett Winton, ketua futuris ARK Venture Capital, ia mengambil masa kurang daripada dua bulan untuk aktiviti harian ChatGPT melebihi 10 juta. Sebagai perbandingan, perisian fenomenal terakhir, Instagram, mengambil masa 355 hari untuk mencapai kejayaan ini.

Pada pertengahan Januari, New York Times melaporkan bahawa Antony Aumann, seorang profesor falsafah di Northern Michigan University, terkejut membaca artikel "kepada seluruh kelas" semasa menggred kursus agama dunia. Dengan menggunakan perenggan yang ringkas, contoh yang diletakkan dengan baik, dan hujah yang tegas, pelajar meneroka implikasi moral larangan burqa. Bagaimanapun, di bawah soalan Aumann, pelajar itu mengakui bahawa kertas itu ditulis menggunakan ChatGPT.

Terdapat banyak contoh yang serupa.

Tepat dengan populariti ChatGPT pada skala global yang OpenAI telah dengan cepat ditolak ke "puncak" pendapat umum.

Boleh dikatakan OpenAI kini mengetuai perlumbaan senjata chatbot. Mengambil ChatGPT sebagai contoh, pelepasan awam kerjasama berbilion dolar dengan Microsoft bukan sahaja merangsang Google dan Amazon untuk menggunakan kecerdasan buatan dengan segera dalam barisan produk mereka, OpenAI juga bekerjasama dengan Bain untuk memperkenalkan pembelajaran mesin ke dalam operasi Coca-Cola, dan merancang untuk berkembang kepada rakan kongsi korporat lain.

Tidak dinafikan bahawa kecerdasan buatan OpenAI telah menjadi perniagaan yang besar, tetapi sebenarnya ini agak berbeza daripada rancangan asal OpenAI.

“Masa depan umat manusia harus ditentukan oleh manusia”

Jumaat lalu, Ketua Pegawai Eksekutif OpenAI Sam Altman menerbitkan catatan blog bertajuk “Perancangan untuk AGI dan Seterusnya” dan seterusnya).

Pautan artikel: ​​https://www.php.cn/link/3187b1703c3b9b19bb63c027d8efc2f1​​

>Altman menggunakan bahasa yang luas dan idealistik untuk berhujah bahawa pembangunan kecerdasan buatan tidak seharusnya berhenti "Masa depan manusia harus ditentukan oleh manusia secara tersirat.

Hampir sepanjang tempoh ChatGPT menjadi popular, catatan blog ini dan tindakan terbaru OpenAI sentiasa mengingatkan semua orang betapa banyak nada dan misi OpenAI telah berubah berbanding semasa ia diasaskan.

Pada masa awalnya, OpenAI hanyalah sebuah organisasi bukan untung. Walaupun syarikat itu sentiasa memberi tumpuan kepada pembangunan AGI, apabila ia diasaskan, mereka berjanji tidak akan mengejar keuntungan dan berkongsi kod pembangunan secara percuma.

Hari ini, janji-janji ini tidak dapat ditemui.

Motivasi untuk OpenAI telah menjadi kepantasan dan keuntungan

Pada 2015, Altman, Musk, Peter Thiel dan Reid Hoffman mengumumkan penubuhan OpenAI, sebuah organisasi penyelidikan bukan untung. Dalam kenyataan pengasasnya, OpenAI mengumumkan bahawa penyelidikannya komited untuk "memajukan kecerdasan buatan dengan cara yang paling mungkin memberi manfaat kepada semua manusia, tanpa dikekang dengan menjana pulangan kewangan." Blog itu juga menyatakan bahawa "memandangkan penyelidikan kami tidak mempunyai kewajipan kewangan, ia boleh memberi tumpuan yang lebih baik pada kesan positif manusia" dan menggalakkan semua penyelidik untuk berkongsi "kertas kerja, catatan blog atau kod, paten kami (jika ada) akan dikongsi dengan dunia" .

Lapan tahun kemudian, kita berhadapan dengan sebuah syarikat yang tidak telus dan tidak didorong oleh kesan positif manusia. Sebaliknya, seperti yang dipercayai oleh ramai pengkritik, termasuk Musk, motivasi OpenAI menjadi kelajuan dan keuntungan.

Pada masa yang sama, OpenAI mengeluarkan teknologi. Sudah tentu terdapat perangkap, tetapi masih ada kesediaan untuk meningkatkan anjakan automasi di tempat kerja dengan mengorbankan pekerja manusia. Google, sebagai contoh, menyerlahkan peningkatan kecekapan yang dibawa oleh kecerdasan buatan yang melengkapkan kod secara automatik, yang membawa kepada pemberhentian ribuan pekerja.

Pada zaman awal OpenAI, media dan pengamal membayangkannya sebagai cara terbuka untuk menjalankan penyelidikan asas kecerdasan buatan, dengan tujuan yang tidak pasti. Pengasas bersama Greg Bockman pernah berkata: "Matlamat kami sekarang... adalah untuk melakukan perkara terbaik yang mungkin. Ia agak samar-samar."

Ini juga secara tidak nyata menyumbang kepada perubahan arah syarikat pada tahun 2018. Pada masa itu, OpenAI meminta beberapa arahan daripada sumber modal, dengan berkata, "Tanggungjawab fidusiari utama kami adalah kepada manusia. Kami menjangkakan bahawa kami perlu menggerakkan sumber yang penting untuk menyelesaikan misi kami."

Menjelang Mac 2019, OpenAI telah kehilangan sepenuhnya gelaran bukan untungnya dan menubuhkan jabatan "keuntungan terhad". Ini membolehkan OpenAI mula menerima pelaburan dan akan memberikan pelabur keuntungan dihadkan pada 100 kali ganda pelaburan mereka.

Keputusan ini dilihat sebagai persaingan dengan syarikat teknologi besar seperti Google, dan tidak lama kemudian syarikat itu turut menerima pelaburan AS$1 bilion daripada Microsoft seperti yang dijangkakan. Dalam catatan blog yang mengumumkan syarikat untung, OpenAI terus menggunakan retorik yang sama, mengisytiharkan bahawa misinya adalah untuk "memastikan bahawa kecerdasan buatan umum memberi manfaat kepada semua manusia."

Tetapi seperti yang ditulis Motherboard, sukar untuk mempercayai bahawa pemodal teroka boleh menyelamatkan manusia apabila matlamat utama mereka ialah keuntungan.

Adakah OpenAI masih layak mendapat kepercayaan orang ramai?

Pada 2019, OpenAI menghadapi tindak balas orang ramai apabila ia mengumumkan dan mengeluarkan model bahasa GPT-2.

Pada mulanya, syarikat itu berkata ia tidak akan mengeluarkan kod sumber untuk model terlatih kerana "kebimbangan mengenai aplikasi berniat jahat teknologi." Walaupun ini sebahagiannya mencerminkan komitmennya untuk membangunkan kecerdasan buatan yang bermanfaat, ia juga tidak begitu "terbuka".

Pengkritik tertanya-tanya mengapa OpenAI tidak akan mengeluarkan alat selepas mengumumkannya, dan ramai yang menyangka ia hanyalah aksi publisiti. Hanya tiga bulan kemudian OpenAI mengeluarkan model itu di GitHub, dengan mengatakan bahawa langkah itu adalah "asas penting untuk pelepasan kecerdasan buatan yang bertanggungjawab, terutamanya apabila ia berkaitan dengan model generatif yang berkuasa."

Menurut wartawan penyiasat Karen Hao, yang menghabiskan beberapa hari di dalam syarikat itu pada tahun 2020, budaya dalaman OpenAI mula tidak lagi mencerminkan pendekatan yang didorong oleh penyelidikan yang berhati-hati Proses pembangunan sebaliknya lebih tertumpu kepada kemajuan, yang juga telah membawa kepada tuduhan bahawa ia menyumbang kepada "kitaran gembar-gembur AI." Kakitangan juga kini dikehendaki berdiam diri mengenai kerja yang sedang dijalankan untuk mematuhi undang-undang kecil baru syarikat.

“Terdapat percanggahan antara perkara yang didokong oleh syarikat secara terbuka dan cara ia beroperasi secara tertutup Lama kelamaan, ia telah membenarkan persaingan sengit dan tekanan kewangan yang semakin meningkat untuk menghakis cita-cita penubuhannya iaitu ketelusan, keterbukaan dan kerjasama ." Hao menulis.

Tetapi secara keseluruhan, pelancaran GPT-2 sudah pasti merupakan acara yang patut diraikan untuk OpenAI, dan ia juga merupakan asas penting dalam pembangunan syarikat sehingga hari ini. "Ia pastinya sebahagian daripada rangka kerja kisah kejayaan," Miles Brundage, kini pengarah penyelidikan dasar, berkata pada persidangan "Bahagian cerita itu seperti ini: Kami melakukan sesuatu yang bercita-cita tinggi dan kini sesetengah orang mereplikasinya juga menjadi beberapa penjelasan tentang faedah inovasi ini”.

Sejak itu, OpenAI telah mengekalkan bahagian gembar-gembur formula keluaran GPT-2, tetapi mengalih keluar keterbukaan. Pada tahun 2020, GPT-3 telah dilancarkan secara rasmi dan dengan cepat "eksklusif" dilesenkan kepada Microsoft. Kod sumber GPT-3 masih belum dikeluarkan, walaupun OpenAI sedang giat mempersiapkan GPT-4 model ini hanya dibuka kepada orang ramai melalui API ChatGPT, dan OpenAI juga telah melancarkan lapisan berbayar untuk menjamin akses kepada model; .

Sudah tentu terdapat beberapa pertimbangan untuk melakukan ini. Yang pertama ialah wang. "Mengkomersialkan teknologi membantu membayar untuk penyelidikan AI, keselamatan dan kerja dasar kami yang berterusan," kata OpenAI dalam blog pengumuman API. Sebab kedua ialah berat sebelah untuk membantu syarikat besar. "Sukar untuk sesiapa sahaja kecuali syarikat besar untuk mendapat manfaat daripada teknologi asas." Akhirnya, syarikat itu juga mengatakan bahawa melepaskan melalui API dan bukannya sumber terbuka adalah lebih selamat kerana syarikat itu boleh menangani penyalahgunaan.

"Kamu sentiasa memberitahu kami AGI adalah pantas, tetapi tiada definisi yang konsisten pada tapak web anda," kata saintis komputer Timnit Gebru di Twitter.

Emily M. Bender, profesor linguistik di University of Washington, menulis tweet, “Mereka tidak mahu menyelesaikan masalah sebenar di dunia nyata (yang memerlukan kuasa penyerahan. Mereka mahu mempercayainya). tuhan yang bukan sahaja boleh mencipta 'superintelligence' yang mempunyai rahmat untuk melakukannya dengan cara yang 'konsisten' dengan manusia."

Adakah AI ini akan dikongsi secara bertanggungjawab, dibangunkan secara terbuka dan tanpa motif keuntungan, seperti yang dibayangkan oleh syarikat pada asalnya? Atau adakah ia akan disegerakan keluar, dengan banyak kelemahan yang membimbangkan, tetapi kebanyakannya untuk menjana pendapatan untuk OpenAI? Adakah OpenAI akan mengekalkan sumber tertutup masa depan sci-finya?

Selepas digabungkan dengan ChatGPT, chatbot Bing Microsoft berada dalam keadaan "taksub", sentiasa menipu dan memarahi pengguna, serta menyebarkan maklumat yang salah. OpenAI tidak dapat mengesan teks yang dijana oleh chatbotnya sendiri dengan pasti, walaupun para pendidik semakin bimbang tentang pelajar yang menggunakan aplikasi untuk menipu.

Orang ramai juga dengan mudah menjejaki model bahasa, mengabaikan pagar yang dipasang OpenAI di sekelilingnya, dengan bot ranap apabila menaip perkataan dan frasa rawak. Tiada siapa yang boleh mengatakan dengan jelas mengapa, kerana OpenAI tidak berkongsi kod model asas, dan mungkin pada tahap tertentu, OpenAI sendiri tidak mungkin memahami sepenuhnya cara ia berfungsi.

Dengan mengambil kira semua ini, kita semua harus mempertimbangkan dengan teliti sama ada OpenAI layak menerima kepercayaan yang diminta orang ramai untuk memberikannya, dan ia tidak bertindak balas dengan sebarang tindak balas substantif.

Laporan berkaitan: ​​https://www.php.cn/link/b4189d9de0fb2b9cce090bd1a15e3420​​

Atas ialah kandungan terperinci Mengapa ChatGPT popular, tetapi OpenAI tidak mendapat perhatian yang meluas?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!