Ketua Pegawai Eksekutif OpenAI menjawab 'perjanjian senyap', pertikaian itu masih berpunca daripada kepentingan ekuiti, Ultraman: Ini salah saya

Sejak peletakan jawatan Ilya dan Jan, ketua penjajaran super, OpenAI masih patah hati, dan semakin ramai yang meletak jawatan, yang juga telah menyebabkan lebih banyak konflik.

Semalam, tumpuan kontroversi sampai kepada "perjanjian senyap" yang ketat.

Bekas pekerja OpenAI Kelsey Piper menyampaikan berita bahawa mana-mana arahan dokumen penerimaan pekerja termasuk: "Dalam tempoh enam puluh hari selepas meninggalkan syarikat, anda mesti menandatangani dokumen pemisahan yang mengandungi "penepian am." Jika anda tidak Menyelesaikan dalam tempoh 60 tahun. hari, faedah ekuiti anda akan dibatalkan. dan jika orang tidak menandatangani perjanjian pemisahan (atau bersetuju dengan perjanjian tanpa meremehkan), kami tidak akan melakukannya. Ekuiti terletak hak ialah ekuiti terletak hak (tempoh).

Berkenaan dengan cara OpenAI mengendalikan ekuiti, jawapan Sam Altman yang lain adalah seperti berikut:

Hanya 15 minit kemudian, pemberi maklumat akan bertanya lagi: Sekarang anda sudah tahu, dan pemberi maklumat akan bertanya semula. perjanjian sekatan pekerja sebelum ini dibatalkan?

Oleh kerana kebanyakan orang mahukan penyelesaian yang jelas, bukan sekadar permintaan maaf:

The whistle to me: Sam - - Maksud saya, saya fikir itu adalah sebahagian daripada tugas seorang CEO, kadang-kadang anda bukan sahaja perlu meminta maaf, tetapi orang ramai mahu mencemuh dan mahu penjelasan dan mahu melihat bukti bahawa polisi telah berubah "

Itu melaporkan tahun lepas bahawa gabungan paling biasa bagi pampasan pekerja OpenAI ialah: gaji asas tetap sebanyak AS$300,000, dan subsidi tahunan PPU (Unit Penyertaan Keuntungan) kira-kira AS$500,000 Ini adalah Bentuk Pampasan Ekuiti. Yang berkata, sepanjang tempoh empat tahun pemberian PPU, kebanyakan pekerja OpenAI dijangka menerima sekurang-kurangnya $2 juta dalam pampasan berasaskan ekuiti.

Jika berita itu benar, kebanyakan bekas pekerja yang "meletak jawatan" sepatutnya mahu "berpegang kepada penghujung."

Selain pergolakan ini, terdapat juga kontroversi yang berlaku pada masa yang sama: tentang bagaimana OpenAI akan mengendalikan keselamatan dan risiko masa depan.

Menurut beberapa laporan media, berikutan pemergian baru-baru ini dua ketua bersama pasukan Super Alignment, Ilya Sutskever dan Jan Leike, pasukan Super Alignment OpenAI telah dibubarkan. Jan Leike juga menerbitkan satu siri siaran pada hari Jumaat, mengecam OpenAI dan kepimpinannya kerana mengabaikan "keselamatan" dan memihak kepada "produk berkilat."

Awal hari ini, pengasas bersama OpenAI Greg Brockman menulis jawapan yang panjang untuk isu ini.

Dalam artikel yang ditandatangani "Sam dan Greg", Brockman menegaskan: OpenAI telah mengambil langkah untuk memastikan pembangunan dan penggunaan teknologi AI yang selamat.

Kami amat berterima kasih atas segala yang Jan telah lakukan untuk OpenAI, dan kami tahu dia akan terus menyumbang secara luaran kepada misi OpenAI. Memandangkan isu yang dibangkitkan oleh pemergiannya, kami ingin menerangkan cara kami memikirkan strategi keseluruhan kami.

Pertama, kami telah meningkatkan kesedaran tentang risiko dan peluang AGI supaya dunia boleh lebih bersedia untuknya. Kami telah berulang kali menunjukkan kemungkinan besar untuk meningkatkan pembelajaran mendalam dan menganalisis impaknya; kami meminta tadbir urus antarabangsa AGI sebelum panggilan sedemikian popular dan membantu merintis sains menilai risiko bencana sistem AI.

Kedua, kami telah meletakkan asas yang diperlukan untuk menggunakan sistem yang semakin berkebolehan dengan selamat. Menggunakan teknologi baru buat kali pertama bukanlah mudah. Sebagai contoh, pasukan kami melakukan banyak kerja untuk membawa GPT-4 ke dunia dengan cara yang selamat dan sejak itu kami terus menambah baik tingkah laku model dan pemantauan penyalahgunaan berdasarkan pengajaran yang dipelajari semasa penggunaan.

Ketiga, masa depan akan lebih sukar daripada masa lalu. Kami perlu terus meningkatkan usaha keselamatan kami untuk menangani risiko setiap model baharu. Tahun lepas, kami menerima pakai Rangka Kerja Kesediaan untuk membantu mensistemkan kerja kami.

Sekarang adalah masa yang sesuai untuk bercakap tentang cara kita melihat masa depan.

Memandangkan model terus menjadi lebih berkuasa, kami menjangkakan mereka akan mula berintegrasi lebih mendalam dengan dunia. Pengguna akan semakin berinteraksi dengan sistem yang terdiri daripada banyak model dan alatan multimodal yang boleh mengambil tindakan bagi pihak mereka, dan bukannya bercakap dengan satu model dengan hanya input dan output tekstual.

Kami percaya bahawa sistem ini akan memberi manfaat dan bantuan yang besar kepada orang ramai, dan adalah mungkin untuk menyampaikannya dengan selamat, tetapi ia memerlukan banyak kerja asas. Ini termasuk pemikiran yang bernas tentang perkara yang mereka kaitkan semasa latihan, penyelesaian kepada masalah sukar seperti penyeliaan berskala dan jenis usaha keselamatan baharu yang lain. Semasa kami bergerak ke arah ini, kami belum pasti bila kami akan memenuhi piawaian keselamatan untuk keluaran, dan jika itu melambatkan keluaran, tidak mengapa.

Kami tahu bahawa kami tidak dapat membayangkan semua senario yang mungkin berlaku pada masa hadapan. Oleh itu, kami memerlukan gelung maklum balas yang sangat ketat, ujian yang ketat, pertimbangan yang teliti bagi setiap langkah, keselamatan bertaraf dunia, dan penyepaduan keselamatan dan kefungsian yang harmoni. Kami akan terus menjalankan penyelidikan keselamatan pada skala masa yang berbeza. Kami juga akan terus bekerjasama dengan kerajaan dan banyak pihak berkepentingan dalam isu keselamatan.

Tiada panduan yang terbukti di jalan menuju kecerdasan buatan. Kami percaya bahawa pemahaman empirikal boleh membantu menunjukkan jalan ke hadapan. Kami percaya dalam mencapai prospek pertumbuhan yang hebat sambil berusaha untuk mengurangkan risiko yang serius; kami mengambil peranan kami dalam perkara ini dengan sangat serius dan mempertimbangkan maklum balas mengenai tindakan kami. . lebih kuat daripada kefasihan.

Nampaknya Greg Brockman tidak berhasrat untuk memberikan respons yang lebih spesifik tentang dasar atau komitmen.

Selepas pemergian Jan Leike dan Ilya Sutskever, seorang lagi pengasas bersama OpenAI John Schulman telah diserahkan untuk mengambil alih tugas yang dilakukan oleh pasukan Super Alignment, ia tidak lagi mempunyai jabatan khusus, tetapi sebuah pasukan yang berkait rapat. Kumpulan penyelidik yang tertanam dalam pelbagai bahagian syarikat. OpenAI menggambarkan ini sebagai "integrasi yang lebih mendalam (pasukan)."

Apakah kebenaran di sebalik kontroversi itu? Mungkin Ilya Sutskever tahu yang terbaik, tetapi dia memilih untuk meninggalkan permainan dengan anggun dan mungkin tidak bercakap mengenainya lagi pada masa hadapan. Lagipun, dia sudah mempunyai "projek yang sangat bermakna secara peribadi."

Atas ialah kandungan terperinci Ketua Pegawai Eksekutif OpenAI menjawab 'perjanjian senyap', pertikaian itu masih berpunca daripada kepentingan ekuiti, Ultraman: Ini salah saya. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!