William Saunders, Bekas Pekerja OpenAI, Menggambarkan Syarikat sebagai \'Titanic\' dan Dirinya sebagai \'Iceberg\'

William Saunders, bekas pekerja OpenAI dan ahli "pasukan penjajaran besar" syarikat baru-baru ini mendedahkan bahawa dia berhenti daripada syarikat itu kerana merasakan ia sedang bertembung dengan tragedi, sama seperti R.M.S. Titanic pada tahun 1912.

Seorang bekas pekerja OpenAI telah membandingkan syarikat itu dengan R.M.S. Titanic pada tahun 1912, mengatakan dia pergi kerana dia merasakan A.I. firma berada di laluan perlanggaran dengan tragedi.

William Saunders, ahli "pasukan penjajaran tinggi" OpenAI, berhenti daripada syarikat itu pada 2022.

Seperti yang dilihat oleh Business Insider, Saunders memberikan ulasannya semasa episod podcast wartawan teknologi Alex Kantrowitz .

Saunders memberitahu Kantrowitz bahawa selama tiga tahun di OpenAI, dia kadang-kadang bertanya kepada dirinya sendiri sama ada syarikat itu berada di laluan yang "lebih seperti program Apollo atau lebih seperti Titanic". usaha saintifik, program angkasa Apollo berjaya walaupun mengalami halangan, manakala Titanic gagal walaupun berjaya.

Per Saunders:

Iklan

Berdagang pintar dengan makluman segera Markets Pro. Tuntut diskaun 65% anda sekarang!

OpenAI kerana TitanicSaunders menerangkan etos umum syarikat sebagai salah satu yang meletakkan keutamaan yang lebih tinggi pada pembangunan produk daripada melaksanakan langkah berjaga-jaga keselamatan yang munasabah.

Dia melukis gambar pejabat di mana pekerja yang membangkitkan kebimbangan keselamatan dihukum, dan kepimpinan tertumpu kepada keuntungan.

“Lama kelamaan,” kata Saunders, “ia mula merasakan keputusan yang dibuat oleh kepimpinan lebih seperti White Star Line yang membina Titanic.”

The icebergSaunders bukanlah orang pertama yang tidak bersetuju dengan cara itu. OpenAI didakwa menjalankan perniagaan. Elon Musk, salah seorang pengasas bersama syarikat yang terasing, baru-baru ini menyamannya atas dakwaan ia telah tersasar terlalu jauh dari misi asalnya. Ini walaupun Musk tidak mempunyai sebarang penglibatan dengan OpenAI selama bertahun-tahun dan kini mengendalikan pesaing langsungnya sendiri, xAI. Saman itu kemudiannya ditarik balik.

Syarikat AI saingan Anthropic telah diasaskan pada 2021 oleh bekas pekerja OpenAI dan pengasas bersama atas kebimbangan bahawa OpenAI tidak cukup fokus pada kepercayaan dan keselamatan.

Sebaliknya, Ilya Sutskever, seorang lagi pengasas bersama yang kini terasing dan bekas ketua saintisnya, meninggalkan syarikat itu pada Mei 2024 untuk memulakan syarikatnya sendiri, sambil menulis pada masa itu bahawa dia "yakin" pasukan OpenAI akan dapat mencapai matlamatnya dengan selamat.

Dengan begitu ramai pekerja yang melompat ke kapal, dan analogi Titanic yang digembar-gemburkan oleh sekurang-kurangnya seorang, persoalan yang timbul ialah: Siapa atau apakah gunung ais itu?

Jika penumpang dalam analogi itu adalah kita — semua manusia — maka gunung ais mewakili ancaman wujud yang ChatGPT dan sistem sepertinya menimbulkan masyarakat yang tidak bersedia. Jika AI menjadi lebih bijak dan berkebolehan daripada kita, dan kita tidak mempunyai "kapal penyelamat" yang mencukupi untuk melindungi semua orang daripada potensi bahayanya, maka kita boleh menuju ke tragedi.

Tetapi jika penumpang adalah pemegang saham dan pihak berkepentingan yang menunggu OpenAI untuk mencipta AI yang sepintar manusia, dan itu tidak pernah berlaku, maka mungkin gunung ais mewakili pecah gelembung AI generatif.

Berkaitan: Big Tech menghadapi pengiraan kewangan jika AI peringkat manusia tidak berlaku segera

Atas ialah kandungan terperinci William Saunders, Bekas Pekerja OpenAI, Menggambarkan Syarikat sebagai \'Titanic\' dan Dirinya sebagai \'Iceberg\'. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!