Mukadimah kepada pergaduhan di OpenAI? Penyelidik menghantar surat kepada lembaga pengarah mendedahkan penemuan AI berkuasa yang berpotensi mengancam manusia

Sumber gambar: Oriental IC Tulis semula: Sumber gambar ialah Oriental IC, menunjukkan foto Sam Ultraman

"Drama rampasan kuasa" OpenAI yang mengalami pembalikan dan pembalikan telah berakhir, tetapi tiada kedamaian dalam OpenAI.

Pada 22 November, waktu tempatan, menurut Reuters, sebelum CEO Sam Altman dipecat, beberapa penyelidik menghantar surat kepada lembaga pengarah OpenAI, memberi amaran bahawa penemuan AI (kecerdasan buatan) yang berkuasa boleh mengancam manusia.

Menurut sumber, surat amaran ini dan algoritma AI di dalamnya dianggap sebagai punca langsung pemecatan Ultraman, kerana dia adalah wakil tipikal dorongan dalaman OpenAI untuk AGI (kecerdasan buatan generatif). Selain itu, surat ini bukan sahaja membuatkan lembaga pengarah bimbang dengan perkembangan AI, malah menimbulkan rasa tidak puas hati terhadap Altman sendiri. Namun, kandungan khusus surat tersebut masih belum diketahui

Disebabkan ketidakupayaan untuk mencapai persetujuan dengan beberapa ahli lembaga pengarah mengenai teknologi dan keselamatan AI, Ultraman tiba-tiba dipecat, mencetuskan beberapa siri kegawatan. Selepas lebih daripada 700 pekerja mengancam syarikat itu untuk meletakkan jawatan dan menyertai Microsoft, Altman telah membuat pulangan yang berjaya.

OpenAI mengumumkan pada tengah malam pada 21 November bahawa ia telah mencapai persetujuan pada dasarnya untuk bekas CEO Altman untuk kembali ke syarikat sebagai CEO dan lembaga pengarah baharu yang terdiri daripada Pengerusi Bret Taylor, Larry Summers dan Adam D'Angelo# 🎜🎜 #

Selain itu, sumber mendedahkan bahawa Mira Murati, ketua pegawai teknologi lama OpenAI, memberitahu pekerja pada hari Rabu bahawa surat mengenai penembusan AI Q* (disebut Q-Star) mendorong Lembaga mengambil tindakan untuk menolak.

Kemajuan OpenAI pada Q* telah menyebabkan beberapa orang dalam syarikat percaya bahawa ini mungkin kejayaan mereka dalam mencari "kecerdasan super (AGI)". OpenAI mentakrifkan AGI sebagai "sistem AI yang lebih pintar daripada manusia."

Walaupun markah matematik Q* hanya pada tahap pelajar sekolah rendah, prestasi yang baik pada ujian sedemikian menjadikan penyelidik sangat optimistik tentang kejayaan masa depannya, kata sumber itu.

Atas ialah kandungan terperinci Mukadimah kepada pergaduhan di OpenAI? Penyelidik menghantar surat kepada lembaga pengarah mendedahkan penemuan AI berkuasa yang berpotensi mengancam manusia. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!