Un prélude à des luttes internes chez OpenAI ? Des chercheurs envoient une lettre au conseil d'administration révélant une puissante découverte de l'IA qui pourrait potentiellement menacer l'humanité

Source de l’image : Oriental IC Réécriture : La source de l'image est Oriental IC, montrant la photo de Sam Ultraman

Le « drame du coup d’État » d’OpenAI qui a connu des renversements et des renversements a pris fin, mais il n’y a pas de paix au sein d’OpenAI.

Le 22 novembre, heure locale, selon Reuters, avant le licenciement du PDG Sam Altman, plusieurs chercheurs ont envoyé une lettre au conseil d'administration d'OpenAI avertissant d'une puissante découverte d'IA (intelligence artificielle) qui pourrait menacer les humains.

Selon des sources, cette lettre d'avertissement et l'algorithme d'IA qu'elle contient sont considérés comme la cause directe du licenciement d'Ultraman, car il est un représentant typique de la poussée interne d'OpenAI en faveur de l'AGI (intelligence artificielle générative). De plus, cette lettre a non seulement inquiété le conseil d'administration quant au développement de l'IA, mais a également provoqué le mécontentement d'Altman lui-même. Cependant, le contenu précis de la lettre est encore inconnu

En raison de l'incapacité de parvenir à un accord avec certains membres du conseil d'administration sur la technologie et la sécurité de l'IA, Ultraman a été soudainement licencié, déclenchant une série de troubles. Après que plus de 700 employés ont menacé l'entreprise de démissionner et de rejoindre Microsoft, Altman a fait un retour triomphal.

OpenAI a annoncé le 21 novembre à minuit avoir conclu un accord de principe pour le retour de l'ancien PDG Altman dans l'entreprise en tant que PDG et un nouveau conseil d'administration composé du président Bret Taylor, Larry Summers et Adam D'Angelo

De plus, des sources ont révélé que Mira Murati, directrice de la technologie de longue date d'OpenAI, a déclaré mercredi aux employés qu'une lettre concernant la percée de l'IA Q* (prononcer Q-Star) avait incité le conseil d'administration à prendre des mesures.

Les progrès d'OpenAI sur Q* ont conduit certains internes de l'entreprise à croire qu'il pourrait s'agir d'une avancée majeure dans la découverte de la « super intelligence (AGI) ». OpenAI définit l'AGI comme « des systèmes d'IA plus intelligents que les humains ».

La source a déclaré que même si les résultats en mathématiques de Q* se situent uniquement au niveau des élèves du primaire, les bonnes performances dans ces tests rendent les chercheurs très optimistes quant à son succès futur.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!