Le PDG d'OpenAI a répondu à 'l'accord silencieux', le différend concernait toujours les participations, Ultraman : C'est ma faute

Depuis la démission d'Ilya et Jan, le responsable du super alignement, OpenAI a toujours le cœur brisé, et de plus en plus de personnes ont démissionné, ce qui a également provoqué davantage de conflits.

Hier, le centre de la controverse a abouti à un strict "accord de silence".

Kelsey Piper, ancienne employée d'OpenAI, a annoncé que les instructions du document d'intégration de tout employé incluent : "Dans les soixante jours suivant votre départ de l'entreprise, vous devez signer un document de séparation contenant une "renonciation générale". Si vous ne le faites pas, rempli dans les 60 jours, vos avantages en actions seront annulés. "

Cette capture d'écran du document qui a provoqué la polémique a rapidement fait réagir le PDG d'OpenAI :

Nous n'avons jamais retiré personne. et si les gens ne signent pas d’accord de séparation (ou n’acceptent pas un accord de non-dénigrement), nous ne le ferons pas. Les capitaux propres acquis sont les capitaux propres acquis (période).

Concernant la façon dont OpenAI gère l'équité, les autres réponses de Sam Altman sont les suivantes :

À peine 15 minutes plus tard, le lanceur d'alerte a de nouveau interrogé et demandé avec audace : Maintenant que vous le savez déjà, alors, les précédents accords de restriction des salariés soient-ils annulés ?

La lanceuse d'alerte Kelsey Piper a également déclaré : "Quant à moi, est-ce injuste envers Sam - - Je veux dire, je pense que cela fait partie du travail d'un PDG, parfois non seulement vous devez vous excuser, mais les gens vont être critiques et veulent des éclaircissements et veulent voir des preuves que la politique a changé "

. Il a été rapporté l'année dernière que la combinaison la plus courante de rémunération des employés d'OpenAI est la suivante : un salaire de base fixe de 300 000 USD et une subvention annuelle PPU (Profit Participation Unit) d'environ 500 000 USD. Il s'agit d'une forme de rémunération en actions. Cela dit, sur la période de quatre ans de la subvention PPU, la plupart des employés d'OpenAI devraient recevoir au moins 2 millions de dollars en rémunération à base d'actions.

Si la nouvelle est vraie, la plupart des anciens salariés "démissionnaires" devraient vouloir "s'en tenir jusqu'au bout".

En plus de cette tourmente, il y a aussi une controverse en cours en même temps : sur la façon dont OpenAI gérera la sécurité et les risques futurs.

Selon plusieurs médias, suite au récent départ des deux co-leaders de l'équipe Super Alignment, Ilya Sutskever et Jan Leike, l'équipe Super Alignment d'OpenAI a été dissoute. Jan Leike a également publié vendredi une série d'articles, fustigeant OpenAI et ses dirigeants pour avoir ignoré la « sécurité » au profit de « produits brillants ».

Plus tôt dans la journée, le co-fondateur d'OpenAI, Greg Brockman, a écrit une longue réponse à ce problème.

Dans cet article signé "Sam et Greg", Brockman a souligné : OpenAI a pris des mesures pour assurer le développement et le déploiement en toute sécurité de la technologie de l'IA.

Nous sommes extrêmement reconnaissants pour tout ce que Jan a fait pour OpenAI, et nous savons qu'il continuera à contribuer en externe à la mission d'OpenAI. À la lumière des questions soulevées par son départ, nous souhaitons expliquer comment nous envisageons notre stratégie globale.

Premièrement, nous avons accru la sensibilisation aux risques et aux opportunités de l’AGI afin que le monde puisse y être mieux préparé. Nous avons démontré à plusieurs reprises les incroyables possibilités de mise à l’échelle de l’apprentissage profond et analysé son impact ; nous avons appelé à une gouvernance internationale de l’AGI avant que de tels appels ne soient populaires et avons contribué à faire œuvre de pionnier dans la science de l’évaluation des risques catastrophiques des systèmes d’IA.

Deuxièmement, nous avons jeté les bases nécessaires pour déployer en toute sécurité des systèmes de plus en plus performants. Utiliser une nouvelle technologie pour la première fois n’est pas chose facile. Par exemple, notre équipe a fait beaucoup de travail pour amener GPT-4 au monde de manière sécurisée, et nous avons depuis continué à améliorer le comportement des modèles et la surveillance des abus sur la base des leçons apprises lors du déploiement.

Troisièmement, l'avenir sera plus difficile que le passé. Nous devons continuellement améliorer nos efforts de sécurité pour faire face aux risques de chaque nouveau modèle. L’année dernière, nous avons adopté le cadre de préparation pour nous aider à systématiser notre travail.

C'est le moment idéal pour parler de la façon dont nous voyons l'avenir.

À mesure que les modèles continuent de devenir plus puissants, nous nous attendons à ce qu'ils commencent à s'intégrer plus profondément dans le monde. Les utilisateurs interagiront de plus en plus avec des systèmes composés de nombreux modèles et outils multimodaux capables d'agir en leur nom, plutôt que de parler à un modèle unique avec uniquement des entrées et des sorties textuelles.

Nous pensons que ces systèmes seront d'une grande utilité et d'une grande aide pour les gens, et qu'il est possible de les livrer en toute sécurité, mais cela nécessitera beaucoup de travail préparatoire. Cela implique une réflexion approfondie sur ce à quoi ils sont liés pendant la formation, des solutions à des problèmes difficiles comme la supervision évolutive et d'autres nouveaux types d'efforts de sécurité. Bien que nous avancions dans cette direction, nous ne savons pas encore quand nous respecterons les normes de sécurité pour la sortie, et si cela retarde la sortie, ce n'est pas grave.

Nous savons que nous ne pouvons pas imaginer tous les scénarios possibles dans le futur. Par conséquent, nous avons besoin d’une boucle de rétroaction très étroite, de tests rigoureux, d’un examen attentif de chaque étape, d’une sécurité de classe mondiale et d’une intégration harmonieuse de la sécurité et des fonctionnalités. Nous continuerons à mener des recherches sur la sécurité à différentes échelles de temps. Nous continuerons également de travailler avec les gouvernements et de nombreuses parties prenantes sur les questions de sécurité.

Il n'existe pas de guide éprouvé sur la voie de l'intelligence artificielle. Nous pensons que la compréhension empirique peut aider à montrer la voie à suivre. Nous croyons en la réalisation de grandes perspectives de croissance tout en travaillant à atténuer les risques sérieux ; nous prenons notre rôle dans ce domaine très au sérieux et évaluons soigneusement les commentaires sur nos actions.

—Sam et Greg

Mais l'effet semble insatisfaisant et même ridiculisé :

Gary Marcus, un chercheur actif dans le domaine de l'IA, a également déclaré : La transparence parle plus fort que l'éloquence.

Il semble que Greg Brockman n'ait pas l'intention de donner une réponse plus précise sur les politiques ou les engagements.

Après le départ de Jan Leike et Ilya Sutskever, un autre co-fondateur d'OpenAI, John Schulman, a été nommé pour prendre en charge le travail effectué par l'équipe Super Alignment, elle n'a tout simplement plus de département dédié, mais un équipe vaguement liée. Groupes de chercheurs intégrés dans différentes parties de l'entreprise. OpenAI décrit cela comme « une intégration (des équipes) plus approfondie ».

Quelle est la vérité derrière la polémique ? Ilya Sutskever savait peut-être mieux, mais il a choisi de quitter le jeu avec élégance et n'en reparlera peut-être plus à l'avenir. Après tout, il avait déjà « un projet très significatif sur le plan personnel ».

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!