William Saunders, un ancien employé d'OpenAI, décrit l'entreprise comme le « Titanic » et lui-même comme « l'Iceberg »

William Saunders, ancien employé d'OpenAI et membre de « l'équipe de superalignement » de l'entreprise, a récemment révélé qu'il avait quitté l'entreprise parce qu'il sentait qu'elle était sur le point de se heurter à une tragédie, un peu comme le malheureux R.M.S. Titanic en 1912.

Un ancien employé d'OpenAI a comparé l'entreprise au malheureux R.M.S. Titanic en 1912, disant qu'il était parti parce qu'il sentait l'IA L'entreprise était sur le point de se heurter à la tragédie.

William Saunders, membre de « l'équipe de superalignement » d'OpenAI, a quitté l'entreprise en 2022.

Comme l'a repéré Business Insider, Saunders a donné son commentaire lors d'un épisode du podcast du journaliste technologique Alex Kantrowitz. .

Saunders a déclaré à Kantrowitz qu'au cours de ses trois années chez OpenAI, il se demandait parfois si l'entreprise était sur une voie qui ressemblait plus au programme Apollo ou au Titanic. effort scientifique, le programme spatial Apollo a été un succès malgré ses revers, tandis que le Titanic a été un échec malgré ses succès. Réclamez votre réduction de 65 % maintenant !

OpenAI comme TitanicSaunders décrit la philosophie générale de l'entreprise comme celle qui accorde une priorité plus élevée au développement de produits qu'à la mise en œuvre de précautions de sécurité raisonnables.

Il dresse le portrait d’un bureau où les employés qui soulèvent des problèmes de sécurité sont punis et où la direction est axée sur le profit.

« Au fil du temps », a déclaré Saunders, « on a commencé à avoir vraiment l'impression que les décisions prises par les dirigeants ressemblaient davantage à la White Star Line construisant le Titanic. »

L'icebergSaunders n'est pas la première personne à être en désaccord avec la façon dont OpenAI ferait des affaires. Elon Musk, l'un des cofondateurs de l'entreprise, l'a récemment poursuivi en justice, affirmant qu'elle s'était trop éloignée de sa mission initiale. Ceci malgré le fait que Musk n’a aucune implication dans OpenAI depuis des années et exploite actuellement son propre concurrent direct, xAI. La poursuite a ensuite été retirée.

La société rivale d'IA, Anthropic, a été fondée en 2021 par d'anciens employés et co-fondateurs d'OpenAI, craignant qu'OpenAI ne se concentre pas suffisamment sur la confiance et la sécurité.

D'un autre côté, cependant, Ilya Sutskever, un autre co-fondateur désormais séparé et son ancien scientifique en chef, a quitté l'entreprise en mai 2024 pour créer sa propre entreprise, écrivant à l'époque qu'il était « confiant » que l'équipe OpenAI serait en mesure d'atteindre ses objectifs en toute sécurité.

Avec autant d'employés qui quittent le navire et l'analogie avec le Titanic évoquée par au moins un d'entre eux, la question qui se pose est : qui ou qu'est-ce que l'iceberg ?

Si les passagers de l'analogie sont nous – toute l'humanité – alors l'iceberg représente la menace existentielle que ChatGPT et les systèmes similaires représentent pour une société non préparée. Si l’IA devient plus intelligente et plus performante que nous, et que nous ne disposons pas de suffisamment de « canots de sauvetage » pour protéger tout le monde de son potentiel de danger, alors nous pourrions nous diriger vers une tragédie.

Mais si les passagers sont des actionnaires et des parties prenantes qui attendent qu'OpenAI crée une IA aussi intelligente que les humains, et que cela n'arrive jamais, alors peut-être que l'iceberg représente l'éclatement de la bulle de l'IA générative.

Connexe : Les grandes technologies doivent faire face à des comptes financiers si l'IA au niveau humain n'arrive pas bientôt

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!