OpenAI hat zwei Ilya-Teammitglieder entlassen. Hängt das mit dem „Gong Dou'-Leak zusammen?

OpenAI, ein Unternehmen, das in den letzten sechs Monaten Höhen und Tiefen interner Unruhen erlebt hat, hörte erneut Nachrichten über personelle Veränderungen.

The Information berichtet, dass OpenAI nach Angaben von mit der Angelegenheit vertrauten Personen zwei Mitarbeiter entlassen hat, die im Verdacht stehen, Informationen preisgegeben zu haben.

Einer ist Leopold Aschenbrenner, ein Forscher im OpenAI Super Alignment-Team.

Er ist ein Verbündeter des OpenAI-Chefwissenschaftlers Ilya Sutskever, der letzten Herbst an dem gescheiterten Versuch beteiligt war, OpenAI-CEO Sam Altman zu stürzen.

Ein weiterer entlassener Mitarbeiter, Pavel Izmailov, war bei OpenAI mit inferenzbezogener Forschung beschäftigt und arbeitete eine Zeit lang auch im Super Alignment-Team.

Die beiden haben an vielen Werken des Teams zusammengearbeitet, darunter auch an diesem viel beachteten „Weak-to-Strong Generalization“ (https://arxiv.org/abs/2312.09390).

Unklar bleibt, welche Informationen die beiden entlassenen Mitarbeiter durchsickern ließen.

Die beiden Abgänge sind die ersten öffentlichen Personalveränderungen seit Sam Altmans Rückkehr in den Vorstand im März dieses Jahres. Dies geschah, nachdem der gemeinnützige Vorstand von OpenAI eine Untersuchung eingeleitet hatte, um Altman für seine Taten zu entlasten, bevor er letzten November kurzzeitig entlassen wurde.

Wenn wir auf die Details des „Gong Fight“-Vorfalls zurückblicken, können wir möglicherweise einige Hinweise finden. Vor seinem Sturz waren sich die Mitarbeiter von OpenAI uneinig darüber, ob das Unternehmen künstliche Intelligenz sicher genug entwickelte.

Mitbegründer Ilya Sutskever war eines der Vorstandsmitglieder, die Altman mit der Begründung mangelnder Offenheit entlassen haben. Sutskever verließ den Vorstand, nachdem Altman als CEO zurückgekehrt war. Seit diesem Vorfall ist er praktisch nicht mehr auf der OpenAI-Bühne aufgetreten.

Aber nach dem Palastkampf-Vorfall scheute Sam Altman nicht davor zurück, Ilya zu loben und sagte, dass er Ilya sehr respektiere und bewundere und hoffe, in seinem zukünftigen Berufsleben mit ihm zusammenzuarbeiten: „Ilya hat keine allgemeine künstliche Intelligenz gesehen, aber Ilya Er ist ein Held der Menschheit. „Manche Leute sagen, dass Ilya etwas gesehen hat, vielleicht AGI, das ihn beunruhigt hat. Also, was hat Ilya gesehen?“

Sam Altman: „Was Ilya gesehen hat, war kein AGI, niemand hat AGI gesehen, wir haben kein AGI gebaut. Ich denke, einer der vielen Gründe, warum ich Ilya bewundere, ist, dass er AGI und Sicherheit sehr ernst nimmt. Im Großen und Ganzen umfasst dies auch die Auswirkungen, die AGI auf die Gesellschaft haben wird, da OpenAI weiterhin erhebliche Fortschritte macht, und einer der Menschen, mit denen ich in den letzten Jahren am längsten zusammen war, hat darüber gesprochen, was das bedeutet. Was müssen wir tun, um dies sicherzustellen? Wir tun das Richtige und stellen sicher, dass wir unsere Mission erfolgreich abschließen? Ilya sieht also keine allgemeine künstliche Intelligenz, aber er ist ein Held der Menschheit.

Innerhalb des Unternehmens Aschenbrenner ist auch einer der Leiter des OpenAI Super Alignment-Teams. Das Team wurde letzten Sommer von Ilya Sutskever gegründet, um Technologien zur Steuerung und Steuerung fortschrittlicher künstlicher Intelligenz, bekannt als Superintelligenz, zu entwickeln, die möglicherweise Probleme bei der Kernfusion lösen oder andere Planeten kolonisieren könnten.

Aschenbrenner schloss im Alter von 19 Jahren sein Studium an der Columbia University ab und arbeitete zuvor beim Future Fund, einer gemeinnützigen Stiftung, die vom ehemaligen FTX-CEO Sam Bankman-Fried gegründet wurde, um Projekte zu finanzieren, die „die langfristigen Aussichten der Menschheit verbessern“.

Offensichtlich bevorzugt Aschenbrenner die Position des „effektiven Altruismus“, der die Lösung der Gefahren künstlicher Intelligenz über kurzfristige Gewinne oder Produktivitätsvorteile stellt. Aschenbrenner ist erst vor einem Jahr zu OpenAI gekommen.

Mehrere der Vorstandsmitglieder, die Altman entlassen haben, wurden ebenfalls mit effektivem Altruismus in Verbindung gebracht. Tasha McCauley ist beispielsweise im Vorstand von Effective Ventures, der von FTX finanzierten Wohltätigkeitsorganisation und Muttergesellschaft des Center for Effective Altruism, und Helen Toner hat an philanthropischen Projekten gearbeitet, die sich auf effektiven Altruismus konzentrieren. Beide Männer verließen den Vorstand, als Altman Ende November als CEO zurückkehrte.

Was Pavel Izmailov betrifft, so hat er bereits auf seiner persönlichen Homepage seine Zukunftspläne bekannt gegeben: Er wird im Herbst 2025 als Assistenzprofessor an die New York University wechseln.

Weder die Parteien noch Ilya haben offiziell auf diese Nachricht reagiert. Vielleicht ist die Frage, worüber sich alle am meisten Sorgen machen, die Frage, ob Ilya später OpenAI verlassen wird? Man kann nur sagen, dass es schwer vorherzusagen ist.

^{Referenzlink: https://www.theinformation.com/articles/openai-researchers-inklusive-ally-of-sutskever-fired-for-alleged-leaking}

Das obige ist der detaillierte Inhalt vonOpenAI hat zwei Ilya-Teammitglieder entlassen. Hängt das mit dem „Gong Dou'-Leak zusammen?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!