OpenAI 일리아 팀원 2명 해고, '공두' 유출과 관련돼?

지난 6개월 동안 우여곡절을 겪은 기업 오픈AI에 다시 한 번 인사 인사 소식이 들려왔다.

The Information은 이 문제에 정통한 소식통에 따르면 OpenAI가 정보 유출 혐의로 두 명의 직원을 해고했다고 보도했습니다.

한 분은 OpenAI Super Alignment 팀의 연구원인 Leopold Aschenbrenner입니다.

그는 지난 가을 OpenAI CEO Sam Altman을 축출하려는 실패한 노력에 연루된 OpenAI 수석 과학자 Ilya Sutskever의 동료입니다.

또 다른 해고 직원인 Pavel Izmailov는 OpenAI에서 추론 관련 연구에 참여했으며 한동안 Super Alignment 팀에서도 근무했습니다.

두 사람은 널리 알려진 "약한 것에서 강한 것까지의 일반화"(https://arxiv.org/abs/2312.09390)를 포함하여 팀의 많은 작업에 협력했습니다.

불분명한 것은 해고된 두 직원이 어떤 정보를 유출했는지입니다.

두 번의 퇴임은 올해 3월 샘 알트만이 이사회에 복귀한 이후 첫 공무원 인사 변화다. 이는 OpenAI의 비영리 이사회가 지난 11월 잠시 해고되기 전 Altman의 행동에 대해 무죄를 선고하기 위해 조사를 주도한 이후에 나온 것입니다.

'공싸움' 사건의 경위를 살펴보면 몇 가지 단서를 찾을 수 있을지도 모릅니다. 그가 퇴임되기 전 OpenAI 직원들은 회사가 인공지능을 충분히 안전하게 개발하고 있는지를 두고 의견이 분분했습니다.

공동 창업자인 Ilya Sutskever는 솔직함이 부족하다는 이유로 Altman을 해고한 이사회 구성원 중 한 명이었습니다. Sutskever는 Altman이 CEO로 복귀한 후 이사회를 떠났습니다. 그 사건 이후 그는 기본적으로 다시 OpenAI 무대에 나타나지 않았습니다.

하지만 샘 알트만은 궁궐싸움 사건 이후 일리아를 매우 존경하고 동경한다며 일리아를 칭찬하는 일을 서슴지 않았으며 앞으로의 직장생활에도 그와 협력하길 희망했다. 하지만 일리아는 인류의 영웅입니다. 일리아는 보안 문제에 대해 많이 생각하고 걱정을 많이 합니다. "어떤 사람들은 일리아가 AGI를 보고 불안감을 느꼈다고 합니다. 그렇다면 일리아는 무엇을 보았습니까? "

Sam Altman: "Ilya가 본 것은 AGI가 아니었습니다. 누구도 AGI를 본 적이 없으며 우리는 AGI를 구축하지 않았습니다. 제가 Ilya를 존경하는 많은 이유 중 하나는 그가 AGI와 안전을 매우 중요하게 여긴다는 것입니다. 광범위하게 말하면 여기에는 다음이 포함됩니다. AGI가 사회에 미칠 영향에 대해 Ilya는 지난 몇 년 동안 제가 가장 오랫동안 함께해온 사람들 중 한 명으로 OpenAI가 계속해서 상당한 발전을 이루면서 이것이 무엇을 의미하는지에 대해 이야기했습니다. 옳은 일을 하고 우리가 임무를 성공적으로 완수할 수 있도록 보장하는 걸까요? 그럼 일리아는 일반 인공 지능이 아닌 인류의 영웅입니다.”

회사 내에서는 Aschenbrenner입니다. OpenAI Super Alignment 팀의 리더 중 한 명이기도 합니다. 이 팀은 핵융합 문제를 해결하거나 다른 행성을 식민지화할 수 있는 초지능(superintelligence)으로 알려진 고급 인공 지능을 제어하고 안내하는 기술을 개발하기 위해 지난 여름 Ilya Sutskever에 의해 구성되었습니다.

Aschenbrenner는 19세에 Columbia University를 졸업했으며 이전에는 전 FTX CEO인 Sam Bankman-Fried가 "인류의 장기적인 전망을 개선"하는 프로젝트에 자금을 지원하기 위해 설립한 자선 재단인 Future Fund에서 근무했습니다.

분명히 Aschenbrenner는 단기 이익이나 생산성 이점보다 인공 지능의 위험을 해결하는 데 중점을 두는 "효과적인 이타주의"의 입장을 선호합니다. Aschenbrenner는 불과 1년 전에 OpenAI에 합류했습니다.

알트만을 해고한 몇몇 이사회 구성원도 효과적인 이타주의와 관련이 있었습니다. 예를 들어, Tasha McCauley는 FTX가 자금을 지원하는 자선 단체이자 Center for Effective Altruism의 모회사인 Effective Ventures의 이사회에 속해 있으며 Helen Toner는 효과적인 이타주의에 초점을 맞춘 자선 프로젝트에 참여해 왔습니다. 11월 말 Altman이 CEO로 복귀하자 두 사람 모두 이사회를 떠났습니다.

파벨 이즈마일로프는 앞서 개인 홈페이지를 통해 2025년 가을 뉴욕대학교 조교수로 입사하겠다는 향후 계획을 밝힌 바 있다.

당사자도 일리아도 이 소식에 공식적으로 반응하지 않았습니다. 아마도 모두가 가장 우려하는 것은 Ilya가 나중에 OpenAI를 떠날 것인가 하는 것입니다. 예측하기 어렵다고 할 수 밖에 없습니다.

^{참조 링크: https://www.theinformation.com/articles/openai-researchers-include-ally-of-sutskever-fired-for-alleged-leaking}

위 내용은 OpenAI 일리아 팀원 2명 해고, '공두' 유출과 관련돼?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!