OpenAI CEO는 '묵시 합의'에 응답했지만 여전히 지분 문제로 분쟁이 발생했습니다. Ultraman : 내 잘못입니다

Super Alignment의 수장인 Ilya와 Jan의 사임 이후 OpenAI는 여전히 가슴이 아프고 사임하는 사람들이 많아져 갈등도 더 커지고 있습니다.

어제 논란의 초점은 엄격한 '허쉬 합의'에 맞춰졌습니다.

전 OpenAI 직원인 Kelsey Piper는 모든 직원의 온보딩 문서 지침에 다음과 같은 내용이 포함되어 있다는 소식을 전했습니다. "퇴사 후 60일 이내에 "일반 면제"가 포함된 퇴직 문서에 서명해야 합니다.

논란을 일으킨 문서의 스크린샷을 본 OpenAI CEO는 다음과 같이 신속하게 답변했습니다.

저희는 누구도 철회한 적이 없습니다. 사람들이 별거 계약에 서명하지 않으면(또는 비방 계약에 동의하지 않으면) 우리는 그렇게 하지 않을 것입니다. 귀속된 자산은 귀속된 자산(기간)입니다.

OpenAI가 형평성을 처리하는 방법에 대해 Sam Altman의 다른 답변은 다음과 같습니다.

15분 후 내부고발자는 다시 질문하고 대담하게 물었습니다. 이전 직원 제한 계약이 취소됩니까? 대부분의 사람들은 사과뿐만 아니라 명확한 해결책을 원하기 때문에 다음과 같이 말했다. - 내 말은, 그게 CEO의 일이라고 생각해요. 때로는 사과해야 할 뿐만 아니라 사람들은 비판적이고 명확한 설명을 원하며 정책이 변경되었다는 증거를 보고 싶어 할 것입니다. "

작년에 OpenAI 직원 보상의 가장 일반적인 조합은 미화 300,000달러의 고정 기본 급여와 약 미화 500,000달러의 연간 PPU(이익 참여 단위) 보조금인 것으로 보고되었습니다. 즉, PPU 보조금의 4년 동안 대부분의 OpenAI 직원은 지분 기반 보상으로 최소 200만 달러를 받을 것으로 예상됩니다.

그 소식이 사실이라면 '퇴사'한 전직 직원들 대부분은 '끝까지 버티고' 싶어야 한다.

이러한 혼란 외에도 OpenAI가 보안과 미래 위험을 어떻게 처리할지에 대한 논란도 동시에 진행되고 있습니다.

여러 언론 보도에 따르면 OpenAI의 Super Alignment 팀은 최근 Super Alignment 팀의 두 공동 리더인 Ilya Sutskever와 Jan Leike가 사임하면서 해체되었습니다. Jan Leike는 또한 금요일에 "광택 제품"을 선호하여 "보안"을 무시하는 OpenAI와 OpenAI의 리더십을 비난하는 일련의 게시물을 게시했습니다.

오늘 일찍 OpenAI 공동 창업자인 Greg Brockman이 이 문제에 대한 긴 답변을 썼습니다.

"Sam and Greg"에 서명한 이 기사에서 Brockman은 다음과 같이 지적했습니다. OpenAI는 AI 기술의 안전한 개발 및 배포를 보장하기 위한 조치를 취했습니다.

Jan이 OpenAI를 위해 해온 모든 일에 대해 매우 감사하며, 그가 OpenAI의 사명에 외부적으로 계속 기여할 것임을 알고 있습니다. 그의 퇴임으로 인해 제기된 문제를 고려하여, 우리는 전반적인 전략에 대해 어떻게 생각하고 있는지 설명하고 싶습니다.

먼저, 우리는 세상이 AGI에 더 잘 대비할 수 있도록 AGI의 위험과 기회에 대한 인식을 높였습니다. 우리는 딥 러닝 확장의 놀라운 가능성을 반복적으로 입증하고 그 영향을 분석했습니다. 우리는 그러한 요청이 대중화되기 전에 AGI에 대한 국제적인 거버넌스를 요구했으며 AI 시스템의 치명적인 위험을 평가하는 과학을 개척하는 데 도움을 주었습니다.

둘째, 우리는 점점 더 역량이 강화되는 시스템을 안전하게 배포하는 데 필요한 기반을 마련해 왔습니다. 새로운 기술을 처음 사용하는 것은 쉽지 않습니다. 예를 들어, 우리 팀은 GPT-4를 안전한 방식으로 세상에 출시하기 위해 많은 작업을 수행했으며, 이후 배포 중에 얻은 교훈을 바탕으로 모델 동작 및 남용 모니터링을 지속적으로 개선해 왔습니다.

셋째, 미래는 과거보다 더 어려울 것입니다. 우리는 각각의 새로운 모델의 위험을 해결하기 위해 보안 노력을 지속적으로 개선해야 합니다. 작년에 우리는 업무 체계화를 돕기 위해 대비 프레임워크(Preparedness Framework)를 채택했습니다.

지금은 우리가 미래를 어떻게 보는지에 대해 이야기할 수 있는 좋은 시간입니다.

모델이 계속해서 더욱 강력해짐에 따라 모델이 세상과 더 깊이 통합되기 시작할 것으로 기대합니다. 사용자는 텍스트 입력 및 출력만 사용하여 단일 모델과 대화하는 대신 사용자를 대신하여 조치를 취할 수 있는 다양한 다중 모드 모델 및 도구로 구성된 시스템과 점점 더 상호 작용할 것입니다.

우리는 이러한 시스템이 사람들에게 큰 이익과 도움이 될 것이라고 믿으며 안전하게 전달하는 것이 가능하지만 많은 기초 작업이 필요할 것입니다. 여기에는 훈련 중에 연결되는 사항에 대한 사려 깊은 생각, 확장 가능한 감독과 같은 어려운 문제에 대한 솔루션, 기타 새로운 유형의 보안 노력이 포함됩니다. 우리가 이런 방향으로 나아가고 있는 동안 언제 출시를 위한 안전 기준에 도달할지는 아직 확신할 수 없으며, 이로 인해 출시가 늦어진다면 괜찮습니다.

우리는 미래에 가능한 모든 시나리오를 상상할 수 없다는 것을 알고 있습니다. 따라서 매우 긴밀한 피드백 루프, 엄격한 테스트, 모든 단계에 대한 신중한 고려, 세계적 수준의 보안, 보안과 기능의 조화로운 통합이 필요합니다. 우리는 다양한 기간에 걸쳐 보안 연구를 계속 수행할 것입니다. 우리는 또한 보안 문제에 관해 정부 및 많은 이해관계자들과 계속 협력할 것입니다.

인공지능으로 가는 길에는 검증된 안내자가 없습니다. 우리는 경험적 이해가 앞으로 나아갈 길을 찾는 데 도움이 될 수 있다고 믿습니다. 우리는 심각한 위험을 완화하기 위해 노력하면서 큰 성장 전망을 달성할 수 있다고 믿습니다. 우리는 이에 대한 우리의 역할을 매우 진지하게 받아들이고 우리의 행동에 대한 피드백을 신중하게 평가합니다.

—Sam and Greg

그러나 그 효과는 불만족스럽고 심지어 조롱을 받기도 하는 것 같습니다.

AI 분야에서 활발하게 활동하는 학자인 Gary Marcus도 다음과 같이 말했습니다. 웅변보다 더 큰 소리로.

Greg Brockman은 정책이나 약속에 대해 더 구체적인 답변을 제공할 의도가 없는 것 같습니다.

Jan Leike와 Ilya Sutskever가 떠난 후 또 다른 OpenAI 공동 창립자인 John Schulman이 Super Alignment 팀이 수행하는 작업을 담당하게 되었으며 더 이상 전담 부서가 없지만 느슨하게 관련된 팀. 회사의 다양한 부분에 소속된 연구원 그룹입니다. OpenAI는 이를 "(팀의) 심층 통합"이라고 설명합니다.

논란의 진실은 무엇인가요? 아마도 Ilya Sutskever가 가장 잘 알고 있었을 것입니다. 그러나 그는 게임을 우아하게 떠나기로 결정했으며 앞으로는 이에 대해 다시 이야기하지 않을 수도 있습니다. 결국 그는 이미 "개인적으로 매우 의미 있는 프로젝트"를 진행하고 있었습니다.

위 내용은 OpenAI CEO는 '묵시 합의'에 응답했지만 여전히 지분 문제로 분쟁이 발생했습니다. Ultraman : 내 잘못입니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!