OpenAI, '초지능' 인공지능을 제어할 새로운 팀 발표

뉴스 미국 현지 시간으로 7월 6일(수), 인공지능 스타트업 OpenAI가 '초지능' 인공지능 시스템을 안내하고 제어하는 ​​방법을 개발하기 위해 새로운 팀을 구성한다고 발표했습니다. 이 팀은 OpenAI의 수석 과학자이자 공동 창립자인 Ilya Sutskever가 이끌고 있습니다.

서스크웰(Suskwell)과 OpenAI 조정팀장인 Jan Leike는 블로그 게시물에서 10년 이내에 인간보다 더 뛰어난 지능을 갖춘 인공지능이 등장할 것이라고 예측했습니다. 이러한 인공지능이 반드시 인간에게 이로운 것은 아닐 것이기 때문에 이를 통제하고 제한할 수 있는 방안에 대한 연구가 필요할 것이라고 경고한다.

Suskwell과 Lake는 다음과 같이 썼습니다. “현재 우리는 잠재적으로 초지능적인 AI를 조작하거나 제어하고 AI를 조정하기 위한 인간 피드백 강화와 같은 기술을 방지하는 데 사용할 수 있는 솔루션이 없습니다. 학습은 인공지능을 감독하는 인간의 능력에 달려 있습니다. 그러나 인간은 우리보다 훨씬 똑똑한 인공지능 시스템을 안정적으로 감독할 수는 없습니다."

"초지능 정렬" 분야에서 발전을 이루기 위해 OpenAI가 만들고 있습니다. Susqueville과 Lake가 공동으로 이끄는 새로운 Super Alignment 팀은 OpenAI 컴퓨팅 리소스의 최대 20%에 액세스할 수 있습니다. 이 팀은 OpenAI의 이전 Alignment Division 소속 과학자 및 엔지니어는 물론 회사 내 다른 부서의 연구원들과 함께 향후 4년 동안 초지능 인공 지능 제어에 대한 핵심 기술 과제를 해결하기 위해 노력할 것입니다.

그렇다면 인간보다 훨씬 똑똑한 AI 시스템이 인간의 의도를 따르도록 하려면 어떻게 해야 할까요? 이를 위해서는 Suskwell과 Lake가 "인간 수준의 자동화된 정렬 연구원"이라고 설명한 것의 도움이 필요합니다. 높은 수준의 목표는 인간의 피드백을 사용하여 AI 시스템을 훈련하고, AI를 훈련하여 다른 AI 시스템의 평가를 지원하고, 궁극적으로 정렬 연구를 수행할 수 있는 AI를 구축하는 것입니다. 여기서 '정렬 연구'란 인공지능 시스템이 기대한 결과를 달성하거나 연구 궤도를 벗어나지 않도록 하는 것을 의미한다.

OpenAI의 가설은 인공지능이 인간보다 더 빠르고 더 나은 정렬 연구를 수행할 수 있다는 것입니다.

"이 작업이 진행됨에 따라 우리의 AI 시스템은 점점 더 많은 정렬 작업을 맡을 수 있으며 궁극적으로 지금보다 더 나은 정렬 기술을 구상, 구현, 연구 및 개발할 수 있습니다." Lake와 그의 동료 John Schulman 및 Jeffrey Wu 이전 블로그 게시물에서 가정했습니다. "그들은 자신의 후계자가 항상 인간과 일치하도록 인간과 협력할 것입니다. 인간 연구원은 그러한 연구를 직접 수행하기보다는 AI 시스템이 수행하는 정렬 연구를 검토하는 데 점점 더 집중할 것입니다."

물론 완벽한 방법은 없습니다. , Lake, Schulman 및 Jeffrey Wu는 자신의 기사에서 OpenAI의 접근 방식에 많은 한계가 있음을 인정했습니다. 평가에 AI를 사용하면 AI의 불일치, 편견 또는 취약성이 증폭될 가능성이 있다고 말합니다. 정렬 문제의 가장 어려운 부분은 엔지니어링과 전혀 관련이 없을 수도 있습니다.

하지만 Suskville과 Lake는 시도해 볼 가치가 있다고 생각했습니다. 그들은 다음과 같이 썼습니다. "초지능 정렬은 근본적으로 기계 학습 문제이며, 우리는 훌륭한 기계 학습 전문가(정렬 작업을 시작하지 않았더라도)가 이 문제를 해결하는 데 중요할 것이라고 믿습니다. 우리는 이를 널리 공유할 계획입니다. 우리의 노력을 기울이고 OpenAI가 아닌 모델의 일관성과 보안을 우리 작업의 중요한 부분으로 장려합니다.”

위 내용은 OpenAI, '초지능' 인공지능을 제어할 새로운 팀 발표의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!