공개서한, 인공지능 연구 중단 촉구

생명의 미래 연구소(The Future of Life Institute)는 일부 형태의 인공 지능 연구에 대해 6개월간 유예를 요구하는 공개 서한을 발표했습니다. 이 단체는 "사회와 인류에 대한 심각한 위험"을 언급하면서 AI 연구소에 더 많은 "안전 가드레일"이 설치될 때까지 GPT-4보다 강력한 AI 시스템에 대한 연구를 중단할 것을 요청했습니다.

미래생명연구소는 3월 22일 공개 서한에서 “인간과 경쟁하는 AI 시스템을 갖는 것은 사회와 인류에 큰 위험을 초래한다”고 썼다. 지구상의 생명체는 적절한 주의와 자원으로 계획되고 관리되어야 합니다. 불행하게도 이 수준의 계획 및 관리는 인공 지능 없이는

거버넌스 프레임워크 - 예를 들어 Asilomar AI가 달성되지 못했다고 믿습니다. 원리, 유명한 아시모프의 로봇공학 3가지 법칙을 확장한 버전입니다. 이 23가지 원칙은 연구소에서 주도했습니다.) - 우리는 AI가 계획되고 통제된 방식으로 발전하는지 확인하는 적절한 검사 메커니즘이 부족합니다. 오늘 우리가 직면한 상황이 바로 이것이다.

서한 내용은 다음과 같습니다. “

안타깝게도 이러한 수준의 계획 및 관리는 이루어지지 않았습니다. 최근 몇 달 동안 AI 연구소는 점점 더 강력한 디지털 정신을 개발하고 배포하기 위해 통제할 수 없는 경쟁에 빠져 있었습니다. AI 연구자에 대한 자발적 유예가 없는 상황에서, Future of Life Institute는 대규모 인공 지능에 대한 진행 중인 연구로 인한 피해를 방지하기 위한 조치를 취할 것을 촉구합니다. 모델.

최고의 AI 연구자들은 연구 중단 여부를 놓고 의견이 분분합니다. Turing Award 수상자 Yoshua Bengio, OpenAI 공동 창립자 Elon Musk 및 Apple 공동 창립자 Steve Wozniak을 포함하여 5,000명 이상의 사람들이 공개 서한을 지지하기 위해 서명했습니다.

그러나 모든 사람이 GPT-4보다 강력한 AI 시스템에 대한 연구를 금지하는 것이 우리에게 최선이라고 확신하는 것은 아닙니다.

Meta의 수석 인공 지능 과학자이자 Turing Award 수상자 Yann LeCun(2018년 Bengio 및 Geoffrey Hinton과 함께 Turing Award를 수상함)은 트위터에서 “나는 이 편지에 서명하지 않았습니다.”라고 말했습니다. "나는 그 전제에 동의하지 않습니다."

LeCun, Bengio 및 Hinton은 10여 년 전에 딥러닝 혁명을 시작한 ACM(Association for Computing Machinery)에 의해 "딥 러닝 혁명의 아버지"라고 불립니다. 신경망에 대한 연구로 최근 인공지능 열풍이 불고 있습니다. 당시에는 심층 신경망이 전 세계 인공지능 연구자들의 주요 관심사였습니다.

2017년 Google이 발표한 Transformer 논문을 통해 인공지능 연구가 본격화되었습니다. 곧 연구자들은 수학 학습 능력, 사고 연쇄 추론, 지시 따르기 능력과 같은 대규모 언어 모델의 예상치 못한 풍부함을 발견했습니다.

2022년 11월 말, OpenAI가 ChatGPT를 전 세계에 출시하면서 대중은 LLM이 무엇을 할 수 있는지 맛보게 되었습니다. 그 이후로 기술 커뮤니티는 모든 활동에 LLM을 구현하기 위해 노력해 왔으며, GPT-4의 3월 15일 발표에서 알 수 있듯이 더 크고 강력한 모델을 구축하기 위한 "군비 경쟁"이 추가적인 추진력을 얻었습니다.

일부 AI 전문가는 거짓말 경향, 개인 데이터 공개의 위험, 고용에 대한 잠재적 영향 등 LLM의 부정적인 영향에 대해 우려를 표명했지만 LLM에 대한 막대한 대중 수요는 식지 않았습니다. 새로운 AI 기능. 엔비디아 CEO 젠슨 황(Jensen Huang)은 우리가 인공 지능의 전환점에 있을 수 있다고 말했습니다. 하지만 지니는 병 밖으로 나온 것 같고 다음에 어디로 갈지 알 수 없습니다.

위 내용은 공개서한, 인공지능 연구 중단 촉구의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!