ChatGPT는 지적 혁명을 시작합니다! OpenAI, 궁극적으로 초지능 세상으로 이끄는 AGI 로드맵 공개

​ChatGPT가 대중화되면서 마이크로소프트, 구글, 메타 등 주요 기업들이 게임에 뛰어들었습니다.

결과적으로 사람들은 광범위한 적용에 대한 우려도 제기했습니다.

전 알파벳 전무이사 Eric Schmidt와 다른 공동 저자들은 WSJ가 발행한 기사에서 다음과 같이 말했습니다.

어제 OpenAI CEO Sam Altman은 일반 인공 지능(AGI)에 대한 OpenAI의 현재 및 후속 계획을 공유하는 기사를 발표했습니다.

기사에서는 OpenAI의 사명이 AGI가 모든 인류에게 이익이 되도록 보장하는 것임을 강조합니다.

OpenAI 비전: AGI가 모든 인류에게 이익이 되도록 보장

기사에는 OpenAI가 가장 중요하게 생각하는 세 가지 원칙이 제시되어 있습니다.

AGI가 궁극적으로 성공적으로 구축된다면 이 기술은 더 많은 가능성을 가져오고 글로벌 경제 발전을 촉진할 뿐만 아니라 새로운 과학 지식의 발견을 바꾸고 모든 측면에서 인간의 생활 수준을 향상시키는 데 도움이 될 것입니다.

AGI는 모든 사람에게 놀라운 새로운 능력을 제공할 수 있습니다.

AGI가 손에 닿는 세상에서는 누구나 거의 모든 인지 능력에 대한 도움을 받을 수 있으며, AGI는 인간의 지능과 창의성을 위한 거대한 전력 증폭기가 될 수 있습니다.

하지만 한편으로는 일부 사람들이 걱정하는 것처럼 일반 인공지능도 심각한 학대, 사고, 사회적 혼란을 일으킬 수 있습니다.

그러나 AGI의 이점은 놀랍습니다. 질병을 숨길 수 없으며 사회가 영원히 발전하지 못하게 할 수는 없습니다. 사회와 AGI 개발자는 이를 잘 수행할 수 있는 방법을 찾아야 합니다.

일반 인공지능과 함께 살아가는 미래의 그림은 예측하기 어렵고 현재 AI의 발전은 새로운 도전에 직면할 수 있습니다. 그러나 ChatGPT의 성공과 함께 우리는 회사가 가장 중요하게 생각하는 몇 가지 원칙을 나열했습니다.

1 AGI가 인간에게 힘을 실어주고 우주에서 최대의 번영을 이룰 수 있기를 바랍니다. 우리는 미래가 거짓 유토피아가 되는 것을 원하지 않고, 기술의 좋은 면을 극대화하고 나쁜 면을 최소화하여 AGI가 인간 선의의 증폭기가 될 수 있기를 바랍니다.

2. AGI의 혜택, 접근성, 거버넌스를 더욱 공정하게 공유할 수 있기를 바랍니다.

3. 잠재적인 위험에 올바르게 대응하세요. 이러한 위험에 직면하여 이론적으로 옳아 보이는 것이 실제로는 예상보다 통제하기가 더 어려운 경우가 많습니다. 우리는 "되돌릴 수 없는 지점"을 최소화하기 위해 덜 강력한 버전의 기술을 배포함으로써 계속해서 배우고 적응해야 합니다.

단기 목표: AGI를 위한 세 가지 준비를 하세요

그래서 OpenAI는 단기적으로 다음과 같은 일을 할 계획입니다.

우선, 회사가 더욱 강력한 AI 시스템을 지속적으로 구축하고 있는 만큼, AGI를 빠르게 배포하여 해당 애플리케이션 경험을 축적할 수 있기를 바랍니다.

OpenAI의 관점에서 AGI를 신중하게 관리하는 가장 좋은 방법은 AGI가 어디에나 존재하는 세상으로 점진적으로 전환하는 것입니다. 우리가 기대하는 미래에는 강력한 인공지능 기술이 세계 발전 속도를 가속화할 수 있습니다.

점진적인 접근 방식을 통해 대중, 정책 입안자, 연구 기관은 AGI 기술이 가져온 변화를 이해하고 장점과 단점을 직접 경험할 수 있습니다. 경제 조직의 형태를 조정하고 효과적인 감독을 실시합니다.

동시에 점진적인 발전 방식은 사회와 AI의 공동 발전을 촉진하여 사람들이 상대적으로 낮은 위험으로 자신을 이해할 수 있게 해줍니다.

OpenAI는 AI 애플리케이션 문제를 성공적으로 해결하는 가장 좋은 방법은 빠른 학습과 신중한 반복의 긴밀한 피드백 루프를 사용하는 것이라고 믿습니다. 신기술의 영향으로 사회는 '인공지능 시스템이 무엇을 할 수 있는지, 편견을 없애는 방법, 일자리 손실에 대처하는 방법'과 같은 주요 문제에 직면하게 될 것입니다.

AI 기술의 사용을 늘리는 것은 큰 이점이며 OpenAI는 모델을 서비스 API에 넣고 오픈 소스로 만들어 이 기술을 홍보하는 데 일조하고 싶습니다.

OpenAI는 개발하는 시스템이 AGI에 가까워짐에 따라 모델 생성과 배포 모두에서 기관이 점점 더 신중해지고 있다고 말했습니다.

OpenAI는 대형 모델 사용의 장단점을 따져볼 필요가 있습니다. 한편으로 고급 대규모 모델의 사용은 중요한 과학적, 기술적 진보를 나타내는 반면, 회사와 기관은 모델을 사용한 후 악의적인 행위자를 제한하고 부정적인 영향을 방지하는 방법과 같은 문제도 고려해야 합니다. 사회와 경제.

둘째, OpenAI는 보다 일관되고 제어 가능한 모델을 만들기 위해 열심히 노력하고 있습니다. GPT-3의 첫 번째 버전부터 InstructGPT 및 ChatGPT에 이르기까지 이 단계별 변환은 AI 보안에 대한 OpenAI의 노력을 보여줍니다.

인류 사회가 인공 지능을 사용하는 방법에 대해 매우 광범위한 경계에 도달해야 한다는 점은 주목할 가치가 있습니다. 모델이 더욱 강력해짐에 따라 OpenAI는 새로운 정렬 기술을 개발해야 합니다.

OpenAI의 단기 계획은 AI를 사용하여 인간이 더 복잡한 모델의 출력을 평가하고 복잡한 시스템을 모니터링하도록 돕는 것이며, 장기적으로 OpenAI는 AI를 사용하여 더 나은 정렬 기술을 얻는 데 도움을 줄 것입니다.

OpenAI는 인공지능의 안전성과 역량이 똑같이 중요하며, 이 둘을 별도로 논의해서는 안 된다고 믿습니다. OpenAI는 가장 안전한 작업이 가장 유능한 모델에서 나온다고 말합니다. 즉, 인공지능의 안전성을 높이는 것은 AI 연구의 진전에 있어서 매우 중요하다.

셋째, OpenAI는 인공지능 시스템의 거버넌스, AI 시스템에서 생성된 이익의 분배, 접근 권한 공유라는 세 가지 핵심 문제를 글로벌 규모로 해결하고자 합니다.

또한 OpenAI 회사 헌장에 따르면 OpenAI는 보안 개선을 위해 다른 조직을 지원해야 하며 향후 AGI 개발에서 상대방과 경쟁할 수 없습니다.

OpenAI 투자 규칙은 주주가 받을 수 있는 수익에 상한선을 설정하여 연구 기관 자체가 치명적인 위험이 있는 기술을 사용하여 제한이나 위험 없이 가치를 획득하려는 유혹에 빠지지 않도록 합니다.

OpenAI는 비영리 조직의 관리를 받아 해당 기관이 인류의 이익을 위해 운영되고 모든 영리 이익에 우선합니다.

마지막으로 OpenAI는 전 세계 정부가 일정 규모 이상의 머신러닝 훈련에 대한 감독을 유지해야 한다고 믿습니다.

장기 목표: 더욱 번영하는 초지능 세상

단기 계획에 비해 OpenAI의 AGI 장기 개발은 더 야심적입니다.

OpenAI는 인류의 미래는 인간 스스로 결정해야 한다고 믿으며, 진보에 대한 정보를 대중과 공유하는 것이 중요합니다. 따라서 모든 AGI 개발 프로젝트는 엄격하게 조사되어야 하며 주요 결정에 대해서는 국민의 의견을 수렴해야 합니다.

OpenAI의 관점에서 최초의 AGI는 인공지능의 지속적인 발전에서 작은 노드일 뿐이며, 이후 이 노드에서 새로운 발전이 계속 파생될 것입니다. 회사는 향후 AI의 발전이 지난 10년간 우리가 오랫동안 경험해온 발전 속도와 유사할 수도 있다고 예측하고 있다.

어쩌면 어느 날, 세상은 엄청난 변화를 겪게 될 것이며, 기술의 진보 역시 인류에게 큰 위험을 가져올 수도 있습니다. "잘못 배치된" 초지능 AGI는 세상에 심각한 해를 끼칠 수 있습니다.

따라서 OpenAI는 AGI 개발을 늦추면 안전을 확보하는 것이 더 쉽다고 믿습니다. 기술 발전으로 인해 AGI를 빠르게 개발할 수 있는 능력이 제공되더라도 둔화를 유지하면 사회가 적응할 수 있는 충분한 시간이 제공됩니다.

초지능이 있는 세계로의 성공적인 전환은 아마도 인류 역사상 가장 중요하고 유망하며 무서운 프로젝트일 것입니다. 그날이 언제 올지 아무도 장담할 수 없지만, 이해관계는 명확하며 모두를 하나로 모으는 데 도움이 됩니다.

무슨 일이 있어도 상상 이상으로 번영하는 세상이 될 것입니다. 그리고 OpenAI는 이러한 번영에 부합하는 종합 인공지능을 세상에 공헌하고자 합니다.

ChatGPT가 지적 혁명을 예고합니다

최근에는 헨리 키신저 전 미국 국무장관, 에릭 슈미트 전 알파벳 전무이사, MIT 슈바르츠만 컴퓨팅 학교 초대 학장인 다니엘 허텐로처가 "ChatGPT가 지적 혁명을 예고합니다"라는 기사를 썼습니다.

이 기사는 현재 생성 AI에 대한 우려를 드러냅니다.

생성 AI는 계몽주의 이후 경험하지 못한 철학적, 실무적 과제를 제시합니다.

기사 시작 부분에서는 ChatGPT가 현재 인간에게 미치는 영향을 설명합니다.

인쇄 발명 이후 한 번도 흔들린 적이 없는 인간의 인지 과정을 변화시키기 위해 고안된 신기술입니다.

1455년 구텐베르크 성경을 인쇄하는 기술은 추상적인 인간 사상이 광범위하고 빠르게 확산될 수 있게 해주었습니다. 그러나 오늘날의 신기술은 이러한 과정을 역전시킵니다.

인쇄기는 현대 인류 사상의 확산을 가져왔고, 새로운 기술은 현대 인류 사상의 세련미와 정교함을 가능하게 했습니다.

그 과정에서 인간의 지식과 인간의 이해 사이에 격차가 생깁니다.

이 전환을 성공적으로 진행하려면 인간의 마음과 기계와의 상호 작용에 대한 새로운 개념을 고안해야 합니다. 이것이 인공지능 시대의 근본적인 과제이다.

이 신기술을 생성인공지능(Generative Artificial Intelligence)이라고 하며, 가장 대표적인 것이 OpenAI 연구소에서 개발한 ChatGPT입니다.

그 능력이 더욱 광범위해짐에 따라 인간의 지식을 재정의하고 현실 구조의 변화를 가속화하며 정치와 사회를 재편할 것입니다.

생성 인공지능은 또한 인간 합리성에 대한 혁명적인 길을 열어주고 지식 통합의 새로운 지평을 열어줄 것입니다.

하지만 둘 사이에는 분명한 차이점도 있습니다. 깨달음의 지식은 단계적으로 달성되며, 각 단계는 측정 가능하고 가르칠 수 있습니다.

ChatGPT와 같은 AI 시스템은 대량의 기존 정보를 저장하고 정제할 수 있으며 인간이 할 수 없는 프로세스를 설명하지 않고도 결과를 출력할 수 있습니다.

또한, 인공지능의 능력은 고정되어 있는 것이 아니라, 기술이 발전함에 따라 기하급수적으로 증가합니다.

우리는 사람들이 생성 AI의 상호작용성에 도전하고 AI의 답변을 정당화하거나 설명할 뿐만 아니라 질문할 수 있도록 하는 정교한 변증법을 시급히 개발해야 합니다.

일관되게 회의적인 자세로 AI를 체계적으로 탐구하고 AI의 답변이 신뢰할 수 있는지 여부와 그 정도를 평가하는 방법을 배워야 합니다. 이를 위해서는 무의식적인 편견을 줄이기 위한 의식적인 노력, 엄격한 훈련 및 많은 연습이 필요합니다.

질문은 남아있습니다. 너무 빨리 순종하는 것보다 도전하는 법을 배울 수 있을까요? 아니면 결국 순종해야 합니까? 우리가 오류라고 인식하는 것이 의도적인 설계의 일부입니까? 인공지능에 악의적인 요소가 있다면?

또 다른 핵심 작업은 어떤 문제가 인간의 사고에 맡겨야 하는지, 어떤 문제가 자동화 시스템에 위험을 초래할 수 있는지 성찰하는 것입니다.

그러나 회의론과 심문 기술이 높아졌음에도 불구하고 ChatGPT는 생성 기술의 요정이 병을 떠났다는 것을 증명합니다. 우리는 우리가 묻는 질문에 대해 신중해야 합니다.

이 기술이 더 널리 이해됨에 따라 국제 관계에 큰 영향을 미칠 것입니다. 지식의 기술이 보편적으로 공유되지 않는 한, 제국주의는 인공지능의 최신 발전을 달성하기 위해 데이터를 획득하고 독점하는 데 집중할 수 있습니다.

모델은 수집된 데이터에 따라 다른 결과를 생성할 수 있습니다. 사회의 다양한 진화는 점점 더 다양한 지식 기반과 이에 따른 도전 과제에 대한 다양한 인식을 기반으로 진화할 가능성이 높습니다.

기사 마지막에는 생각해 볼 가치가 있는 두 가지 질문이 제기됩니다.

이 기술을 완전히 제어할 수 없다면 어떻게 될까요?

항상 거짓말을 하고, 가짜 사진과 동영상을 만들 수 있는 방법이 있고, 사람들이 보고 듣는 것을 믿지 않는 법을 배우지 못한다면 어떨까요?

Meta 수석 AI 과학자 LeCun은 다음과 같이 답했습니다.

- 사람들은 신기술의 도움으로 소스를 더 잘 추적하고 보고 듣는 내용의 신뢰성을 평가하는 방법을 배울 것입니다.

- 현재의 자동 회귀 LLM은 제어하기 어려운 것으로 악명 높지만, 새로운 AI 시스템은 필요할 때 제어 가능하고 현실적이며 독성이 없습니다.

일부 네티즌들은 “두 가지 선택이 있다: 적응하느냐 아니면 죽느냐”라는 앤디 그로브의 말을 인용했습니다.

당신이라면 어떻게 하시겠습니까?

참고자료:

https://openai.com/blog/planning-for-agi-and-beyond/

https://www.wsj.com/articles/chatgpt-heralds-an-intellectual-revolution - 깨달음-인공지능-호모-기술-기술-인지-도덕-철학-774331c6

https://twitter.com/ericschmidt/status/1629361652574621701

위 내용은 ChatGPT는 지적 혁명을 시작합니다! OpenAI, 궁극적으로 초지능 세상으로 이끄는 AGI 로드맵 공개의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!