실리콘밸리의 뜨거운 논쟁: AI가 인류를 파괴할 것인가?

5월 22일 뉴스, 생성 인공지능(Genetive Artificial Intelligence) 등 신기술이 기술계에 새로운 열풍으로 떠오르면서, 인공지능이 인류를 멸망시킬 것인가에 대한 논쟁이 격화되고 있다. 저명한 기술 리더는 인공지능이 세계를 장악할 수 있다고 경고했습니다. 다른 연구자와 경영진은 이러한 주장이 공상과학 소설에 불과하다고 말합니다.

지난주 열린 미국 의회 청문회에서 인공지능 스타트업 오픈AI(OpenAI)의 샘 알트만(Sam Altman) CEO는 회사가 공개한 기술에는 보안 위험이 있다는 점을 모두에게 분명히 상기시켰다.

알트만은 ChatGPT 챗봇 등 인공지능 기술이 허위정보, 악의적 조작 등의 문제로 이어질 수 있다고 경고하고 규제를 촉구했다.

그는 인공지능이 "세계에 심각한 해를 끼칠 수 있다"고 말했습니다.

미국 의회에서 Altman의 증언은 인공 지능이 세계를 지배할지 여부에 대한 논쟁이 실리콘 밸리 전반에 걸쳐 AI 기술을 홍보하기 위해 노력하는 분열이 커지면서 주류로 변하고 있는 가운데 나왔습니다.

일부 사람들은 한때 기계의 지능 수준이 갑자기 인간을 능가하여 인간을 파괴하기로 결정할 수도 있다고 믿었습니다. 이제 이 비주류 아이디어는 점점 더 많은 사람들로부터 지지를 받고 있습니다. 일부 주요 과학자들은 컴퓨터가 인간을 능가하고 인간을 제어하는 ​​데 걸리는 시간이 단축될 것이라고 믿기까지 합니다.

그러나 현실적으로는 영화 '터미네이터' 속 스카이넷과 같은 킬러 인공지능의 출현에 대해 많은 사람들이 우려하고 있지만, 그러한 우려는 논리적이고 좋은 과학에 근거한 것이 아니라고 많은 연구자와 엔지니어들이 말합니다. 대신 Altman이 그의 증언에서 설명한 문제를 포함하여 이 기술이 이미 야기한 실제 문제로부터 주의를 돌리게 됩니다. 오늘날의 AI 기술은 저작권을 난독화하고 디지털 개인 정보 보호 및 감시에 대한 우려를 악화시키며 해커의 네트워크 방어 능력을 향상시키는 데 사용될 수 있습니다.

Google, Microsoft 및 OpenAI는 모두 공개적으로 공개된 획기적인 인공 지능 기술을 보유하고 있습니다. 이러한 기술은 사용자와 복잡한 대화를 수행하고 간단한 텍스트 프롬프트를 기반으로 이미지를 생성할 수 있습니다. 사악한 인공지능을 둘러싼 논쟁이 뜨거워졌다.

인공 지능의 대부이자 전 Google 직원인 Geoffrey Hinton은 “이것은 공상 과학 소설이 아닙니다.”라고 말합니다. 힌턴은 인간보다 똑똑한 인공지능이 5~20년 안에 등장할 수 있다고 말했다. 이전 예측은 30~100년이었다.

"외계인이 지구에 착륙했거나 곧 착륙할 예정인 것 같아요."라고 그는 말했습니다. "그들은 유창하게 말하고, 유용하고, 시를 쓰고, 지루한 편지에 답장을 하기 때문에 우리는 그것을 정말로 받아들일 수 없습니다. 하지만 그들은 정말로 외계인입니다.

그럼에도 불구하고, 거대 기술 회사 내에는 많은 엔지니어들이 기술은 AI가 인간을 대체하는 것이 지금 당장 걱정해야 할 문제라고 생각하지 않습니다.

인공지능 스타트업 Cohere가 소유한 연구실인 Cohere for AI의 이사이자 전 Google 연구원인 Sara Hooker는 다음과 같이 말했습니다. 인간의 생존에 위험이 있는지 걱정하는 사람들이 더 많아졌습니다. "

편견과 차별을 심화시킬 나쁜 콘텐츠로 훈련된 로봇을 공개하는 등 현재 실제 위험이 많이 있습니다. 인공 지능에 대한 훈련 데이터는 대부분 영어로 되어 있습니다. 주로 북미나 유럽에서 온 이러한 봇은 대부분의 사람들의 언어와 문화에서 더욱 소외되게 만들 수 있습니다. 공격하는 사용자 대화의 무한 루프. 게다가 사람들은 이 기술의 파급효과에 대해 명확하지 않습니다. 모든 산업계는 변호사나 의사와 같은 고임금 직업도 대체될 수 있는 변화에 대비하고 있습니다.

어떤 사람들은 인공지능이 미래에 인간에게 해를 끼칠 수도 있고, 어떤 식으로든 사회 전체를 통제할 수도 있다고 믿습니다. 인류에 대한 실존적 위험은 더욱 심각해 보이지만, 많은 사람들은 이를 정량화하기 어렵고 가시성이 떨어진다고 생각합니다.

"이것이 단지 알고리즘이라고 생각하는 사람들이 있습니다. 그들은 온라인에서 보는 것을 단지 반복하고 있습니다." Google CEO Sundar Pichai는 올해 4월 인터뷰에서 다음과 같이 말했습니다. 새로운 기능, 창의성, 추론 및 계획 능력을 갖추고 있습니다. "우리는 이 문제를 신중하게 처리해야 합니다."

.

이 논쟁은 지난 10년 동안 컴퓨터 과학 분야에서 머신러닝 기술이 지속적으로 발전해 온 데서 비롯되었습니다. 머신러닝은 인간의 명시적인 지시 없이 대량의 데이터에서 새로운 통찰력을 추출할 수 있는 소프트웨어와 기술을 만듭니다. 이 기술은 소셜 미디어 알고리즘부터 검색 엔진, 이미지 인식 프로그램에 이르기까지 다양한 응용 분야에서 널리 사용됩니다.

작년에 OpenAI와 기타 여러 소규모 회사는 새로운 기계 학습 기술인 생성 인공 지능을 사용하는 도구를 출시하기 시작했습니다. 웹에서 스크랩한 수조 개의 사진과 문장을 학습한 후 소위 대규모 언어 모델은 간단한 프롬프트를 기반으로 이미지와 텍스트를 생성하고 사용자와 복잡한 대화를 수행하며 컴퓨터 코드를 작성할 수 있습니다.

Future of Life Institute의 전무이사인 Anthony Aguirre는 대기업들이 규제가 거의 또는 전혀 없는 점점 더 스마트한 기계를 개발하기 위해 경쟁하고 있다고 말했습니다. 미래생명연구소는 사회에 대한 위험을 연구하기 위해 2014년에 설립되었습니다. Tesla CEO Elon Musk의 자금 지원을 받아 연구소는 2015년부터 인공 지능이 인류를 파괴할 가능성을 연구하기 시작했습니다. Aguirre는 인공지능이 인간보다 더 나은 추론 능력을 갖게 되면 자제력을 얻으려고 노력할 것이라고 말했습니다. 이것은 현재 존재하는 실제 문제와 마찬가지로 사람들이 걱정해야 할 사항입니다.

그는 "선로에서 벗어나지 않도록 제한하는 방법은 점점 더 복잡해질 것입니다." "많은 SF 소설에서 이미 이를 매우 구체적으로 설명했습니다."

올해 3월 Aguirre는 오픈 글을 작성하는 데 도움을 주었습니다. 새로운 인공지능 모델 훈련을 6개월간 유예할 것을 촉구하는 편지입니다. 이번 공개 서한에는 2018년 컴퓨터 과학 부문 최우수상을 수상한 인공지능 수석 연구원 요슈아 벤지오(Yoshua Bengio)와 가장 영향력 있는 인공지능 스타트업 중 하나인 엠마(Emma)의 CEO를 지지하는 총 27,000명의 서명이 접수됐다. 에마드 무스타케(Emad Mostaque)도 그중 하나였습니다.

그 중에서도 단연 가장 눈길을 끄는 것은 머스크입니다. 그는 OpenAI 설립을 도왔으며 현재 자신만의 AI 회사를 세우느라 바쁘고 최근에는 AI 모델을 훈련하는 데 필요한 값비싼 컴퓨터 장비에 투자하고 있습니다.

수년 동안 머스크는 인간이 초인공지능 개발의 결과에 대해 더 조심해야 한다고 믿어왔습니다. 머스크는 지난주 테슬라 연례 주주총회에서 열린 인터뷰에서 구글 공동 창업자인 래리 페이지가 인공지능의 위협에 대해 "무신경하다"고 느꼈기 때문에 처음에 OpenAI에 자금을 지원했다고 말했습니다.

미국 버전의 Zhihu Quora도 자체 인공 지능 모델을 개발하고 있습니다. 회사 CEO Adam D'Angelo는 공개 서한에 서명하지 않았습니다. 그는 공개서한에 대해 "사람들이 이 제안을 하는 동기가 다르다"고 말했다.

OpenAI CEO 알트만 역시 공개서한의 내용을 승인하지 않는다. 그는 공개 서한의 일부에는 동의하지만, "기술적 세부 사항"이 전반적으로 부족한 점은 인공 지능을 규제하는 올바른 방법이 아니라고 말했습니다. Altman은 지난 화요일 인공 지능에 대한 청문회에서 그의 회사의 접근 방식은 기술이 더욱 강력해지기 전에 AI 도구를 대중에게 조기에 공개하여 문제를 식별하고 해결하는 것이라고 말했습니다.

그러나 기술계에서는 킬러 로봇에 대한 논쟁이 점점 커지고 있습니다. 가장 가혹한 비판 중 일부는 수년 동안 기술의 결함을 연구해 온 연구자들로부터 나왔습니다.

2020년에는 Google 연구원 Timnit Gebru과 Margaret Mitchell, 워싱턴 대학교 학자 Emily M. Bender가 Angelina McMillan-Major와 함께 논문을 공동 집필했습니다. 그들은 인간을 모방하는 대규모 언어 모델의 능력이 증가함에 따라 사람들이 자신이 지각이 있다고 생각할 위험이 높아진다고 주장합니다.

대신 그들은 이러한 모델을 "무작위 앵무새"로 이해해야 한다고 주장합니다. 즉, 자신이 말하는 내용을 이해할 필요 없이 순전히 확률에 기초하여 문장에서 다음에 어떤 단어가 올지 예측하는 데 아주 능숙해야 한다고 주장합니다. 다른 비평가들은 대규모 언어 모델을 "자동 완성" 또는 "지식 관장"이라고 부릅니다.

그들은 대규모 언어 모델이 어떻게 성차별적이고 기타 유해한 콘텐츠를 스크립트 방식으로 생성할 수 있는지 자세히 문서화했습니다. Gebru은 해당 논문이 Google에 의해 공개되지 않았다고 말했습니다. 그녀가 기사를 공개적으로 게시하겠다고 주장하자 Google은 그녀를 해고했습니다. 몇 달 후 회사는 Mitchell을 다시 해고했습니다.

이 논문의 공동저자 4명도 머스크 등이 서명한 공개 서한에 대한 응답으로 편지를 썼습니다.

“환상적인 AI 유토피아나 종말로 우리의 주의를 돌리는 것은 위험합니다. 대신 우리는 사회적 불평등을 악화시키는 데 빠르게 노력을 집중하는 개발 회사의 매우 실제적이고 실제적인 착취 관행에 집중해야 합니다.

Google은 당시 Gebru의 해고에 대해 논평을 거부했지만 여전히 책임감 있고 윤리적인 인공 지능을 연구하는 연구자가 많다고 말했습니다.

Cohere의 인공지능 연구 책임자인 Hook은 "현대 인공지능이 강력하다는 것은 의심의 여지가 없습니다. 하지만 이것이 인간 생존에 즉각적인 위협을 가한다는 의미는 아닙니다."라고 말했습니다.

현재 인공지능이 인간의 통제에서 벗어나는 것에 대한 논의의 대부분은 터미네이터의 스카이넷처럼 인공지능이 어떻게 자신의 한계를 빠르게 극복할 수 있는지에 초점을 맞추고 있습니다.

"대부분의 기술과 기술 내에 존재하는 위험은 시간이 지남에 따라 진화합니다."라고 Hook은 "대부분의 위험은 현재 존재하는 기술 한계로 인해 악화됩니다."

지난해 Google은 인공 지능 연구원 Blake Lemon(Blake Lemoine)을 해고했습니다. . 그는 인터뷰에서 Google의 LaMDA 인공 지능 모델에 지각 능력이 있다고 굳게 믿고 있다고 말한 적이 있습니다. 당시 레몬은 업계의 많은 사람들로부터 비난을 받았습니다. 그러나 1년 후, 기술 커뮤니티의 많은 사람들이 그의 견해를 받아들이기 시작했습니다.

전직 Google 연구원인 Hinton은 최신 인공 지능 모델을 사용한 후 이 기술의 잠재적 위험성에 대한 견해를 바꾼 것은 최근에서야 나왔다고 말했습니다. Hinton은 훈련 데이터를 기반으로 가능한 답변을 예측하는 것이 아니라 AI 모델이 자신의 요청을 대략적으로 이해하도록 컴퓨터 프로그램에 복잡한 질문을 했습니다.

올해 3월 마이크로소프트 연구원들은 OpenAI의 최신 모델인 GPT4를 연구하던 중 인간처럼 독립적으로 생각할 수 있는 인공지능을 가리키는 '일반 인공지능의 불꽃'을 관찰했다고 밝혔습니다.

Microsoft는 OpenAI와 협력하여 Bing 챗봇을 개발하는 데 수십억 달러를 투자했습니다. 회의론자들은 마이크로소프트가 인공지능 기술을 중심으로 공공 이미지를 구축하고 있다고 믿고 있다. 이 기술은 항상 실제보다 더 발전된 것으로 여겨지며 Microsoft는 이 기술을 통해 많은 것을 얻을 수 있습니다.

Microsoft 연구원들은 이 기술이 훈련된 텍스트 콘텐츠만을 기반으로 세상에 대한 공간적, 시각적 이해를 발전시켰다는 논문을 믿습니다. GPT4는 자동으로 유니콘을 그리고 계란을 포함한 임의의 물체를 계란이 깨지지 않도록 서로 쌓는 방법을 설명할 수 있습니다.

Microsoft 연구팀은 다음과 같이 썼습니다. “GPT-4는 언어를 마스터하는 것 외에도 수학, 프로그래밍, 비전, 의학, 법률, 심리학 및 기타 분야와 관련된 다양하고 복잡한 새로운 문제를 특별한 프롬프트 없이 해결할 수 있습니다.”라고 결론지었습니다. AI의 능력은 여러 분야에서 인간과 비슷하다는 것이다.

그러나 연구원 중 한 명은 인공지능 연구자들이 기계의 지능을 평가하기 위한 정량적 기준을 개발하려고 노력했지만 "지능"을 정의하는 방법은 여전히 ​​매우 까다롭다고 인정했습니다.

“모두 문제가 있거나 논란이 있는 내용이다”라고 하더군요

위 내용은 실리콘밸리의 뜨거운 논쟁: AI가 인류를 파괴할 것인가?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!