Demis Hassabis: AI는 우리가 상상했던 것보다 더 강력합니다

​최근 DeepMind의 창립자인 Demis Hassabis가 Lex Fridman의 팟캐스트에 게스트로 출연하여 많은 흥미로운 점에 대해 이야기했습니다.

인터뷰 초반에 허사비스는 튜링 테스트가 수십 년 동안 제안된 벤치마크이기 때문에 구식이라고 직설적으로 밝혔고, 튜링 테스트는 인간의 행동과 반응을 기반으로 하기 때문에 다음과 같은 일을 쉽게 할 수 있습니다. Google 엔지니어는 AI 시스템을 의식의 "희극"이라고 불렀습니다. 연구자는 언어 모델과 대화하고 자신의 인식을 모델의 판단에 매핑하는데 이는 객관적이지 않습니다.

2015년 설립 이후 DeepMind의 인공 지능 분야 개발은 게임 프로그램 AlphaGo부터 단백질 예측 모델 AlphaFold까지, 심층 강화 학습의 기술적 혁신으로 전 세계에 계속해서 놀라움을 안겨주었습니다. 수년 동안 인간 과학자들을 괴롭혀 왔습니다. 과학적 문제, 그 뒤에 있는 팀의 사고와 동기는 매우 매력적입니다.

이번 허사비스와의 인터뷰에서 그는 흥미로운 점, 즉 AI가 인간 지능의 한계를 뛰어넘는다는 점에 대해서도 이야기했습니다. 인간은 시간이 지남에 따라 이러한 3차원 세계에 익숙해졌을지 모르지만, AI는 12차원 세계를 이해하는 지능을 달성하고 도구의 본질을 없앨 수 있을지도 모릅니다. 세계.

다음은 Demis Hassabis와의 인터뷰입니다.

1 게임에서 AI까지

Lex Fridman: 언제부터 프로그래밍을 좋아하기 시작하셨나요?

Demis Hassabis: 저는 4살 때부터 체스를 시작했습니다. 8살 때 체스 경기에서 얻은 돈으로 제 첫 컴퓨터인 zx 스펙트럼을 구입했습니다. 프로그래밍에 관한 책. 처음 게임을 만들기 위해 컴퓨터를 사용하기 시작했을 때 저는 컴퓨터가 마법적이고 마음의 확장이라고 생각했습니다. 컴퓨터에게 어떤 작업을 하라고 하면 다음날 일어났을 때 이미 해결되어 있었습니다.

물론, 모든 기계는 어느 정도 이 작업을 수행하여 우리가 달리는 것보다 더 빠르게 움직일 수 있게 해주는 자동차와 같이 우리의 타고난 능력을 강화합니다. 하지만 인공지능은 기계가 할 수 있는 모든 학습의 궁극적인 표현이기 때문에 자연스럽게 인공지능에 대한 생각도 확장되었습니다.

Lex Fridman: 언제 인공지능과 사랑에 빠졌나요? 자는 동안에도 프로그램을 작성하고 수학 연산을 수행할 수 있을 뿐만 아니라 수학 연산보다 더 복잡한 작업도 수행할 수 있다는 사실을 언제부터 이해하기 시작했습니까?

Demis Hassabis: 대략 여러 단계로 나눌 수 있습니다.

저는 청소년 체스팀의 주장이었습니다. 10살이나 11살쯤 되었을 때 저는 프로 체스 선수가 되겠다는 계획을 세웠습니다. 나는 12세에 그랜드마스터 레벨에 도달했고 Judith Pologer에 이어 세계 2위의 체스 선수가 되었습니다. 체스 실력을 향상시키려면 먼저 사고 과정을 개선해야 합니다. 뇌는 어떻게 이러한 아이디어를 생각해 냅니까? 왜 실수를 합니까? 이 사고 과정을 어떻게 개선할 수 있나요?

80년대 초중반의 체스 컴퓨터처럼 저는 오늘날만큼 강력하지는 않지만 연습을 통해 향상될 수 있는 브랜드 버전의 Kasparov에 익숙했습니다. 당시 나는 누군가가 이 보드를 체스 게임용으로 프로그래밍했다는 것이 놀랍다고 생각했습니다. 나는 1984년에 출판된 David Levy의 "체스 컴퓨터 핸드북(The Chess Computer Handbook)"을 구입했습니다. 이 책은 매우 흥미로웠고 체스 프로그램이 어떻게 만들어지는지 완전히 이해할 수 있게 해주었습니다.

캡션: Kasparov, 전 소련 및 러시아 프로 체스 선수, 체스 그랜드 마스터

제 첫 번째 인공 지능 프로그램은 제 Amiga에서 프로그래밍한 것입니다. 저는 Olympiad Luo 역 사고를 플레이하는 프로그램을 작성했습니다. 체스이지만 체스 프로그래밍의 모든 원칙, 즉 알파 베타 검색 등을 사용했습니다.

두 번째 단계는 제가 16~17세쯤에 디자인한 "테마파크"라는 게임으로, 게임에 AI 시뮬레이션이 포함되어 있었지만 오늘날의 AI 기준으로는 간단하지만 사용자의 방식에 반응합니다. 플레이어로 플레이하기 때문에 샌드박스 게임이라고도 합니다.

Lex Fridman: AI와의 주요 연관성을 말해주실 수 있나요? 게임에서 AI 시스템을 구축하려면 무엇이 필요합니까?

Demis Hassabis: 저는 어렸을 때 게임을 배웠고 나중에는 게임을 디자인하고 게임용 AI를 작성하는 단계를 거쳤습니다. 제가 1990년대에 만든 게임은 모두 인공지능을 핵심 요소로 삼았습니다. 게임업계에서 이런 일을 한 이유는 당시에는 게임산업이 기술의 선두에 있다고 생각했기 때문이다. 존 카맥이나 퀘이크 같은 사람들이 게임에서 하는 것 같았다. 컴퓨터 그래픽용으로 발명되었지만 나중에 AI에 중요한 것으로 밝혀진 GPU와 같이 우리는 여전히 그 이점을 누리고 있습니다. 그래서 당시에는 이 게임이 최첨단 인공지능을 갖고 있다고 생각했어요.

초창기에는 컴퓨터 게임에 강화학습을 적용한 가장 심오한 예인 "흑백"이라는 게임에 참여했습니다. 게임에서 작은 애완동물을 훈련할 수 있으며, 애완동물을 대하는 방식을 통해 배울 수 있습니다. 애완동물을 나쁘게 대하면 그 애완동물은 마을 사람들과 관리하는 작은 부족에게 비열한 사람이 될 것입니다. 하지만 잘 대해주면 친절해집니다.

Lex Fridman: 게임의 선과 악에 대한 매핑을 통해 여러분의 선택에 따라 결과가 결정될 수 있다는 점을 깨달았습니다. 게임은 이런 철학적 의미를 가져올 수 있습니다.

Demis Hassabis: 게임은 플레이어로서 단순히 엔터테인먼트를 수동적으로 소비하는 것이 아니라 실제로 대표로서 적극적으로 참여한다는 점에서 독특한 매체라고 생각합니다. 그렇기 때문에 게임은 영화나 책 같은 다른 미디어보다 어떤 면에서는 더 많은 실체를 갖고 있다고 생각합니다.

우리는 게임을 검증된 개방형 AI 알고리즘의 시험장으로 활용하면서 처음부터 AI에 대해 깊이 생각해 왔습니다. 이것이 Deepmind가 처음에 주요 테스트 플랫폼으로 많은 수의 게임을 사용한 이유입니다. 게임은 매우 효율적이고 AI 시스템이 어떻게 개선되고 있는지, 사고의 방향이 무엇인지, 점진적인 개선을 하고 있습니다.

Lex Fridman: 체스에서 인간을 이길 수 있는 기계를 만들 수 없다고 가정하면 바둑은 조합의 복잡성으로 인해 깨지지 않는 게임이라고 생각할 수 있습니다. 하지만 결국 AI 연구자들이 이 기계를 만들었고, 인간은 우리가 생각했던 것만큼 똑똑하지 않다는 것을 깨달았습니다.

Demis Hassabis: 이것은 흥미로운 생각의 여정입니다. 특히 두 가지 관점(AI 제작자와 게임 플레이어)에서 이해할 때 더욱 마법적이고 동시에 약간 씁쓸하게 느껴집니다.

Kasparov는 체스를 지능적인 "초파리"라고 부릅니다. 체스는 처음부터 AI와 밀접하게 관련되어 있기 때문입니다. Turing과 Shannon을 포함한 모든 AI 실무자와 이 분야의 모든 선조들이 체스 프로그램을 작성하려고 노력했다고 생각합니다. Shannon은 1949년에 체스에 관한 최초의 프로그램 문서를 작성했습니다. Turing도 유명한 체스 프로그램을 작성했지만 컴퓨터가 실행되기에는 너무 느리기 때문에 연필과 종이를 사용하여 수동으로 프로그램을 실행하고 친구들과 함께 플레이했습니다.

DeepBlue는 체스, 컴퓨터, 인공 지능에 대해 제가 좋아하는 모든 것을 결합한 중요한 순간입니다. 1996년에는 가리 카스파로프를 꺾었다. 그 후 나는 DeepBlue보다 Kasparov의 마음에 더 깊은 인상을 받았습니다. 왜냐하면 Kasparov는 인간의 마음이고 체스를 두는 데 있어서 컴퓨터와 같은 수준에 있을 수 있을 뿐만 아니라 카스파로프는 사람이 할 수 있는 모든 것을 할 수 있기 때문입니다. 자전거 타기, 다국어 구사, 정치 활동 참여 등.

DeepBlue는 체스 분야에서도 활약했지만 실제로는 체스 대가의 지식을 다른 어떤 것도 할 수 없는 프로그램으로 정제하는 것입니다. 그래서 시스템에 뭔가 스마트한 부분이 빠져 있는 것 같아요. 그래서 우리가 알파고를 하려고 한 거죠.

Lex Fridman: 체스의 인간적 측면에 대해 간략하게 이야기해 보겠습니다. 게임 디자인 관점에서 체스는 게임이기 때문에 매력이 있다고 말씀하셨습니다. 비숍(체스의 비숍)과 나이트(체스의 기사) 사이에 창조적 긴장이 있는지 설명해 주시겠습니까? 무엇이 게임을 매력적이고 수세기에 걸쳐 지속될 수 있게 만드는가?

Demis Hassabis:나도 이것에 대해 생각하고 있어요. 사실, 많은 훌륭한 체스 선수들이 반드시 게임 디자이너의 관점에서 이 문제를 생각하는 것은 아닙니다.

체스는 왜 그렇게 매력적인가요? 주요 이유는 서로 다른 위치의 역학이라고 생각합니다. 닫혀 있는지 열려 있는지 알 수 있고, 비숍과 기사가 얼마나 다르게 움직이는지 생각해 볼 수 있으며, 체스는 이 두 가지의 균형을 맞추도록 진화했습니다. 대략 3점입니다.

Lex Fridman: 그러면 역동성이 항상 존재하고 나머지 규칙은 게임을 안정화하려고 노력하고 있다고 생각하시나요? ㅋㅋㅋ 지난 수백 년 동안 인간이 균형을 잡아왔기 때문에 게임에 창의적인 긴장감을 불어넣는 것 같아요.

Lex Fridman: AI 시스템이 게임을 디자인하도록 인간을 끌어들일 수 있다고 생각하시나요?

Demis Hassabis: 흥미로운 질문이네요. 창의성을 목적에 맞게 독창적이고 유용한 것을 생각해내는 것으로 정의한다면 가장 낮은 수준의 창의성은 보간된 표현과 같으며 기본 AI 시스템에는 이러한 능력이 있습니다. 수백만 장의 고양이 사진을 보여주고 일반 고양이를 보여줍니다. 이것을 보간이라고 합니다.

AlphaGo와 마찬가지로 추론도 가능합니다. AlphaGo는 수백만 번의 자기 자신과의 게임을 마친 후 게임에서 37개의 수를 만드는 등 몇 가지 멋진 새로운 아이디어를 생각해 냈습니다. 이는 우리가 수백, 수천 년 동안 게임을 해왔지만 인간이 생각해 본 적이 없는 전략을 제공하는 것입니다. .

이보다 더 높은 수준이 있는데, 고정관념에서 벗어나 진정한 혁신을 할 수 있는지 여부입니다. 수를 세우는 대신 체스를 발명할 수 있습니까? 체스나 체스나 바둑과 유사한 것이 발명될 수 있을까요?

언젠가는 AI가 할 수 있을 거라 생각하는데, 이제 문제는 이 작업을 프로그램에 어떻게 할당하느냐 하는 것입니다. 우리는 아직 높은 수준의 추상적 개념을 인공지능 시스템으로 구체화할 수 없으며, 높은 수준의 개념이나 추상적 개념을 진정으로 이해하는 측면에서 여전히 뭔가 부족합니다. 현재로서는 결합 및 구성이 가능하고 AI가 보간 및 추론을 수행할 수 있지만 그 중 어느 것도 실제로 발명된 것은 아닙니다.

Lex Fridman: 규칙 세트를 고안하고 최적화하고 이러한 규칙 세트를 중심으로 복잡한 목표를 개발하는 것은 현재 우리가 할 수 없는 일입니다. 하지만 특정 규칙 세트를 가져와 실행하여 AI 시스템이 처음부터 학습하는 데 시간이 얼마나 걸리는지 확인할 수 있습니까?

Demis Hassabis: 실제로 생각해 보니, 게임 디자이너로서는 정말 대단한 일이네요. 게임을 수천만 번 플레이한 시스템이 있다면 밤새 자동 밸런싱 규칙을 구현할 수도 있습니다. 게임의 단위나 규칙은 방정식이나 매개변수를 통해 조정되어 게임을 더욱 균형있게 만들 수 있습니다. 기본 세트를 제공하고 몬테카를로 방법 검색 등을 통해 이를 탐색하는 것과 비슷합니다. 이는 매우 강력한 도구가 될 것입니다.

자동 밸런싱을 위해서는 수백 개의 게임에서 수천 시간의 훈련이 필요한 경우가 많지만, 스타크래프트, 블리자드 등과 같은 밸런싱 게임은 놀랍고 해마다 테스터가 필요합니다. 따라서 어느 시점에서 이러한 일이 충분히 효과적이게 되면 밤새도록 하고 싶을 수도 있습니다.

Lex Fridman: 우리가 시뮬레이션 속에 살고 있다고 생각하시나요?

Demis Hassabis: 예. Nick Bostrom은 처음으로 시뮬레이션 이론을 제안한 것으로 유명하지만 저는 그것을 별로 믿지 않습니다. 어떤 의미에서 우리는 일종의 컴퓨터 게임을 하고 있거나 우리의 후손이 어떻게든 21세기에 지구를 재편하고 있는 것입니다.

물리학과 우주를 이해하는 가장 좋은 방법은 정보의 우주라는 컴퓨팅적 관점에서 이해하는 것입니다. 사실 정보는 현실의 가장 기본 단위입니다. 물질이나 에너지에 비해 물리학자들은 우주의 기초가 되는 E=mc²라고 말할 것입니다. 하지만 내 생각에 정보는 아마도 우주를 설명하는 가장 근본적인 방법일 것이며 정보 자체가 에너지나 물질을 특정할 수 있다고 생각합니다. 그래서 우리는 일종의 시뮬레이션을 하고 있다고 말할 수 있습니다. 하지만 나는 수십억 개의 시뮬레이션을 버리는 이러한 생각에 동의하지 않습니다.

Lex Fridman: 기계라는 일반 용어, 컴퓨터에 대한 이해를 바탕으로 우주에 컴퓨터의 능력을 넘어서는 것이 있다고 생각하시나요? 당신은 로저 펜로즈(수리물리학자)의 의견에 동의하지 않나요?

Demis Hassabis: Roger Penrose는 매우 유명하며 많은 훌륭한 토론에 참여했습니다. 저는 그의 고전 책 "The Emperor's New Brain"을 읽었으며 그는 뇌의 의식에는 더 많은 양자적 사물이 필요하다고 설명합니다. 나는 또한 우리가 하고 있는 일, 즉 튜링 기계나 고전 컴퓨팅을 한계까지 밀어붙이는 일에 대해 많은 생각을 해왔습니다. 클래식 컴퓨팅의 한계는 무엇입니까? 저는 또한 신경과학을 공부했는데, 그것이 제가 박사 학위를 위해 이 방향을 선택한 이유였습니다. 신경과학이나 생물학적 관점에서 뇌에 양자적 존재가 있는지 알아보기 위해서였습니다.

지금까지 대부분의 신경과학자 및 생물학자는 뇌에 양자 시스템이나 효과에 대한 증거가 없다고 말하며, 그 중 대부분은 고전 이론과 생물학 지식을 사용하여 설명할 수 있습니다. 그러나 동시에 AI 시스템을 포함하여 튜링 기계가 할 수 있는 작업부터 시작하는 것은 특히 지난 10년 동안 진행 중인 프로세스입니다. 나는 보편적인 튜링 기계와 고전적인 컴퓨팅 패러다임이 어디까지 갈 수 있을지 장담하지 않지만, 아마도 뇌에서 일어나는 일은 형이상학이나 양자적 내용 없이도 기계에서 에뮬레이트될 수 있을 것입니다.

2Al for science

Lex Fridman: 이제 AlphaFold에 대해 이야기해 보겠습니다. 인간의 마음이 직접적으로 정신적으로 일하는 것이 아니라 신경망과 같은 생물학적 계산 덩어리에서 나온다고 생각하시나요?

Demis Hassabis: 내 생각에 우주의 가장 큰 기적은 우리의 두개골 안에 단지 몇 파운드의 진흙이 있다는 것입니다. 두개골은 뇌이기도 하고 현재 알려진 우주에서 가장 복잡한 물체이기도 합니다. 나는 그것이 놀랍도록 효율적인 기계라고 생각하며, 이것이 내가 항상 AI를 만들고 싶었던 이유 중 하나입니다. AI와 같은 에이전트를 구축하고 이를 인간의 마음과 비교함으로써 우리는 마음의 고유성과 그 진정한 비밀, 의식, 꿈, 창의성, 감정 및 그 사이의 모든 것에 대해 역사적으로 궁금해하도록 도울 수 있습니다.

이제 이를 수행할 수 있는 도구가 엄청나게 많습니다. 모든 신경과학 도구인 FMI 기계는 기록이 가능하며, 지능형 시스템을 구축할 수 있는 AI 컴퓨팅 능력도 있습니다. 인간의 마음이 할 수 있는 일이 참으로 놀랍습니다. 인간이 컴퓨터와 같은 것을 만들고 이러한 문제에 대해 생각하고 연구한다는 사실은 인간의 마음에 대한 증거이며 우주와 인간의 마음을 더 명확하게 이해하는 데 도움이 됩니다. 우리는 우주가 자신의 아름다움을 시도하고 이해하는 메커니즘일 수도 있습니다.

다른 관점에서 보면 생물학의 기본 구성 요소를 사용하여 인간의 정신과 신체를 이해할 수도 있습니다. 기본 구성 요소부터 시작하여 모델을 시뮬레이션하고 구축하는 것이 놀랍고 더 크고 복잡하게 만들 수 있습니다. 시스템, 심지어 인간 생물학 전체.

또한 해결 불가능하다고 여겨지는 문제인 단백질 접힘 문제가 있는데, 알파폴드는 구조생물학 역사상 가장 큰 혁신 중 하나인 단백질 접힘 문제를 해결했습니다. 단백질은 모든 생명에 필수적이며 신체의 모든 기능은 단백질에 달려 있습니다.

단백질은 기본 구성 요소로 간주될 수 있는 유전자 서열(아미노산 서열이라고도 함)에 의해 지정됩니다. 그들은 신체와 자연에서 3차원 구조로 접혀지며, 이 3차원 구조가 신체에서의 기능을 결정합니다. 더 나아가 약물이나 질병에 관심이 있고 약물화합물을 이용하여 단백질의 작용을 차단하고자 한다면, 단백질 표면의 결합부위의 3차원 구조를 이해하는 것이 전제가 됩니다.

설명: DeepMind는 2021년 7월 유럽 분자 생물학 연구소(EMBL)와 협력하여 구축한 데이터베이스를 통해 처음으로 AlphaFold 예측 결과를 공개했습니다. 초기 데이터베이스에는 모든 인간 단백질의 98%가 포함되어 있습니다

. Lex Fridman: 단백질 접힘 문제의 핵심은 아미노산 서열에서 1차원 문자열을 얻을 수 있다는 것입니다. 3차원 구조를 계산적으로 즉시 예측할 수 있습니까? 이는 지난 50년 이상 생물학의 주요 과제였습니다. 노벨상 수상자 Christian Anfinsen은 1972년에 처음으로 아미노산 서열에서 3차원 구조로 전환하는 것이 가능하다고 추측했다고 밝혔습니다.

Demis Hassabis: Christian Anfinsen의 이 문장은 계산 생물학의 50개 주변 영역 전체에 갇혀 있었고 제대로 수행되지 않았던 영역을 열어 주었습니다.

알파폴드가 등장하기 전에는 이 모든 것이 실험적으로 이루어졌습니다. 단백질을 결정화하는 것이 매우 어려웠습니다. 일부 단백질은 막 단백질처럼 결정화할 수 없으며 이를 얻기 위해서는 값비싼 전자현미경이나 X선 결정 분석기를 사용해야 했습니다. 그리고 그 구조를 시각화합니다. AlphaFold를 사용하면 두 사람이 몇 초 안에 3차원 구조를 예측할 수 있습니다.

Lex Fridman: 데이터 세트가 있고, 이 데이터 세트와 아미노산 매핑 방법에 대해 훈련되었습니다. 놀랍게도 이 작은 화학 컴퓨터는 분산 방식으로 계산을 수행할 수 있으며 계산을 매우 빠르게 수행할 수 있습니다.

Demis Hassabis: 생명의 기원에 대해 토론해야 할 것 같습니다. 사실 단백질 자체는 놀라운 작은 생물이자 동물 기계입니다. 레빈탈의 역설을 제안한 과학자 사이러스 레빈탈(Cyrus Levinthal)은 평균 단백질의 길이가 2,000개의 아미노산 염기이고 10~300가지의 서로 다른 단백질 접힘 방법을 가질 수 있다고 대략 계산했습니다. 그리고 자연에서는 물리학이 어떻게든 이 문제를 해결하고, 단백질은 1000분의 1초, 즉 1초 만에 체내에서 접힙니다.

Lex Fridman: 시퀀스는 독특한 형성 방식을 가지고 있으며, 광대한 가능성 속에서도 안정적으로 유지되는 방법을 찾습니다. 어떤 경우에는 기능 장애와 같은 것이 있을 수 있지만 대부분의 경우 명확하지 않은 고유한 매핑입니다.

Demis Hassabis: 건강에 일반적으로 고유한 매핑이 있다면 아플 때 문제는 정확히 무엇입니까? 예를 들어, 알츠하이머병에 대한 한 가지 가설은 베타-아밀로이드가 잘못된 방식으로 접혀서 잘못 접혀서 뉴런에서 엉키게 된다는 것입니다.

따라서 건강, 기능 및 질병을 이해하려면 그것이 어떻게 구성되어 있는지 이해해야 하며 이러한 것들이 무엇을 하는지 아는 것이 매우 중요합니다. 다음 단계는 단백질이 무언가와 상호작용할 때 모양이 바뀌는 것입니다. 따라서 생물학에서는 그것들이 반드시 정적일 필요는 없습니다.

Lex Fridman: 게임과는 다른 실제 물리 시스템인 AlphaFold에 대한 몇 가지 솔루션을 제공할 수 있을 것입니다. 여기서 해결하기가 매우 어려운 것은 무엇입니까? 어떤 솔루션이 관련이 있나요?

Demis Hassabis: AlphaFold는 지금까지 우리가 구축한 시스템 중 가장 복잡하고 아마도 가장 의미 있는 시스템일 것입니다.

우리는 원래 게임과 관련되도록 AlphaGo와 AlphaZero를 만들었지만 궁극적인 목표는 단지 ​​게임을 해독하는 것이 아니라 이를 사용하여 일반적인 학습 시스템을 안내하고 실제 문제를 해결하는 것입니다. 우리는 단백질 접힘과 같은 과학적 과제에 더 많은 노력을 기울이고 싶어하며 AlphaFold는 우리의 첫 번째 중요한 증거입니다.

데이터 측면에서 혁신의 수에는 약 30가지의 서로 다른 구성 알고리즘이 필요하며, 이를 조합하여 단백질 접힘을 해독합니다. 큰 혁신 중 일부는 물리학 및 진화 생물학에 관한 것이었습니다. 즉, 단백질의 결합 각도와 같은 것을 제한하기 위해 하드 코딩을 구축했지만 학습 시스템에 영향을 주지 않고 시스템이 여전히 예제를 통해 물리학을 배울 수 있도록 했습니다.

단백질이 약 150,000개 정도 있다고 가정하면, 40년 동안 실험을 해도 약 50,000개의 단백질 구조만 발견됩니다. 훈련 세트는 일반적으로 사용되는 것보다 훨씬 작지만 자체 추출과 같은 다양한 기술이 사용됩니다. 따라서 AlphaFold를 사용하여 매우 확실한 예측을 할 때 AlphaFold를 훈련 세트에 다시 넣어 훈련 세트를 더 크게 만드는 것이 중요합니다.

실제로 이 문제를 해결하려면 많은 혁신이 필요합니다. AlphaFold가 생성하는 것은 단백질의 모든 분자 사이의 쌍별 거리 행렬인 히스토그램이며, 3차원 구조를 만들기 위해서는 별도의 최적화 프로세스가 있어야 합니다. AlphaFold를 진정한 엔드 투 엔드로 만들기 위해 중간 단계를 건너뛰고 아미노산의 기본 서열에서 3차원 구조로 직접 이동할 수 있습니다.

엔드 투 엔드가 많을수록 시스템이 인간 설계자보다 제약 조건을 더 잘 학습할 수 있다는 것도 머신러닝을 통해 알 수 있습니다. 이 경우 수동으로 다음 단계로 이동해야 하는 중간 단계를 갖는 것보다 3D 구조가 더 좋습니다. 가장 좋은 접근 방식은 끝점에서 원하는 최종 출력, 입력까지 시스템 전체에 걸쳐 기울기와 학습 흐름을 허용하는 것입니다.

Lex Fridman: AlphaFold 아이디어와 관련하여 이는 생물학의 긴 여정의 초기 단계일 수 있습니다. 동일한 방법으로 더 복잡한 생물학적 시스템, 다중 단백질 상호 작용의 구조와 기능을 예측할 수 있다고 생각하십니까? , 점점 더 큰 시스템을 시뮬레이션하여 결국 인간의 두뇌와 인체와 같은 것을 시뮬레이션할 수 있습니까? 이것이 장기적인 비전이라고 생각하시나요?

Demis Hassabis: 물론 우리가 충분히 강력한 생물학적 시스템을 갖게 되면 질병을 치료하고 생물학을 이해하는 것이 내 To Do List의 최우선 순위입니다. 이것이 제가 개인적으로 AlphaFold를 홍보한 이유 중 하나입니다. 시작.

AlphaFold는 단백질 구조의 거대한 문제를 해결하지만 생물학은 역동적이고 우리가 연구하는 모든 것은 단백질 액체 결합입니다. 분자와 반응하고, 경로를 구축하고, 궁극적으로 가상 세포를 형성하는 것이 나의 꿈입니다. 나는 Crick Institute의 생물학자인 Paul Nurse를 포함하여 많은 생물학 친구들과 이야기를 나눴습니다. 생물학과 질병 발견의 경우 가상 세포를 구축하는 것은 놀라운 일입니다. 가상 세포에 대해 많은 실험을 한 다음 실험실에 가서 최종 단계에서 이를 확인할 수 있기 때문입니다.

신약 발굴의 경우, 표적 식별부터 약물 후보 도출까지 약 10년이 소요됩니다. 대부분의 작업이 가상 셀에서 이루어질 수 있다면 그 시간은 수십배 단축될 수 있습니다. 가상 세포를 실현하려면 생물학의 다양한 부분의 상호 작용에 대한 이해가 개발되어야 합니다. 몇 년에 한 번씩 우리는 이에 대해 Paul과 이야기합니다. 작년 알파폴드 이후 이제 드디어 할 수 있을 때라고 했더니 폴이 너무 신이 났어요. 우리는 그의 연구실과 협력 관계를 맺고 있습니다. AlphaFold를 기반으로 생물학 분야에서 놀라운 발전이 있을 것이라고 믿습니다. AlphaFold가 오픈 소스로 공개된 이후에도 이미 이를 수행하는 커뮤니티가 있다는 것도 알 수 있습니다.

언젠가는 AI 시스템이 인터넷이나 공중 보건의 콘텐츠를 처리하는 것뿐만 아니라 일반 상대성 이론과 같은 문제를 해결할 수 있을 것이라고 생각합니다. 그것이 무엇을 생각해 낼 수 있는지 보는 것은 매우 흥미로울 것입니다. 이는 단순히 좋은 바둑 수를 생각해내는 것이 아니라 바둑을 창조하는 창의성에 대한 이전 토론과 약간 비슷합니다. 노벨상과 같은 상을 받으려면 인간 과학자나 창조자에게 명령을 내리기보다는 Go를 발명해야 했을 것입니다.

Lex Fridman: 많은 사람들이 과학을 거인의 어깨 위에 서 있는 것으로 생각합니다. 그런데 문제는 당신이 실제로 거인의 어깨 위에 얼마나 멀리 서 있는가 하는 것입니다. 아마도 과거의 다양한 결과를 흡수하여 궁극적으로 새로운 관점의 획기적인 아이디어를 제공하는 것일 수도 있습니다.

Demis Hassabis: 이것은 큰 미스터리입니다. 저는 지난 10년, 심지어 향후 수십 년 동안 다양한 주제 영역의 교차점에서 많은 새로운 획기적인 발전이 나타날 것이라고 믿습니다. 관련 분야. 깊은 사고는 신경과학적 사고와 AI 공학적 사고 사이의 교차 학문이라고 주장할 수도 있습니다.

Lex Fridman: "심층 강화 학습을 통한 토카막 플라즈마의 자기 제어"에 관한 논문이 있어서 핵융합 문제를 해결하고 고온 플라즈마를 제어하기 위해 심층 강화 학습을 사용하려고 합니다. AI가 마침내 이 문제를 해결할 수 있는 이유를 설명할 수 있나요?

Demis Hassabis: 지난 1, 2년 동안 우리 작업은 매우 흥미롭고 유익했습니다. 우리는 제가 수년에 걸쳐 수집한 과학 분야와 관련된 프로젝트인 꿈의 프로젝트를 많이 시작했습니다. 우리가 이를 추진하는 데 도움을 줄 수 있다면 이는 혁신적인 영향을 미칠 수 있으며 과학적 도전 자체는 매우 흥미로운 질문입니다.

현재 핵융합은 주로 물리학, 재료, 과학 및 공학과 이러한 대규모 핵융합로를 구축하고 플라즈마를 포함하는 방법 등 많은 과제에 직면해 있습니다.

우리는 EPFL(Ecole Polytechnique Fédérale de Lausanne) 및 스위스 공과대학과 협력하고 있으며 그들은 우리에게 기꺼이 사용할 테스트 원자로를 가지고 있습니다. 온갖 종류의 꽤 말도 안되는 실험을 시도하는 놀라운 테스트 원자로입니다. 우리가 보고 있는 것은 핵융합과 같은 새로운 분야에 진입할 때 병목 현상이 무엇인가 하는 것입니다. 제1원리로 생각해보면, 핵융합의 작동을 방해하는 근본적인 문제는 무엇인가?

이 경우 플라즈마 제어가 완벽합니다. 이 플라즈마는 섭씨 100만도에 달하며 태양보다 더 뜨겁고 어떤 물질도 이를 담을 수 없습니다. 그러니까 아주 강한 초전도 자기장이 있어야 하는데 문제는 플라즈마가 꽤 불안정하다는 거예요. 마치 원자로에 수많은 별을 가두는 것처럼 플라즈마가 어떤 일을 할지 미리 예측하면 자기장을 수백만 단위로 움직여서 제어할 수 있으니까요. 초 다음에는 무엇을 할 것인가?

강화학습 예측 문제라고 생각하면 완벽해 보이는데, 자기장을 움직여서 자르는 컨트롤러도 있는데 예전에는 전통적인 컨트롤러였어요. 순간적으로 플라즈마에 반응할 수 없고 하드코딩되어야 한다는 제어 가능한 규칙이 있었으면 좋겠습니다.

Lex Fridman: AI가 마침내 핵융합을 해결합니다.

Demis Hassabis: 작년에 우리는 플라즈마를 특정 형태로 고정하여 이 문제를 해결하는 방법에 대한 논문을 Nature에 발표했습니다. 이는 실제로 플라즈마를 다양한 모양으로 조각하고 제어하며 기록적인 시간 동안 유지하는 것과 거의 같습니다. 이는 핵융합 분야에서 해결되지 않은 문제이다.

구조에 포함시켜 유지하는 것이 중요하며, 물방울 등 에너지 생산에 더 도움이 되는 다양한 모양도 있습니다. 융합 공간에서 해결 가능한 다음 문제는 무엇인지 알아보기 위해 많은 융합 스타트업들과 이야기를 나누고 있습니다.

Lex Fridman: '분수 전자 문제 해결을 통한 밀도 함수의 한계 개척'이라는 논문 제목에도 흥미로운 내용이 있습니다. 이 작품을 설명해 주실 수 있나요? AI가 미래에 임의의 양자역학 시스템을 모델링하고 시뮬레이션할 수 있을까요?

Demis Hassabis: 사람들은 두 요소가 합쳐졌을 때 어떻게 상호 작용하는지 관찰하면서 전자 구름에 대한 밀도 함수와 설명의 근사치를 작성하려고 노력해 왔습니다. 그리고 우리가 하려는 것은 시뮬레이션을 배우고 더 많은 유형의 화학을 설명할 수 있는 화학적 기능을 배우는 것입니다.

지금까지 AI는 비용이 많이 드는 시뮬레이션을 실행할 수 있지만 매우 작고 매우 단순한 분자에 대해서만 큰 물질을 시뮬레이션할 수 없습니다. 따라서 방정식을 보여준 후 전자가 무엇을 하는지 설명하기 위한 함수적 근사치를 설정하기 위해 모든 재료 과학과 특성은 전자가 서로 상호 작용하는 방식에 따라 결정됩니다.

Lex Fridman: 실제 시뮬레이션 결과에 가까워지기 위해 함수를 통해 시뮬레이션을 요약합니다. 이 작업의 어려움은 복잡한 시뮬레이션을 실행하고 초기 조건 및 시뮬레이션 매개변수로부터 매핑 작업을 학습하는 데 있습니다.

Demis Hassabis: 까다롭지만 좋은 소식은 우리가 해냈고, 많은 데이터를 생성하는 컴퓨팅 클러스터에서 많은 시뮬레이션, 분자 역학 시뮬레이션을 실행할 수 있다는 것입니다. 이 경우 데이터가 생성됩니다. 그렇기 때문에 우리는 게임 에뮬레이터를 사용하여 데이터를 생성합니다. 원하는 만큼 많은 데이터를 생성할 수 있기 때문입니다. 클라우드에 무료 컴퓨터가 있으면 이러한 계산을 실행할 수 있습니다.

3AI와 인간

Lex Fridman: 생명의 기원을 어떻게 이해하시나요?

Demis Hassabis: 저는 AI의 궁극적인 용도는 과학을 극한까지 가속화하는 것이라고 생각합니다. 그것은 일종의 지식의 나무와 같습니다. 이것이 우주에서 얻을 수 있는 지식의 전부라고 생각한다면, 지금까지 우리는 그 표면을 거의 긁지 않았습니다. AI는 이 프로세스의 속도를 높이고 이 지식 트리를 최대한 많이 탐색합니다.

Lex Fridman: 직관은 우리의 인지적 한계를 고려할 때 인간 지식의 나무가 매우 작다고 말합니다. 도구를 사용해도 우리가 이해하지 못하는 것이 여전히 많습니다. 이것이 비인간 시스템이 더 발전할 수 있는 이유일 수 있습니다.

Demis Hassabis: 네, 그럴 가능성이 매우 높습니다.

하지만 우선, 이것들은 서로 다른 두 가지입니다. 오늘날 우리가 무엇을 이해하는지, 인간의 마음이 무엇을 이해할 수 있는지, 우리가 이해하고 싶은 전체가 무엇인지와 같이 여기에 세 개의 동심원이 있습니다. 세 개의 더 큰 나무로 생각하거나 이 나무의 더 많은 가지를 탐색할 수 있습니다. 우리는 AI를 통해 더 많은 것을 탐구할 것입니다.

이제 질문은, 우리가 이해할 수 있는 것의 총체는 무엇인지 생각해 보면, 시뮬레이션 밖의 것, 우주 밖의 것 등 이해할 수 없는 것도 있을 수 있다는 것입니다.

Lex Fridman: 인간의 두뇌는 시간이 지남에 따라 이 3차원 세계의 상태에 익숙해졌기 때문입니다.

Demis Hassabis: 하지만 우리 도구는 그 이상을 할 수 있습니다. 11차원일 수도 있고 12차원일 수도 있습니다.

제가 늘 하는 예는 게리 카스파로프와 체스를 했을 때 체스 이런저런 얘기를 나눴는데, 체스를 잘하면 게리의 수를 생각하지 못하는데 카스파로프가 설명해줄 수는 있었어요. 이것을 사후 추론이라고 생각할 수 있습니다. 추가 설명이 있습니다. 아마도 이 것을 발명할 수는 없지만 비발디나 모차르트를 감상하고 그 아름다움을 감상하는 것처럼 이해하고 감상할 수 있습니다.

Lex Fridman: 좀 더 엉뚱한 질문을 하고 싶습니다. 예를 들어, 지구 너머에 외계 문명이 있다고 생각하시나요?

Demis Hassabis: 제 개인적인 의견은 현재 우리는 혼자라는 것입니다. 우리는 이미 우주에 있는 다른 문명의 신호를 찾으려는 다양한 천문 망원경과 기타 탐지 기술을 보유하고 있습니다. 동시에 많은 외계 문명이 이 작업을 수행한다면 우리는 우주 공간에서 시끄러운 소리를 듣게 될 것입니다. 하지만 사실은 아무런 신호도 받지 못했습니다.

많은 사람들이 세상에 외계 문명이 있다고 주장하겠지만, 우리는 실제로 그것들을 제대로 탐색하지 않았거나, 잘못된 전파 대역을 탐색했을 수도 있고, 잘못된 장비를 사용하여 그것을 깨닫지 못했을 수도 있습니다. 외계인이 존재합니다. 형태가 매우 다릅니다. 하지만 나는 이러한 견해에 동의하지 않습니다. 우리는 실제로 많은 탐사를 해왔습니다. 외계 문명이 정말로 그렇게 많다면, 우리는 오래 전에 그것을 발견했어야 했습니다.

흥미롭게도 지구가 외로운 문명이라면 대필터의 관점에서 보면 이는 꽤 위안이 되는 일입니다. 이는 우리가 대필터를 통과했다는 의미입니다.

생명의 기원에 관해 방금 질문하신 질문으로 돌아가서, 생명은 몇 가지 놀라운 일에서 시작되었으며 이러한 일이 어떻게 일어났는지는 아무도 모릅니다. 지구가 아닌 다른 곳에서 박테리아와 같은 단세포 생명체가 존재하는 것을 보고도 놀라지 않을 것입니다. 그러나 미토콘드리아를 포획하여 우리 자신의 목적에 맞게 사용할 수 있는 능력을 바탕으로 다세포 생물의 출현은 전례 없이 어렵습니다.

캡션: Demis Hassabis가 언급한 대필터 이론

Lex Fridman: 진정한 지능을 가지려면 의식이 필요하다고 생각하시나요?

Demis Hassabis:저는 개인적으로 의식과 지혜는 이중으로 분리되어 있다고 생각합니다. , 그래서 우리는 지능 없이도 의식을 얻을 수 있고, 그 반대의 경우도 마찬가지입니다.

예를 들어, 많은 동물은 자기 인식이 있고 사회화하고 꿈을 꿀 수도 있습니다. 그들은 어느 정도 자기 인식을 갖고 있다고 정의할 수 있지만 지능은 없습니다. 그러나 동시에 한 가지 작업에 매우 영리한 인공 지능은 체스를 두거나 다른 작업을 잘 수행할 수 있지만 자기 인식은 없습니다.

Lex Fridman: 얼마 전 Google 엔지니어는 특정 언어 모델이 지각이 있다고 믿었습니다. 지각이 있는 언어 모델을 접한 적이 있나요? 시스템이 "인식"된다면 이 상황을 어떻게 이해합니까?

Demis Hassabis: 저는 세상의 어떤 AI 시스템도 의식이 있거나 지각이 있다고 생각하지 않습니다. 이것이 매일 AI와 상호 작용할 때 느끼는 진정한 느낌입니다. 소위 지각은 우리 뇌 자체의 투영에 가깝습니다. 이는 언어 모델이고 지혜와 밀접하게 관련되어 있기 때문에 사람들이 시스템을 의인화하기 쉽습니다. 이것이 제가 튜링 테스트에 결함이 있다고 생각하는 이유입니다. 왜냐하면 튜링 테스트는 인간의 반응과 판단에 기초하기 때문입니다.

우리는 다니엘 데넷, 데이비드 차머스 같은 선도적인 철학자들과 의식에 대해 깊이 생각하는 사람들과 의식에 관해 이야기해야 합니다. 현재 의식에 대해 일반적으로 받아들여지는 정의는 없습니다. 말하자면, 의식의 정의는 정보가 처리될 때 오는 느낌이라고 생각합니다.

Lex Fridman: 어둡고 개인적인 질문을 하나 드리겠습니다. 세계에서 가장 강력한 초인공지능 시스템을 만든다고 하더군요. 오래된 속담처럼 절대 권력은 부패하며, 당신은 시스템을 통제할 가능성이 가장 높은 사람이기 때문에 그들 중 하나가 될 가능성이 더 높습니다. 이것을 고려해 보시겠습니까?

Demis Hassabis: 저는 항상 이러한 부패에 대한 방어책을 생각하고 있습니다.

인류의 이익을 극대화하는 도구나 기술을 통해 우리는 많은 어려운 도전에 직면하는 급진적인 세계로 들어갈 수 있습니다. AI는 우리가 문제를 해결하는 데 도움을 주어 궁극적으로 인류를 궁극적인 번영으로 이끌고 심지어 외계인을 찾는 데도 도움이 될 수 있습니다. AI를 만드는 사람, AI가 의존하는 문화, AI가 갖고 있는 가치, AI 시스템을 구축하는 사람 모두 AI의 발전에 영향을 미칠 것이다. AI 시스템이 스스로 학습하더라도 해당 지식의 대부분은 기존 특정 문화와 작성자의 가치의 잔재를 그대로 유지하게 됩니다.

다양한 문화로 인해 우리는 그 어느 때보다 더 분열되었습니다. 아마도 극도로 풍요롭고 자원이 덜 부족한 시대에 접어들면 치열한 경쟁이 필요하지 않고 더 나은 협력으로 전환할 수 있을 것입니다.

Lex Fridman: 자원이 크게 제한되면 일부 잔혹행위가 발생합니다.

Demis Hassabis: 자원의 부족은 경쟁과 파괴의 원인 중 하나입니다. 모든 인간은 친절하고 안전한 세상에서 살고 싶어하므로 우리는 자원 부족 문제를 해결해야 합니다.

그러나 부패를 일으키는 다른 것들이 있기 때문에 이것만으로는 평화를 이루기에는 충분하지 않습니다. AI는 한 사람이나 조직에서만 운영되어서는 안 됩니다. 저는 AI가 세계, 인간의 것이어야 하며 모든 사람이 AI에 대해 발언권을 가져야 한다고 생각합니다.

Lex Fridman: 고등학생과 대학생을 위한 조언이 있습니까? 젊은이들이 AI 분야에서 일하고 싶거나 스스로 세상에 영향을 미치고 싶다면 어떻게 진정한 직업을 얻을 수 있습니까? 자랑스러워? 이상적인 삶을 찾는 방법은 무엇입니까?

Demis Hassabis: 저는 항상 젊은이들에게 두 가지 말을 하고 싶습니다. 첫 번째로, 당신의 진정한 열정은 어디에 있습니까? 젊은이들은 가능한 한 많이 세상을 탐험해야 합니다. 우리가 젊을 때는 시간이 충분하고 탐험의 위험을 감수할 수 있습니다. 자신만의 독특한 방식으로 사물 간의 연결점을 찾는 것이 자신의 열정을 찾는 좋은 방법이라고 생각합니다.

두 번째 문장은 '너 자신을 알라' 입니다. 일하는 가장 좋은 방법이 무엇인지, 가장 좋은 근무 시간은 언제인지, 배우는 가장 좋은 방법은 무엇인지, 스트레스에 대처하는 방법을 이해하는 데는 많은 시간이 걸립니다. 젊은이들은 다양한 환경에서 자신을 시험하고, 자신의 약점을 개선하려고 노력하고, 자신의 고유한 기술과 장점을 찾아 이를 연마해야 합니다. 이것이 이 세상에서 여러분의 미래 가치입니다.

이 두 가지를 결합하고 열정을 찾고 자신만의 독특하고 강력한 기술을 개발할 수 있다면 놀라운 에너지를 얻고 세상에 큰 변화를 가져올 수 있습니다.

위 내용은 Demis Hassabis: AI는 우리가 상상했던 것보다 더 강력합니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!