100세 키신저, 인공지능에 대해 말하다: 위기가 닥칠 때까지 기다리지 말고 주의를 기울이십시오-일체 포함-php.cn

2023년, 헨리 키신저는 100세가 되었지만 여전히 정신은 맑고 생각도 맑습니다. 그는 지금도 변함없이 국제 문제 논의에 참여하고 있으며, 훌륭한 예측도 내놓는다.

이코노미스트는 4월 말 키신저와 8시간 동안 대화를 나눴습니다. 이 대화에서 키신저는 기술 및 경제 리더십을 놓고 중국과 미국 간의 경쟁이 점점 치열해지는 것에 대해 우려를 표명했으며, 인공지능(AI)이 중국과 미국의 대결을 크게 심화시킬 것이라고 우려했습니다. 키신저는 인공지능이 5년 안에 보안 분야의 핵심 요소가 될 것이며 활자 인쇄에 버금가는 파괴적인 잠재력을 갖게 될 것이라고 믿습니다.

“우리는 전례 없는 파괴력이 넘치는 세상에 살고 있습니다”라고 키신저는 경고했습니다. 인간은 원칙적으로 기계 학습 피드백 루프에 관여하지만 AI는 완전히 자율적이고 막을 수 없는 무기가 될 수 있습니다.

Kissinger는 항상 인공 지능의 발전에 대해 매우 우려해 왔습니다. 그는 한때 "기술적인 사람들은 응용 프로그램에 관심이 있지만 나는 영향에 관심이 있습니다."라고 말했습니다. 최근에는 키신저와 전 구글 CEO 에릭 슈미트, MIT 슈워츠만 스쿨 학장 다니엘 허텐로허(Daniel Huttenloher)가 공동 집필한 책"인공지능의 시대와 인류의 미래"를 바탕으로 이 책에서 싱어는 인공지능이 글로벌 안보와 세계 질서를 재편하고 인공 지능의 발전이 개인과 인간의 자기 정체성에 미치는 영향을 반영합니다.

100세 키신저, 인공지능에 대해 말하다: 위기가 닥칠 때까지 기다리지 말고 주의를 기울이십시오

기록된 인류 역사의 시작부터 보안은 언제나 조직화된 사회가 추구하는 최소한의 목표였습니다. 모든 시대에 안보를 추구하는 사회는 위협을 모니터링하고, 전쟁을 훈련 및 준비하고, 국경을 넘어 영향력을 행사하고, 전쟁 시 승리를 위해 군사력을 강화하는 점점 더 효과적인 방법으로 기술 발전을 전환하려고 노력해 왔습니다. 야금술, 요새화, 말 사육, 조선업의 발전은 종종 초기 조직 사회에 결정적인 역할을 했습니다. 근대 초기에는 총기, 해군 함정, 항법 도구 및 기술의 혁신이 비슷한 역할을 했습니다.

권력이 증가함에 따라 강대국은 갈등에서 어느 쪽이 승리할지, 그러한 승리가 어떤 위험과 손실을 수반하는지, 전쟁에 대한 정당성은 무엇인지, 다른 강대국과 그것이 어떤 영향을 미치는지 평가하기 위해 서로 저울질합니다. 분쟁에 군사력을 도입하는 것이 결과에 영향을 미치나요? 여러 국가의 전투 능력, 목표 및 전략은 적어도 이론적으로는 균형 또는 힘의 균형으로 설정됩니다.

인공지능 시대의 사이버 전쟁

지난 세기 동안 수단과 목적의 전략적 조정이 단절되었습니다. 보안을 추구하는 데 사용되는 기술이 등장하고 더욱 파괴적이 되고 있는 반면, 명시된 목표를 달성하기 위해 이러한 기술을 적용하는 전략은 점점 더 어려워지고 있습니다. 오늘날에는 네트워크와 인공 지능의 출현으로 이러한 전략적 계산에 엄청난 복잡성과 추상화가 추가되었습니다.

오늘날 냉전이 끝난 후 주요 강대국과 기타 국가들은 국가 무기고를 강화하기 위해 사이버 역량을 사용해 왔습니다. 이러한 사이버 역량의 효율성은 주로 사이버 역량의 불투명성과 부인성, 그리고 어떤 경우에는 사이버 역량의 사용에서 비롯됩니다. 허위 정보, 정보 수집, 방해 행위 및 전통적인 갈등의 모호한 경계를 넘어 수용된 이론적 교리가 없는 다양한 전략을 구성합니다. 동시에, 발전할 때마다 새로운 취약점도 드러납니다.

인공지능 시대는 현대 전략의 신비를 더욱 복잡하게 만들 수도 있는데, 이는 인간이 의도한 것이 아니며 인간의 이해를 완전히 넘어설 수도 있습니다. 국가가 소위 치명적인 자율 무기(추가 인간의 승인 없이 자동으로 목표를 선택하고 공격하도록 훈련되고 승인된 자동 또는 반자율 인공 지능 무기)를 널리 배치하지 않더라도 AI는 여전히 재래식 무기를 향상시킬 수 있는 잠재력을 가질 것입니다. 핵무기와 사이버 능력으로 인해 적 간의 안보 관계를 예측하고 유지하기가 더욱 어려워지고 갈등을 제한하기가 더욱 어려워집니다.

어떤 주요 국가도 인공지능의 보안 차원을 무시할 수 없습니다. 특히 미국과 중국, 그리고 러시아 사이에서 인공 지능의 전략적 우위를 위한 경쟁이 시작되었습니다. 다른 국가가 특정 AI 기능을 획득하고 있다는 인식이나 의심이 확산됨에 따라 더 많은 국가가 이러한 기능을 획득하려고 할 것입니다. 이 능력은 일단 도입되면 빠르게 확산될 것입니다. 복잡한 AI를 생성하려면 많은 컴퓨팅 성능이 필요하지만 이를 전파하거나 사용하는 데는 일반적으로 그렇지 않습니다.

이러한 복잡한 문제에 대한 해결책은 절망도 항복도 아닙니다. 원전기술, 사이버기술, 인공지능 기술은 이미 존재하며, 이들 각각의 기술은 필연적으로 전략에서 역할을 하게 될 것입니다. 이러한 기술이 "발명되지 않은" 시대로 돌아갈 수 있는 방법은 없습니다. 미국과 동맹국이 이러한 능력이 미칠 수 있는 영향을 축소한다면 그 결과는 더 평화로운 세상이 될 수 없을 것입니다. 그 대신 국가들이 민주적 책임과 국제 균형을 고려하지 않고 가장 강력한 전략적 역량을 개발하고 사용하기 위해 경쟁하는 덜 균형 잡힌 세계가 될 것입니다.

향후 수십 년 동안 우리는 사이버 분쟁, 대규모 허위 정보 확산 등 무형적 요인과 인공지능을 활용한 전쟁의 고유한 특성을 모두 고려하는 힘의 균형을 달성해야 할 것입니다. 잔인한 현실은 사람들로 하여금 인공지능 분야의 반대자들이 서로 경쟁하더라도 극도로 파괴적이고 불안정하며 예측할 수 없는 인공지능 기능의 개발과 사용을 제한하는 데 전념해야 한다는 것을 깨닫게 합니다. AI 군축을 위한 냉철한 노력은 국가 안보와 모순되지 않으며, 인류의 미래 틀 내에서 안보를 추구하려는 시도입니다.

사회의 디지털 역량이 강할수록 사회는 더욱 취약해집니다

역사를 통틀어 한 국가의 정치적 영향력은 군사력과 전략적 능력, 즉 주로 암묵적인 위협을 가하여 다른 사회에 큰 피해를 입힐 수 있는 능력과 대략 일치하는 경향이 있었습니다. 그러나 이러한 힘의 균형에 기초한 힘의 균형은 정적이거나 자립적이지 않습니다. 오히려, 이 권한의 구성 요소와 그 사용의 법적 한계에 대해 당사자들이 먼저 동의하는지 여부에 달려 있습니다. 둘째, 힘의 균형을 유지하려면 시스템의 모든 구성원, 특히 적국이 각 국가의 상대적 능력, 의도 및 공격 결과에 대해 일관되게 평가해야 합니다. 마지막으로, 권력 균형을 유지하려면 실제적이고 인정된 균형이 필요합니다. 시스템의 한 당사자가 다른 구성원에 비해 불균형한 방식으로 권력을 증가시키면 시스템은 반대 세력을 조직하거나 새로운 현실에 적응하여 조정하려고 노력할 것입니다. 오산으로 인한 갈등의 위험은 세력균형의 균형이 불확실하거나 국가가 상대적 강점을 완전히 다른 방식으로 평가할 때 가장 큽니다.

오늘날에는 이러한 절충안의 추상화가 더욱 심화됩니다. 이러한 변화의 이유 중 하나는 소위 사이버 무기로, 이는 군사용과 민간용 모두를 갖고 있어 무기로서의 지위가 모호합니다. 어떤 경우에는 군사력을 행사하고 강화하는 데 있어 사이버 무기의 효과는 주로 사용자가 사이버 무기의 존재를 공개하지 않거나 완전한 능력을 인정하지 않는 데서 비롯됩니다. 전통적으로 분쟁 당사자가 싸움이 발생했음을 인식하거나 교전 당사자가 누구인지 인식하는 것은 어렵지 않았습니다. 상대방은 서로의 힘을 계산하고 무기를 얼마나 빨리 배치할 수 있는지 평가합니다. 그러나 전통적인 전장에서의 이러한 깨지지 않는 원칙은 네트워크 분야에 직접 적용될 수 없습니다.

재래식 무기와 핵무기는 물리적 공간에 존재하며, 배치가 감지되고 성능이 최소한 대략적으로 계산될 수 있습니다. 대조적으로, 사이버 무기의 효율성은 대부분 그 불투명성에서 비롯됩니다. 공개되면 그 힘은 자연스럽게 감소됩니다. 이러한 무기는 이전에 공개되지 않은 소프트웨어 취약점을 악용하여 승인된 사용자의 허가나 인지 없이 네트워크나 시스템에 침투합니다. 통신 시스템에 대한 공격과 같은 "분산 서비스 거부"(DDoS) 공격이 발생하는 경우 공격자는 유효해 보이는 정보 요청의 홍수로 시스템을 압도하여 시스템을 사용할 수 없게 만들 수 있습니다. 이 경우 공격의 실제 소스가 모호해지기 때문에 (적어도 당시에는) 공격자를 식별하는 것이 어렵거나 불가능할 수 있습니다. 스턱스넷(Stuxnet) 바이러스가 이란 핵 프로그램의 제조 제어 컴퓨터를 손상시킨 가장 유명한 사이버 산업 방해 행위 사건 중 하나조차 어떤 정부에서도 공식적으로 인정하지 않았습니다.

재래식 무기와 핵무기는 비교적 정확하게 표적을 겨냥할 수 있으며, 윤리와 법률에서는 군대와 시설만 표적화할 수 있도록 규정하고 있습니다. 사이버 무기는 컴퓨팅 및 통신 시스템에 광범위하게 영향을 미칠 수 있으며 종종 민간 시스템에 특히 강력한 타격을 줄 수 있습니다. 사이버 무기는 다른 목적으로 다른 행위자에 의해 흡수, 수정 및 재배치될 수도 있습니다. 이로 인해 사이버 무기는 일부 측면에서 생화학 무기와 유사하며, 그 효과는 의도하지 않고 알려지지 않은 방식으로 확산될 수 있습니다. 많은 경우 사이버 무기는 전장의 특정 대상뿐만 아니라 대규모 인류 사회에 영향을 미칩니다.

이러한 사이버 무기의 사용은 사이버 무기 통제를 개념화하거나 구현하기 어렵게 만듭니다. 핵무기 통제 협상가들은 무기의 능력을 부인하지 않고도 핵탄두 종류를 공개적으로 공개하거나 설명할 수 있습니다. 사이버 군비통제 협상가(아직 존재하지 않음)는 사이버 무기의 힘에 대한 논의가 그 힘의 상실(적들이 취약점 패치를 할 수 있도록 허용) 또는 확산(적들이 복제할 수 있음)으로 이어질 수 있다는 역설을 해결해야 합니다. 코드 또는 침입 방법).

우리가 살고 있는 디지털 시대의 핵심 역설은 사회의 디지털 역량이 높아질수록 사회가 더욱 취약해진다는 것입니다. 컴퓨터, 통신 시스템, 금융 시장, 대학, 병원, 항공사, 대중 교통 시스템, 심지어 민주 정치의 메커니즘까지 포함된 시스템은 모두 다양한 수준의 사이버 조작이나 공격에 취약합니다. 선진국에서는 디지털 명령 및 제어 시스템을 발전소 및 전력망에 통합하고, 정부 프로젝트를 대규모 서버 및 클라우드 시스템으로 이동하고, 데이터를 전자 원장으로 전송함에 따라 사이버 공격에 대한 취약성도 증가합니다. 이러한 조치는 더 풍부한 대상 세트를 제공하므로 단 한 번의 성공적인 공격만으로도 상당한 피해를 입힐 수 있습니다. 이와 대조적으로, 디지털 침해가 발생할 경우 기술 수준이 낮은 국가, 테러리스트 그룹, 심지어 개별 공격자가 겪게 되는 손실은 상대적으로 작다고 볼 수 있습니다.

인공지능이 전쟁에 새로운 변수를 가져올 것이다

국가들은 조용히, 때로는 잠정적으로, 그러나 확실히 다양한 군사 역량에 걸쳐 전략적 작전을 촉진하는 인공 지능을 개발 및 배포하고 있으며, 이는 보안 정책에 혁명적인 영향을 미칠 수 있습니다.

전쟁은 언제나 불확실성과 우발성으로 가득 찬 분야였지만, 이 분야에 인공지능의 진입은 새로운 변수를 가져올 것입니다.

인공 지능과 머신 러닝은 기존 무기 클래스의 타격 능력을 확장하여 행위자의 전략 및 전술적 선택을 변화시킬 것입니다. AI는 재래식 무기를 더욱 정확하게 만들 수 있을 뿐만 아니라 (적어도 이론상으로는) 위치가 아닌 특정 사람이나 물체를 표적으로 삼는 등 새롭고 색다른 방식으로 무기를 표적화할 수 있게 해줍니다. AI 사이버 무기는 많은 양의 정보를 연구함으로써 악용 가능한 소프트웨어 취약점을 발견하는 데 도움을 주는 사람이 필요 없이 방어에 침투하는 방법을 배울 수 있습니다. 마찬가지로, AI는 취약점이 악용되기 전에 취약점을 찾아 수정하기 위해 방어적으로 사용될 수 있습니다. 그러나 공격자는 대상을 선택할 수 있지만 방어자는 그렇게 할 수 없기 때문에 AI는 공격자에게 무적은 아니더라도 이점을 줄 수 있습니다.

한 국가가 항공기를 조종하고, 독립적인 표적 결정을 내리고, 사격하도록 AI를 훈련시킨 적과 마주한다면, 이 기술의 채택은 전술, 전략 또는 전쟁 규모 확대에 의지하는 의지 측면에서 변화를 가져올 것입니다( 핵전쟁까지) 어떤 변화가 일어날까요?

인공지능은 허위정보 분야를 포함해 정보 공간의 역량에 새로운 지평을 열어줍니다. 생성적 AI는 엄청난 양의 그럴듯한 허위 정보를 생성할 수 있습니다. 가짜 인물, 사진, 비디오, 연설 등 인공지능이 촉발하는 정보전과 심리전은 오늘날 사회, 특히 자유 사회에서 사방에서 새로운 불안한 취약점을 노출시키고 있습니다. 널리 공유된 시위에는 유명 인사가 실제로 말하지 않은 내용을 말하는 실제처럼 보이는 이미지와 비디오가 동반되었습니다. 이론적으로 AI는 AI가 합성한 콘텐츠를 사람들의 편견과 기대에 맞춰 사람들에게 전달하는 가장 효과적인 방법을 결정할 수 있습니다. 국가 지도자의 합성 이미지가 반대자들에 의해 조작되어 불화를 조장하거나 오해의 소지가 있는 지시를 내리는 경우 대중(또는 다른 정부 및 공무원)이 제때에 속임수를 간파할 수 있을까요?

재난이 실제로 일어나기 전에 행동하세요

모든 주요 기술 선진국은 전략적 변혁의 문턱에 와 있다는 점을 이해해야 합니다. 이러한 변혁은 핵무기의 출현만큼 중요하지만 그 영향은 더욱 다양하고 분산되며 예측할 수 없습니다. AI의 한계를 확장하고 있는 모든 사회는 AI 방어 및 보안을 고려하고 AI의 생성 및 배포에 영향을 미치는 다양한 부문 간의 가교를 구축하기 위해 국가 차원의 기관을 설립하는 데 전념해야 합니다. 이 기관에는 두 가지 기능이 맡겨져야 합니다. 즉, 세계 다른 지역에서 국가의 경쟁력을 유지하는 동시에 불필요한 갈등이나 위기의 확대를 방지하거나 최소한 제한하는 방법에 대한 연구를 조정하는 것입니다. 이를 바탕으로 동맹국 및 적국과의 어떤 형태의 협상이 중요할 것입니다.

이 방향을 모색하려면 세계 양대 인공지능 강국인 미국과 중국이 이러한 현실을 받아들여야 합니다. 양국은 이 새로운 경쟁 국면에서 어떤 형태의 경쟁이 나타날지라도 서로 첨단 기술 전쟁을 벌이지 않겠다는 합의에 도달해야 한다고 결론 내릴 수 있습니다. 양당 정부는 팀이나 고위 관리에게 잠재적인 위험과 이를 방지하는 방법에 대해 감독하고 지도자에게 직접 보고하는 일을 맡길 수 있습니다.

인공지능 시대에는 오랜 전략 논리를 조정해야 합니다. 실제로 재난이 닥치기 전에 자동화를 향한 이러한 추진력을 극복하거나 최소한 억제해야 합니다. 인간의 의사결정자보다 빠르게 실행될 수 있는 인공지능이 전략적 결과를 가져오는 돌이킬 수 없는 행동을 하는 것을 막아야 합니다. 국방군 자동화는 인간 통제라는 기본 전제를 포기하지 않고 이뤄져야 한다.

현대 지도자들은 재래식 능력, 핵 능력, 사이버 능력, 인공지능 능력을 광범위하고 역동적으로 결합하여 무기와 장비를 통제하는 6대 주요 과제를 달성할 수 있습니다.

먼저, 경쟁국과 적대국의 지도자들은 전임자들이 냉전 시대에 그랬던 것처럼 그들이 모두 피하고 싶은 전쟁 형태를 논의하기 위해 정기적인 대화에 참여할 준비가 되어 있어야 합니다. 이를 돕기 위해 미국과 동맹국은 냉전 종식과 그 여파 속에서 성장한 세대의 경험을 포함하여 공통적이고 고유하며 침해할 수 없다고 믿는 이해관계와 가치를 중심으로 조직해야 합니다.

둘째, 우리는 핵 전략의 미해결 문제에 새로운 관심을 기울여야 하며, 그 본질이 인류가 직면한 거대한 전략적, 기술적, 도덕적 도전 중 하나라는 것을 깨달아야 합니다. 수십 년 동안 원자폭탄으로 초토화된 히로시마와 나가사키에 대한 기억은 사람들로 하여금 핵 문제의 특이하고 심각한 성격을 인식하도록 강요했습니다. 조지 슐츠(George Shultz) 전 미국 국무장관은 2018년 의회에서 다음과 같이 말했습니다. “사람들이 그런 두려움을 잃어버린 것이 걱정됩니다.” 핵 무장 국가의 지도자들은 재난 발생을 방지하기 위해 협력할 책임이 있음을 인식해야 합니다.

셋째, 사이버 및 인공 지능 기술 분야의 선두 세력은 자신의 이론과 한계를 정의하고(비록 모든 측면이 공개되지 않더라도) 자신의 이론과 경쟁 세력의 이론 사이의 연결점을 찾기 위해 노력해야 합니다. 우리의 의도가 사용보다는 억제, 충돌보다는 평화, 보편적 충돌보다는 제한된 충돌이라면 이러한 용어는 사이버 및 인공 지능의 고유한 차원을 반영하는 용어로 다시 이해되고 재정의될 필요가 있습니다.

넷째, 핵무장 국가는 지휘통제시스템과 조기경보시스템에 대한 내부점검을 약속해야 합니다. 이러한 안전 검사에서는 사이버 위협과 무단, 부주의 또는 우발적인 대량살상무기 사용에 대한 보호를 강화하기 위한 검사 단계를 식별해야 합니다. 이러한 사찰에는 핵 지휘 및 통제 시스템이나 조기 경보 시스템과 관련된 시설에 대한 사이버 공격을 배제할 수 있는 옵션도 포함되어야 합니다.

다섯째, 전 세계 국가, 특히 기술 강국은 고조되는 긴장과 극한 상황에서 의사 결정 시간을 최대한 연장할 수 있는 강력하고 수용 가능한 방법을 개발해야 합니다. 이는 특히 경쟁업체 사이에서 불안정성을 통제하고 상호 보안을 구축하는 데 필요한 단계(즉각적 및 장기적)를 연결할 수 있는 공통의 개념적 목표여야 합니다. 위기 상황에서 첨단 무기의 사용 여부에 대한 궁극적인 책임은 인류에게 있습니다. 특히 경쟁업체는 잠재적으로 취소할 수 없는 결정이 인간의 생각을 돕고 인간의 생존에 도움이 되는 방식으로 내려지도록 보장하는 메커니즘에 동의하도록 노력해야 합니다.

여섯째, 주요 인공지능 강국은 군사화된 인공지능의 지속적인 확산을 어떻게 제한할지, 외교적 수단과 무력 위협에 의존하여 체계적인 비확산 작업을 수행할지 고려해야 합니다. 용납할 수 없고 파괴적인 목적으로 기술을 사용할 만큼 야심 찬 기술 획득자는 누구입니까? 우리가 특별한 관심을 기울일 만한 특정 AI 무기가 있습니까? 이 빨간 선을 넘지 않도록 누가 보장할 것인가? 확립된 원자력 보유국들은 이러한 비확산 개념을 탐구해 엇갈린 성공을 거두었습니다. 세계에서 가장 적대적이거나 도덕적으로 제약이 없는 정부의 군대를 무장시키기 위해 파괴적이고 잠재적으로 파괴적인 신기술이 사용된다면 전략적 균형은 찾기 어렵고 갈등은 관리하기 어려울 수 있습니다.

대부분의 AI 기술은 이중 용도 특성을 갖고 있으므로 이 기술 연구 및 개발 경쟁에서 앞서 나가는 것은 우리의 책임입니다. 그러나 그것은 또한 우리가 그 한계를 이해하도록 강요합니다. 이러한 문제를 논의하기 위해 위기가 닥칠 때까지 기다리는 것은 너무 늦습니다. 일단 군사적 충돌에 사용되면 AI 기술은 매우 빠르게 대응할 수 있어 외교적 수단보다 더 빠른 결과를 낳을 것이 거의 확실합니다. 강대국은 전략적 개념에 대한 공통 담론과 서로의 한계선에 대한 감각을 발전시키기 위해서만 사이버 및 AI 무기에 대해 논의해야 합니다.

가장 파괴적인 능력에서 상호 억제를 달성하려면 비극이 발생할 때까지 기다렸다가 만회하려고 노력해서는 안 됩니다. 인류가 새롭고 진화하는 지능형 무기를 만들기 위해 경쟁하기 시작하면서 역사는 이에 대한 한계를 설정하지 못한 어떠한 실패도 용서하지 않을 것입니다. 인공지능 시대에도 장기적인 국익 추구는 여전히 인간윤리 수호를 전제로 해야 한다.

아직도 팬 여러분께 세 권의 책을 나눠드릴 예정입니다. 모두들 환영 메시지를 남겨주세요. 세 권의 좋은 팬 메시지를 적극적으로 선정하여 책을 나눠드리겠습니다.

-end-

이니셜로 정렬

자세한 내용을 보려면 위아래로 스와이프하세요

안 윤 | 바오 청차오 | 보 관휘 |

조진 | 조원준 | 장창진 |

추이 지안보 | 첸 이펑 | 첸 리추 |

첸 주핑 | 첸 유 첸 구오광 |

첸 펭 | 첸 레티안 첸 리앙동 |

첸 첸 | 첸 쳉 | 쳉 저우 |

청 타오 | 차이송송 |

차이 지웬 | 덩 지옹펑 | 동 웨이웨이 |