100歳のキッシンジャーが人工知能について語る：危機が来るまで待ってはいけない-AI-php.cn

2023 年、ヘンリーキッシンジャーは 100 歳ですが、彼の心はまだ明晰で、思考も明確です。彼は今でもいつものように国際問題に関する議論に参加しており、素晴らしい予測を立てることもできます。

エコノミスト誌は4月末にキッシンジャーと8時間会談した。この対話の中で、キッシンジャー氏は、技術的・経済的リーダーシップを巡る中国と米国の競争がますます激しくなっていることに懸念を表明し、人工知能が中国と米国の対立を大幅に激化させることにも懸念を示した。キッシンジャーは、人工知能は 5 年以内にセキュリティ分野の重要な要素となり、活字印刷に匹敵する破壊的な可能性を秘めていると考えています。

「私たちは前例のない破壊的な世界に住んでいます」とキッシンジャーは警告した。原則として人間は機械学習のフィードバックループに関与しますが、AI は完全に自律的で制御不能な兵器になる可能性があります。

キッシンジャーは、人工知能の開発に常に強い関心を持っており、かつて「技術者は応用を気にするが、私は影響を気にする」と言いました。最近、キッシンジャー、元 Google CEO エリック・シュミット、MIT シュワルツマン学部長ダニエル・ハッテンローハーも著書 「人工知能の時代と人類の未来」 を共著し、キッシンジャーはこの本の中で人工知能について次のように提案しました。世界の安全保障と世界秩序を再構築し、人工知能の発展が個人と人間の自己アイデンティティに及ぼす影響を反映します。

100歳のキッシンジャーが人工知能について語る：危機が来るまで待ってはいけない

人類の歴史の始まり以来、セキュリティは常に組織化された社会が追求する最低限の目標でした。 いつの時代でも、安全保障を求める社会は、テクノロジーの進歩を、脅威を監視し、戦争に備えて訓練し準備し、国境を越えて影響力を及ぼし、戦争時に勝利を達成するために軍事力を強化するためのますます効果的な方法に変えようと努めてきました。冶金、要塞化、馬の飼育、造船の進歩は、しばしば初期の組織化された社会にとって決定的なものでした。近世までに、銃器、軍艦、航行ツール、テクノロジーの革新が同様の役割を果たしました。

国力が増大するにつれて、大国は紛争でどちらが勝つか、その勝利がどのようなリスクと損失を伴うか、戦争をする正当化にはどのようなものがあるのか、他の大国はどのような影響を与えるのかを評価するために互いに比較検討します。紛争への彼らの軍事的関与は結果に影響を与えるだろう。さまざまな国の戦闘能力、目標、戦略は、少なくとも理論上はバランス、つまり力の均衡として設定されています。

人工知能時代のサイバー戦争

過去 1 世紀にわたって、手段と目的の戦略的連携の間には乖離がありました。セキュリティの追求に使用されるテクノロジーが出現し、より破壊的なものになっている一方で、これらのテクノロジーを適用して所定の目標を達成するための戦略はますますわかりにくくなっています。 今日の時代では、ネットワークと人工知能の出現により、これらの戦略的計算に並外れた複雑さと抽象性が加わりました。

今日、冷戦終結後、大国およびその他の国は、国家兵器の強化にサイバー能力を利用しています。これらのサイバー能力の有効性は、主にその不透明性と否定性に起因しており、場合によっては、そのサイバー能力の有効性にも起因しています。偽情報、情報収集、妨害行為、伝統的な紛争といった曖昧な領域での使用に至るまで、これは受け入れられた理論的定説のないさまざまな戦略を構成します。同時に、進歩するたびに新たな脆弱性も明らかになります。

人工知能の時代は、人間の意図したものではなく、人間の理解を完全に超えた現代戦略の謎をさらに複雑にする可能性があります。たとえ各国がいわゆる自律致死兵器（人間の許可なしに自律的に目標を選択し攻撃するように訓練され認可された自動または半自律型人工知能兵器）を広く配備していないとしても、AIは依然として従来型兵器、核兵器を増強する可能性を秘めている。これにより、敵対者間の安全保障関係の予測と維持がより困難になり、紛争を制限することがより困難になります。

人工知能の安全保障の側面を無視できる主要国はありません。人工知能における戦略的優位性をめぐる競争が、特に米国と中国、そしてもちろんロシアの間で始まっている。他国が特定の AI 能力を獲得しているという認識や疑惑が広がるにつれ、より多くの国がこれらの能力の獲得を目指すことになるでしょう。一度導入されると、この能力は急速に普及します。 洗練された AI の作成には多くのコンピューティング能力が必要ですが、AI の普及や使用には通常は必要ありません。

これらの複雑な問題の解決策は、絶望でも降伏でもありません。 原子力技術、サイバー技術、人工知能技術はすでに存在しており、それぞれの技術が戦略に関与することは避けられません。これらのテクノロジーが「発明されていなかった」時代に戻ることはできません。もし米国とその同盟国がこれらの能力が及ぼす影響を避けるなら、その結果はこれ以上平和な世界にはならないだろう。むしろ、民主主義の責任や国際バランスを無視して、最も強力な戦略的能力を開発し、使用するために各国が競争する、バランスのとれた世界ではないでしょう。

今後数十年で、私たちはサイバー紛争や大規模な偽情報の拡散などの目に見えない要因と、人工知能支援戦争の独特の特性の両方を考慮したパワーバランスを達成する必要があります。残酷な現実は、たとえ相互に競争していたとしても、人工知能の分野における敵対者は、極めて破壊的で不安定で予測不可能な人工知能の能力の開発と使用を制限することに尽力すべきであることを人々に認識させています。 AI 軍備管理における冷静な取り組みは国家安全保障と矛盾するものではなく、人類の将来の枠組みの中で安全保障を確実に確保しようとする試みです。

社会のデジタル化能力が高まるほど、社会はより脆弱になります

歴史を通じて、国の政治的影響力は軍事力と戦略的能力、つまり主に暗黙の脅威を行使することによってでも他の社会に大混乱をもたらす能力とほぼ一致する傾向がありました。ただし、この力のトレードオフに基づく力のバランスは、静的または自立的なものではありません。むしろ、この権限の構成要素とその使用の法的制限について当事者が合意することにまず依存します。第二に、力の均衡を維持するには、システムのすべてのメンバー、特に敵対者が、各国家の相対的な能力、意図、侵略の結果について一貫した評価を行うことが必要です。最後に、力のバランスを維持するには、実際に認識されたバランスが必要です。システム内の一方の政党が他のメンバーと不釣り合いな方法で権力を増大させると、システムは対抗勢力を組織したり、新たな現実に適応したりして調整しようとします。計算ミスによって生じる紛争のリスクが最も大きくなるのは、力のバランスが不確実になったとき、または各国がまったく異なる方法で相対的な強さを比較検討したときです。

現代では、これらのトレードオフはさらに抽象的です。この変化の理由の 1 つは、いわゆるサイバー兵器です。サイバー兵器は軍事用途と民間用途の両方があり、したがって兵器としての地位があいまいです。場合によっては、軍事力の行使と強化におけるサイバー兵器の有効性は、主にその使用者がその存在を明らかにしなかったり、その全能力を認めなかったりすることに起因しています。伝統的に、紛争当事者が戦闘が発生したことを認識したり、交戦当事者が誰であるかを認識したりすることは困難ではありませんでした。対戦相手はお互いの強さを計算し、どれだけ早く武器を展開できるかを評価します。しかし、従来の戦場におけるこれらの破られない原則をネットワーク分野にそのまま適用することはできません。

通常兵器と核兵器は物理空間に存在し、その展開を検出でき、その能力は少なくとも大まかに計算できます。対照的に、サイバー兵器の有効性の多くはその不透明さによってもたらされ、公開されればその威力は自然に低下します。 これらの兵器は、これまで未公開だったソフトウェアの脆弱性を悪用し、許可されたユーザーの許可や知識なしにネットワークやシステムに侵入します。通信システムに対する攻撃などの「分散型サービス拒否」(DDoS) 攻撃が発生した場合、攻撃者は一見正当な情報要求の洪水でシステムを圧倒し、システムを使用不能にする可能性があります。この場合、攻撃の本当の発信元が不明瞭になる可能性があり、攻撃者を特定することが（少なくとも現時点では）困難または不可能になります。サイバー産業破壊行為の最も有名な事件の 1 つである、Stuxnet ウイルスがイランの核開発計画の製造管理コンピューターに侵入した事件ですら、どの政府も正式に認めていませんでした。

通常兵器と核兵器は比較的正確に目標を狙うことができますが、倫理と法律では軍事力と施設のみを目標とすることが求められています。 サイバー兵器はコンピューティングおよび通信システムに広く影響を与える可能性があり、民間システムに特に強力な打撃を与えることがよくあります。サイバー兵器は、他の目的のために他の攻撃者によって吸収、改造、再配備される可能性もあります。このため、サイバー兵器はある点で生物兵器や化学兵器と似ており、その効果は意図しない未知の方法で拡散する可能性があります。多くの場合、サイバー兵器は戦場の特定の標的だけでなく、大規模な人間社会に影響を与えます。

こうしたサイバー兵器の使用により、サイバー軍備管理の概念化や実装が困難になります。核兵器管理交渉担当者は、兵器の能力を否定することなく、核弾頭の種類を公的に開示または説明することができる。サイバー軍備管理交渉担当者（まだ存在しない）は、サイバー兵器の威力に関する議論がその力の喪失（敵対者による脆弱性パッチの可能化）や拡散（敵対者によるコピーの可能化）につながる可能性があるというパラドックスを解決する必要があるだろう。コードまたは侵入方法）。

私たちが生きているデジタル時代の中心的なパラドックスの 1 つは、社会のデジタル化能力が高まるほど、社会がより脆弱になるということです。 コンピュータ、通信システム、金融市場、大学、病院、航空会社、公共交通機関、さらには民主政治のメカニズムさえも、さまざまな程度のサイバー操作や攻撃に対して脆弱です。先進国では、デジタル指揮制御システムが発電所や送電網に統合され、政府プロジェクトが大規模サーバーやクラウドシステムに移行され、データが電子台帳に転送されるにつれて、サイバー攻撃に対する脆弱性も増大しています。これらのアクションにより、より豊富なターゲットが提供されるため、たった 1 回の攻撃が成功するだけでも大きな損害を与えることができます。対照的に、デジタル侵害が発生した場合、ローテク国家、テロ集団、さらには個々の攻撃者は、被る損失は比較的小さいと考える可能性があります。

人工知能は戦争に新たな変数をもたらすでしょう

各国は、静かに、時には暫定的に、しかし確実に、幅広い軍事能力にわたる戦略的作戦を促進する人工知能の開発と配備を進めており、安全保障政策に革命的な影響を与える可能性があります。

戦争は常に不確実性と偶然性に満ちた分野ですが、この分野への人工知能の参入は、新たな変数をもたらすでしょう。

人工知能と機械学習は、既存の武器クラスの攻撃能力を拡張することで、俳優の戦略的および戦術的な選択を変革します。人工知能は従来型兵器の精度を高めるだけでなく、（少なくとも理論上は）場所ではなく特定の人や物体を標的にするなど、新しく型破りな方法で兵器を標的にすることも可能にする。 AI サイバー兵器は、大量の情報を学習することで、悪用可能なソフトウェアの脆弱性の発見を人間に手伝ってもらうことなく、防御を突破する方法を学習できます。同様に、AI を防御的に使用して、脆弱性が悪用される前に見つけて修正することもできます。しかし、攻撃者はターゲットを選択できますが、防御者は選択できないため、AI は無敵ではないにしても、攻撃者に利点を与えることができます。

ある国が、航空機を操縦し、独自に目標を決定し、発砲するように人工知能を訓練した敵対者に直面した場合、このテクノロジーの採用は、戦術、戦略に重大な影響を及ぼし、あるいは戦争規模の拡大に頼ることになるでしょう。核戦争）意欲に関してはどのような変化が生じましたか？

人工知能は、偽情報の分野を含め、情報空間の機能に新たな地平を切り開きます。生成 AI は、もっともらしい偽情報を大量に作成する可能性があります。偽の人物、写真、ビデオ、スピーチの使用など、人工知能によって煽られた情報戦と心理戦は、今日の社会、特に自由社会においてあらゆる場面で憂慮すべき新たな脆弱性を暴露しています。広く共有されたデモには、公人が実際には決して言っていないことを発言している本物のように見える画像やビデオが伴っていた。理論的には、AI は、この AI が合成したコンテンツを人々の偏見や期待に合わせて配信する最も効果的な方法を決定することができます。国の指導者の合成画像が敵対者によって操作され、不和を引き起こしたり、誤解を招く指令を発したりした場合、国民 (さらには他の政府や役人) はやがてその欺瞞を見破ることができるでしょうか?

災害が実際に起こる前に行動しましょう

すべての主要な技術先進国は、戦略的変革の入り口に立っていることを理解する必要があります。この変革は核兵器の出現と同じくらい重要ですが、その影響はより多様で分散し、予測不可能になります。人工知能のフロンティアを拡大しているすべての社会は、人工知能の防御とセキュリティを検討し、人工知能の作成と展開に影響を与えるさまざまな部門間の架け橋を築くための国家レベルの機関の設立に取り組む必要があります。この機関には、世界の他の地域における国の競争力の維持を確保することと、紛争や危機の不必要な拡大を防止または少なくとも制限する方法に関する研究の調整という 2 つの機能が委託されるべきである。これに基づいて、同盟国および敵国との何らかの形での交渉が重要となる。

この方向性を探求するには、世界の二大人工知能大国である米国と中国がこの現実を受け入れなければなりません。両国は、両国間のこの新たな競争段階でどのような形態の競争が出現するとしても、互いに最先端技術戦争を戦わないという合意に達することを目指すべきであると結論付けるかもしれない。両党の政府は監督をチームや高官に委任し、潜在的な危険とその回避方法について指導者に直接報告することができる。

人工知能の時代には、長年の戦略ロジックを調整する必要があります。 災害が実際に起こる前に、この自動化への動きを克服するか、少なくとも抑制する必要があります。 私たちは、人間の意思決定者よりも速く実行できる人工知能が、戦略的な結果をもたらす取り返しのつかない行動を起こすことを阻止しなければなりません。防衛力の自動化は、人間による制御という大前提を放棄することなく実装されなければなりません。

現代の指導者は、従来型の能力、核能力、サイバー能力、人工知能能力を広範囲かつ動的に組み合わせることで、兵器と装備を制御するという6つの主要な任務を達成することができます。

第一に、ライバル国や敵対国の指導者は、冷戦時代に前任者たちがそうしたのと同じように、定期的に相互に対話し、避けたい戦争の形態について話し合う用意ができていなければなりません。これを支援するために、米国とその同盟国は、冷戦終結時とその余波で育った世代の経験を含め、共通、固有、不可侵であると信じる利益と価値観を中心に組織化すべきである。

第二に、私たちは核戦略の未解決の問題に新たな注意を払い、その本質が人類が直面する戦略的、技術的、道徳的大きな課題の一つであることを認識しなければなりません。何十年もの間、原爆によって焦土と化した広島と長崎の記憶は、人々に核問題の異常かつ深刻な性質を認識させてきました。ジョージ・シュルツ元米国務長官が2018年に議会で語ったように、「国民が恐怖心を失っているのではないかと心配している。」核保有国の指導者は、災害を防ぐために協力する責任があることを認識しなければならない。

第三に、サイバーおよび人工知能技術の主導国は、(たとえそのすべての側面が公表されていなくても)理論と限界を定義し、自国の理論と競合国の理論との接続点を特定するよう努めるべきです。私たちの意図が使用ではなく抑止、紛争ではなく平和、普遍的な紛争ではなく限定的な紛争である場合、これらの用語はサイバーと人工知能の固有の側面を反映する用語で再理解され、再定義される必要があります。

第四に、核武装国は、自国の指揮統制システムと早期警戒システムの内部査察を実施することを約束すべきである。このようなフェールセーフ検査では、サイバー脅威や大量破壊兵器の無許可、不注意、偶発的な使用に対する保護を強化するための検査手順を特定する必要があります。これらの査察には、核指揮統制システムや早期警戒システムに関連する施設へのサイバー攻撃を排除するオプションも含めるべきである。

第五に、世界中の国々、特に技術的に強力な国々は、緊張の高まりや極端な状況下で意思決定時間を可能な限り延長するための強力で受け入れ可能な方法を開発する必要があります。これは、不安定性を制御し、相互のセキュリティを構築するために必要な手順（当面および長期の両方）を結び付けることができる、特に競合他社間での共通の概念的目標である必要があります。危機において、人類は先進兵器を使用するか否かについて最終的な責任を負わなければなりません。特に、競合他社は、人間が考えやすく、人間の生存に役立つ方法で、取り消し不能となる可能性のある決定が下されることを保証するメカニズムについて合意するよう努めるべきである。

第六に、主要な人工知能大国は、軍事化された人工知能の継続的な拡散を制限する方法を検討するか、あるいは外交的手段と武力による威嚇に頼って体系的な不拡散作業を実行するかを検討する必要があります。容認できない破壊的な目的にテクノロジーを使用する野心的なテクノロジー買収者は誰ですか?特に注目すべき特定の AI 兵器はありますか?この赤い一線を越えないことを誰が保証するのでしょうか?既成の核保有国はこの不拡散の概念を模索してきましたが、成功はまちまちでした。破壊的で潜在的に破壊的な新技術が、世界で最も敵対的な政府や道徳的に制約のない政府の軍隊の武装に使用された場合、戦略的バランスが取れなくなり、紛争は管理不能になる可能性があります。

ほとんどの人工知能テクノロジーにはデュアルユースの特性があるため、このテクノロジーの研究開発競争で優位に立つことは私たちの責任です。しかし、それは同時に私たちにその限界を理解することを強います。危機が起こるまで待ってからこれらの問題について議論を始めるのでは遅すぎます。 AI テクノロジーは軍事紛争で使用されると非常に迅速に対応できるため、外交手段よりも早く結果が得られることはほぼ確実です。大国は、戦略的概念についての共通の議論と互いの越えてはならない一線の認識を発展させるためにも、サイバー兵器とAI兵器について話し合う必要がある。

最も破壊的な能力を相互に抑制するには、悲劇が起こるまで待ってからそれを埋め合わせようとする必要があります。 人類が新たな進化するインテリジェント兵器の開発競争を始める中、歴史はこれに制限を設けないことを許さないだろう。人工知能の時代においても、国家的利益を長期にわたって追求するには、やはり人間の倫理を守ることが前提とされなければなりません。

ファンの皆様に引き続き 3 冊の書籍をプレゼントします。どなたでもメッセージを残していただけます。ファンからの優れたメッセージを 3 冊厳選して書籍をプレゼントします。

＃＃＃＃＃＃- 終わり -＃＃＃＃＃＃＃＃＃＃＃＃

アルファベット順に並べ替えます上下にスワイプして続きを読むアン・ユン | バオ・ウーウー | バオ・チェンチャオ | ベン・シンジェン | ボー・グアンホイ | ビー・ティアンユー曹仁 | 曹夏 | 曹文軍 | 張亜喬 | 張震 | 張源

崔建波 | 陳玄妙 | 陳逸峰 | 陳平 | 陳源 | 陳立秋

チェン・クン | チェン・タオ | 崔英 | 蔡松松 | 蔡斌 | 蔡暁

蔡志鵬 | 蔡志文 | ダイ・ユンフェン | 鄧正鵬 | ドン・ウェイウェイ | ドン・チャオ

顧奇嬪 | 桂凱 | 郭瑞 | 郭昆 | 郭祥波 | 孔淮志

何暁春 | 何斉 | 何宜光 | 何哲 | 霍東傑 | 侯振新

ホウ・ウー | ホウ・ジエ | ホン・リウ | 胡新偉 | 胡魯斌 | 胡宜斌

胡涛 | 胡偉 | 胡志立 | 胡哲 | 黄峰 | 黄李

黄麗華 | 黄博 | 黄皓 | 黄斉瑞 | 黄英傑 | ジャン・チェン

李暁溪 | 李暁星 | 李源博 | 李耀珠 | 李雨剛 | 李建偉