OpenAI CEO、Tao Te Ching の言葉を引用し、AI の安全性問題への協力を呼びかけ

中国新聞社、北京、6 月 11 日 (中国新聞ビジネス記者、ソン・ユーシェン) 「ますます強力な人工知能システムの出現により、世界的な協力の危険性はこれまで以上に重要になっています。」

6月10日、OpenAI CEOのサム・アルトマン氏は、2023年北京インテリジェント・ソース・カンファレンスの「AIセキュリティと連携」フォーラムでのスピーチでビデオリンクを通じてこう述べた。

同氏はスピーチの中で、「千里の道も一歩から始まる」という『道経経』の有名な一節を引用し、国際科学技術コミュニティに人工知能の安全性に関する問題で協力するよう呼び掛けた。汎用人工知能（AGI）の安全性を向上させる技術、透明性と知識共有の仕組みの確立を推進します。

2023年北京インテリジェントソースカンファレンスの「AIセキュリティと連携」フォーラムの様子。写真提供：知源会議

私たちは現在、人工知能の能力が急速に向上しているのを目の当たりにしているため、それを世界に適用する責任を負う必要があります。科学の歴史は、技術の進歩が指数関数的な曲線をたどることを示しています。 「

アルトマンは、「今後 10 年以内に、超強力な人工知能システムが登場するかもしれない」と予測しています。

今後 10 年以内に、ほぼすべての分野で一般的な人工知能システムの専門知識が人間の専門知識を超える世界を想像してみてください。最終的に、これらのシステムによって生み出される生産能力は、最大手の企業が生み出すことができる集合的な能力を超える可能性があります。潜在的なメリットは非常に大きいです。人工知能革命は、私たち全員が共有できる富を生み出すと同時に、人間とコンピューターの相互作用のレベルを大幅に向上させることができます。しかし、これを達成するには、リスクを協力して管理する必要があります。 「

アルトマン氏は、公衆衛生の成果を改善するために設計された「ずれた」人工知能システムは、人々が計画を立てていない場合、わかりにくい推奨事項を提供することで公衆衛生システム全体を弱体化させる可能性があると述べた。長期的な持続可能性への配慮が欠如しているため、不用意に経済に損害を与え、資源を消費し、食料生産や環境バランスに影響を与えます。

「一般的な人工知能の安全性を高めることは、合意に達する必要がある最も重要な分野の 1 つであるということに、私たち全員が同意できることを願っています」と彼は言いました。

2023年北京インテリジェントソースカンファレンスの「AIセキュリティと連携」フォーラムの様子。写真提供：知源会議

アルトマンの見解では、汎用人工知能のガバナンスは、まず包括的な国際規範と標準を確立し、すべての国で汎用人工知能の使用に対する平等かつ統一された保護措置を確立する必要がある、第二に、汎用人工知能の使用を保証するために国際協力が必要であるますます強力になる汎用人工知能システムの安全な開発における世界的な信頼を構築するための検証済みのアプローチ。

同氏は、「私たちが採ることのできる最も建設的な一歩は、国際的な科学技術コミュニティが協力してAGI安全技術の進歩の透明性を高め、知識共有メカニズムを確立することである。研究者は緊急の問題を発見した場合には、次のようにすべきである」と述べた。 「彼らの発見を共有してください。私たちは、そのような共有行動を奨励しながら、知的財産権を尊重し保護する方法を慎重に検討する必要があります。これにより、協力を深めるための新たな扉が開かれます。」（了）

以上がOpenAI CEO、Tao Te Ching の言葉を引用し、AI の安全性問題への協力を呼びかけの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。