ChatGPTの生みの親「夜も眠れない」：大型モデルが悪用されないか本当に心配

先週 3 月 21 日のニュース 人工知能のスタートアップ組織 OpenAI の CEO であるサム アルトマン氏がインタビューを受けました。 「人類がこれまでに開発した最高のテクノロジー」を実現し、既存の社会を作り変えるでしょう。同時に、この技術にはリスクがあり、まだ「少し恐れている」ことも認めた。

アルトマン氏は、人工知能は現実の危険をもたらすだけでなく、社会を再構築し、生活に地球を揺るがす変化をもたらす可能性がある「人類がこれまでに開発した最も偉大なテクノロジー」である可能性があると強調した。

彼はこう言いました:「この点に関しては注意が必要です...ありがたいことに、私たちはそれを少し恐れていると思います。」

アルトマンは、OpenAI の最近のインタビューについて話しました。人工知能言語モデルGPT-4をリリース。同氏は、ChatGPTの立ち上げには規制当局と社会全体の共同参加が必要であり、さまざまなフィードバックが人工知能技術が人間に及ぼす潜在的な悪影響を防ぐのに役立つと強調した。同氏は政府当局者らと「定期的に連絡を取っている」と付け加えた。

ChatGPT のリリースからわずか数か月で、月間アクティブ ユーザー数は 1 億人を超え、史上最も急速に成長しているコンシューマー アプリケーションとして認識されています。 UBSの調査によると、TikTokは月間アクティブユーザー1億人を集めるのに9カ月かかり、インスタグラムは3年近くかかったという。

まだ「完璧ではない」ものの、GPT-4はアメリカの法律試験で90位という好スコアを達成し、SAT数学テストではほぼ完璧なスコアを達成したとアルトマン氏は語った。 GPT-4 は、市場に出ているほとんどのプログラミング言語でコンピューター コードを熟練的に書くことができるようになりました。

GPT-4 は、OpenAI による汎用人工知能の最終的な作成に向けた小さな一歩にすぎません。人工知能技術が飛躍的に進歩すると、人間よりも賢い人工知能システム、いわゆる汎用人工知能が登場します。

アルトマン氏は自社製品の成功を称賛しながらも、人工知能の潜在的な危険性のせいで夜も眠れないことも認めています。

「特に、これらのモデルが偽情報を大規模に生成するために使用されることを懸念しています。現在、これらのモデルはコンピュータコードの記述がますます上手になっており、攻撃的なサイバー攻撃に使用される可能性があります」とアルトマン氏は述べた。 ."

しかし、アルトマンは、人工知能モデルが SF で描かれているような人間を必要とせず、自ら意思決定を行って世界の支配を計画できるようになるとは信じていません。アルトマン氏は、「誰かが入力を与えるのを待っている。人工知能は依然として人間が制御するツールであることがほとんどだ」と述べた。 「私たちが定めた安全規則の一部に従わない人は常に存在する。社会全体がどのように対応すべきかを考えるのに、あまり時間は残されていないと思う」と同氏は付け加えた。

人工知能技術を習得すれば「世界を支配する」可能性があるという考えについてコメントした際、アルトマン氏は「これは確かにぞっとするような発言だ」と述べた。それどころか、私が望んでいるのは、ますます強力なシステムが開発され、人々がさまざまな方法でこれらのシステムを使用できるようになり、システムが私たちの日常生活や経済に統合され、人々の希望を最大限に発揮できるようになることです。 "

誤情報に関する懸念

OpenAI によると、GPT-4 は、入力として画像を理解する機能など、反復を通じて大幅な改善を行ってきました。実証では、GTP-4 が冷蔵庫の中身を記述し、パズルを解き、さらにはインターネット画像の背後に隠された意味を解明できることが示されました。

しかし、アルトマン氏は、ChatGPTなどの人工知能言語モデルに内在する問題は誤った情報であり、プログラムは事実上不正確な情報をユーザーに提供する可能性があると述べた。

アルトマンは、「人々に最も思い出してもらいたいのは、いわゆる『幻想問題』です。」「このモデルは確かに自信を持って一つのことを述べ、完全に捏造されたものを事実であるかのように見せます。 "

OpenAI によると、人工知能モデルがこの問題を抱えているのは、記憶の代わりに演繹的推論を使用していることが原因の 1 つです。

OpenAI の最高技術責任者であるミラ ムラティ氏はかつてこう述べました、「GPT-3.5 と GPT-4 の最大の違いの 1 つは、後者の推論における創発能力がより強力であることです。」

「私たちの目標」 「これは AI が次にどの単語が来るかを予測することであり、これは言語の性質を理解することです。私たちはこれらのモデルが人間と同じように世界を見て理解できるようにしたいと考えています。」

「私たちが開発したモデルは推論エンジンであり、事実情報のデータベースではないことを認識する必要があります。もちろん、事実データベースである可能性もありますが、それは特別なことではありません。」とアルトマン氏は言いました。アルトマン氏と彼のチームは、「時間の経過とともに、このモデルが真の推論エンジンになることを望んでいます。」と述べ、このモデルは最終的にはインターネット情報と、どの情報を特定するかという独自の演繹的推論に依存することになると述べました。どれが現実でどれがフィクションなのか。 OpenAI のデータによると、GPT-4 は以前のバージョンよりも正確な情報を生成する可能性が 40% 高くなります。しかしアルトマン氏は、人々は正確な情報の主な情報源としてシステムに依存すべきではないと述べ、プログラムによって生成された結果を慎重に調べるようユーザーに奨励した。

悪者から守る方法

多くの人は、ChatGPT やその他の人工知能言語モデルがどのような種類の情報を生成するかについても懸念しています。 Altman 氏によると、ChatGPT はシステムに組み込まれたセキュリティ対策のため、ユーザーに爆弾の作り方を教えてくれないという。

「私が懸念しているのは…このテクノロジーを開発しているのは私たちだけではないということです」とアルトマン氏は語った。 「私たちのように、何らかのセキュリティ対策を追加しない人は常に存在します。」

アルトマン氏によると、人工知能のこれらすべての潜在的な危険に対する解決策と安全策は存在します。 1 つは、リスクが低いときに社会に ChatGPT を試してもらい、人々がどのように使用するかを確認することです。

Muradi 氏は、ChatGPT が現在一般公開されている主な理由は、ChatGPT から「多くのフィードバックを集める」ためであると述べました。彼女は、一般の人々が OpenAI アプリケーションのテストを続けるにつれて、セキュリティ対策が必要な箇所を判断するのが容易になるだろうと信じています。

ムラーティ氏は次のように述べています:「人々がそれらを何に使用しているか、それにどのような問題があり、どのような欠点があるか、これらすべてを考慮することで、私たちは時間内に介入してテクノロジーを改善することができます。」

アルトマン氏はまた、次のように強調しました。一般の人々が ChatGPT の各バージョンを操作できることが重要です。同氏は「研究室にこもってGPT-7の開発など極秘研究を行って、それを一斉に公開するのは、より悪影響をもたらすと思う」と述べ、「人々にはリフレッシュする時間が必要だ」と語った。 「彼らは理解し、反応し、最終的にはこのテクノロジーに慣れることができますが、システムの欠点がどこにあるのか、悪影響を軽減する方法を理解するのにも時間も必要です。」

Altman 氏は、OpenAI には専任のチームがあることを明らかにしました。ポリシーの策定に関与し、ChatGPT にどのような情報を入力できるか、ChatGPT がどのような情報をユーザーと共有できるかを決定します。

アルトマン氏はさらに、「（我々は）システムを見直すために政策やセキュリティの専門家と話し合っている。ただこれらの問題を解決し、安全で信頼できると思われるものを立ち上げるためだ。」 「最初は完璧ですが、教訓を学び、リスクが比較的低い場合には安全マージンを見つけることが重要です。」

人工知能は仕事に取って代わるのでしょうか?

なぜ人々が破壊的脅威に対する懸念の中に入るのかAI テクノロジーの力は、既存の仕事を置き換えると信じられています。アルトマン氏は、近い将来、一部の仕事は人工知能に取って代わられるかもしれないが、それがどれほど早く起こるかによって決まると述べた。

アルトマン氏は、「数世代にわたって、人類は大きな技術変化に適応できることを証明してきたと思う。」「しかし、これが数年以内に起こるとしたら、私が最も心配しているのは、 「その結果。どのような変化が起こるのか...」

しかし彼は、ChatGPT を自分の仕事の代替品ではなく、ツールとして考えるよう人々に奨励しました。アルトマン氏はさらに、「人間の創造性は無限です。私たちは新しい仕事や新しいことを見つけるでしょう。」

アルトマン氏は、人間のツールとして、ChatGPT にはリスクを上回る効果があると信じています。

彼はこう言いました: 「私たちは皆、学習をサポートしてくれるオーダーメイドの優れた教育者をポケットに入れることができます。」 「私たちはすべての人に医学的なアドバイスを提供できます。これは今日私たちが達成できないことです。」

「副操縦士」

ChatGPT を使用して不正行為を行う学生もいることから、ChatGPT は教育分野で多くの論争を引き起こしています。 ChatGPT が生徒の学習の延長として機能するかどうか、または生徒の自習意欲に影響を与えるかどうかについて、教育者の間ではさまざまな意見があります。

「教育のやり方は変わらなければなりませんが、テクノロジーが発展するにつれて、それは何度も起こりました。」とアルトマン氏は述べ、生徒の教師はもはや教室に限定されることはなくなる、と付け加えました。それは、各生徒により良いパーソナライズされた学習をもたらすことができるということです。」

アルトマン氏と彼のチームは、ユーザーが大量のコンピューター コードを書いたり、問題を解決したりするのを支援するなど、あらゆる分野のユーザーが ChatGPT を「副操縦士」としてみなしてくれることを望んでいます。

「私たちはこのようなサービスをあらゆる業界に提供できるため、人々はより高い生活の質を享受できるようになります。また、今日では想像すらできないような新しいことも実現するでしょう。それは私たちの約束でもあります。」

以上がChatGPTの生みの親「夜も眠れない」：大型モデルが悪用されないか本当に心配の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。