目次
OpenAI によると、GPT-4 は、入力として画像を理解する機能など、反復を通じて大幅な改善を行ってきました。実証では、GTP-4 が冷蔵庫の中身を記述し、パズルを解き、さらにはインターネット画像の背後に隠された意味を解明できることが示されました。
多くの人は、ChatGPT やその他の人工知能言語モデルがどのような種類の情報を生成するかについても懸念しています。 Altman 氏によると、ChatGPT はシステムに組み込まれたセキュリティ対策のため、ユーザーに爆弾の作り方を教えてくれないという。
なぜ人々が破壊的脅威に対する懸念の中に入るのかAI テクノロジーの力は、既存の仕事を置き換えると信じられています。アルトマン氏は、近い将来、一部の仕事は人工知能に取って代わられるかもしれないが、それがどれほど早く起こるかによって決まると述べた。
ChatGPT を使用して不正行為を行う学生もいることから、ChatGPT は教育分野で多くの論争を引き起こしています。 ChatGPT が生徒の学習の延長として機能するかどうか、または生徒の自習意欲に影響を与えるかどうかについて、教育者の間ではさまざまな意見があります。
ホームページ テクノロジー周辺機器 AI ChatGPTの生みの親「夜も眠れない」:大型モデルが悪用されないか本当に心配

ChatGPTの生みの親「夜も眠れない」:大型モデルが悪用されないか本当に心配

Apr 11, 2023 pm 02:34 PM
AI chatgpt


ChatGPTの生みの親「夜も眠れない」:大型モデルが悪用されないか本当に心配

先週 3 月 21 日のニュース 人工知能のスタートアップ組織 OpenAI の CEO であるサム アルトマン氏がインタビューを受けました。 「人類がこれまでに開発した最高のテクノロジー」を実現し、既存の社会を作り変えるでしょう。同時に、この技術にはリスクがあり、まだ「少し恐れている」ことも認めた。

アルトマン氏は、人工知能は現実の危険をもたらすだけでなく、社会を再構築し、生活に地球を揺るがす変化をもたらす可能性がある「人類がこれまでに開発した最も偉大なテクノロジー」である可能性があると強調した。

彼はこう言いました:「この点に関しては注意が必要です...ありがたいことに、私たちはそれを少し恐れていると思います。」

アルトマンは、OpenAI の最近のインタビューについて話しました。人工知能言語モデルGPT-4をリリース。同氏は、ChatGPTの立ち上げには規制当局と社会全体の共同参加が必要であり、さまざまなフィードバックが人工知能技術が人間に及ぼす潜在的な悪影響を防ぐのに役立つと強調した。同氏は政府当局者らと「定期的に連絡を取っている」と付け加えた。

ChatGPT のリリースからわずか数か月で、月間アクティブ ユーザー数は 1 億人を超え、史上最も急速に成長しているコンシューマー アプリケーションとして認識されています。 UBSの調査によると、TikTokは月間アクティブユーザー1億人を集めるのに9カ月かかり、インスタグラムは3年近くかかったという。

まだ「完璧ではない」ものの、GPT-4はアメリカの法律試験で90位という好スコアを達成し、SAT数学テストではほぼ完璧なスコアを達成したとアルトマン氏は語った。 GPT-4 は、市場に出ているほとんどのプログラミング言語でコンピューター コードを熟練的に書くことができるようになりました。

GPT-4 は、OpenAI による汎用人工知能の最終的な作成に向けた小さな一歩にすぎません。人工知能技術が飛躍的に進歩すると、人間よりも賢い人工知能システム、いわゆる汎用人工知能が登場します。

アルトマン氏は自社製品の成功を称賛しながらも、人工知能の潜在的な危険性のせいで夜も眠れないことも認めています。

「特に、これらのモデルが偽情報を大規模に生成するために使用されることを懸念しています。現在、これらのモデルはコンピュータコードの記述がますます上手になっており、攻撃的なサイバー攻撃に使用される可能性があります」とアルトマン氏は述べた。 ."

しかし、アルトマンは、人工知能モデルが SF で描かれているような人間を必要とせず、自ら意思決定を行って世界の支配を計画できるようになるとは信じていません。アルトマン氏は、「誰かが入力を与えるのを待っている。人工知能は依然として人間が制御するツールであることがほとんどだ」と述べた。 「私たちが定めた安全規則の一部に従わない人は常に存在する。社会全体がどのように対応すべきかを考えるのに、あまり時間は残されていないと思う」と同氏は付け加えた。

人工知能技術を習得すれば「世界を支配する」可能性があるという考えについてコメントした際、アルトマン氏は「これは確かにぞっとするような発言だ」と述べた。それどころか、私が望んでいるのは、ますます強力なシステムが開発され、人々がさまざまな方法でこれらのシステムを使用できるようになり、システムが私たちの日常生活や経済に統合され、人々の希望を最大限に発揮できるようになることです。 "

誤情報に関する懸念

OpenAI によると、GPT-4 は、入力として画像を理解する機能など、反復を通じて大幅な改善を行ってきました。実証では、GTP-4 が冷蔵庫の中身を記述し、パズルを解き、さらにはインターネット画像の背後に隠された意味を解明できることが示されました。

しかし、アルトマン氏は、ChatGPTなどの人工知能言語モデルに内在する問題は誤った情報であり、プログラムは事実上不正確な情報をユーザーに提供する可能性があると述べた。

アルトマンは、「人々に最も思い出してもらいたいのは、いわゆる『幻想問題』です。」「このモデルは確かに自信を持って一つのことを述べ、完全に捏造されたものを事実であるかのように見せます。 "

OpenAI によると、人工知能モデルがこの問題を抱えているのは、記憶の代わりに演繹的推論を使用していることが原因の 1 つです。

OpenAI の最高技術責任者であるミラ ムラティ氏はかつてこう述べました、「GPT-3.5 と GPT-4 の最大の違いの 1 つは、後者の推論における創発能力がより強力であることです。」

「私たちの目標」 「これは AI が次にどの単語が来るかを予測することであり、これは言語の性質を理解することです。私たちはこれらのモデルが人間と同じように世界を見て理解できるようにしたいと考えています。」

「私たちが開発したモデルは推論エンジンであり、事実情報のデータベースではないことを認識する必要があります。もちろん、事実データベースである可能性もありますが、それは特別なことではありません。」とアルトマン氏は言いました。アルトマン氏と彼のチームは、「時間の経過とともに、このモデルが真の推論エンジンになることを望んでいます。」と述べ、このモデルは最終的にはインターネット情報と、どの情報を特定するかという独自の演繹的推論に依存することになると述べました。どれが現実でどれがフィクションなのか。 OpenAI のデータによると、GPT-4 は以前のバージョンよりも正確な情報を生成する可能性が 40% 高くなります。しかしアルトマン氏は、人々は正確な情報の主な情報源としてシステムに依存すべきではないと述べ、プログラムによって生成された結果を慎重に調べるようユーザーに奨励した。

悪者から守る方法

多くの人は、ChatGPT やその他の人工知能言語モデルがどのような種類の情報を生成するかについても懸念しています。 Altman 氏によると、ChatGPT はシステムに組み込まれたセキュリティ対策のため、ユーザーに爆弾の作り方を教えてくれないという。

「私が懸念しているのは…このテクノロジーを開発しているのは私たちだけではないということです」とアルトマン氏は語った。 「私たちのように、何らかのセキュリティ対策を追加しない人は常に存在します。」

アルトマン氏によると、人工知能のこれらすべての潜在的な危険に対する解決策と安全策は存在します。 1 つは、リスクが低いときに社会に ChatGPT を試してもらい、人々がどのように使用するかを確認することです。

Muradi 氏は、ChatGPT が現在一般公開されている主な理由は、ChatGPT から「多くのフィードバックを集める」ためであると述べました。彼女は、一般の人々が OpenAI アプリケーションのテストを続けるにつれて、セキュリティ対策が必要な箇所を判断するのが容易になるだろうと信じています。

ムラーティ氏は次のように述べています:「人々がそれらを何に使用しているか、それにどのような問題があり、どのような欠点があるか、これらすべてを考慮することで、私たちは時間内に介入してテクノロジーを改善することができます。」

アルトマン氏はまた、次のように強調しました。一般の人々が ChatGPT の各バージョンを操作できることが重要です。同氏は「研究室にこもってGPT-7の開発など極秘研究を行って、それを一斉に公開するのは、より悪影響をもたらすと思う」と述べ、「人々にはリフレッシュする時間が必要だ」と語った。 「彼らは理解し、反応し、最終的にはこのテクノロジーに慣れることができますが、システムの欠点がどこにあるのか、悪影響を軽減する方法を理解するのにも時間も必要です。」

Altman 氏は、OpenAI には専任のチームがあることを明らかにしました。ポリシーの策定に関与し、ChatGPT にどのような情報を入力できるか、ChatGPT がどのような情報をユーザーと共有できるかを決定します。

アルトマン氏はさらに、「(我々は)システムを見直すために政策やセキュリティの専門家と話し合っている。ただこれらの問題を解決し、安全で信頼できると思われるものを立ち上げるためだ。」 「最初は完璧ですが、教訓を学び、リスクが比較的低い場合には安全マージンを見つけることが重要です。」

人工知能は仕事に取って代わるのでしょうか?

なぜ人々が破壊的脅威に対する懸念の中に入るのかAI テクノロジーの力は、既存の仕事を置き換えると信じられています。アルトマン氏は、近い将来、一部の仕事は人工知能に取って代わられるかもしれないが、それがどれほど早く起こるかによって決まると述べた。

アルトマン氏は、「数世代にわたって、人類は大きな技術変化に適応できることを証明してきたと思う。」「しかし、これが数年以内に起こるとしたら、私が最も心配しているのは、 「その結果。どのような変化が起こるのか...」

しかし彼は、ChatGPT を自分の仕事の代替品ではなく、ツールとして考えるよう人々に奨励しました。アルトマン氏はさらに、「人間の創造性は無限です。私たちは新しい仕事や新しいことを見つけるでしょう。」

アルトマン氏は、人間のツールとして、ChatGPT にはリスクを上回る効果があると信じています。

彼はこう言いました: 「私たちは皆、学習をサポートしてくれるオーダーメイドの優れた教育者をポケットに入れることができます。」 「私たちはすべての人に医学的なアドバイスを提供できます。これは今日私たちが達成できないことです。」

「副操縦士」

ChatGPT を使用して不正行為を行う学生もいることから、ChatGPT は教育分野で多くの論争を引き起こしています。 ChatGPT が生徒の学習の延長として機能するかどうか、または生徒の自習意欲に影響を与えるかどうかについて、教育者の間ではさまざまな意見があります。

「教育のやり方は変わらなければなりませんが、テクノロジーが発展するにつれて、それは何度も起こりました。」とアルトマン氏は述べ、生徒の教師はもはや教室に限定されることはなくなる、と付け加えました。それは、各生徒により良いパーソナライズされた学習をもたらすことができるということです。」

アルトマン氏と彼のチームは、ユーザーが大量のコンピューター コードを書いたり、問題を解決したりするのを支援するなど、あらゆる分野のユーザーが ChatGPT を「副操縦士」としてみなしてくれることを望んでいます。

「私たちはこのようなサービスをあらゆる業界に提供できるため、人々はより高い生活の質を享受できるようになります。また、今日では想像すらできないような新しいことも実現するでしょう。それは私たちの約束でもあります。」

以上がChatGPTの生みの親「夜も眠れない」:大型モデルが悪用されないか本当に心配の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

ChatGPT では、無料ユーザーが 1 日あたりの制限付きで DALL-E 3 を使用して画像を生成できるようになりました ChatGPT では、無料ユーザーが 1 日あたりの制限付きで DALL-E 3 を使用して画像を生成できるようになりました Aug 09, 2024 pm 09:37 PM

DALL-E 3は、前モデルより大幅に改良されたモデルとして2023年9月に正式導入されました。これは、複雑な詳細を含む画像を作成できる、これまでで最高の AI 画像ジェネレーターの 1 つと考えられています。ただし、発売当初は対象外でした

Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Jun 28, 2024 am 03:51 AM

このサイトは6月27日、JianyingはByteDanceの子会社であるFaceMeng Technologyによって開発されたビデオ編集ソフトウェアであり、Douyinプラットフォームに依存しており、基本的にプラットフォームのユーザー向けに短いビデオコンテンツを作成すると報告しました。 Windows、MacOS、その他のオペレーティング システム。 Jianyingは会員システムのアップグレードを正式に発表し、インテリジェント翻訳、インテリジェントハイライト、インテリジェントパッケージング、デジタルヒューマン合成などのさまざまなAIブラックテクノロジーを含む新しいSVIPを開始しました。価格的には、クリッピングSVIPの月額料金は79元、年会費は599元(当サイト注:月額49.9元に相当)、継続月額サブスクリプションは月額59元、継続年間サブスクリプションは、年間499元(月額41.6元に相当)です。さらに、カット担当者は、ユーザーエクスペリエンスを向上させるために、オリジナルのVIPに登録している人は、

Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Jun 10, 2024 am 11:08 AM

検索強化生成およびセマンティック メモリを AI コーディング アシスタントに組み込むことで、開発者の生産性、効率、精度を向上させます。 JanakiramMSV 著者の EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG から翻訳。基本的な AI プログラミング アシスタントは当然役に立ちますが、ソフトウェア言語とソフトウェア作成の最も一般的なパターンに関する一般的な理解に依存しているため、最も適切で正しいコードの提案を提供できないことがよくあります。これらのコーディング アシスタントによって生成されたコードは、彼らが解決する責任を負っている問題の解決には適していますが、多くの場合、個々のチームのコーディング標準、規約、スタイルには準拠していません。これにより、コードがアプリケーションに受け入れられるように修正または調整する必要がある提案が得られることがよくあります。

微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります 微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります Jun 11, 2024 pm 03:57 PM

大規模言語モデル (LLM) は巨大なテキスト データベースでトレーニングされ、そこで大量の現実世界の知識を取得します。この知識はパラメータに組み込まれており、必要なときに使用できます。これらのモデルの知識は、トレーニングの終了時に「具体化」されます。事前トレーニングの終了時に、モデルは実際に学習を停止します。モデルを調整または微調整して、この知識を活用し、ユーザーの質問により自然に応答する方法を学びます。ただし、モデルの知識だけでは不十分な場合があり、モデルは RAG を通じて外部コンテンツにアクセスできますが、微調整を通じてモデルを新しいドメインに適応させることが有益であると考えられます。この微調整は、ヒューマン アノテーターまたは他の LLM 作成物からの入力を使用して実行され、モデルは追加の実世界の知識に遭遇し、それを統合します。

新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 Jul 25, 2024 am 06:42 AM

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 Jul 17, 2024 pm 06:37 PM

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性​​を実証しています。 「S」で始まる関連研究

専用アプリのリリースにより、ChatGPT が macOS で利用可能になりました 専用アプリのリリースにより、ChatGPT が macOS で利用可能になりました Jun 27, 2024 am 10:05 AM

Open AI の ChatGPT Mac アプリケーションは、ここ数か月間 ChatGPT Plus サブスクリプションを持つユーザーのみに限定されていましたが、現在は誰でも利用できるようになりました。最新の Apple S を持っている限り、アプリは他のネイティブ Mac アプリと同じようにインストールされます。

SKハイニックスは8月6日に12層HBM3E、321層NANDなどのAI関連新製品を展示する。 SKハイニックスは8月6日に12層HBM3E、321層NANDなどのAI関連新製品を展示する。 Aug 01, 2024 pm 09:40 PM

8月1日の本サイトのニュースによると、SKハイニックスは本日(8月1日)ブログ投稿を発表し、8月6日から8日まで米国カリフォルニア州サンタクララで開催されるグローバル半導体メモリサミットFMS2024に参加すると発表し、多くの新世代の製品。フューチャー メモリおよびストレージ サミット (FutureMemoryandStorage) の紹介。以前は主に NAND サプライヤー向けのフラッシュ メモリ サミット (FlashMemorySummit) でしたが、人工知能技術への注目の高まりを背景に、今年はフューチャー メモリおよびストレージ サミット (FutureMemoryandStorage) に名前が変更されました。 DRAM およびストレージ ベンダー、さらに多くのプレーヤーを招待します。昨年発売された新製品SKハイニックス

See all articles