目次
この論文のタイトルは「大規模言語モデルにおける言語と思考の分離: 認知的視点」で、著者はテキサス大学オースティン校、MIT、UCLAの出身者です。
LLM には言語を超えた機能的能力 (推論など) が欠けており、OpenAI の ChatGPT はその一例です。彼の数学能力が向上したと公式に発表されましたが、ネチズンは彼が足し算と引き算が10以内しかできないと不満を言いました。
ホームページ テクノロジー周辺機器 AI OpenAI CEO によって閉鎖された後、Yann LeCun は再び批判しました: ChatGPT の現実の把握は非常に表面的です

OpenAI CEO によって閉鎖された後、Yann LeCun は再び批判しました: ChatGPT の現実の把握は非常に表面的です

Apr 11, 2023 pm 12:25 PM
chatgpt

大ボス間の関係は、時々非常に複雑になります。

昨日、OpenAI CEO のサム アルトマン氏が、Meta の主任人工知能科学者であるヤン ルカン氏の Twitter でのフォローを解除したことが誰かに発見されました。

OpenAI CEO によって閉鎖された後、Yann LeCun は再び批判しました: ChatGPT の現実の把握は非常に表面的です

この撤退がいつ発生したかを特定することは困難ですが、基本的に原因を特定することはできます。この事件—— 数日前、ヤン・ルカン氏はメディアや経営陣が集まる小規模なオンライン集会でChatGPTに関する自身の見解を表明した:

「基盤となるテクノロジーに関する限り」 , ChatGPT は特別なことではありません。イノベーションは革新的ではありません。多くの研究機関が同じテクノロジーを使用して同じ作業を実行しています。」

ZDNet の「ChatGPT は「特に革新的ではない」 「そして『何も革命的ではない』とメタの主任AI科学者は言う」 レポートでは、ルカン氏のスピーチの詳細の一部が明らかになった。驚くべきコメントがいくつかあります:

  • #「他の研究室と比較して、OpenAI は特別な進歩を遂げていません。」
  • 「 ChatGPT で使用される Transformer アーキテクチャは、この自己教師ありの方法で事前にトレーニングされています。自己教師あり学習は、OpenAI の出現以前にまで遡り、私が長い間提唱してきたものです。」
  • 「Transformer は Google の発明であり、この種の言語プロジェクトの取り組みは数十年前に遡ります。」
  • ......

#このように、サム・アルトマン氏の排除行為も許されるものである。

「ブロック解除」が発見されてから 4 時間後、Yann LeCun はニュースを更新し、再び「陰陽」ChatGPT からの記事を転送しました:

OpenAI CEO によって閉鎖された後、Yann LeCun は再び批判しました: ChatGPT の現実の把握は非常に表面的です

ChatGPT のような大規模な言語モデルは、なぜ際限なくナンセンスを吐き出すことができるのでしょうか?彼らの現実認識は非常に表面的なものです。

これに反対する人もいます。「ChatGPT は、多数の書籍やその他の情報源で訓練を受けており、広範な知識と驚異的な創造性の源です。」

OpenAI CEO によって閉鎖された後、Yann LeCun は再び批判しました: ChatGPT の現実の把握は非常に表面的です

#これに関して、LeCun 氏も次のように意見を表明しました。「#LLM が役に立たないとは誰も言っていません。私はこう言いました」 FAIR がギャラクティカを短期リリースしたときのことです。人々はナンセンスを生み出したため、それを十字架につけました。ChatGPT も同じことをしました。しかし、繰り返しになりますが、それは彼らが役に立たなかったという意味ではありません。##実際、この「Atlantic」記事は MIT 認知科学グループによる論文のレビューです。具体的な研究内容を見ていきましょう。

この論文には何が書かれていますか?

この論文のタイトルは「大規模言語モデルにおける言語と思考の分離: 認知的視点」で、著者はテキサス大学オースティン校、MIT、UCLAの出身者です。

OpenAI CEO によって閉鎖された後、Yann LeCun は再び批判しました: ChatGPT の現実の把握は非常に表面的です

#論文アドレス: https://arxiv.org/pdf/2301.06627.pdf

今日の大規模言語モデル (LLM) は、多くの場合、一貫性があり、文法的で、意味が通じるように見えるテキストの一節を生成できることがわかっています。この成果により、これらのネットワークはすでに抽象的な知識と推論を必要とするタスクを実行できる「考える機械」になっているか、まもなく「考える機械」になるのではないかという憶測が高まっています。

この記事では、著者は言語使用パフォーマンスの 2 つの異なる側面を考慮して、それぞれ次のように LLM の能力を観察します。

  • #形式的な言語能力 # (特定の言語のルールとパターンに関する知識を含む);
  • 機能的言語能力、現実世界で言語を理解し使用するために必要な一連の知覚能力。

著者らは、認知神経科学の証拠に基づいて、人間の形式的能力は特定の言語処理メカニズムに依存しているのに対し、機能的能力には言語を超えた複数の能力が必要であることを示しています。形式的推論、世界知識、状況モデリング、社会認識などです。人間における 2 つの能力の区別と同様に、#LLM は形式言語能力を必要とするタスクでは (不完全ではあるものの) うまく機能しますが、機能的能力を必要とする多くのテストでは失敗する傾向があります

この証拠に基づいて、著者らは、第一に、現代の LLM は形式的な言語スキルを備えたモデルとして真剣に受け止められるべきであり、第二に、現実の言語使用のニーズを扱うモデルであると主張します。組み込まれるか開発されるコア言語モジュールと、思考をモデル化するために必要な複数の非言語固有の認知能力。

要約すると、形式言語能力と機能言語能力の区別は、LLM の可能性に関する議論を明確にするのに役立ち、人間の言語の理解と使用を構築するための基礎を提供すると主張しています。モデルは方法を提供します。多くの非言語タスクで LLM が失敗しても、LLM が言語処理の優れたモデルとして弱くなるわけではありません。人間の心と脳をアナロジーとして使用する場合、

AGI の将来の進歩は、言語モデルを次のように組み込むことに依存する可能性があります。抽象的な知識を表現するだけでなく、複雑な推論をサポートするモデルと組み合わせる#。 ChatGPT 数学的レベルはまだ改善の必要があります

LLM には言語を超えた機能的能力 (推論など) が欠けており、OpenAI の ChatGPT はその一例です。彼の数学能力が向上したと公式に発表されましたが、ネチズンは彼が足し算と引き算が10以内しかできないと不満を言いました。

最近、「ChatGPT の数学的能力」という論文で、オックスフォード大学、ケンブリッジ大学、その他の機関の研究者が、公開されているものと手作りされたもので ChatGPT の数学的能力をテストしました。データセット を作成し、ミネルバなどの数学的コーパスでトレーニングされた他のモデルと比較してそのパフォーマンスを測定しました。同時に、数学者の日常の職業活動(質疑応答、定理探索)で生じるさまざまなユースケースをシミュレートすることにより、ChatGPTがプロの数学者にとって有用なアシスタントと言えるかどうかをテストします。

#論文アドレス: https://arxiv.org/pdf/2301.13867.pdf

OpenAI CEO によって閉鎖された後、Yann LeCun は再び批判しました: ChatGPT の現実の把握は非常に表面的です 研究者らは、新しいデータセット - GHOSTS を導入し、公開しました。これは、数学研究者によって作成および管理される初の自然言語データセットであり、大学院レベルの数学をカバーします。言語モデルの数学的機能。彼らは GHOSTS 上で ChatGPT のベンチマークを行い、きめ細かい基準に基づいてパフォーマンスを評価しました。

テストの結果、ChatGPT の数学的能力は通常の数学大学院生に比べて著しく低く、質問は理解できますが、正しい答えを与えることはできません

$20/月、ChatGPT Plus メンバーシップが利用可能です

いずれにしても、ChatGPT の商業的成功は誰の目にも明らかです。 先ほど、OpenAIは月額20ドルの新しい有料会員サービス「ChatGPT Plus」を発表しました。

購読者はいくつかの特典を受けられます:

  • ピーク時でも ChatGPT を広く使用;
  • 応答時間が短縮;
  • #最初になる新しい機能や改善を得るために。

OpenAIは、「今後数週間以内に」米国内および待機リストに登録されている人々にこのサービスへの招待状を送信すると述べ、他の国にも宣伝すると付け加えたそして地域。

1 週間以上前、OpenAI が ChatGPT サービスのプラスまたはプロ バージョンを月額 42 ドルで開始するというニュースがありましたが、最終価格は 20 ドルです学生や企業など、より幅広い人々がサービスを利用できるようにすることは明らかです。

ある意味、これは、発売を希望する市場の AI チャットボットに対する支払いの標準を設定することになります。 OpenAI がこの分野の先駆者であることを考えると、他の企業が月額 20 ドルを超えるボットをリリースしようとする場合、最初に 1 つのことを説明する必要があります。なぜ自社のチャットボットが ChatGPT Plus よりも価値があるのか​​ということです。

以上がOpenAI CEO によって閉鎖された後、Yann LeCun は再び批判しました: ChatGPT の現実の把握は非常に表面的ですの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

ChatGPT では、無料ユーザーが 1 日あたりの制限付きで DALL-E 3 を使用して画像を生成できるようになりました ChatGPT では、無料ユーザーが 1 日あたりの制限付きで DALL-E 3 を使用して画像を生成できるようになりました Aug 09, 2024 pm 09:37 PM

DALL-E 3は、前モデルより大幅に改良されたモデルとして2023年9月に正式導入されました。これは、複雑な詳細を含む画像を作成できる、これまでで最高の AI 画像ジェネレーターの 1 つと考えられています。ただし、発売当初は対象外でした

ChatGPT と Python の完璧な組み合わせ: インテリジェントな顧客サービス チャットボットの作成 ChatGPT と Python の完璧な組み合わせ: インテリジェントな顧客サービス チャットボットの作成 Oct 27, 2023 pm 06:00 PM

ChatGPT と Python の完璧な組み合わせ: インテリジェント カスタマー サービス チャットボットの作成 はじめに: 今日の情報化時代において、インテリジェント カスタマー サービス システムは企業と顧客の間の重要なコミュニケーション ツールとなっています。より良い顧客サービス体験を提供するために、多くの企業が顧客相談や質問応答などのタスクを完了するためにチャットボットに注目し始めています。この記事では、OpenAI の強力なモデル ChatGPT と Python 言語を使用して、インテリジェントな顧客サービス チャットボットを作成し、顧客サービスを向上させる方法を紹介します。

携帯電話にchatgptをインストールする方法 携帯電話にchatgptをインストールする方法 Mar 05, 2024 pm 02:31 PM

インストール手順: 1. ChatGTP ソフトウェアを ChatGTP 公式 Web サイトまたはモバイル ストアからダウンロードします; 2. それを開いた後、設定インターフェイスで言語を中国語を選択します; 3. ゲーム インターフェイスでヒューマン マシン ゲームを選択し、中国スペクトル; 4 . 起動後、チャット ウィンドウにコマンドを入力してソフトウェアを操作します。

ChatGPT と Java を使用してインテリジェントなチャットボットを開発する方法 ChatGPT と Java を使用してインテリジェントなチャットボットを開発する方法 Oct 28, 2023 am 08:54 AM

この記事では、ChatGPT と Java を使用してインテリジェントなチャットボットを開発する方法を紹介し、いくつかの具体的なコード例を示します。 ChatGPT は、OpenAI によって開発された生成事前トレーニング トランスフォーマーの最新バージョンです。これは、自然言語を理解し、人間のようなテキストを生成できるニューラル ネットワーク ベースの人工知能テクノロジーです。 ChatGPT を使用すると、適応型チャットを簡単に作成できます

中国でもchatgptは使えますか? 中国でもchatgptは使えますか? Mar 05, 2024 pm 03:05 PM

chatgpt は中国でも使用できますが、香港やマカオでも登録できません。ユーザーが登録したい場合は、外国の携帯電話番号を使用して登録できます。登録プロセス中にネットワーク環境を切り替える必要があることに注意してください。外国のIP。

ChatGPT PHP を使用してインテリジェントな顧客サービス ロボットを構築する方法 ChatGPT PHP を使用してインテリジェントな顧客サービス ロボットを構築する方法 Oct 28, 2023 am 09:34 AM

ChatGPTPHP を使用してインテリジェントな顧客サービス ロボットを構築する方法 はじめに: 人工知能技術の発展に伴い、顧客サービスの分野でロボットの使用が増えています。 ChatGPTPHP を使用してインテリジェントな顧客サービス ロボットを構築すると、企業はより効率的でパーソナライズされた顧客サービスを提供できるようになります。この記事では、ChatGPTPHP を使用してインテリジェントな顧客サービス ロボットを構築する方法を紹介し、具体的なコード例を示します。 1. ChatGPTPHP をインストールし、ChatGPTPHP を使用してインテリジェントな顧客サービス ロボットを構築します。

ChatGPTとPythonを使ってユーザー意図認識機能を実装する方法 ChatGPTとPythonを使ってユーザー意図認識機能を実装する方法 Oct 27, 2023 am 09:04 AM

ChatGPT と Python を使用してユーザー意図認識機能を実装する方法 はじめに: 今日のデジタル時代において、人工知能技術はさまざまな分野で徐々に不可欠な部分になりました。その中で、自然言語処理 (Natural Language Processing、NLP) テクノロジーの開発により、機械が人間の言語を理解して処理できるようになります。 ChatGPT (Chat-GeneratingPretrainedTransformer) は、

SearchGPT: Open AI が独自の AI 検索エンジンで Google に対抗 SearchGPT: Open AI が独自の AI 検索エンジンで Google に対抗 Jul 30, 2024 am 09:58 AM

オープン AI がついに検索に進出します。サンフランシスコの同社は最近、検索機能を備えた新しい AI ツールを発表した。今年 2 月に The Information によって初めて報告されたこの新しいツールは、まさに SearchGPT と呼ばれ、次のような機能を備えています。

See all articles