Tian Yuandong: GPT-4 についての考え

OpenAI は昨日 GPT-4 をリリースしましたが、試してみると非常に良かったです。

#私が主に懸念しているストーリー生成の点では、ChatGPT によって生成されたストーリーと比較して、GPT-4 の方が文体が優れており、詳細がより詳しくなっています。 、鮮やかで具体的であることが得意で、プロットも興味深い方向に進み始めました。もちろん、全体的なレイアウトやストーリーの企画力が不足している、キャラクターが目立たない、物語の展開が退屈である、続きの段落がすぐに凡庸な結末になってしまうなど、ChatGPT の問題点は依然として存在します。 GPT-4で。

成績報告書から判断すると、満点に近いGRE口頭に対し、GREライティングは4点、Advanced Placementの英語ライティングは2点しかありません。 ( 3 点合格)、GPT-3 から 4 への進歩はありません。これらの問題と関係があるかどうかはわかりません。

しかしとにかく、GPT-4 はすでに可能です多くの日常業務を手伝ってください。 2013 年にディープラーニングが爆発的に普及し始めてから、わずか 10 年しか経っていません。これほど強力なツールがあり、その進化のスピードは想像を超えていると言えます。

#2017 年、一部の数学学生がディープラーニングを嫌い、さらには軽蔑しているのはなぜでしょうか?この回答の中には「長い夜を手探りしていたら太陽がまだ出ていない」など大胆な予想もあり、今となっては概ねその予想が当たっているようですが、まさかこんな日が来るとは予想していませんでした。こんなに早く。

#テクノロジーが微積分のような普遍的なツールになると、その後に大きな変化が起こることが予想されます。

#もっと長い目で見ると、将来はどうなるでしょうか？

#私も 2020 年頃に考えたことをいくつか思いつき、それを自分の SF 小説に落とし込みました。一般に、この傾向が極端に発展し、物理的な製品の製造さえも地元の材料を使用して完全に自動化できるようになると、最終的な結果は「自分が思った通りのものが手に入る」ようになるでしょう。それは非常に低コストであなたの前に現れます。

ほとんどの反復労働が機械によって無制限にコピーできる限り、その価値はほぼゼロに下がり、水や空気と同じように遍在する公共財となります。

#このような状況下では、「らしさ」が誰もが大切にする価値や意味となります。おそらく将来的には、才能を判断する主な要素は、学位を取得したり試験に合格したりすることではなく、個人の経験や業績に注目することになるでしょう。

「同じ目標を持って他の人よりも優れていること」もユニークですが、「誰も行ったことのない方向に進む」こともユニークです。これには、誰にも解けない問題を解決したり、新たな学問の方向性を創造・模索したりするなど、周囲から認められる学業成績だけでなく、ユニークな経験や見識、考え方、さらには3つの視点も含まれます。松葉杖を使ってハイキングする 南極を探検したことのあるプログラマーは、世界についてどのような見解、洞察、洞察を持っているでしょうか？かつて月に行くために手作りのロケットを作った歴史学生は、制御を失い奇跡的に救出されたが、自伝の中でこの経験をどのように語るだろうか？

個人の特性と密接に組み合わされたこれらの話す権利により、誰もが人間社会のユニークな生態学的ニッチを占め、「人間」になることが可能になります。針。たとえ将来、意識がアップロードされデジタルツインが実現したとしても、このユニークな個性はコピーできず、全く同じ個体が二人になり、異なる外部信号刺激を受け始める限り、その内部状態は変化してしまうのです。更新すると、軌道が発散し始め、再びユニークになります。

一般に、誰もが自分の「タオ」を通じて自分の選択を証明し、過去の選択によって自分の独自の特性を蓄積します。誰が誰より優れているかを事前に判断することは不可能です。なぜなら、この判断関数を計算すること自体、個人が自分の道を実践する必要があるからです。そして、自分の方向性を主張する人が無数に集まれば、様々な素晴らしいアイデアが次々と生まれ、その中には実際に正しいことが証明され、他の人に影響を与え、フォロワーを集めていきます。そして、これらすべての個人を含む多様で包括的な世界は、進歩への動機に満ちているでしょう。

行き過ぎです。

#研究者にとって、GPT-4 の出現は何を意味しますか?

私たちには 2 つの極端な選択肢があります。1 つはドアを閉めて、聞かず、見ず、古い思考の慣性を利用して研究ルートを構想し、公開を続けることです。あるいは、以前の研究のアイデアを完全に放棄し、教科書をすべて破り、コンピューティング能力が王様であり、ビッグモデルとビッグデータがすべてであると信じることもできます。

#これらの態度はどちらも望ましくないものだと思います。研究のパラダイムは、もはや特定の知識を発見することではなく、モデル学習のメカニズムを研究し、その学習能力の起源を探ることに変わる必要があります。たとえば、大規模なデータ トレーニングを通じて、既存のモデルは多くの概念を自動的に学習できます。

しかし、モデルはこの概念をどのように学習するのでしょうか?なぜ大規模なモデルはより速く、より良く学習できるのでしょうか?それはどのようにしてデータから発見され、モデルによって取り込まれるのでしょうか?そしてトレーニング中に常に強化されていますか？高度なコンセプトはどのように形成されるのでしょうか?既存のモデルはこれらの概念をどのように、どのようなメカニズムで捉えているのでしょうか?これらは長期的には真に意味のある基礎研究の方向性となる可能性があり、「人工知能」の形而上学を真に科学に変えるための最後の出口でもあると思います。

もちろん、これらは数十年規模で見るというべきであり、これらの研究を行うには、多くの基礎知識と十分な忍耐力が必要です。自分の知識の範囲を超えた新しいものを受け入れ、それを元のワークフローや研究のアイデアに統合します。

これは私独自の「定海深圳」の研究とも言えるので、今後も続けていきたいと思っています。

以上がTian Yuandong: GPT-4 についての考えの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。