目次
生物学
計算化学
偏微分方程式
将来の見通し
ホームページ テクノロジー周辺機器 AI GPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事

GPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事

Nov 18, 2023 pm 07:25 PM
業界

GPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事

コンテンツを書き直す場合、元のテキストを中国語で書き直す必要があり、元の英語の文章を表示する必要はありません

少し前まで、Microsoft DeepSpeedチームは、DeepSpeed4Science と呼ばれるプロジェクトを立ち上げました。この新しい取り組みは、AI システム最適化テクノロジーを通じて科学的発見を達成することを目的としています。

11 月 13 日、Microsoft チームは「科学的発見に対する大規模言語モデルの影響: GPT-4 を使用した予備調査」というタイトルの記事を arXiv プレプリント プラットフォームで公開しました

この記事は 230 ページに達します

GPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事

論文リンク: https://arxiv.org/abs/2311.07361

近年、自然言語の処理が画期的に進歩しています。強力な大規模言語モデル (LLM) の出現で最高潮に達しました。LLM は、自然言語の理解、生成、翻訳など、言語処理タスクを超えた多くの分野で並外れた能力を実証しました。

このレポートでは、マイクロソフトの研究者が、最先端の言語モデル GPT-4 に焦点を当て、科学的発見/研究の文脈における LLM のパフォーマンスを詳しく調査しています。研究は、創薬、生物学、計算化学 (DFT および MD)、材料設計、偏微分方程式 (PDE) など、複数の科学分野に及びます。

GPT-4 を評価する科学的タスクでは、さまざまな研究分野でその可能性を活用し、特定の分野の専門知識を検証し、科学の進歩を加速し、リソース配分を最適化し、将来のモデル開発を導き、相互作用を促進することが重要です。境界調査 主題調査は非常に重要です。探索方法には主に専門家主導のケース評価が含まれており、モデルが複雑な科学的概念と関係を理解するのに役立つ定性的な洞察を提供できるほか、明確に定義されたドメイン固有の問題を解決するモデルの能力を定量的に評価するための時折のベンチマークも含まれます。

#予備調査の結果、GPT-4 にはさまざまな科学的応用において大きな可能性があることが示され、複雑な問題解決や知識統合タスクを処理できることが実証されました。研究者らは、上記の分野(創薬、生物学、計算化学、材料設計など)における GPT-4 のパフォーマンスを分析し、その利点と限界を強調しました。 GPT-4 の知識ベース、科学的理解能力、科学的数値計算能力、およびさまざまな科学的予測能力を総合的に評価します

GPT-4 は生物学と材料設計に関する広範な専門知識を有しており、特定の要件を満たすのに役立ちます。創薬などの他の分野でも、GPT-4 は強力な特性予測機能を実証しています。ただし、計算化学や偏微分方程式などの研究分野では、GPT-4 は研究者の予測や計算に役立つことが期待されていますが、その精度を向上させるにはさらなる努力が必要です。 GPT-4 はその優れた機能にも関わらず、精度を向上させるための微調整の必要性など、定量的コンピューティング タスクの改善を依然として提供しています。研究者らは、このレポートが科学研究に LLM を活用しようとしている人々に洞察を提供することを期待しています。応用研究者や実践者、そして自然言語処理の特定領域の進歩に興味のある人。 LLM と大規模機械学習の分野は急速に進化しており、次世代の LLM にはこのレポートで言及されていない追加機能が搭載される可能性があることを強調することが重要です。 LLM と専門的な科学ツールおよびモデルの統合、および基本的な科学モデルの開発が 2 つの有望な研究方向性を表していることは注目に値します。

創薬

創薬は製薬業界の構成要素にとって重要です。医学の進歩に重要な役割を果たしています。創薬には、標的の特定、リードの最適化、前臨床試験などの複雑な学際的なプロセスが含まれ、最終的には安全で効果的な薬剤の開発につながります。

GPT-4 は、創薬プロセスの加速、探索および設計コストの削減、創造性の向上など、創薬において大きな可能性を秘めています。この章では、まず定性的テストを通じて創薬に関する GPT-4 の知識を研究し、次に薬物標的相互作用/結合親和性予測、分子特性予測、逆合成予測などの複数の重要なタスクに関する定量的テストを通じてその予測能力を調査します

書き直された内容: 最初の例では、指定された薬物名の化学式、IUPAC 名、および SMILES を生成します。これは、名前を薬物の他の表現に変換することです。アファチニブを投入薬剤として使用した。 GPT-4 は正しい化学式 C24H25ClFN5O3 と正しい IUPAC 名を出力することに成功し、GPT-4 が薬剤アファチニブを認識していることを示しました。ただし、生成された SMILES は正しくありません。そこで研究者らは、GPT-4にSMILESを再生させるよう指導した。残念ながら、GPT-4 が「各原子タイプの原子数を記録し」、正しい IUPAC と化学式に基づいて SMILES を生成するという明示的な要件にもかかわらず、いくつかの実験で生成された SMILES 配列は依然として不正確でした。

GPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事

最初の画像は、薬物名の翻訳とその他の薬物表現を示しています。 (論文より引用)

生物学

この章では、研究者らは生物学研究分野における GPT-4 の機能を深く調査し、主に生物学的言語と生物学的言語を理解する能力に焦点を当てます。組み込まれた生物学的知識を使用して研究を実施し、推論、生体分子および生物学的実験の設計に熟練します。観察によると、GPT-4 は、複雑な生物学的言語を処理し、生物情報学的タスクを実行し、さらには生物学的設計における科学的アシスタントとして機能する能力を実証することで、生物学の分野に貢献する大きな可能性を示しています。 GPT-4 の生物学的概念の広範な理解と、設計タスクにおける科学アシスタントとしてのその大きな可能性は、生物学の分野の進歩における GPT-4 の重要な役割を浮き彫りにしています。

最初に、生物学的配列配列シンボルとテキスト シンボルを処理する GPT-4 の能力が評価されました。

研究者らは、GPT-4 に生物学的配列とそのテキスト記号の間の変換を依頼しました。 1) 指定されたタンパク質配列のタンパク質名を出力します。 2) 指定された名前のタンパク質配列を出力します。情報漏洩を防ぐために、各タスクの前にセッションが再起動されます。 GPT-4 はシーケンスからテキスト シンボルへの変換については知っていますが、それ自体 (BLAST シーケンスとも呼ばれます) を直接検索することはできないことがわかりました。一方、GPT-4 は生物学的配列 (タンパク質と DNA を含む。後者は示されていない) のテキストタグを好みます。おそらくその設計思想のおかげで、テキスト シンボルが与えられると、より豊富な情報が提供されます。シーケンスの生成が GPT-4 の壊滅的な動作につながる可能性があることも指摘されていることに注意することが重要です。下の図に示すように、GPT-4 は正しい UniProt ID を返しましたが、シーケンスの生成に問題が発生しました。いくつかの異なるプロンプトを試行すると、シーケンス生成がクラッシュします。

GPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事

図 2: シーケンス シンボルとテキスト シンボル間の変換。 (出典: 論文)

計算化学

ケミカルコンピューティングは、計算手法と技術を使用して化学の複雑な問題を解決する学際的な分野です。化学計算は長い間、分子システムの研究において不可欠なツールであり、原子レベルの相互作用の深い理解を提供するだけでなく、実験作業の指針としても役立ちます。化学計算は、分子構造、化学反応、物理現象をミクロおよびマクロレベルで理解する上で重要な役割を果たします。

この章では、計算化学の分野における GPT-4 の機能に焦点を当てます。電子構造法や分子動力学シミュレーションへの応用を検討し、2 つの実践例を示すことで GPT-4 のサービス機能をさまざまな観点から実証します。要約すると、GPT-4 はさまざまな方法で計算化学研究者を支援できます。

研究は、量子化学と物理学の概念を説明する GPT-4 の能力を評価することから始まります。評価には、密度汎関数理論 (DFT) や波動関数理論 (WFT) など、この分野で一般的に使用される手法が含まれます。

GPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事

# 図 3: 密度汎関数理論の概念テスト。 (出典: 論文)

上記の例では、GPT-4 は、密度汎関数理論、KohnSham 密度汎関数理論、および無軌道密度汎関数理論の概念をよく理解するのに役立ちます。

マテリアル デザイン

この章では、マテリアル デザインの分野における GPT-4 の機能について説明します。研究者らは、最初の概念化からその後の検証と合成に至るまで、材料設計プロセスのあらゆる側面をカバーする包括的な一連のタスクを設計しました。目標は、GPT-4 の専門知識と、実際のアプリケーションで有意義な洞察とソリューションを生成する能力を評価することです。設計されたタスクは、背景知識、設計原則、候補の特定、候補構造の生成、属性予測、合成条件予測などのさまざまな側面をカバーします。設計プロセス全体に取り組むことで、目標は、特に結晶性無機材料、有機ポリマー、有機金属フレームワーク (MOF) などのより複雑な材料に対する材料設計における GPT-4 の熟練度の全体的な評価を提供することです。

評価は主に、この専門分野における GPT-4 の機能の定性的評価に焦点を当てており、可能な場合にのみ統計スコアが付与されることは注目に値します。

研究者らはまず、一般化学や陰イオンの種類に基づく分類など、さまざまな要件を持つ現在の固体電解質がどのように分類されるかを調査しました。さらに、これらの分類基準に基づいた例を求めました。図 4 に示すように、すべての回答は事実であり、ほとんどが正しいです。これらの分類基準は文献で十分に表現されていないため、GPT-4 では化学が何を意味するのかを比較的明確に理解する必要があります。

GPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事

ソース論文に基づいて、次のことが必要です。書き換えられた内容は次のとおりです。 図 4: 無機固体電解質の分類

偏微分方程式

偏微分方程式 (PDE) は、数学および物理学の分野において重要かつ非常に活発な研究分野です。工学、生物学、金融などのさまざまな分野に広範囲に応用されています。偏微分方程式は、流体力学や熱伝達から電磁場や群力学に至るまで、幅広い現象のモデル化と理解において重要な役割を果たします。

この章では、偏微分方程式のいくつかの側面における GPT-4 のスキルを学習します。つまり、偏微分方程式の基礎の理解、偏微分方程式の解法、偏微分方程式の研究における AI の支援です。研究者は、線形方程式、非線形方程式、確率的偏微分方程式など、さまざまな形式の偏微分方程式に基づいてモデルを評価します。研究によると、GPT-4 はさまざまな方法で研究者に役立つことがわかっています。

最初の質問は、偏微分方程式の定義と形式に関するものですが、GPT-4 では、図 5 に示すように、偏微分方程式についてわかりやすく説明しています。ユーザーのプロンプトに応じて、GPT-4 は偏微分方程式の明確な概念と、線形または非線形、楕円形、放物線または双曲線のカテゴリーを提供します。この分野の初心者は、これらの概念と分類から恩恵を受けるでしょう。

GPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事

図 5: PDE の基本概念の紹介。 (出典: 論文)

将来の見通し

この研究では、さまざまな自然科学分野における LLM の機能と限界を調査し、さまざまなタスクをカバーします。私たちの主な目標は、最先端の LLM GPT-4 とその科学的発見の可能性の予備評価を提供し、さまざまな分野の研究者に貴重なリソースとツールを提供することです

広範な分析を通じて、この研究は、GPT-4 が文献合成から特性予測、コード生成まで、数多くの科学的タスクにおいて熟練を達成していることを強調しています。その優れた機能にもかかわらず、特定のデータ形式の処理における課題、応答の不一致、時折の幻覚など、GPT-4 (および同様の LLM) の限界を認識することが重要です。

研究者らは、この探査が自然科学における GPT-4 の可能性を理解し認識するための重要な第一歩であると信じています。その長所と短所の詳細な概要を提供することにより、研究者が GPT-4 (または他の LLM) を日常業務に組み込む際に情報に基づいた意思決定を行い、その制限に留意しながら最適な適用を確保できるようにすることを目的としています。

さらに、科学的発見能力の向上を目指して、GPT-4 およびその他の LLM のさらなる探査と開発が奨励されています。これには、トレーニング プロセスの改良、ドメイン固有のデータとアーキテクチャの統合、さまざまな科学分野に合わせた専門知識の統合が含まれる場合があります。

人工知能の分野が発展し続けるにつれて、GPT-4 のような複雑なモデルの統合は、科学研究とイノベーションを加速する上でますます重要な役割を果たすことになります

最後に、この研究は次のような側面を結論付けています。科学研究において改善が必要なLLMについて議論し、LLMを強化したり、これに基づいて科学的ブレークスルーを促進したりするための潜在的な方向性について議論します。

以上がGPT-4 と LLM: Microsoft チームが科学的発見の影響を調査し、5 つの主要な科学分野をカバーする 230 ページの記事の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

DeepMind ロボットが卓球をすると、フォアハンドとバックハンドが空中に滑り出し、人間の初心者を完全に打ち負かしました DeepMind ロボットが卓球をすると、フォアハンドとバックハンドが空中に滑り出し、人間の初心者を完全に打ち負かしました Aug 09, 2024 pm 04:01 PM

でももしかしたら公園の老人には勝てないかもしれない?パリオリンピックの真っ最中で、卓球が注目を集めています。同時に、ロボットは卓球のプレーにも新たな進歩をもたらしました。先ほど、DeepMind は、卓球競技において人間のアマチュア選手のレベルに到達できる初の学習ロボット エージェントを提案しました。論文のアドレス: https://arxiv.org/pdf/2408.03906 DeepMind ロボットは卓球でどれくらい優れていますか?おそらく人間のアマチュアプレーヤーと同等です: フォアハンドとバックハンドの両方: 相手はさまざまなプレースタイルを使用しますが、ロボットもそれに耐えることができます: さまざまなスピンでサーブを受ける: ただし、ゲームの激しさはそれほど激しくないようです公園の老人。ロボット、卓球用

初のメカニカルクロー!元羅宝は2024年の世界ロボット会議に登場し、家庭に入ることができる初のチェスロボットを発表した 初のメカニカルクロー!元羅宝は2024年の世界ロボット会議に登場し、家庭に入ることができる初のチェスロボットを発表した Aug 21, 2024 pm 07:33 PM

8月21日、2024年世界ロボット会議が北京で盛大に開催された。 SenseTimeのホームロボットブランド「Yuanluobot SenseRobot」は、全製品ファミリーを発表し、最近、世界初の家庭用チェスロボットとなるYuanluobot AIチェスプレイロボット - Chess Professional Edition(以下、「Yuanluobot SenseRobot」という)をリリースした。家。 Yuanluobo の 3 番目のチェス対局ロボット製品である新しい Guxiang ロボットは、AI およびエンジニアリング機械において多くの特別な技術アップグレードと革新を経て、初めて 3 次元のチェスの駒を拾う機能を実現しました。家庭用ロボットの機械的な爪を通して、チェスの対局、全員でのチェスの対局、記譜のレビューなどの人間と機械の機能を実行します。

クロードも怠け者になってしまった!ネチズン: 自分に休日を与える方法を学びましょう クロードも怠け者になってしまった!ネチズン: 自分に休日を与える方法を学びましょう Sep 02, 2024 pm 01:56 PM

もうすぐ学校が始まり、新学期を迎える生徒だけでなく、大型AIモデルも気を付けなければなりません。少し前、レディットはクロードが怠け者になったと不満を漏らすネチズンでいっぱいだった。 「レベルが大幅に低下し、頻繁に停止し、出力も非常に短くなりました。リリースの最初の週は、4 ページの文書全体を一度に翻訳できましたが、今では 0.5 ページの出力さえできません」 !」 https://www.reddit.com/r/ClaudeAI/comments/1by8rw8/something_just_feels_wrong_with_claude_in_the/ というタイトルの投稿で、「クロードには完全に失望しました」という内容でいっぱいだった。

世界ロボット会議で「未来の高齢者介護の希望」を担う家庭用ロボットを囲みました 世界ロボット会議で「未来の高齢者介護の希望」を担う家庭用ロボットを囲みました Aug 22, 2024 pm 10:35 PM

北京で開催中の世界ロボット会議では、人型ロボットの展示が絶対的な注目となっているスターダストインテリジェントのブースでは、AIロボットアシスタントS1がダルシマー、武道、書道の3大パフォーマンスを披露した。文武両道を備えた 1 つの展示エリアには、多くの専門的な聴衆とメディアが集まりました。弾性ストリングのエレガントな演奏により、S1 は、スピード、強さ、正確さを備えた繊細な操作と絶対的なコントロールを発揮します。 CCTVニュースは、「書道」の背後にある模倣学習とインテリジェント制御に関する特別レポートを実施し、同社の創設者ライ・ジエ氏は、滑らかな動きの背後にあるハードウェア側が最高の力制御と最も人間らしい身体指標(速度、負荷)を追求していると説明した。など)、AI側では人の実際の動きのデータが収集され、強い状況に遭遇したときにロボットがより強くなり、急速に進化することを学習することができます。そしてアジャイル

ACL 2024 賞の発表: HuaTech による Oracle 解読に関する最優秀論文の 1 つ、GloVe Time Test Award ACL 2024 賞の発表: HuaTech による Oracle 解読に関する最優秀論文の 1 つ、GloVe Time Test Award Aug 15, 2024 pm 04:37 PM

貢献者はこの ACL カンファレンスから多くのことを学びました。 6日間のACL2024がタイのバンコクで開催されています。 ACL は、計算言語学と自然言語処理の分野におけるトップの国際会議で、国際計算言語学協会が主催し、毎年開催されます。 ACL は NLP 分野における学術的影響力において常に第一位にランクされており、CCF-A 推奨会議でもあります。今年の ACL カンファレンスは 62 回目であり、NLP 分野における 400 以上の最先端の作品が寄せられました。昨日の午後、カンファレンスは最優秀論文およびその他の賞を発表しました。今回の優秀論文賞は7件(未発表2件)、最優秀テーマ論文賞1件、優秀論文賞35件です。このカンファレンスでは、3 つの Resource Paper Award (ResourceAward) と Social Impact Award (

宏蒙スマートトラベルS9とフルシナリオ新製品発売カンファレンス、多数の大ヒット新製品が一緒にリリースされました 宏蒙スマートトラベルS9とフルシナリオ新製品発売カンファレンス、多数の大ヒット新製品が一緒にリリースされました Aug 08, 2024 am 07:02 AM

今日の午後、Hongmeng Zhixingは新しいブランドと新車を正式に歓迎しました。 8月6日、ファーウェイはHongmeng Smart Xingxing S9およびファーウェイのフルシナリオ新製品発表カンファレンスを開催し、パノラマスマートフラッグシップセダンXiangjie S9、新しいM7ProおよびHuawei novaFlip、MatePad Pro 12.2インチ、新しいMatePad Air、Huawei Bisheng Withを発表しました。レーザー プリンタ X1 シリーズ、FreeBuds6i、WATCHFIT3、スマート スクリーン S5Pro など、スマート トラベル、スマート オフィスからスマート ウェアに至るまで、多くの新しいオールシナリオ スマート製品を開発し、ファーウェイは消費者にスマートな体験を提供するフル シナリオのスマート エコシステムを構築し続けています。すべてのインターネット。宏孟志興氏:スマートカー業界のアップグレードを促進するための徹底的な権限付与 ファーウェイは中国の自動車業界パートナーと提携して、

Li Feifei 氏のチームは、ロボットに空間知能を与え、GPT-4o を統合する ReKep を提案しました Li Feifei 氏のチームは、ロボットに空間知能を与え、GPT-4o を統合する ReKep を提案しました Sep 03, 2024 pm 05:18 PM

ビジョンとロボット学習の緊密な統合。最近話題の1X人型ロボットNEOと合わせて、2つのロボットハンドがスムーズに連携して服をたたむ、お茶を入れる、靴を詰めるといった動作をしていると、いよいよロボットの時代が到来するのではないかと感じられるかもしれません。実際、これらの滑らかな動きは、高度なロボット技術 + 精緻なフレーム設計 + マルチモーダル大型モデルの成果です。有用なロボットは多くの場合、環境との複雑かつ絶妙な相互作用を必要とし、環境は空間領域および時間領域の制約として表現できることがわかっています。たとえば、ロボットにお茶を注いでもらいたい場合、ロボットはまずティーポットのハンドルを掴んで、お茶をこぼさないように垂直に保ち、次にポットの口がカップの口と揃うまでスムーズに動かす必要があります。 、そしてティーポットを一定の角度に傾けます。これ

7つの「ソラレベル」ビデオ生成アーティファクトをテストしました。誰が「鉄の玉座」に昇る能力を持っていますか? 7つの「ソラレベル」ビデオ生成アーティファクトをテストしました。誰が「鉄の玉座」に昇る能力を持っていますか? Aug 05, 2024 pm 07:19 PM

Machine Power Report 編集者: Yang Wen AI ビデオ サークルの王になれるのは誰ですか?アメリカのテレビシリーズ「ゲーム・オブ・スローンズ」に「鉄の玉座」というものがあります。伝説によれば、それは最高の権威を象徴する敵が捨てた数千の剣を溶かした巨大なドラゴン「黒死病」によって作られたとされています。この鉄の椅子に座るために、主要な家族は争いと争いを始めました。 Sora の登場以来、AI ビデオ界では活発な「ゲーム オブ スローンズ」が立ち上がっています。このゲームの主なプレーヤーには、国内の Kuaishou Keling、ByteDream だけでなく、海の向こうの RunwayGen-3 や Luma も含まれます。およびZhimo。今日は、誰が AI ビデオサークルの「鉄の玉座」に座る資格があるかを評価して確認します。 -1- ヴィンセントビデオ

See all articles