目次
新しい大規模言語モデル (LLM) が毎日立ち上げられ、その作成者や学術コミュニティの関係者がコメントするようです。人間と流暢にコミュニケーションする能力は豊富で、たとえば、ユーザーのコード変更、推薦状の作成、記事の要約の作成などを手伝うことができます。
ホームページ テクノロジー周辺機器 AI ChatGPT の使用を減らし、オープンソースをもっとサポートしてください。ニューヨーク大学ネイチャー教授が執筆:科学の未来のために

ChatGPT の使用を減らし、オープンソースをもっとサポートしてください。ニューヨーク大学ネイチャー教授が執筆:科学の未来のために

May 10, 2023 pm 01:13 PM
ai オープンソース

無料の ChatGPT は使用するのが非常に楽しいですが、このクローズドソース言語モデルの最大の欠点は、オープンソースではないことです。外部の世界では、その背後にあるトレーニング データを理解することができず、ユーザーの情報が漏洩するかどうかもわかりません。その後、産学が共同してLLaMAなどの一連のアルパカモデルをオープンソース化した。

最近、Nature Worldview コラムに記事が掲載されました。ニューヨーク大学の政治とデータ サイエンスの教授、アーサー スパーリングは、オープンソース モデルをもっと使用するよう皆さんに呼び掛けました。実験結果は再現可能であり、学術倫理を遵守します。

重要なのは、ある日 OpenAI が不満を抱いて言語モデル インターフェイスを閉じた場合、または価格を上げるために閉鎖された独占に依存した場合、ユーザーは無力な一文しか言えないということです。 ,

「結局、学者は資本に負けたのだ」

ChatGPT の使用を減らし、オープンソースをもっとサポートしてください。ニューヨーク大学ネイチャー教授が執筆:科学の未来のために

記事の著者であるアーサー・スピルリングは、政治学を教えるために今年 7 月にプリンストン大学に入学する予定です。研究の方向性は政治方法論と立法行為であり、特にデータとしてのテキスト、自然言語処理、ベイズ統計、機械学習、項目反応理論、政治学における一般化線形モデルの応用です。

研究者は商用モデルの誘惑を避け、再現性を確保するために協力して透明性のある大規模な言語モデルを開発する必要があります。

オープンソースを受け入れ、独占を拒否する

新しい大規模言語モデル (LLM) が毎日立ち上げられ、その作成者や学術コミュニティの関係者がコメントするようです。人間と流暢にコミュニケーションする能力は豊富で、たとえば、ユーザーのコード変更、推薦状の作成、記事の要約の作成などを手伝うことができます。

これらのモデルを使用し、その使用方法を教えている政治科学者およびデータ科学者として、学者は注意する必要があると思います。なぜなら、現在最も人気のある言語モデルは非公開で非公開のままであるためです。企業によって運営されているため、基本モデルに関する具体的な情報は開示されず、モデルの機能を独自にチェックまたは検証するだけなので、研究者や一般の人々はモデルのトレーニングにどのようなファイルが使用されたか知りません。

言語モデルを自分の研究プロセスに急いで組み込むと、問題が発生し、苦労して勝ち取った「研究倫理」や「結果の再現性」の進歩が脅かされる可能性があります。

研究者は商用モデルに依存できないだけでなく、透明性があり、特定の企業の利益に依存しないオープンソースの大規模言語モデルを開発するために協力する必要もあります。

商用モデルは非常に便利で、そのまま使用できますが、オープンソース言語モデルへの投資は歴史的な傾向です。開発を促進する方法を見つけるだけでなく、モデルを将来の研究に適用します。

私は、オープンソース統計ソフトウェアの開発の歴史と同様に、言語モデル ツールの将来はオープンソースになるに違いないと楽観的に見積もっています。商用統計ソフトウェアは当初非常に人気がありましたが、現在はほぼすべてのコミュニティはすべて、R や Python などのオープンソース プラットフォームを使用しています。

たとえば、オープンソース言語モデルである BLOOM は、昨年 7 月にリリースされました。その開発チームである Hugging Face は、ニューヨークに本社を置く人工知能企業であり、1,000 以上の企業と協力しています。ボランティアと研究者によって共同で構築されており、研究開発資金の一部はフランス政府から提供されており、他のチームも大規模な言語モデルのオープンソース化に熱心に取り組んでいます。

このようなオープンソース プロジェクトは素晴らしいと思いますが、さらなる協力と国際的なリソースと専門知識の共有も必要です。

大規模な言語モデルをオープンソース化するチームは、通常、大企業ほど資金が豊富ではなく、開発チームは、この分野の最新の進歩を追跡するために業務を継続する必要もあります。分野の発展が速すぎる ほとんどの言語モデルでさえ、導入されてから数週間または数か月で時代遅れになります。

したがって、オープンソースに関わる学者が増えれば増えるほど、最終的なオープンソース モデルはより良いものになるでしょう。

クローズドソースの商用言語モデルの所有者はいつでも製品やトレーニング データを変更でき、問題が発生する可能性があるため、オープンソース LLM の使用は「再現可能な研究」にとって非常に重要です。生成された結果。

たとえば、ある研究グループが、商用言語モデルによって提案された文言が臨床医と患者とのより効果的なコミュニケーションに役立つかどうかをテストする論文を発表するかもしれません。別のグループがその研究を再現しようとした場合、誰が基本的な表現をしているか知っていますか?モデルの学習データは当時のままですか?このモデルが現在も稼働しているかどうかさえ不明です。

GPT-3 (これまで研究者がよく使用していた補助ツール) は、GPT-4 に置き換えられました。GPT-3 インターフェイスに基づくすべての研究は、おそらく不可能になります。企業にとって、古いモデルを稼働し続けることは優先事項ではありません。

対照的に、オープンソース LLM を使用すると、研究者はモデルの内部アーキテクチャ、重みを表示し、モデルの動作方法を理解し、コードをカスタマイズし、エラーを指摘することができます。これらの詳細には、モデルの調整機能が含まれます。モデルをトレーニングするためのパラメーターとデータ、コミュニティの参加と監視はすべて、このモデルを長期的に堅牢に保つのに役立ちます。

科学研究における商用言語モデルの使用は、これらのモデルのトレーニングに使用されるテキストが不明であり、ソーシャル メディア プラットフォーム上のユーザーが含まれている可能性があるため、研究倫理にも悪影響を及ぼします。子どもたちが書いた内容。

公開テキストを作成している人はプラットフォームの利用規約に同意している可能性がありますが、これは研究者が望んでいるインフォームド・コンセントの標準ではない可能性があります。

私の意見では、科学者は研究でこれらのモデルをできるだけ使用しないようにすべきです。私たちはオープンな言語モデルに移行し、それを他の人に広めるべきです。

また、学者、特にソーシャルメディアで多くのフォロワーを抱えている学者は、他の人に市販モデルの使用を勧めるべきではないと思います。なぜなら、価格が高騰したり会社が倒産したりした場合、研究者たちは、この技術を同僚に宣伝したことを後悔するかもしれません。

研究者は現在、Facebook の親会社 Meta によってオープンソース化されている LLaMA など、民間組織が作成したオープン言語モデルを利用できます。当初はユーザーの申請とレビューに基づいて発行されました。しかし、モデルの完全版はその後オンラインで漏洩しました。Meta のオープン言語モデル OPT-175 B

も利用可能です。長期的な欠点は、これらのモデルのリリースも依存していることです。会社の善意に大きく依存していますが、これは不安定な状況です。

これに加えて、言語モデルを扱う学者の行動規範や、それに対応する規制措置も必要ですが、これらにはすべて時間がかかります。政治学者、私はこれらの規制は最初は非常に不完全であり、効果が出るまでに時間がかかると予想しています。

同時に、CERN (素粒子物理学国際機関) など、研究用のオープンソース言語モデルをトレーニングする大規模な共同プロジェクトへの支援が緊急に必要です。政府は次のようにすべきです。助成金を通じて資金を増やす。

この分野は電光石火のスピードで進化しており、国内外の支援の調整を今すぐ始める必要があります。

科学コミュニティは、結果として得られるモデルのリスクを評価できる必要があり、一般公開には慎重になる必要がありますが、オープンな環境が正しいことであることは明らかです。する。

以上がChatGPT の使用を減らし、オープンソースをもっとサポートしてください。ニューヨーク大学ネイチャー教授が執筆:科学の未来のためにの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

vue.jsのストリングをオブジェクトに変換するためにどのような方法が使用されますか? vue.jsのストリングをオブジェクトに変換するためにどのような方法が使用されますか? Apr 07, 2025 pm 09:39 PM

vue.jsのオブジェクトに文字列を変換する場合、標準のjson文字列にはjson.parse()が推奨されます。非標準のJSON文字列の場合、文字列は正規表現を使用して処理し、フォーマットまたはデコードされたURLエンコードに従ってメソッドを削減できます。文字列形式に従って適切な方法を選択し、バグを避けるためにセキュリティとエンコードの問題に注意してください。

インストール後にMySQLの使用方法 インストール後にMySQLの使用方法 Apr 08, 2025 am 11:48 AM

この記事では、MySQLデータベースの操作を紹介します。まず、MySQLWorkBenchやコマンドラインクライアントなど、MySQLクライアントをインストールする必要があります。 1. mysql-uroot-pコマンドを使用してサーバーに接続し、ルートアカウントパスワードでログインします。 2。CreatedAtaBaseを使用してデータベースを作成し、データベースを選択します。 3. createTableを使用してテーブルを作成し、フィールドとデータ型を定義します。 4. INSERTINTOを使用してデータを挿入し、データをクエリし、更新することでデータを更新し、削除してデータを削除します。これらの手順を習得することによってのみ、一般的な問題に対処することを学び、データベースのパフォーマンスを最適化することでMySQLを効率的に使用できます。

Laravelの地理空間:インタラクティブマップと大量のデータの最適化 Laravelの地理空間:インタラクティブマップと大量のデータの最適化 Apr 08, 2025 pm 12:24 PM

700万のレコードを効率的に処理し、地理空間技術を使用したインタラクティブマップを作成します。この記事では、LaravelとMySQLを使用して700万を超えるレコードを効率的に処理し、それらをインタラクティブなマップの視覚化に変換する方法について説明します。最初の課題プロジェクトの要件:MySQLデータベースに700万のレコードを使用して貴重な洞察を抽出します。多くの人は最初に言語をプログラミングすることを検討しますが、データベース自体を無視します。ニーズを満たすことができますか?データ移行または構造調​​整は必要ですか? MySQLはこのような大きなデータ負荷に耐えることができますか?予備分析:キーフィルターとプロパティを特定する必要があります。分析後、ソリューションに関連している属性はわずかであることがわかりました。フィルターの実現可能性を確認し、検索を最適化するためにいくつかの制限を設定しました。都市に基づくマップ検索

MySQLを解決する方法は開始できません MySQLを解決する方法は開始できません Apr 08, 2025 pm 02:21 PM

MySQLの起動が失敗する理由はたくさんあり、エラーログをチェックすることで診断できます。一般的な原因には、ポートの競合(ポート占有率をチェックして構成の変更)、許可の問題(ユーザー許可を実行するサービスを確認)、構成ファイルエラー(パラメーター設定のチェック)、データディレクトリの破損(テーブルスペースの復元)、INNODBテーブルスペースの問題(IBDATA1ファイルのチェック)、プラグインロード障害(エラーログのチェック)が含まれます。問題を解決するときは、エラーログに基づいてそれらを分析し、問題の根本原因を見つけ、問題を防ぐために定期的にデータをバックアップする習慣を開発する必要があります。

vue.js文字列タイプの配列をオブジェクトの配列に変換する方法は? vue.js文字列タイプの配列をオブジェクトの配列に変換する方法は? Apr 07, 2025 pm 09:36 PM

概要:Vue.js文字列配列をオブジェクト配列に変換するための次の方法があります。基本方法:定期的なフォーマットデータに合わせてマップ関数を使用します。高度なゲームプレイ:正規表現を使用すると、複雑な形式を処理できますが、慎重に記述して考慮する必要があります。パフォーマンスの最適化:大量のデータを考慮すると、非同期操作または効率的なデータ処理ライブラリを使用できます。ベストプラクティス:コードスタイルをクリアし、意味のある変数名とコメントを使用して、コードを簡潔に保ちます。

Vue Axiosのタイムアウトを設定する方法 Vue Axiosのタイムアウトを設定する方法 Apr 07, 2025 pm 10:03 PM

Vue axiosのタイムアウトを設定するために、Axiosインスタンスを作成してタイムアウトオプションを指定できます。グローバル設定:Vue.Prototype。$ axios = axios.create({Timeout:5000});単一のリクエストで:this。$ axios.get( '/api/users'、{timeout:10000})。

MySQLインストール後にデータベースのパフォーマンスを最適化する方法 MySQLインストール後にデータベースのパフォーマンスを最適化する方法 Apr 08, 2025 am 11:36 AM

MySQLパフォーマンスの最適化は、インストール構成、インデックス作成、クエリの最適化、監視、チューニングの3つの側面から開始する必要があります。 1。インストール後、INNODB_BUFFER_POOL_SIZEパラメーターやclose query_cache_sizeなど、サーバーの構成に従ってmy.cnfファイルを調整する必要があります。 2。過度のインデックスを回避するための適切なインデックスを作成し、説明コマンドを使用して実行計画を分析するなど、クエリステートメントを最適化します。 3. MySQL独自の監視ツール(ShowProcessList、ShowStatus)を使用して、データベースの健康を監視し、定期的にデータベースをバックアップして整理します。これらの手順を継続的に最適化することによってのみ、MySQLデータベースのパフォーマンスを改善できます。

リモートシニアバックエンジニア(プラットフォーム)がサークルが必要です リモートシニアバックエンジニア(プラットフォーム)がサークルが必要です Apr 08, 2025 pm 12:27 PM

リモートシニアバックエンジニアの求人事業者:サークル場所:リモートオフィスジョブタイプ:フルタイム給与:$ 130,000- $ 140,000職務記述書サークルモバイルアプリケーションとパブリックAPI関連機能の研究開発に参加します。ソフトウェア開発ライフサイクル全体をカバーします。主な責任は、RubyonRailsに基づいて独立して開発作業を完了し、React/Redux/Relay Front-Endチームと協力しています。 Webアプリケーションのコア機能と改善を構築し、機能設計プロセス全体でデザイナーとリーダーシップと緊密に連携します。肯定的な開発プロセスを促進し、反復速度を優先します。 6年以上の複雑なWebアプリケーションバックエンドが必要です

See all articles