GPT4ALL: 究極のオープンソース大規模言語モデル ソリューション
研究や商業目的で言語アプリケーションを作成するための包括的なリソースを個人に提供する、オープンソース言語モデルのエコシステムが成長しています。
この記事では、GPT4ALL について詳しく説明します。GPT4ALL は、ChatGPT のようなチャットボットを誰でも開発できるようにする包括的な構成要素を提供することで、特定の使用例を超えています。
GPT4ALL プロジェクトとは何ですか?
GPT4ALL は、最先端のオープンソースの大規模言語モデルを使用する際に必要なサポートをすべて提供できます。オープンソースのモデルとデータセットにアクセスし、提供されたコードを使用してそれらをトレーニングおよび実行し、Web インターフェイスまたはデスクトップ アプリケーションを使用してそれらを操作し、分散コンピューティングのために Langchain バックエンドに接続し、簡単に統合するために Python API を使用できます。
開発者は最近、Apache-2 ライセンスの GPT4All-J チャットボットをリリースしました。このチャットボットは、単語による質問、複数回の会話、コード、詩、歌、物語など、アシスタントとの対話の大規模で精選されたコーパスでトレーニングされています。アクセスしやすくするために、Python バインディングとチャット UI もリリースされ、ほぼ誰でも CPU 上でモデルを実行できるようになりました。
ローカル チャット クライアントをデスクトップにインストールして、自分で試すことができます。
- Mac/OSX（https://gpt4all.io/installers/gpt4all-installer-darwin.dmg）
- Windows（https://gpt4all.io/installers/gpt4all） -installer-win64.exe)
- Ubuntu(https://gpt4all.io/installers/gpt4all-installer-linux.run)
その後、GPT4ALL プログラムを実行し、選択したモデル自体をダウンロードします。ここ (https://github.com/nomic-ai/gpt4all-chat#manual-download-of-models) でモデルを手動でダウンロードし、GUI のモデル ダウンロード ダイアログで示された場所にインストールすることもできます。
GPT4ALL を使用すると、ラップトップでのエクスペリエンスが向上し、高速かつ正確な応答が得られます。 GPT4ALL は非常に使いやすいため、技術者でなくても簡単に使用できます。
GPT4ALL Python クライアント
GPT4ALL には、Python、TypeScript、Web チャット インターフェイス、および Langchain バックエンドが含まれています。
このセクションでは、nomic-ai/pygpt4all を使用してモデルにアクセスするための Python API について説明します。
- PIP を使用して Python GPT4ALL ライブラリをインストールします。
<code>pip install pygpt4all</code>
- GPT4All モデルを http://gpt4all.io/models/ggml-gpt4all-l13b-snoozy.bin からダウンロードします。こちらからも入手できます (https://github.com/) nomic-ai/gpt4all-chat#manual-download-of-models) を使用して、他のモデルを参照します。
- テキスト コールバック関数を作成し、モデルを読み込み、mode.generate() 関数にヒントを提供してテキストを生成します。詳細については、ライブラリのドキュメント (https://nomic-ai.github.io/pygpt4all/) を参照してください。
<code>from pygpt4all.models.gpt4all import GPT4Alldef new_text_callback(text):print(text, end="")model = GPT4All("./models/ggml-gpt4all-l13b-snoozy.bin")model.generate("Once upon a time, ", n_predict=55, new_text_callback=new_text_callback)</code>さらに、コンバータを使用して推論をダウンロードして実行することもできます。モデル名とバージョンを入力するだけです。この記事の例では、改良された最新の v1.3-groovy モデルにアクセスしています。
<code>from transformers import AutoModelForCausalLMmodel = AutoModelForCausalLM.from_pretrained("nomic-ai/gpt4all-j", revisinotallow="v1.3-groovy")</code>はじめに
nomic-ai/gpt4all リポジトリでは、トレーニングと推論のためのソース コード、モデルの重み、データセット、ドキュメントを入手できます。最初にいくつかのモデルを試してから、Python クライアントまたは LangChain を使用してそれらを統合できます。
GPT4ALL は、CPU 定量化された GPT4All モデル チェックポイントを提供します。アクセスするには、次の手順を実行する必要があります:
- ダイレクト リンクまたは [Torrent-Magnet] から gpt4all-lora-quantized.bin ファイルをダウンロードします。
- このリソース ライブラリのクローンを作成し、ダウンロードした bin ファイルをチャット フォルダーに移動します。
- 適切なコマンドを実行してモデルにアクセスします:
- M1 Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-m1
Linux :cd チャット;./gpt4all-lora-quantized-linux-x86
- Windows (PowerShell): cd チャット;./gpt4all-lora-quantized-win64.exe
- Intel Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-intel
资源：
- 技术报告：GPT4All-J: Apache-2 ライセンスを取得したアシスタントスタイルのチャットボット (https://static.nomic.ai/gpt4all/2023_GPT4All-J_Technical_Report_2.pdf)
- GitHub：nomic-ai/gpt4all（https://github.com/nomic-ai/gpt4all）
- Python API：nomic-ai/pygpt4all（https://github.com/ nomic-ai/pygpt4all）
- モデル：nomic-ai/gpt4all-j（https://huggingface.co/nomic-ai/gpt4all-j）
- データ集：nomic-ai /gpt4all-j-prompt-generations（https://huggingface.co/datasets/nomic-ai/gpt4all-j-prompt-generations）
- Hugging Face演示：Gpt4all（https://huggingface.co /spaces/Monster/GPT4ALL）
- ChatUI：nomic-ai/gpt4all-chat: gpt4all-j チャット（https://github.com/nomic-ai/gpt4all-chat）
- GPT4ALL後端：GPT4ALL - ????LangChain 0.0.154（https://python.langchain.com/en/latest/modules/models/llms/integrations/gpt4all.html）
以上がGPT4ALL: 究極のオープンソース大規模言語モデル ソリューションの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。
ホットAIツール
Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ
AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。
Undress AI Tool
脱衣画像を無料で
Clothoff.io
AI衣類リムーバー
AI Hentai Generator
AIヘンタイを無料で生成します。
人気の記事
ホットツール
メモ帳++7.3.1
使いやすく無料のコードエディター
SublimeText3 中国語版
中国語版、とても使いやすい
ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境
ドリームウィーバー CS6
ビジュアル Web 開発ツール
SublimeText3 Mac版
神レベルのコード編集ソフト（SublimeText3）
ホットトピック
7476
15
1377
52
77
11
19
31
世界で最も強力なオープンソース MoE モデルが登場。GPT-4 に匹敵する中国語機能を備え、価格は GPT-4-Turbo のわずか 1% 近くです
May 07, 2024 pm 04:13 PM
従来のコンピューティングを超える能力を備えているだけでなく、より低コストでより効率的なパフォーマンスを実現する人工知能モデルを想像してみてください。これは SF ではありません。世界で最も強力なオープンソース MoE モデルである DeepSeek-V2[1] が登場しました。 DeepSeek-V2 は、経済的なトレーニングと効率的な推論の特徴を備えた強力な専門家混合 (MoE) 言語モデルです。これは 236B のパラメータで構成されており、そのうち 21B は各マーカーをアクティブにするために使用されます。 DeepSeek67B と比較して、DeepSeek-V2 はパフォーマンスが優れていると同時に、トレーニング コストを 42.5% 節約し、KV キャッシュを 93.3% 削減し、最大生成スループットを 5.76 倍に高めます。 DeepSeek は一般的な人工知能を研究する会社です
AI が数学研究を破壊する!フィールズ賞受賞者で中国系アメリカ人の数学者が上位 11 件の論文を主導 | テレンス・タオが「いいね！」しました
Apr 09, 2024 am 11:52 AM
AI は確かに数学を変えつつあります。最近、この問題に細心の注意を払っている陶哲軒氏が『米国数学協会会報』（米国数学協会会報）の最新号を送ってくれた。 「機械は数学を変えるのか？」というテーマを中心に、多くの数学者が意見を述べ、そのプロセス全体は火花に満ち、ハードコアで刺激的でした。著者には、フィールズ賞受賞者のアクシャイ・ベンカテシュ氏、中国の数学者鄭楽軍氏、ニューヨーク大学のコンピューター科学者アーネスト・デイビス氏、その他業界で著名な学者を含む強力な顔ぶれが揃っている。 AI の世界は劇的に変化しています。これらの記事の多くは 1 年前に投稿されたものです。
MLP に代わる KAN は、オープンソース プロジェクトによって畳み込みまで拡張されました
Jun 01, 2024 pm 10:03 PM
今月初め、MIT やその他の機関の研究者らは、MLP に代わる非常に有望な代替案である KAN を提案しました。 KAN は、精度と解釈可能性の点で MLP よりも優れています。また、非常に少数のパラメーターを使用して、多数のパラメーターを使用して実行する MLP よりも優れたパフォーマンスを発揮できます。たとえば、著者らは、KAN を使用して、より小規模なネットワークと高度な自動化で DeepMind の結果を再現したと述べています。具体的には、DeepMind の MLP には約 300,000 個のパラメーターがありますが、KAN には約 200 個のパラメーターしかありません。 KAN は、MLP が普遍近似定理に基づいているのに対し、KAN はコルモゴロフ-アーノルド表現定理に基づいているのと同様に、強力な数学的基礎を持っています。以下の図に示すように、KAN は
こんにちは、電気アトラスです！ボストン・ダイナミクスのロボットが復活、180度の奇妙な動きにマスク氏も恐怖
Apr 18, 2024 pm 07:58 PM
Boston Dynamics Atlas は正式に電動ロボットの時代に突入します!昨日、油圧式アトラスが歴史の舞台から「涙ながらに」撤退したばかりですが、今日、ボストン・ダイナミクスは電動式アトラスが稼働することを発表しました。ボストン・ダイナミクス社は商用人型ロボットの分野でテスラ社と競争する決意を持っているようだ。新しいビデオが公開されてから、わずか 10 時間ですでに 100 万人以上が視聴しました。古い人が去り、新しい役割が現れるのは歴史的な必然です。今年が人型ロボットの爆発的な年であることは間違いありません。ネットユーザーは「ロボットの進歩により、今年の開会式は人間のように見え、人間よりもはるかに自由度が高い。しかし、これは本当にホラー映画ではないのか？」とコメントした。ビデオの冒頭では、アトラスは仰向けに見えるように地面に静かに横たわっています。次に続くのは驚くべきことです
Google は大喜び: JAX のパフォーマンスが Pytorch や TensorFlow を上回りました! GPU 推論トレーニングの最速の選択肢となる可能性があります
Apr 01, 2024 pm 07:46 PM
Google が推進する JAX のパフォーマンスは、最近のベンチマーク テストで Pytorch や TensorFlow のパフォーマンスを上回り、7 つの指標で 1 位にランクされました。また、テストは最高の JAX パフォーマンスを備えた TPU では行われませんでした。ただし、開発者の間では、依然として Tensorflow よりも Pytorch の方が人気があります。しかし、将来的には、おそらくより大規模なモデルが JAX プラットフォームに基づいてトレーニングされ、実行されるようになるでしょう。モデル 最近、Keras チームは、ネイティブ PyTorch 実装を使用して 3 つのバックエンド (TensorFlow、JAX、PyTorch) をベンチマークし、TensorFlow を使用して Keras2 をベンチマークしました。まず、主流のセットを選択します
テスラのロボットは工場で働く、マスク氏：手の自由度は今年22に達する！
May 06, 2024 pm 04:13 PM
テスラのロボット「オプティマス」の最新映像が公開され、すでに工場内で稼働可能となっている。通常の速度では、バッテリー（テスラの4680バッテリー）を次のように分類します：公式は、20倍の速度でどのように見えるかも公開しました - 小さな「ワークステーション」上で、ピッキング、ピッキング、ピッキング：今回は、それがリリースされたハイライトの1つビデオの内容は、オプティマスが工場内でこの作業を完全に自律的に行い、プロセス全体を通じて人間の介入なしに完了するというものです。そして、オプティマスの観点から見ると、自動エラー修正に重点を置いて、曲がったバッテリーを拾い上げたり配置したりすることもできます。オプティマスのハンドについては、NVIDIA の科学者ジム ファン氏が高く評価しました。オプティマスのハンドは、世界の 5 本指ロボットの 1 つです。最も器用。その手は触覚だけではありません
FisheyeDetNet: 魚眼カメラに基づいた最初のターゲット検出アルゴリズム
Apr 26, 2024 am 11:37 AM
目標検出は自動運転システムにおいて比較的成熟した問題であり、その中でも歩行者検出は最も初期に導入されたアルゴリズムの 1 つです。ほとんどの論文では非常に包括的な研究が行われています。ただし、サラウンドビューに魚眼カメラを使用した距離認識については、あまり研究されていません。放射状の歪みが大きいため、標準のバウンディング ボックス表現を魚眼カメラに実装するのは困難です。上記の説明を軽減するために、拡張バウンディング ボックス、楕円、および一般的な多角形の設計を極/角度表現に探索し、これらの表現を分析するためのインスタンス セグメンテーション mIOU メトリックを定義します。提案された多角形モデルの FisheyeDetNet は、他のモデルよりも優れたパフォーマンスを示し、同時に自動運転用の Valeo 魚眼カメラ データセットで 49.5% の mAP を達成しました。
Llama 70B を実行するシングル カードはデュアル カードより高速、Microsoft は FP6 を A100 オープンソースに強制導入
Apr 29, 2024 pm 04:55 PM
FP8 以下の浮動小数点数値化精度は、もはや H100 の「特許」ではありません。 Lao Huang は誰もが INT8/INT4 を使用できるようにしたいと考え、Microsoft DeepSpeed チームは NVIDIA からの公式サポートなしで A100 上で FP6 の実行を開始しました。テスト結果は、A100 での新しい方式 TC-FPx の FP6 量子化が INT4 に近いか、場合によってはそれよりも高速であり、後者よりも精度が高いことを示しています。これに加えて、エンドツーエンドの大規模モデルのサポートもあり、オープンソース化され、DeepSpeed などの深層学習推論フレームワークに統合されています。この結果は、大規模モデルの高速化にも即座に影響します。このフレームワークでは、シングル カードを使用して Llama を実行すると、スループットはデュアル カードのスループットの 2.65 倍になります。 1つ
