Meta が 650 億のパラメータを持つ大規模言語モデルである AI 言語モデル LLaMA を発表
2 月 25 日のニュース Meta は現地時間金曜日、Microsoft と提携して、研究コミュニティ向けに人工知能 (AI) に基づく新しい大規模言語モデルを開始すると発表しました。 , ChatGPT に刺激を受けた Google やその他の企業が人工知能の競争に参加しています。
Meta の LLaMA は、「Large Language Model Meta AI」(Large Language Model Meta AI) の略称で、政府、コミュニティ、学術界の研究者および団体が非営利ライセンスに基づいて利用できます。
同社は、基礎となるコードをユーザーが利用できるようにするため、ユーザーはモデルを自分で調整して研究関連のユースケースに使用できるようになります。メタ氏は、このモデルの計算能力要件は「はるかに低い」と述べた。
レポートによると、同社は複数のパラメーター (7B、13B、33B、および 65B) を備えた LLaMA を開発中です。このうち、LLaMA 65B と LLaMA 33B は 1.4 兆トークンでトレーニングされ、最小モデルの LLaMA 7B も 1 兆トークンでトレーニングされました。
他の大規模な言語モデルと同様、LLaMA は一連の単語を「入力」として受け取り、次の単語を予測してテキストを再帰的に生成することによって機能します。このモデルのセットについて、メタは、ラテン語とキリル文字に焦点を当て、最も話されている 20 の言語からトレーニング用のテキストを選択しました。
もちろん、他のモデルと同様に、LLaMA も偏見、有害なコメント、幻覚という課題に直面しており、Meta はこのタイプの言語モデルの欠点に対処するためにさらに研究を行う必要があります。
Meta 氏は、基本モデルとしての LLaMA は、特定のタスク用に設計された微調整されたモデルではなく、汎用性があり、さまざまなユースケースに適用できるように設計されていると述べました。 LLaMA のコードをオープンソース化することで、他の研究者はこれらの問題を制限または排除する新しい方法をより簡単に見つけることができます。 Meta はこの記事で、モデルの限界を示し、この重要な分野でのさらなる研究における研究者をサポートするために、モデルのバイアスと毒性を評価するための一連のベンチマーク評価基準も提供します。
Meta が昨年 5 月に大規模言語モデル OPT-175B も発売したことは言及する価値があります。このプロジェクトは研究者も対象としており、チャットボット ブレンダーボットの新しいバージョンの基礎となります。
その後、同社はギャラクティカと呼ばれるモデルも発売し、これで科学論文を執筆し、数学的問題を解決できると発表したが、そのデモ版は「権威ある響きの」コンテンツを繰り返し生成するため、後に棚から削除された。
IT ホームと公式リンク:
以上がMeta が 650 億のパラメータを持つ大規模言語モデルである AI 言語モデル LLaMA を発表の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

AI Hentai Generator
AIヘンタイを無料で生成します。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック











2025年の上位10の仮想通貨取引アプリは次のとおりです。1。OKX、2。BINANCE、3。GATE.IO、4。BYBIT、5。KRAKEN、6。KUCOIN、7。BITGET、8。HTX、9。MEXC、10。コインベース。このランキングは、セキュリティ、流動性、ユーザーエクスペリエンス、機能の豊富さなどの包括的な評価に基づいています。

2025年のトップ10のデジタル仮想通貨取引アプリは次のとおりです。1。OKX、2。BINANCE、3。GATE.IO、4。BYBIT、5。KRAKEN、6。KUCOIN、7。BITGET、8。HTX、9。MEXC、10。COINBASE。このランキングは、セキュリティ、流動性、ユーザーエクスペリエンス、機能の豊富さなどの包括的な評価に基づいています。

PI Networkは、主流の取引所でまだ正式に取引を開始していません。 2024年の時点で、PIはまだメインネットワークを閉鎖する段階にあり、中小規模の交換の一部のみがIOUトランザクションを提供しています。役人は取引を許可していません。公式チャネルを介してマイニングし、メインネットワークが準拠した交換を開き、取引するのを待つことをお勧めします。

2024年の時点で、HECOチェーンまたはHECOトークンをサポートする主な交換:1。HTX(以前のHuobi Huobi)は、HecoチェーンUSDTおよびトークン取引を公式にサポートしています。 2。MDEXは、Heco Dexに基づいて、Hecoチェーントークン取引をサポートしています。 3。Gate.ioは、Hecoチェーントークンの補充と撤回をサポートしています。 4。Kucoin、一部のHecoチェーントークンは引き続き取引できます。 5。PancakeswapやUniswapなどの分散型交換は、クロスチェーン取引、HECOチェーンの低流動性とプロジェクトの移行に注意を払う必要があります。

node.js環境で403を返すサードパーティインターフェイスの問題を解決します。 node.jsを使用してサードパーティのインターフェイスを呼び出すと、403を返すインターフェイスから403のエラーが発生することがあります...

Laravelの電子メールの検証コードの送信の障害を処理する方法は、Laravelを使用することです...

システムが再起動した後、UnixSocketの権限を自動的に設定する方法。システムが再起動するたびに、UnixSocketの許可を変更するために次のコマンドを実行する必要があります:sudo ...

Dogecoin(Doge)は、2025年には市場サイクルと緊急事態に応じて、2025年に0.1-1ドルの価格である場合があります。1。ブルマーケットとムスクのプッシュにより、Dogeが0.5-1ドルに上昇する可能性があります。 2。中程度の上昇と局所的なポジティブは、Dogeが0.2〜0.5ドルになる可能性があります。 3.ベアマーケットと規制当局のヒットにより、Dogeが0.05-0.1ドルに落ちる可能性があります。
