ホームページ テクノロジー周辺機器 AI Meta が 650 億のパラメータを持つ大規模言語モデルである AI 言語モデル LLaMA を発表

Meta が 650 億のパラメータを持つ大規模言語モデルである AI 言語モデル LLaMA を発表

Apr 14, 2023 pm 06:58 PM
ai 言語モデル meta

Meta が 650 億のパラメータを持つ大規模言語モデルである AI 言語モデル LLaMA を発表

2 月 25 日のニュース Meta は現地時間金曜日、Microsoft と提携して、研究コミュニティ向けに人工知能 (AI) に基づく新しい大規模言語モデルを開始すると発表しました。 , ChatGPT に刺激を受けた Google やその他の企業が人工知能の競争に参加しています。

Meta の LLaMA は、「Large Language Model Meta AI」(Large Language Model Meta AI) の略称で、政府、コミュニティ、学術界の研究者および団体が非営利ライセンスに基づいて利用できます。

同社は、基礎となるコードをユーザーが利用できるようにするため、ユーザーはモデルを自分で調整して研究関連のユースケースに使用できるようになります。メタ氏は、このモデルの計算能力要件は「はるかに低い」と述べた。

レポートによると、同社は複数のパラメーター (7B、13B、33B、および 65B) を備えた LLaMA を開発中です。このうち、LLaMA 65B と LLaMA 33B は 1.4 兆トークンでトレーニングされ、最小モデルの LLaMA 7B も 1 兆トークンでトレーニングされました。

他の大規模な言語モデルと同様、LLaMA は一連の単語を「入力」として受け取り、次の単語を予測してテキストを再帰的に生成することによって機能します。このモデルのセットについて、メタは、ラテン語とキリル文字に焦点を当て、最も話されている 20 の言語からトレーニング用のテキストを選択しました。

もちろん、他のモデルと同様に、LLaMA も偏見、有害なコメント、幻覚という課題に直面しており、Meta はこのタイプの言語モデルの欠点に対処するためにさらに研究を行う必要があります。

Meta 氏は、基本モデルとしての LLaMA は、特定のタスク用に設計された微調整されたモデルではなく、汎用性があり、さまざまなユースケースに適用できるように設計されていると述べました。 LLaMA のコードをオープンソース化することで、他の研究者はこれらの問題を制限または排除する新しい方法をより簡単に見つけることができます。 Meta はこの記事で、モデルの限界を示し、この重要な分野でのさらなる研究における研究者をサポートするために、モデルのバイアスと毒性を評価するための一連のベンチマーク評価基準も提供します。

Meta が昨年 5 月に大規模言語モデル OPT-175B も発売したことは言及する価値があります。このプロジェクトは研究者も対象としており、チャットボット ブレンダーボットの新しいバージョンの基礎となります。

その後、同社はギャラクティカと呼ばれるモデルも発売し、これで科学論文を執筆し、数学的問題を解決できると発表したが、そのデモ版は「権威ある響きの」コンテンツを繰り返し生成するため、後に棚から削除された。

IT ホームと公式リンク:

以上がMeta が 650 億のパラメータを持つ大規模言語モデルである AI 言語モデル LLaMA を発表の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

2025通貨サークルのトップ10仮想通貨アプリ交換の最新のランキング 2025通貨サークルのトップ10仮想通貨アプリ交換の最新のランキング Mar 27, 2025 pm 07:27 PM

2025年の上位10の仮想通貨取引アプリは次のとおりです。1。OKX、2。BINANCE、3。GATE.IO、4。BYBIT、5。KRAKEN、6。KUCOIN、7。BITGET、8。HTX、9。MEXC、10。コインベース。このランキングは、セキュリティ、流動性、ユーザーエクスペリエンス、機能の豊富さなどの包括的な評価に基づいています。

2025年のトップ10のデジタル仮想通貨交換アプリの概要 2025年のトップ10のデジタル仮想通貨交換アプリの概要 Mar 27, 2025 pm 07:18 PM

2025年のトップ10のデジタル仮想通貨取引アプリは次のとおりです。1。OKX、2。BINANCE、3。GATE.IO、4。BYBIT、5。KRAKEN、6。KUCOIN、7。BITGET、8。HTX、9。MEXC、10。COINBASE。このランキングは、セキュリティ、流動性、ユーザーエクスペリエンス、機能の豊富さなどの包括的な評価に基づいています。

Pi Newsを公開する交換 Pi Newsを公開する交換 Mar 28, 2025 pm 03:33 PM

PI Networkは、主流の取引所でまだ正式に取引を開始していません。 2024年の時点で、PIはまだメインネットワークを閉鎖する段階にあり、中小規模の交換の一部のみがIOUトランザクションを提供しています。役人は取引を許可していません。公式チャネルを介してマイニングし、メインネットワークが準拠した交換を開き、取引するのを待つことをお勧めします。

HECOをサポートする交換 HECOをサポートする交換 Mar 28, 2025 pm 03:36 PM

2024年の時点で、HECOチェーンまたはHECOトークンをサポートする主な交換:1。HTX(以前のHuobi Huobi)は、HecoチェーンUSDTおよびトークン取引を公式にサポートしています。 2。MDEXは、Heco Dexに基づいて、Hecoチェーントークン取引をサポートしています。 3。Gate.ioは、Hecoチェーントークンの補充と撤回をサポートしています。 4。Kucoin、一部のHecoチェーントークンは引き続き取引できます。 5。PancakeswapやUniswapなどの分散型交換は、クロスチェーン取引、HECOチェーンの低流動性とプロジェクトの移行に注意を払う必要があります。

node.js環境で403を返すサードパーティインターフェイスの問題を解決する方法は? node.js環境で403を返すサードパーティインターフェイスの問題を解決する方法は? Mar 31, 2025 pm 11:27 PM

node.js環境で403を返すサードパーティインターフェイスの問題を解決します。 node.jsを使用してサードパーティのインターフェイスを呼び出すと、403を返すインターフェイスから403のエラーが発生することがあります...

Laravelでは、検証コードが電子メールで送信できない状況に対処する方法は? Laravelでは、検証コードが電子メールで送信できない状況に対処する方法は? Mar 31, 2025 pm 11:48 PM

Laravelの電子メールの検証コードの送信の障害を処理する方法は、Laravelを使用することです...

システムの再起動後にUnixSocketの権限を自動的に設定する方法は? システムの再起動後にUnixSocketの権限を自動的に設定する方法は? Mar 31, 2025 pm 11:54 PM

システムが再起動した後、UnixSocketの権限を自動的に設定する方法。システムが再起動するたびに、UnixSocketの許可を変更するために次のコマンドを実行する必要があります:sudo ...

2025年には、Dogecoinはいくら上昇しますか 2025年には、Dogecoinはいくら上昇しますか Mar 28, 2025 pm 03:48 PM

Dogecoin(Doge)は、2025年には市場サイクルと緊急事態に応じて、2025年に0.1-1ドルの価格である場合があります。1。ブルマーケットとムスクのプッシュにより、Dogeが0.5-1ドルに上昇する可能性があります。 2。中程度の上昇と局所的なポジティブは、Dogeが0.2〜0.5ドルになる可能性があります。 3.ベアマーケットと規制当局のヒットにより、Dogeが0.05-0.1ドルに落ちる可能性があります。

See all articles