Llama 3.1的工具呼叫指南

Meta的Llama 3.1：深入研究開源LLM功能

Meta繼續以開源大語模型（LLM）領導該指控。從駱駝到美洲駝2，駱駝3和現在的美洲駝（現在），駱駝一家表現出致力於彌合開源和封閉源模型之間的性能差距的承諾。 Llama 3.1，尤其是其450B參數變體，是一個顯著的飛躍，實現了與領先的封閉源模型相當的最新結果（SOTA）結果。本文探討了較小的Llama 3.1型號的功能，重點是他們令人印象深刻的工具稱呼功能。

關鍵學習目標：

• 了解Llama 3.1的進步。
• 比較駱駝3.1與駱駝3。
• 評估美洲駝3.1遵守道德準則。
• 訪問和利用美洲駝3.1。
• 用Llama 3.1對SOTA模型進行基準測試。
• 探索Llama 3.1的工具稱呼功能。
• 將工具稱呼整合到應用程序中。

（本文是數據科學博客馬拉鬆的一部分。）

目錄：

• 介紹美洲駝3.1
• Llama 3.1對駱駝3
• 性能比較：Llama 3.1和SOTA模型
• 開始使用Llama 3.1
• 使用Llama 3.1的工具稱呼
• 常見問題

介紹駱駝3.1：

Llama 3.1包括八種型號：三種基本型號（8B，70B和開創性的405B）及其相應的指令調節版本。 Meta還引入了增強的Llama Guard（用於檢測有害輸出）和及時警衛（用於識別惡意提示的基於BERT的模型）。有關駱駝3.1的更多詳細信息[此處]（如果有的話，請插入鏈接）。

駱駝3.1對駱駝3：

在建築上，Llama 3.1和Llama 3是相同的。關鍵區別在於擴展的培訓數據（15萬億代幣）和由此產生的改進。 Llama 3.1擁有更大的上下文窗口（128K令牌與Llama 3的8K）和增強的多語言功能。至關重要的是，Llama 3.1模型經過專門用於工具呼叫的培訓，促進了更複雜的應用程序的創建。許可也已更新，從而允許使用Llama 3.1輸出來改善其他LLM。

性能比較：Llama 3.1和SOTA模型：

Llama 3.1的450b參數模型超過了NVIDIA的Nemotron 4 340B指示模型，並且在各種基準測試中（MMLU，MMLU PRO）中競爭GPT-4。在某些區域（Ifeval，編碼）落後於GPT-4 Omni和Claude 3.5十四行詩時，它在數學推理（GSM8K，ARC）方面表現出色。它的競爭性編碼性能強調了開源模型的進度。

Llama 3.1入門：

需要一個擁抱的臉部帳戶（[鏈接]）。訪問封閉式存儲庫需要接受Meta的條款和條件（[鏈接]）。身份驗證需要訪問令牌（[link]）。

下載庫：

 ！

從變形金剛導入自動源，AutoModelForCausAllm

tokenizer = autotokenizer.from_pretaining（“ meta-llama/meta-llama-3.1-8b-instruct”，device_map =“ cuda”）
model = automodelforcausallm.from_pretrataining（“元素/meta-llama-3.1-8b-instruct”，load_in_4bit = true，device_map =“ cuda”）

（原始響應的其餘詳細詳細模型測試，工具呼叫和常見問題解答將在此處進行，同樣，以措辭和句子結構的變化來重寫，以實現釋義。）

結論：

Llama 3.1代表了一個巨大的進步，超越了其前身的性能和能力。它擴大的培訓數據，更大的上下文窗口和改進的多語言支持有助於其類似人類的文本生成。對道德準則的強調在其回應中顯而易見。 Llama 3.1的開源性質使開發商能夠構建創新的應用。它的工具稱呼能力，尤其是與外部工具和API的無縫集成，使其成為高度強大且功能強大的LLM。

（原始文章的關鍵要點和常見問題解答部分將同樣釋義，並在此處包括。）

（注意：圖像URL保持不變。）

以上是Llama 3.1的工具呼叫指南的詳細內容。更多資訊請關注PHP中文網其他相關文章！