Tongyi Qianwen が Qwen2-Math をオープンソース化し、最先端の数学専用モデルとなる
8月9日のニュースによると、Alibaba Tongyiチームは新世代数学モデルQwen2-Mathをオープンソース化しました。これには、基本モデルと、1.5B、7B、72Bの3つのパラメータを備えた命令微調整モデルが含まれています。 Qwen2-Math は、Tongyi Qianwen オープンソース大規模言語モデル Qwen2 に基づいて開発されており、フラッグシップ モデル Qwen2-Math-72B-Instruct は、GPT-4o、Claude-3.5-Sonnet、Gemini-1.5-Pro、Llama よりも高いスコアを獲得しています。権威ある評価セット MATH. -3.1-405B などは、代数学、幾何学、計数と確率、数論などのさまざまな数学問題を 84% の精度で処理する、最も高度な数学に特化したモデルです。
Qwen2-Math 基本モデルは、Qwen2 大規模言語モデルを使用して初期化され、慎重に設計された数学固有のコーパスで事前トレーニングされています。トレーニング データには、大規模で高品質の数学オンライン テキスト、書籍、コード、試験問題が含まれています。 、および Qwen2 モデル合成用の数学的事前トレーニング データ。すべての事前トレーニングおよび微調整データセットは汚染除去されました。
その後、研究開発チームはモデルの命令微調整バージョンをトレーニングしました。まず、数学固有の報酬モデルが Qwen2-Math-72B に基づいてトレーニングされました。次に、密な報酬信号が、次のことを示すバイナリ信号と結合されました。モデルは学習ラベルを使用して質問に正しく答え、次に拒否サンプリングを通じて教師あり微調整 (SFT) データを構築し、最後に GRPO メソッドを使用して SFT モデルに基づいてモデルを最適化します。
Qwen2-Math シリーズのモデルは現在主に英語をサポートしていると報告されており、Tongyi チームは間もなく中国語と英語のバイリンガル バージョンをリリースする予定であり、多言語バージョンも開発中です。
Tongyi チームは、GSM8K や MATH などの一般的な評価ベンチマークに加えて、複数の中国語と英語の数学ベンチマーク評価セットで指導微調整モデルのパフォーマンスを評価しました。オリンピックレベルのテスト。ベンチマーク評価 OlympiadBench、大学数学ベンチマーク評価 CollegeMath、大学入学試験 (GaoKao)、American Mathematics Invitational Competition (AIME) 2024 大会問題、American Mathematics Contest (AMC) 2023 大会問題、中国語評価には CMATH 評価セットが含まれます。 2024年中国大学入試・高校入試数学問題。最終的に、Qwen2-Math-72B-Instruct は非常に優れたパフォーマンスを発揮し、トップ 10 の評価において他のオープンソース数学モデルをはるかに上回る結果を達成しました。
「大きなモデルは数学の問題を解決できるか?」は、ソーシャル プラットフォームで話題になっているだけでなく、業界にとっても大きな関心のある研究テーマでもあります。高度な数学的問題を処理するには、複雑な複数ステップの論理的推論機能を備えたモデルが必要です。 Tongyi チームは技術ブログで、オープンソースを通じて「高度な数学的問題の解決において科学コミュニティに貢献」したいと述べ、今後もモデルの数学的機能を強化し続けると述べた。
添付ファイル: Qwen2-数学の問題解決例
以上がTongyi Qianwen が Qwen2-Math をオープンソース化し、最先端の数学専用モデルとなるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

Video Face Swap
完全無料の AI 顔交換ツールを使用して、あらゆるビデオの顔を簡単に交換できます。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック











でももしかしたら公園の老人には勝てないかもしれない?パリオリンピックの真っ最中で、卓球が注目を集めています。同時に、ロボットは卓球のプレーにも新たな進歩をもたらしました。先ほど、DeepMind は、卓球競技において人間のアマチュア選手のレベルに到達できる初の学習ロボット エージェントを提案しました。論文のアドレス: https://arxiv.org/pdf/2408.03906 DeepMind ロボットは卓球でどれくらい優れていますか?おそらく人間のアマチュアプレーヤーと同等です: フォアハンドとバックハンドの両方: 相手はさまざまなプレースタイルを使用しますが、ロボットもそれに耐えることができます: さまざまなスピンでサーブを受ける: ただし、ゲームの激しさはそれほど激しくないようです公園の老人。ロボット、卓球用

8月21日、2024年世界ロボット会議が北京で盛大に開催された。 SenseTimeのホームロボットブランド「Yuanluobot SenseRobot」は、全製品ファミリーを発表し、最近、世界初の家庭用チェスロボットとなるYuanluobot AIチェスプレイロボット - Chess Professional Edition(以下、「Yuanluobot SenseRobot」という)をリリースした。家。 Yuanluobo の 3 番目のチェス対局ロボット製品である新しい Guxiang ロボットは、AI およびエンジニアリング機械において多くの特別な技術アップグレードと革新を経て、初めて 3 次元のチェスの駒を拾う機能を実現しました。家庭用ロボットの機械的な爪を通して、チェスの対局、全員でのチェスの対局、記譜のレビューなどの人間と機械の機能を実行します。

もうすぐ学校が始まり、新学期を迎える生徒だけでなく、大型AIモデルも気を付けなければなりません。少し前、レディットはクロードが怠け者になったと不満を漏らすネチズンでいっぱいだった。 「レベルが大幅に低下し、頻繁に停止し、出力も非常に短くなりました。リリースの最初の週は、4 ページの文書全体を一度に翻訳できましたが、今では 0.5 ページの出力さえできません」 !」 https://www.reddit.com/r/ClaudeAI/comments/1by8rw8/something_just_feels_wrong_with_claude_in_the/ というタイトルの投稿で、「クロードには完全に失望しました」という内容でいっぱいだった。

北京で開催中の世界ロボット会議では、人型ロボットの展示が絶対的な注目となっているスターダストインテリジェントのブースでは、AIロボットアシスタントS1がダルシマー、武道、書道の3大パフォーマンスを披露した。文武両道を備えた 1 つの展示エリアには、多くの専門的な聴衆とメディアが集まりました。弾性ストリングのエレガントな演奏により、S1 は、スピード、強さ、正確さを備えた繊細な操作と絶対的なコントロールを発揮します。 CCTVニュースは、「書道」の背後にある模倣学習とインテリジェント制御に関する特別レポートを実施し、同社の創設者ライ・ジエ氏は、滑らかな動きの背後にあるハードウェア側が最高の力制御と最も人間らしい身体指標(速度、負荷)を追求していると説明した。など)、AI側では人の実際の動きのデータが収集され、強い状況に遭遇したときにロボットがより強くなり、急速に進化することを学習することができます。そしてアジャイル

貢献者はこの ACL カンファレンスから多くのことを学びました。 6日間のACL2024がタイのバンコクで開催されています。 ACL は、計算言語学と自然言語処理の分野におけるトップの国際会議で、国際計算言語学協会が主催し、毎年開催されます。 ACL は NLP 分野における学術的影響力において常に第一位にランクされており、CCF-A 推奨会議でもあります。今年の ACL カンファレンスは 62 回目であり、NLP 分野における 400 以上の最先端の作品が寄せられました。昨日の午後、カンファレンスは最優秀論文およびその他の賞を発表しました。今回の優秀論文賞は7件(未発表2件)、最優秀テーマ論文賞1件、優秀論文賞35件です。このカンファレンスでは、3 つの Resource Paper Award (ResourceAward) と Social Impact Award (

ビジョンとロボット学習の緊密な統合。最近話題の1X人型ロボットNEOと合わせて、2つのロボットハンドがスムーズに連携して服をたたむ、お茶を入れる、靴を詰めるといった動作をしていると、いよいよロボットの時代が到来するのではないかと感じられるかもしれません。実際、これらの滑らかな動きは、高度なロボット技術 + 精緻なフレーム設計 + マルチモーダル大型モデルの成果です。有用なロボットは多くの場合、環境との複雑かつ絶妙な相互作用を必要とし、環境は空間領域および時間領域の制約として表現できることがわかっています。たとえば、ロボットにお茶を注いでもらいたい場合、ロボットはまずティーポットのハンドルを掴んで、お茶をこぼさないように垂直に保ち、次にポットの口がカップの口と揃うまでスムーズに動かす必要があります。 、そしてティーポットを一定の角度に傾けます。これ

会議の紹介 科学技術の急速な発展に伴い、人工知能は社会の進歩を促進する重要な力となっています。この時代に、分散型人工知能 (DAI) の革新と応用を目撃し、参加できることは幸運です。分散型人工知能は人工知能分野の重要な分野であり、近年ますます注目を集めています。大規模言語モデル (LLM) に基づくエージェントは、大規模モデルの強力な言語理解機能と生成機能を組み合わせることで、自然言語対話、知識推論、タスク計画などにおいて大きな可能性を示しました。 AIAgent は大きな言語モデルを引き継ぎ、現在の AI 界隈で話題になっています。アウ

今日の午後、Hongmeng Zhixingは新しいブランドと新車を正式に歓迎しました。 8月6日、ファーウェイはHongmeng Smart Xingxing S9およびファーウェイのフルシナリオ新製品発表カンファレンスを開催し、パノラマスマートフラッグシップセダンXiangjie S9、新しいM7ProおよびHuawei novaFlip、MatePad Pro 12.2インチ、新しいMatePad Air、Huawei Bisheng Withを発表しました。レーザー プリンタ X1 シリーズ、FreeBuds6i、WATCHFIT3、スマート スクリーン S5Pro など、スマート トラベル、スマート オフィスからスマート ウェアに至るまで、多くの新しいオールシナリオ スマート製品を開発し、ファーウェイは消費者にスマートな体験を提供するフル シナリオのスマート エコシステムを構築し続けています。すべてのインターネット。宏孟志興氏:スマートカー業界のアップグレードを促進するための徹底的な権限付与 ファーウェイは中国の自動車業界パートナーと提携して、
