NeurIPS2024 エッジ デバイス大規模言語モデル チャレンジ

人工知能、特に自然言語処理 (NLP) の分野における急速な発展に伴い、大規模言語モデル (LLM) は変革の大きな可能性を示しています。これらのモデルは、私たちの仕事やコミュニケーションの方法を変え、さまざまなコンピューティング デバイスにわたる幅広いアプリケーションを示しています。しかし、LLM の巨大なモデルは、スマートフォン、IoT デバイス、車載システムなどのエッジデバイスでのアプリケーションに大きな課題をもたらします。私たちの競争は、リソースに制約のあるエッジ デバイス上での LLM のパフォーマンス、効率、およびマルチタスク機能の限界を押し上げることを目的としています。競争の背景: LLM には大きな応用可能性がありますが、その膨大なパラメーターにより、エッジ デバイスのリソースに厳しい要求が課されます。たとえば、10B パラメータの LLM モデルは、量子化処理後でも最大 20GB のメモリを必要とし、ほとんどのスマートフォンのメモリ容量はこの要件を満たすには程遠いです。さらに、LLM のエネルギー消費量が大きいことも大きな問題です。通常、スマートフォンをフル充電しても、LLM を使用して通話できるのは 2 時間未満です。主な課題: メモリ要件: LLM 推論には大量のメモリが必要ですが、ハイエンドのスマートフォンでも搭載できません。エネルギー消費の問題: LLM 推論中の高いエネルギー消費は、スマートフォンのバッテリー寿命に課題をもたらします。パフォーマンスの損失: 高い圧縮率を達成しながらモデルのパフォーマンスを維持することは、既存のテクノロジーの大きな問題です。オフライン機能の欠如: ほとんどの LLM はインターネット接続を必要とするため、ネットワークが不安定な環境ではアプリケーションが制限されます。コンテストの目標: このコンテストは、上記の課題を解決し、エッジ デバイスでの LLM の実用化を促進することを目的としています。私たちは、エッジ デバイス上での高性能 LLM の展開を可能にするシステム、ハードウェア、アルゴリズムを共同設計するために、さまざまな分野の研究者、エンジニア、業界の専門家に参加を呼びかけています。 NeurIPS エッジ デバイス LLM チャレンジに参加してください! エッジ デバイスでの LLM の機能を実証するために、さまざまな分野の専門家を心から招待し、コンテストの上位 3 名に賞金総額 300,000 を分配します。競技トラック: 圧縮チャレンジ: パフォーマンスを大幅に低下させることなく、事前トレーニングされた LLM を圧縮する方法を示します。スクラッチからのトレーニングの課題: エッジ デバイス用に設計された LLM をスクラッチからトレーニングし、トレーニング プロセスを最適化して効率的なモデルを作成します。参加理由: グランプリを獲得: 賞金総額 300,000。イノベーションの推進: LLM の最先端の研究に貢献します。ネットワークを拡大する: 分野の第一線の専門家や同僚とつながりましょう。あなたの才能をアピール: トップの AI カンファレンスで認められましょう。重要な日付: 登録開始: 2024 年 6 月 25 日 登録締め切り: 2024 年 7 月 25 日 提出期限: 2024 年 10 月 25 日 結果発表: 2024 年 11 月 20 日 オフライン ワークショップ: 2024 年 12 月 11 日はいかがですか 参加するには: 登録: Google フォーム経由で登録してください。大会公式サイト、大会公式サイト。トラックを選択する: 圧縮チャレンジ、ゼロからのトレーニング チャレンジ、またはその両方から選択します。ソリューションを提出する: 期限までにモデルを提出してください。挑戦する準備はできていますか? 今すぐ登録して、コンテストの準備を始めましょう!詳細と登録については、次のサイトをご覧ください: Discord: リンク 登録リンク: リンク エッジ デバイスでの LLM の開発を促進するために協力しましょう。幸運を祈ります。NeurIPS 2024 でお会いできるのを楽しみにしています。 ?NeurIPS Edge Device LLM チャレンジ主催者:

以上がNeurIPS2024 エッジ デバイス大規模言語モデル チャレンジの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。