AI は異常気象を 5,000 倍の速さで予測します。マイクロソフト、AI の目で世界規模の嵐を予測する「Aurora」を発表
人類の歴史が始まって以来、私たちはさまざまな方法で天気を予測し、「空の言語」を解読することに夢中になってきましたが、それは単に植物や雲が天気に関係しているだけではないことを徐々に発見しました。それは人間が生産する必要があるからであり、強風に向かって歌い、月明かりの下で詩を暗唱する必要もあります。
「氷と炎の歌」のストームシンガーは、歌や詠唱を通して天気や嵐を予測し、人々はまた、「天気を変える」という超能力を持っていると空想します。
最近、気象の専門家や天気予報によって、私たちは身体経験や物理世界から逃れることができなくなりましたが、今ではAIが状況を変えました。
細かく調整されたコンテンツ: マイクロソフトは、データから学習して予測を行うことができ、驚くべき精度と効率性を示す初の大規模大気基本モデルである Aurora をリリースしました。
変化は 1 つの企業によってもたらされるだけでなく、グローバルにもたらされます。
世界トップの数値天気予報機関である欧州中期天気予報センターは、非常に豊富なデータセットを維持し、AI 天気予報に強力なデータサポートを提供しています。このデータセットには、ヨーロッパおよびその周辺国・地域の大気、海洋、陸地などの多次元データ情報が含まれています。これらのデータは注意深く観察され、分析され、
を形成するためにモデル化されています。将来的には、コンピューターは物理学を必要とせずに地球規模の「変化」を捉えることができるようになるかもしれません。
その影響はそれを超えています。AI を使用して地球の天気を予測できるとしたら、地球の「モデル化」ははるかに遅れているのでしょうか?
マイクロソフト、初の大規模大気基本モデルをリリース
異常気象は世界中で頻繁に発生しており、突然の嵐に直面すると人間は特に小さく見えます。
人々は常に異常気象を心配しており、現在の天気予報モデルの限界を明らかにし、気候変動に直面してより正確な予報の必要性を強調しています。
差し迫った疑問が生じます。どうすればこのような異常気象をより適切に予測し、それに備えることができるでしょうか?
チャールトン・ペレスらによる最近の研究は、嵐の急速な激化と最大風速を捉える際に、最先端の人工知能気象予測モデルですら直面する課題を浮き彫りにしています。
これらの課題に対処するために、マイクロソフトの研究チームは、大量の大気データから貴重な洞察を抽出できる最先端の人工知能ベースのモデルである Aurora (「オーロラ」を意味します) を開発しました。
写真
論文アドレス: https://www.microsoft.com/en-us/research/publication/aurora-a-foundation-model-of-the-atmosphere/
Aurora極端な現象の影響を予測して軽減する能力を変える可能性のある、気象予測への新しいアプローチを提供します。
柔軟な 3D 大気ベースモデル
写真
事前トレーニング時に、Aurora は、解像度、変数、圧力レベルが異なる複数の異種データセットでパフォーマンスを最大化するように最適化され、損失を最小限に抑えます。モデルは 2 つの段階で微調整されます: (1) 短期間での事前トレーニングされた重みの微調整、(2) 低ランク適応性 (LoRA) を使用した長いリードタイム (ロールアウト) の微調整。微調整されたモデルは、さまざまな解像度でさまざまな運用予測状況を処理するために使用されます
パラメータのサイズはわずか 1.3B ですが、Aurora は 100 万時間以上のさまざまな天気と気候のシミュレーションでトレーニングされており、これにより、大気力学の包括的な理解。
したがって、このモデルは、データが不足している地域や極端な気象条件でも、さまざまな予測タスクを優れた方法で実行できます。
Aurora は、0.1° (赤道で約 11 キロメートル) の高い空間解像度で動作することにより、大気プロセスの複雑な詳細を捕捉し、わずか 1 回の計算コストで、これまでよりも正確な運用予測を提供することができます。伝統的な価値観 天気予報システムのほんの一部。
研究者の試算によれば、Aurora の計算速度は、数値予報システムの世界における SOTA である統合予報システム (IFS) と比較して約 5,000 倍高速化されています。
Aurora は、その驚くべき精度と効率に加えて、その多用途性でも際立っています。
このモデルは、気温や風速から大気汚染レベルや温室効果ガス濃度に至るまで、広範囲の大気変数を予測できます。
Aurora は、異種のゴールドスタンダード入力を処理し、さまざまな解像度と忠実度レベルで予測を生成するように設計されています。
このモデルは、柔軟な 3D Swin Transformer と Perceiver ベースのエンコーダーおよびデコーダーで構成されており、空間および圧力レベルにわたるさまざまな大気変数を処理および予測できます。
大量の多様なデータでの事前トレーニングと特定のタスクの微調整を通じて、Aurora は大気中の複雑なパターンと構造を捕捉する方法を学習し、微調整された場合に限られたトレーニング データでも良好なパフォーマンスを発揮できるようにします。特定のタスク。
大気化学と大気汚染を素早く予測
写真
Aurora は、多くの目的で実行中の CAMS を上回ります: (a) Aurora は 2 つの窒素酸化物カラムの合計サンプルを予測します。重み付けされたCAMSに対するオーロラの二乗平均平方根誤差(RMSE)、負の値(青)はオーロラの方が優れていることを意味します
大気化学、気象パターン、人間活動の違いによるコペルニクスの複雑な相互作用、および高い不均一性大気監視サービス (CAMS) データを使用すると、これが非常に困難な作業になることで知られています。
Aurora は、柔軟なエンコーダー/デコーダー アーキテクチャとアテンション メカニズムを活用して、これらの困難なデータを効率的に処理して学習し、大気汚染物質の固有の特性と気象変数との関係を捉えます。
これにより、Aurora は 0.4° の空間解像度で正確な 5 日間の地球規模の大気汚染予測を生成でき、すべてのターゲットの 74% で最先端の大気化学シミュレーションを上回るパフォーマンスを示し、さまざまな環境を解決できる能力を実証しています。優れた適応性と、データがまばらな場合や非常に複雑な場合でも問題を予測できる可能性があります。
データの多様性とモデルのスケーリングにより大気予報が改善
この研究では、異なるデータセットでの事前トレーニングにより、単一のデータセットでのトレーニングと比較して Aurora のパフォーマンスが大幅に向上することもわかりました。
気候シミュレーション、再解析製品、運用予測からのデータを統合することにより、Aurora は大気力学のより強力で多彩な表現を学習できます。
そのサイズと多様な事前トレーニング データセットがあるからこそ、Aurora はさまざまなタスクや解像度にわたって最先端の数値気象予測モデルや特殊な深層学習手法を上回るパフォーマンスを発揮できます。
Pictures
Pictures
Pictures
異なるデータでの事前トレーニングとモデルのスケールアップによりパフォーマンスが向上し、モデルサイズが 2 倍になるごとにトレーニング損失が 5 % 削減されます
Aurora のスケールは、アーキテクチャ設計とトレーニング データ コーパス、および事前トレーニングと微調整プロトコルの両方の点で、最高のプロフェッショナルな深層学習モデルよりも優れたパフォーマンスを直接もたらします。
複数のデータセットで事前トレーニングされた大規模モデルを微調整する利点をさらに検証するために、Microsoft チームは Aurora と GraphCast を比較しました。GraphCast は ERA5 でのみ事前トレーニングされており、現在 0.25 度の解像度を持つと考えられています。予測時間が最大 5 日の最も熟練した人工知能モデル。
さらに、研究者らは、IFS HRES (数値天気予報のゴールドスタンダード) も比較に含めました。
結果は、分析、気象観測所の観測値、および極値を比較した場合、Aurora が GraphCast と IFS HRES の両方よりも優れていることを示しています。
画像
画像
画像
Auroraは、ほとんどのターゲットでGraphCastを上回ります
地球システムモデリング
オーロラの影響は遠くまで及ぶ大気の予測を超えています。
この研究は、地球科学における基礎モデルの力を実証することにより、地球システム全体を網羅する包括的なモデルの開発への道を開きます。
データが不足している下流のタスクで優れた基盤となるモデルの機能により、発展途上国や極地などのデータが不足している地域での正確な天気と気候情報へのアクセスが民主化されます。
これは農業、輸送、エネルギーハーベスティング、災害対策などの分野に大きな影響を与え、地域社会が気候変動によってもたらされる課題によりよく適応できるようになります。
物理学は必要ありませんか? AI 天気予報の大きな進歩
変化は竜巻のように急速に到来しており、天気予報コミュニティは大きな変化を経験しています。
最終的な目標は革新的です。新しい AI ベースの方法を使用して、デスクトップ コンピューターで天気予報を実行できるようになります。
過去 18 か月間で、天気予報は最も有望な AI アプリケーションの 1 つとなり、最近の開発は気象コミュニティに大きな反響を引き起こしました。
これは、秘密兵器である信じられないほど豊富なデータセットのおかげです。
世界有数の数値天気予報機関である欧州中期天気予報センター (ECMWF) は、世界中で毎日数時間ごとに記録された、大気、陸地、海洋の天気に関する一連のデータセットを維持しています。データは 1940 年に遡ります。
写真
過去 50 年間のデータ、特に全地球規模の衛星カバー後のデータが特に豊富です。このデータセットはERA5と呼ばれ、一般に公開されています。
ERA5は人工知能アプリケーション専用に作成されたものではありませんが、ERA5は人工知能気象アプリケーションの開発において大きな役割を果たしてきました。
コンピューター科学者がこのデータを本格的に使用して人工知能モデルをトレーニングし、天気を予測することに本格的に着手するのは 2022 年になるでしょう。
それ以来、テクノロジーは飛躍的に成長しました。場合によっては、モデルの出力は、科学者が数十年をかけて設計、構築し、実行するには世界で最も強力なスーパーコンピューターの一部を必要とする地球規模の気象モデルよりもすでに優れています。
欧州気象センターECMWFの人工知能予測業務責任者であるマシュー・チャントリー氏はインタビューで、「機械学習が将来の天気予報の重要な部分であることは明らかです
ECMWFは人材を募集しています」と述べた。機械学習の地球システム シミュレーションに基づいて開発される才能
AI 天気予報の起源
ニューラル ネットワークに基づく深層学習技術を使用した天気予報に関する初期の学術研究は、約 6 年前に始まりました。
当初、コンピューター科学者たちは、このアプローチが何十年にもわたって開発されてきた天気予報の科学とは大きく異なっていたため、うまくいくかどうかについてあまり楽観的ではありませんでした。
今は 2022 年であり、人々はついに AI モデルに対する疑念を手放しました。
まず、物理学者でデータサイエンティストの Ryan Keisler が、「グラフ ニューラル ネットワーク」を使用した予備的な結果をいくつか示しました。
写真
論文アドレス: https://arxiv.org/abs/2202.07575
その後、中国の科学者によって提案された「盤古天気」モデルがそのままNatureに掲載されました。
結果は、場合によっては、今日の最強の物理ベースのモデルである ECMWF をも上回ることを示しています。
写真
論文アドレス: https://www.nature.com/articles/s41586-023-06185-3
これは、深層学習技術と気象モデリングを使用する科学者のコミュニティにあります。それは衝撃を与えた。
ヨーロッパの科学者が他の深層学習モデルの研究結果に基づいて運用モデルを作成し始めるまでに時間はかかりませんでした。
昨年末までに、新しい人工知能統合予測システム (AIFS) は「非常に有望な」結果を生み出しました。この春、ヨーロッパの予報担当者はリアルタイムの予報を発表し始めました。
現在でも物理ベースの気象モデルは不可欠です。これらは、主要なイベントについて 5 日間、7 日間、場合によっては 10 日間の天気予報を作成する能力を大幅に向上させる非常に強力なツールであり、世界中の予報官から信頼されています。
しかし、未来はどのようなものになるでしょうか?おそらく10年後には気象分野のすべてをAIが担当するようになるでしょう。
参考文献:
以上がAI は異常気象を 5,000 倍の速さで予測します。マイクロソフト、AI の目で世界規模の嵐を予測する「Aurora」を発表の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

Video Face Swap
完全無料の AI 顔交換ツールを使用して、あらゆるビデオの顔を簡単に交換できます。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック











従来のコンピューティングを超える能力を備えているだけでなく、より低コストでより効率的なパフォーマンスを実現する人工知能モデルを想像してみてください。これは SF ではありません。世界で最も強力なオープンソース MoE モデルである DeepSeek-V2[1] が登場しました。 DeepSeek-V2 は、経済的なトレーニングと効率的な推論の特徴を備えた強力な専門家混合 (MoE) 言語モデルです。これは 236B のパラメータで構成されており、そのうち 21B は各マーカーをアクティブにするために使用されます。 DeepSeek67B と比較して、DeepSeek-V2 はパフォーマンスが優れていると同時に、トレーニング コストを 42.5% 節約し、KV キャッシュを 93.3% 削減し、最大生成スループットを 5.76 倍に高めます。 DeepSeek は一般的な人工知能を研究する会社です

今月初め、MIT やその他の機関の研究者らは、MLP に代わる非常に有望な代替案である KAN を提案しました。 KAN は、精度と解釈可能性の点で MLP よりも優れています。また、非常に少数のパラメーターを使用して、多数のパラメーターを使用して実行する MLP よりも優れたパフォーマンスを発揮できます。たとえば、著者らは、KAN を使用して、より小規模なネットワークと高度な自動化で DeepMind の結果を再現したと述べています。具体的には、DeepMind の MLP には約 300,000 個のパラメーターがありますが、KAN には約 200 個のパラメーターしかありません。 KAN は、MLP が普遍近似定理に基づいているのに対し、KAN はコルモゴロフ-アーノルド表現定理に基づいているのと同様に、強力な数学的基礎を持っています。以下の図に示すように、KAN は

テスラのロボット「オプティマス」の最新映像が公開され、すでに工場内で稼働可能となっている。通常の速度では、バッテリー(テスラの4680バッテリー)を次のように分類します:公式は、20倍の速度でどのように見えるかも公開しました - 小さな「ワークステーション」上で、ピッキング、ピッキング、ピッキング:今回は、それがリリースされたハイライトの1つビデオの内容は、オプティマスが工場内でこの作業を完全に自律的に行い、プロセス全体を通じて人間の介入なしに完了するというものです。そして、オプティマスの観点から見ると、自動エラー修正に重点を置いて、曲がったバッテリーを拾い上げたり配置したりすることもできます。オプティマスのハンドについては、NVIDIA の科学者ジム ファン氏が高く評価しました。オプティマスのハンドは、世界の 5 本指ロボットの 1 つです。最も器用。その手は触覚だけではありません

8 月 14 日のこのサイトのニュースによると、今日の 8 月のパッチ火曜日イベント日に、Microsoft は 22H2 および 23H2 用の KB5041585 更新プログラム、および 21H2 用の KB5041592 更新プログラムを含む、Windows 11 システム用の累積的な更新プログラムをリリースしました。 8 月の累積更新プログラムで上記の機器がインストールされた後、このサイトに添付されるバージョン番号の変更は次のとおりです。 21H2 機器のインストール後、機器のインストール後、バージョン番号は Build22000.314722H2 に増加しました。バージョン番号は Build22621.403723H2 に増加しました。 装置のインストール後、バージョン番号は Build22631.4037 に増加しました。 Windows 1121H2 の更新プログラムの主な内容は次のとおりです。 改善: 改善されました。

大規模言語モデル (LLM) を人間の価値観や意図に合わせるには、人間のフィードバックを学習して、それが有用で、正直で、無害であることを確認することが重要です。 LLM を調整するという点では、ヒューマン フィードバックに基づく強化学習 (RLHF) が効果的な方法です。 RLHF 法の結果は優れていますが、最適化にはいくつかの課題があります。これには、報酬モデルをトレーニングし、その報酬を最大化するためにポリシー モデルを最適化することが含まれます。最近、一部の研究者はより単純なオフライン アルゴリズムを研究しており、その 1 つが直接優先最適化 (DPO) です。 DPO は、RLHF の報酬関数をパラメータ化することで、選好データに基づいてポリシー モデルを直接学習するため、明示的な報酬モデルの必要性がなくなります。この方法は簡単で安定しています

6 月 3 日のニュースによると、Microsoft はすべての Windows 10 ユーザーに全画面通知を積極的に送信し、Windows 11 オペレーティング システムへのアップグレードを奨励しています。この移行には、ハードウェア構成が新しいシステムをサポートしていないデバイスが含まれます。 2015 年以来、Windows 10 は市場シェアの 70% 近くを占め、Windows オペレーティング システムとしての優位性を確固たるものにしました。しかし、そのシェアは82%を大きく上回り、2021年に発売されるWindows 11のシェアを大きく上回っている。 Windows 11 は発売から 3 年近く経ちますが、市場への浸透はまだ遅いです。 Microsoft は、Windows 10 の技術サポートを 2025 年 10 月 14 日以降に終了すると発表しました。

ソフトウェア テクノロジの最前線に立つ UIUC Zhang Lingming のグループは、BigCode 組織の研究者とともに、最近 StarCoder2-15B-Instruct 大規模コード モデルを発表しました。この革新的な成果により、コード生成タスクにおいて大きな進歩が達成され、CodeLlama-70B-Instruct を上回り、コード生成パフォーマンス リストのトップに到達しました。 StarCoder2-15B-Instruct のユニークな特徴は、その純粋な自己調整戦略であり、トレーニング プロセス全体がオープンで透過的で、完全に自律的で制御可能です。このモデルは、高価な手動アノテーションに頼ることなく、StarCoder-15B 基本モデルの微調整に応じて、StarCoder2-15B を介して数千の命令を生成します。

上記と著者の個人的な理解: この論文は、自動運転アプリケーションにおける現在のマルチモーダル大規模言語モデル (MLLM) の主要な課題、つまり MLLM を 2D 理解から 3D 空間に拡張する問題の解決に特化しています。自動運転車 (AV) は 3D 環境について正確な決定を下す必要があるため、この拡張は特に重要です。 3D 空間の理解は、情報に基づいて意思決定を行い、将来の状態を予測し、環境と安全に対話する車両の能力に直接影響を与えるため、AV にとって重要です。現在のマルチモーダル大規模言語モデル (LLaVA-1.5 など) は、ビジュアル エンコーダーの解像度制限や LLM シーケンス長の制限により、低解像度の画像入力しか処理できないことがよくあります。ただし、自動運転アプリケーションには次の要件が必要です。
