目次
高密度
電力システムの課題
デジタル ツイン
ホームページ テクノロジー周辺機器 AI 人工知能によりデータセンターは設計の再考を余儀なくされる

人工知能によりデータセンターは設計の再考を余儀なくされる

Sep 23, 2023 am 09:25 AM
AI データセンター

人工知能によりデータセンターは設計の再考を余儀なくされる

人工知能が企業内でより広く使用されるようになるにつれて、その結果の 1 つは、データセンター内のワークロードのより大きな部分を人工知能が消費するようになるということです。

人工知能は、データセンターの需要を加速させ、新たな投資動機を生み出すだけでなく、データセンターの持続可能性戦略や導入するインフラストラクチャの性質にも影響を与えるでしょう。

たとえば、Tirias Research は、現状では、生成 AI データセンター サーバー インフラストラクチャと運用コストを合わせたコストが 2028 年までに 7,600 万ドルを超えると予測しており、これは現在推定されている Amazon AWS の年間運用コストの 2 倍です。 、世界のクラウド サービス市場の 3 分の 1 を占めています。

ハードウェア コンピューティング パフォーマンスは 400% 向上すると予想され、ティリアスの処理ワークロードの推定 50 倍増加をはるかに上回る

高密度

シュナイダー エレクトリックによると、大規模なトレーニング クラスターと新しいホワイトペーパーによると、小型のエッジ推論サーバーは、より高いラック電力密度への移行も意味します。

ホワイトペーパーには次のように記載されています:「人工知能の新興企業、企業、コロケーションプロバイダー、およびインターネット大手は、データセンターの物理インフラストラクチャの設計と管理に対するこれらの密度の影響を考慮する必要があります。」

Schneiderエネルギー管理研究センターは、人工知能がエネルギー需要に与える影響を予測しています。推定によると、AI は現在 4.3GW の電力需要に相当し、2028 年までに 26% ~ 36% の CAGR で成長すると予想されています。

これにより、総需要は 13.5GW ~ 20GW に達するとのデータです。センター全体の電力需要の伸びは 3 倍に達します。 2028 年までに、AI ワークロードはデータセンターの総エネルギーの 20% を占めるようになるでしょう

Schneider 氏は、AI ワークロードはトレーニング クラスターよりも多くの電力を消費すると予想されますが、推論ワークロードはさまざまなラック密度で実行できると述べました。

「一方、AI トレーニングのワークロードは、ラックあたり 20 ~ 100 kW 以上の非常に高密度で実行されています。」

ネットワーク要件とコストが、これらのトレーニングのきっかけとなったラックが組み合わされます。これらの高電力密度クラスターは、データセンターの電力、冷却、ラック、およびソフトウェア管理設計に根本的な課題をもたらします

電力システムの課題

シュナイダー氏は、影響が考えられる 4 つの主要領域について概説しています。電力、冷却、ラックとソフトウェアの管理

電力面では、AI ワークロードが開閉装置や配電システムの電力システムに課題をもたらします。

現在使用されている一部の電圧は導入が非現実的であることが判明し、配電ブロック サイズが小さいと IT スペースが無駄になる可能性があります。ラックの温度が高くなると、故障や危険の可能性も高まります。 書き換えられた内容: 現在使用されている電圧の一部は、導入時に実用的ではないことが判明する可能性があり、配電ブロック サイズが小さいと IT スペースを無駄にする可能性があります。同時に、ラックの温度が高くなると、障害や危険の可能性も高まります。

データセンターが液体冷却に移行するにつれて、冷却が重要になり、大幅な変更が必要となる分野の 1 つである液体冷却が使用されています。半世紀以上にわたり、プロフェッショナル向けハイパフォーマンス コンピューティングの分野で活躍してきました。

シュナイダー氏は、「空冷は近い将来もまだ存在するだろうが、空冷から液冷への移行は、人工知能クラスターを備えたデータセンターにとって好ましい、あるいは必要なソリューションになると予測される」と述べた。 言い換え: シュナイダー氏によると、近い将来には空冷が依然として存在するものの、人工知能クラスターを備えたデータセンターでは空冷から液冷への移行が推奨または必要なソリューションになることが予測されています

Liquid冷却には空冷と比較して多くの利点があります。まず、液体冷却によりプロセッサーの信頼性とパフォーマンスが向上します。次に、液体冷却によりスペースが節約され、ラック密度が向上します。さらに、液体冷却中の水は熱慣性が大きいため、水の消費量を削減できます。

人工知能クラスターの場合、サーバーはより深くする必要があり、電力要件がより大きくなり、冷却はより複雑になります。

需要を満たすには、ラックの密度と耐荷重能力を高める必要があります

デジタル ツイン

最終的には、DCIM、BMS、電気設計ツールなどのソフトウェア ツールが管理人工知能クラスターの鍵

ソフトウェアの適切な構成と実装により、電力制約と冷却リソースのパフォーマンスを特定し、最適なレイアウト決定のための関連情報を提供するデータセンターのデジタルツインを実現できます

ますます動的になる環境では、エラーの許容範囲が小さくなるほど、運用リスクが高くなります。したがって、シュナイダー氏は、ラック内の機器や仮想マシンを含む IT スペース全体のデジタル ツインを作成することを推奨しています。

IT 負荷をデジタル的に追加または移動することで、それをサポートするのに十分な電力、冷却、および床の耐荷重能力があることを確認できます。これにより、リソースの滞留を回避し、ダウンタイムにつながる可能性のある人的エラーを最小限に抑えるための決定が行われます。

以上が人工知能によりデータセンターは設計の再考を余儀なくされるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Bytedance Cutting が SVIP スーパー メンバーシップを開始: 継続的な年間サブスクリプションは 499 元で、さまざまな AI 機能を提供 Jun 28, 2024 am 03:51 AM

このサイトは6月27日、JianyingはByteDanceの子会社であるFaceMeng Technologyによって開発されたビデオ編集ソフトウェアであり、Douyinプラットフォームに依存しており、基本的にプラットフォームのユーザー向けに短いビデオコンテンツを作成すると報告しました。 Windows、MacOS、その他のオペレーティング システム。 Jianyingは会員システムのアップグレードを正式に発表し、インテリジェント翻訳、インテリジェントハイライト、インテリジェントパッケージング、デジタルヒューマン合成などのさまざまなAIブラックテクノロジーを含む新しいSVIPを開始しました。価格的には、クリッピングSVIPの月額料金は79元、年会費は599元(当サイト注:月額49.9元に相当)、継続月額サブスクリプションは月額59元、継続年間サブスクリプションは、年間499元(月額41.6元に相当)です。さらに、カット担当者は、ユーザーエクスペリエンスを向上させるために、オリジナルのVIPに登録している人は、

Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Rag と Sem-Rag を使用したコンテキスト拡張 AI コーディング アシスタント Jun 10, 2024 am 11:08 AM

検索強化生成およびセマンティック メモリを AI コーディング アシスタントに組み込むことで、開発者の生産性、効率、精度を向上させます。 JanakiramMSV 著者の EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG から翻訳。基本的な AI プログラミング アシスタントは当然役に立ちますが、ソフトウェア言語とソフトウェア作成の最も一般的なパターンに関する一般的な理解に依存しているため、最も適切で正しいコードの提案を提供できないことがよくあります。これらのコーディング アシスタントによって生成されたコードは、彼らが解決する責任を負っている問題の解決には適していますが、多くの場合、個々のチームのコーディング標準、規約、スタイルには準拠していません。これにより、コードがアプリケーションに受け入れられるように修正または調整する必要がある提案が得られることがよくあります。

GenAI および LLM の技術面接に関する 7 つのクールな質問 GenAI および LLM の技術面接に関する 7 つのクールな質問 Jun 07, 2024 am 10:06 AM

AIGC について詳しくは、51CTOAI.x コミュニティ https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou を参照してください。これらの質問は、インターネット上のどこでも見られる従来の質問バンクとは異なります。既成概念にとらわれずに考える必要があります。大規模言語モデル (LLM) は、データ サイエンス、生成人工知能 (GenAI)、および人工知能の分野でますます重要になっています。これらの複雑なアルゴリズムは人間のスキルを向上させ、多くの業界で効率とイノベーションを推進し、企業が競争力を維持するための鍵となります。 LLM は、自然言語処理、テキスト生成、音声認識、推奨システムなどの分野で幅広い用途に使用できます。 LLM は大量のデータから学習することでテキストを生成できます。

微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります 微調整によって本当に LLM が新しいことを学習できるようになるのでしょうか: 新しい知識を導入すると、モデルがより多くの幻覚を生成する可能性があります Jun 11, 2024 pm 03:57 PM

大規模言語モデル (LLM) は巨大なテキスト データベースでトレーニングされ、そこで大量の現実世界の知識を取得します。この知識はパラメータに組み込まれており、必要なときに使用できます。これらのモデルの知識は、トレーニングの終了時に「具体化」されます。事前トレーニングの終了時に、モデルは実際に学習を停止します。モデルを調整または微調整して、この知識を活用し、ユーザーの質問により自然に応答する方法を学びます。ただし、モデルの知識だけでは不十分な場合があり、モデルは RAG を通じて外部コンテンツにアクセスできますが、微調整を通じてモデルを新しいドメインに適応させることが有益であると考えられます。この微調整は、ヒューマン アノテーターまたは他の LLM 作成物からの入力を使用して実行され、モデルは追加の実世界の知識に遭遇し、それを統合します。

Samsung、BM1743 データセンターグレード SSD を発表: v7 QLC V-NAND を搭載し、PCIe 5.0 をサポート Samsung、BM1743 データセンターグレード SSD を発表: v7 QLC V-NAND を搭載し、PCIe 5.0 をサポート Jun 18, 2024 pm 04:15 PM

6 月 18 日のこのサイトのニュースによると、サムスン セミコンダクターは最近、最新の QLC フラッシュ メモリ (v7) を搭載した次世代データセンター グレードのソリッド ステート ドライブ BM1743 をテクノロジー ブログで紹介しました。 ▲Samsung QLCデータセンターグレードのソリッドステートドライブBM1743 4月のTrendForceによると、QLCデータセンターグレードのソリッドステートドライブの分野で、SamsungとSK Hynixの子会社であるSolidigmだけが企業向け顧客検証に合格したという。その時。前世代の v5QLCV-NAND (このサイトの注: Samsung v6V-NAND には QLC 製品がありません) と比較して、Samsung v7QLCV-NAND フラッシュ メモリは積層数がほぼ 2 倍になり、記憶密度も大幅に向上しました。同時に、v7QLCV-NAND の滑らかさ

新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 Jul 25, 2024 am 06:42 AM

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

あなたが知らない機械学習の 5 つの流派 あなたが知らない機械学習の 5 つの流派 Jun 05, 2024 pm 08:51 PM

機械学習は人工知能の重要な分野であり、明示的にプログラムしなくてもコンピューターにデータから学習して能力を向上させる機能を提供します。機械学習は、画像認識や自然言語処理から、レコメンデーションシステムや不正行為検出に至るまで、さまざまな分野で幅広く応用されており、私たちの生活様式を変えつつあります。機械学習の分野にはさまざまな手法や理論があり、その中で最も影響力のある 5 つの手法は「機械学習の 5 つの流派」と呼ばれています。 5 つの主要な学派は、象徴学派、コネクショニスト学派、進化学派、ベイジアン学派、およびアナロジー学派です。 1. 象徴主義は、象徴主義とも呼ばれ、論理的推論と知識の表現のためのシンボルの使用を強調します。この学派は、学習は既存の既存の要素を介した逆演繹のプロセスであると信じています。

SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 Jul 17, 2024 pm 06:37 PM

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性​​を実証しています。 「S」で始まる関連研究

See all articles