Inhaltsverzeichnis
Im Whitepaper heißt es: „KI-Startups, Unternehmen, Colocation-Anbieter und Internetgiganten müssen nun die Auswirkungen dieser Dichten auf die Gestaltung und Verwaltung der physischen Infrastruktur von Rechenzentren berücksichtigen.“
Heim Technologie-Peripheriegeräte KI Künstliche Intelligenz zwingt Rechenzentren dazu, Design zu überdenken

Künstliche Intelligenz zwingt Rechenzentren dazu, Design zu überdenken

Sep 23, 2023 am 09:25 AM
人工智能 数据中心

Künstliche Intelligenz zwingt Rechenzentren dazu, Design zu überdenken

Der groß angelegte Einsatz künstlicher Intelligenz in Unternehmen hat unter anderem zur Folge, dass sie einen größeren Teil der Arbeitslast in Rechenzentren beansprucht.

KI wird nicht nur die Nachfrage nach Rechenzentren beschleunigen und neue Investitionsanreize schaffen, sondern auch Auswirkungen auf Nachhaltigkeitsstrategien für Rechenzentren und die Art der bereitzustellenden Infrastruktur haben.

Zum Beispiel prognostiziert Tirias Research, dass nach derzeitigem Stand die Serverinfrastruktur für generative KI-Rechenzentren plus Betriebskosten bis 2028 76 Millionen US-Dollar übersteigen wird, was mehr als dem Doppelten der derzeit geschätzten jährlichen Betriebskosten von Amazon AWS entspricht und ein Drittel der weltweiten Kosten ausmacht Markt für Cloud-Dienste.

Es wird erwartet, dass die Hardware-Rechenleistung um 400 % steigt, was Tirias’ geschätzten 50-fachen Anstieg der Verarbeitungslasten in den Schatten stellt wird auch eine Umstellung auf eine höhere Rack-Leistungsdichte bedeuten.

Im Whitepaper heißt es: „KI-Startups, Unternehmen, Colocation-Anbieter und Internetgiganten müssen nun die Auswirkungen dieser Dichten auf die Gestaltung und Verwaltung der physischen Infrastruktur von Rechenzentren berücksichtigen.“

Schneider Energy Management Research Center über die Auswirkungen künstlicher Intelligenz Informationen zu Die Auswirkungen auf den Energiebedarf werden vorhergesagt. Schätzungen zufolge stellt KI derzeit einen Strombedarf von 4,3 GW dar und wird voraussichtlich bis 2028 mit einer jährlichen Wachstumsrate von 26 % bis 36 % wachsen. Dies wird zu einem Gesamtbedarf von 13,5 GW bis 20 GW führen, was der gesamten Rechenzentrumsleistung entspricht Nachfrage Zwei- bis dreifaches Wachstum. Bis 2028 werden KI-Workloads 20 % der gesamten Rechenzentrumsenergie ausmachen

Schneider wies darauf hin, dass sie zwar voraussichtlich mehr Strom verbrauchen als Trainingscluster, Inferenz-Workloads jedoch bei verschiedenen Rackdichten ausgeführt werden können.

„KI-Trainings-Workloads hingegen liefen in sehr hoher Dichte, mit 20–100 kW oder mehr pro Rack.“

Netzwerkanforderungen und Kosten sind der Grund dafür, dass diese Trainings-Racks zusammengefasst werden zusammen sein. Diese Cluster mit hoher Leistungsdichte stellen grundlegende Herausforderungen für das Design von Stromversorgung, Kühlung, Rack- und Softwaremanagement im Rechenzentrum dar.

Herausforderungen für das Stromversorgungssystem

Schneider skizziert vier Schlüsselbereiche, die Auswirkungen haben können: Stromversorgung, Kühlung, Rack- und Softwaremanagement

Im Energiebereich stellen KI-Arbeitslasten die Stromversorgungssysteme in Schaltanlagen und Verteilungssystemen vor Herausforderungen.

Einige derzeit verwendete Spannungen erweisen sich als unpraktisch in der Bereitstellung, während kleinere Verteilerblockgrößen möglicherweise IT-Platz verschwenden. Höhere Racktemperaturen erhöhen auch die Wahrscheinlichkeit von Ausfällen und Gefahren. Was wurde neu geschrieben: Einige der derzeit verwendeten Spannungen könnten sich bei der Bereitstellung als unpraktisch erweisen, während kleinere Stromverteilungsblockgrößen möglicherweise IT-Platz verschwenden. Gleichzeitig erhöhen höhere Rack-Temperaturen auch die Wahrscheinlichkeit von Ausfällen und Gefahren

Mit der Umstellung von Rechenzentren auf Flüssigkeitskühlung wird die Kühlung von entscheidender Bedeutung sein und einer der Bereiche sein, in denen wesentliche Änderungen erforderlich sind, da mehr als die Hälfte bereits Flüssigkeitskühlung verwendet im professionellen Hochleistungsrechnen seit Jahrhunderten.

Schneider sagte: „Obwohl es in naher Zukunft noch Luftkühlung geben wird, wird vorhergesagt, dass der Übergang von Luftkühlung zu Flüssigkeitskühlung die bevorzugte oder notwendige Lösung für Rechenzentren mit Clustern künstlicher Intelligenz sein wird.“ Umformuliert: Laut Schneider wird es in naher Zukunft zwar noch Luftkühlung geben, Prognosen deuten jedoch darauf hin, dass die Umstellung von Luftkühlung auf Flüssigkeitskühlung die bevorzugte oder notwendige Lösung für Rechenzentren mit KI-Clustern sein wird

vs. Luft. Flüssigkeitskühlung hat viele Vorteile gegenüber der Kühlung. Erstens verbessert die Flüssigkeitskühlung die Zuverlässigkeit und Leistung des Prozessors. Zweitens spart die Flüssigkeitskühlung Platz und erhöht die Rackdichte. Darüber hinaus weist das Wasser in der Flüssigkeitskühlung eine größere thermische Trägheit auf und kann den Wasserverbrauch senken

Für Cluster mit künstlicher Intelligenz müssen die Server tiefer sein, der Strombedarf ist höher und die Kühlung ist komplexer.

Um der Nachfrage gerecht zu werden, müssen Racks eine höhere Dichte und Tragfähigkeit aufweisen.

Digitale Zwillinge Dadurch kann ein digitaler Zwilling eines Rechenzentrums Energieeinschränkungen und die Leistung von Kühlressourcen identifizieren und relevante Informationen für optimale Layoutentscheidungen bereitstellen.

In einer zunehmend dynamischen Umgebung ist das Betriebsrisiko umso höher, je geringer die Fehlerquote ist. Schneider empfiehlt daher die Erstellung eines digitalen Zwillings des gesamten IT-Bereichs, einschließlich der Geräte in Racks und virtuellen Maschinen.

Durch das digitale Hinzufügen oder Verschieben von IT-Lasten können Sie überprüfen, ob ausreichend Strom, Kühlung und Bodentragfähigkeit vorhanden sind, um diese zu unterstützen. Dadurch können Entscheidungen getroffen werden, um ungenutzte Ressourcen zu vermeiden und menschliche Fehler zu minimieren, die zu Ausfallzeiten führen können

Das obige ist der detaillierte Inhalt vonKünstliche Intelligenz zwingt Rechenzentren dazu, Design zu überdenken. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Clothoff.io

Clothoff.io

KI-Kleiderentferner

AI Hentai Generator

AI Hentai Generator

Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

R.E.P.O. Energiekristalle erklärten und was sie tun (gelber Kristall)
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Beste grafische Einstellungen
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. So reparieren Sie Audio, wenn Sie niemanden hören können
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Wie man alles in Myrise freischaltet
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Bytedance Cutting führt SVIP-Supermitgliedschaft ein: 499 Yuan für ein fortlaufendes Jahresabonnement, das eine Vielzahl von KI-Funktionen bietet Bytedance Cutting führt SVIP-Supermitgliedschaft ein: 499 Yuan für ein fortlaufendes Jahresabonnement, das eine Vielzahl von KI-Funktionen bietet Jun 28, 2024 am 03:51 AM

Diese Seite berichtete am 27. Juni, dass Jianying eine von FaceMeng Technology, einer Tochtergesellschaft von ByteDance, entwickelte Videobearbeitungssoftware ist, die auf der Douyin-Plattform basiert und grundsätzlich kurze Videoinhalte für Benutzer der Plattform produziert Windows, MacOS und andere Betriebssysteme. Jianying kündigte offiziell die Aktualisierung seines Mitgliedschaftssystems an und führte ein neues SVIP ein, das eine Vielzahl von KI-Schwarztechnologien umfasst, wie z. B. intelligente Übersetzung, intelligente Hervorhebung, intelligente Verpackung, digitale menschliche Synthese usw. Preislich beträgt die monatliche Gebühr für das Clipping von SVIP 79 Yuan, die Jahresgebühr 599 Yuan (Hinweis auf dieser Website: entspricht 49,9 Yuan pro Monat), das fortlaufende Monatsabonnement beträgt 59 Yuan pro Monat und das fortlaufende Jahresabonnement beträgt 499 Yuan pro Jahr (entspricht 41,6 Yuan pro Monat). Darüber hinaus erklärte der Cut-Beamte auch, dass diejenigen, die den ursprünglichen VIP abonniert haben, das Benutzererlebnis verbessern sollen

Kontexterweiterter KI-Codierungsassistent mit Rag und Sem-Rag Kontexterweiterter KI-Codierungsassistent mit Rag und Sem-Rag Jun 10, 2024 am 11:08 AM

Verbessern Sie die Produktivität, Effizienz und Genauigkeit der Entwickler, indem Sie eine abrufgestützte Generierung und ein semantisches Gedächtnis in KI-Codierungsassistenten integrieren. Übersetzt aus EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG, Autor JanakiramMSV. Obwohl grundlegende KI-Programmierassistenten natürlich hilfreich sind, können sie oft nicht die relevantesten und korrektesten Codevorschläge liefern, da sie auf einem allgemeinen Verständnis der Softwaresprache und den gängigsten Mustern beim Schreiben von Software basieren. Der von diesen Coding-Assistenten generierte Code eignet sich zur Lösung der von ihnen zu lösenden Probleme, entspricht jedoch häufig nicht den Coding-Standards, -Konventionen und -Stilen der einzelnen Teams. Dabei entstehen häufig Vorschläge, die geändert oder verfeinert werden müssen, damit der Code in die Anwendung übernommen wird

Sieben coole technische Interviewfragen für GenAI und LLM Sieben coole technische Interviewfragen für GenAI und LLM Jun 07, 2024 am 10:06 AM

Um mehr über AIGC zu erfahren, besuchen Sie bitte: 51CTOAI.x Community https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou unterscheidet sich von der traditionellen Fragendatenbank, die überall im Internet zu sehen ist erfordert einen Blick über den Tellerrand hinaus. Large Language Models (LLMs) gewinnen in den Bereichen Datenwissenschaft, generative künstliche Intelligenz (GenAI) und künstliche Intelligenz zunehmend an Bedeutung. Diese komplexen Algorithmen verbessern die menschlichen Fähigkeiten, treiben Effizienz und Innovation in vielen Branchen voran und werden zum Schlüssel für Unternehmen, um wettbewerbsfähig zu bleiben. LLM hat ein breites Anwendungsspektrum und kann in Bereichen wie der Verarbeitung natürlicher Sprache, der Textgenerierung, der Spracherkennung und Empfehlungssystemen eingesetzt werden. Durch das Lernen aus großen Datenmengen ist LLM in der Lage, Text zu generieren

Kann LLM durch Feinabstimmung wirklich neue Dinge lernen: Die Einführung neuen Wissens kann dazu führen, dass das Modell mehr Halluzinationen hervorruft Kann LLM durch Feinabstimmung wirklich neue Dinge lernen: Die Einführung neuen Wissens kann dazu führen, dass das Modell mehr Halluzinationen hervorruft Jun 11, 2024 pm 03:57 PM

Large Language Models (LLMs) werden auf riesigen Textdatenbanken trainiert und erwerben dort große Mengen an realem Wissen. Dieses Wissen wird in ihre Parameter eingebettet und kann dann bei Bedarf genutzt werden. Das Wissen über diese Modelle wird am Ende der Ausbildung „verdinglicht“. Am Ende des Vortrainings hört das Modell tatsächlich auf zu lernen. Richten Sie das Modell aus oder verfeinern Sie es, um zu erfahren, wie Sie dieses Wissen nutzen und natürlicher auf Benutzerfragen reagieren können. Aber manchmal reicht Modellwissen nicht aus, und obwohl das Modell über RAG auf externe Inhalte zugreifen kann, wird es als vorteilhaft angesehen, das Modell durch Feinabstimmung an neue Domänen anzupassen. Diese Feinabstimmung erfolgt mithilfe von Eingaben menschlicher Annotatoren oder anderer LLM-Kreationen, wobei das Modell auf zusätzliches Wissen aus der realen Welt trifft und dieses integriert

Samsung stellt die BM1743 SSD für Rechenzentren vor: ausgestattet mit v7 QLC V-NAND und unterstützt PCIe 5.0 Samsung stellt die BM1743 SSD für Rechenzentren vor: ausgestattet mit v7 QLC V-NAND und unterstützt PCIe 5.0 Jun 18, 2024 pm 04:15 PM

Laut Nachrichten dieser Website vom 18. Juni stellte Samsung Semiconductor kürzlich in seinem Technologieblog sein Solid-State-Laufwerk BM1743 der nächsten Generation für Rechenzentren vor, das mit dem neuesten QLC-Flash-Speicher (v7) ausgestattet ist. ▲Samsung QLC Solid-State-Laufwerk für Rechenzentren BM1743 Laut TrendForce im April hatten im Bereich der QLC-Solid-State-Laufwerke für Rechenzentren nur Samsung und Solidigm, eine Tochtergesellschaft von SK Hynix, die Unternehmenskundenüberprüfung bestanden diese Zeit. Im Vergleich zum v5QLCV-NAND der vorherigen Generation (Hinweis auf dieser Website: Samsung v6V-NAND verfügt nicht über QLC-Produkte) hat der Samsung v7QLCV-NAND-Flash-Speicher die Anzahl der Stapelschichten fast verdoppelt und auch die Speicherdichte wurde erheblich verbessert. Gleichzeitig ist die Glätte von v7QLCV-NAND gewährleistet

Um ein neues wissenschaftliches und komplexes Frage-Antwort-Benchmark- und Bewertungssystem für große Modelle bereitzustellen, haben UNSW, Argonne, die University of Chicago und andere Institutionen gemeinsam das SciQAG-Framework eingeführt Um ein neues wissenschaftliches und komplexes Frage-Antwort-Benchmark- und Bewertungssystem für große Modelle bereitzustellen, haben UNSW, Argonne, die University of Chicago und andere Institutionen gemeinsam das SciQAG-Framework eingeführt Jul 25, 2024 am 06:42 AM

Herausgeber | Der Frage-Antwort-Datensatz (QA) von ScienceAI spielt eine entscheidende Rolle bei der Förderung der Forschung zur Verarbeitung natürlicher Sprache (NLP). Hochwertige QS-Datensätze können nicht nur zur Feinabstimmung von Modellen verwendet werden, sondern auch effektiv die Fähigkeiten großer Sprachmodelle (LLMs) bewerten, insbesondere die Fähigkeit, wissenschaftliche Erkenntnisse zu verstehen und zu begründen. Obwohl es derzeit viele wissenschaftliche QS-Datensätze aus den Bereichen Medizin, Chemie, Biologie und anderen Bereichen gibt, weisen diese Datensätze immer noch einige Mängel auf. Erstens ist das Datenformular relativ einfach, die meisten davon sind Multiple-Choice-Fragen. Sie sind leicht auszuwerten, schränken jedoch den Antwortauswahlbereich des Modells ein und können die Fähigkeit des Modells zur Beantwortung wissenschaftlicher Fragen nicht vollständig testen. Im Gegensatz dazu offene Fragen und Antworten

Fünf Schulen des maschinellen Lernens, die Sie nicht kennen Fünf Schulen des maschinellen Lernens, die Sie nicht kennen Jun 05, 2024 pm 08:51 PM

Maschinelles Lernen ist ein wichtiger Zweig der künstlichen Intelligenz, der Computern die Möglichkeit gibt, aus Daten zu lernen und ihre Fähigkeiten zu verbessern, ohne explizit programmiert zu werden. Maschinelles Lernen hat ein breites Anwendungsspektrum in verschiedenen Bereichen, von der Bilderkennung und der Verarbeitung natürlicher Sprache bis hin zu Empfehlungssystemen und Betrugserkennung, und es verändert unsere Lebensweise. Im Bereich des maschinellen Lernens gibt es viele verschiedene Methoden und Theorien, von denen die fünf einflussreichsten Methoden als „Fünf Schulen des maschinellen Lernens“ bezeichnet werden. Die fünf Hauptschulen sind die symbolische Schule, die konnektionistische Schule, die evolutionäre Schule, die Bayes'sche Schule und die Analogieschule. 1. Der Symbolismus, auch Symbolismus genannt, betont die Verwendung von Symbolen zum logischen Denken und zum Ausdruck von Wissen. Diese Denkrichtung glaubt, dass Lernen ein Prozess der umgekehrten Schlussfolgerung durch das Vorhandene ist

SOTA Performance, eine multimodale KI-Methode zur Vorhersage der Protein-Ligand-Affinität in Xiamen, kombiniert erstmals molekulare Oberflächeninformationen SOTA Performance, eine multimodale KI-Methode zur Vorhersage der Protein-Ligand-Affinität in Xiamen, kombiniert erstmals molekulare Oberflächeninformationen Jul 17, 2024 pm 06:37 PM

Herausgeber |. KX Im Bereich der Arzneimittelforschung und -entwicklung ist die genaue und effektive Vorhersage der Bindungsaffinität von Proteinen und Liganden für das Arzneimittelscreening und die Arzneimitteloptimierung von entscheidender Bedeutung. Aktuelle Studien berücksichtigen jedoch nicht die wichtige Rolle molekularer Oberflächeninformationen bei Protein-Ligand-Wechselwirkungen. Auf dieser Grundlage schlugen Forscher der Universität Xiamen ein neuartiges Framework zur multimodalen Merkmalsextraktion (MFE) vor, das erstmals Informationen über Proteinoberfläche, 3D-Struktur und -Sequenz kombiniert und einen Kreuzaufmerksamkeitsmechanismus verwendet, um verschiedene Modalitäten zu vergleichen Ausrichtung. Experimentelle Ergebnisse zeigen, dass diese Methode bei der Vorhersage von Protein-Ligand-Bindungsaffinitäten Spitzenleistungen erbringt. Darüber hinaus belegen Ablationsstudien die Wirksamkeit und Notwendigkeit der Proteinoberflächeninformation und der multimodalen Merkmalsausrichtung innerhalb dieses Rahmens. Verwandte Forschungen beginnen mit „S

See all articles