Heim > Technologie-Peripheriegeräte > KI > Vier Möglichkeiten zur Optimierung Ihres Rechenzentrums für die Bewältigung von KI-Workloads

Vier Möglichkeiten zur Optimierung Ihres Rechenzentrums für die Bewältigung von KI-Workloads

PHPz
Freigeben: 2023-12-14 16:51:51
nach vorne
1218 Leute haben es durchsucht

Vier Möglichkeiten zur Optimierung Ihres Rechenzentrums für die Bewältigung von KI-Workloads

KI wird voraussichtlich Rechenzentren in vielerlei Hinsicht verändern, beispielsweise indem sie den Arbeitsmarkt für Rechenzentren verändert und die Überwachung von Rechenzentren und die Reaktion auf Vorfälle verbessert.

Der größte Einfluss, den künstliche Intelligenz jedoch auf Rechenzentren haben dürfte, besteht darin, dass sie die Funktionsweise von Rechenzentren verändert. Für Unternehmen, die die moderne Technologie der künstlichen Intelligenz in vollem Umfang nutzen möchten, müssen sich die im Rechenzentrum enthaltene Infrastruktur und die Art und Weise, wie sie verwaltet wird, ändern Die genauen Auswirkungen bleiben jedoch abzuwarten

Die besonderen Anforderungen von KI an das Rechenzentrum

Um die Auswirkungen von KI auf das Rechenzentrum zu beurteilen, müssen Sie zunächst verstehen, wie KI-Workloads im Vergleich zu anderen Arten von Workloads in den Daten abschneiden Der Unterschied zwischen

Während Arbeitslasten mit künstlicher Intelligenz (KI) in vielen Formen vorliegen und unterschiedliche Anforderungen haben, haben die meisten die folgenden einzigartigen Anforderungen:

Erfordern erhebliche Rechenressourcen, insbesondere bei der Durchführung von Modellschulungen.
  • Profitieren Sie von der Ausführung auf Bare-Metal-Hardware, insbesondere auf Servern mit Zugriff auf GPU-Ressourcen.
  • Die Ressourcenverbrauchsraten können erheblich schwanken. Während der Trainingsphase erfordern KI-Workloads viele Ressourcen, aber nach Abschluss des Trainings sinkt der Ressourcenverbrauch in den meisten Fällen deutlich, bis das Modell erneut trainiert wird.
  • Um Entscheidungen zu treffen und Ergebnisse in Echtzeit zu liefern, ist ein Netzwerk mit extrem geringer Latenz erforderlich.
  • Natürlich gibt es auch andere Arten von Arbeitsbelastungen, für die diese Anforderungen gelten können. Beispielsweise ist die Ausführung von Anwendungen und Diensten für künstliche Intelligenz nicht der einzige Anwendungsfall, der von Bare-Metal-Servern profitieren kann. Aber im Allgemeinen erfordert KI-Software mehr der oben genannten Ressourcen als andere Arten von Arbeitslasten.

Aufrüstung von Rechenzentren für KI.

Um die Einrichtungen für KI-Arbeitslasten zu optimieren, müssen viele Rechenzentrumsbetreiber Änderungen vornehmen, um den besonderen Anforderungen von KI gerecht zu werden. Hier sind die wichtigsten Upgrades für Rechenzentren in diesem Zusammenhang.

    Bare-Metal-Server neu entwerfen oder ersetzen
  1. Virtuelle Maschinen waren im letzten Jahrzehnt die Infrastrukturressource der Wahl für das Hosting von Arbeitslasten. Da jedoch die Nachfrage nach Bare-Metal-Hardware für KI-Anwendungen und -Dienste steigt, werden möglicherweise immer mehr Rechenzentrumsbetreiber erkennen, wie wichtig es ist, ihr Bare-Metal-Angebot zu erweitern.

In gewisser Weise vereinfacht dies tatsächlich den Rechenzentrumsbetrieb. Wenn Sie Workloads auf Bare-Metal ausführen, erhalten Sie am Ende einen weniger komplexen Hosting-Stack, da Sie nicht über eine Mischung aus Hypervisoren und VM-Orchestratoren verfügen.

Andererseits können zur Skalierung der Hosting-Workloads der Bare-Metal-Infrastruktur Aktualisierungen und Upgrades der Hosting-Server und Racks im Rechenzentrum erforderlich sein. Traditionell bestand die einfachste Möglichkeit zur Einrichtung von Servern im Rechenzentrum darin, leistungsstarke Bare-Metal-Maschinen bereitzustellen und diese entsprechend den Anforderungen der Arbeitslast einer beliebigen Anzahl virtueller Maschinen zuzuweisen. Wenn Workloads jedoch direkt auf Bare-Metal ausgeführt werden müssen, sind möglicherweise mehr Server erforderlich, um die Workload zu isolieren – was bedeutet, dass das Rechenzentrum Hochleistungsserver durch kleinere ersetzen und Server-Racks entsprechend aktualisieren muss

    GPU teilen- aktivierte Server
  1. Der tägliche Betrieb von KI-Anwendungen erfordert nicht unbedingt GPU-Unterstützung, obwohl die Verwendung von GPU-Servern beim Training für KI-Workloads von Vorteil sein kann. Daher benötigen viele Unternehmen nur vorübergehenden Zugriff auf eine GPU-fähige Infrastruktur.

Um den Bedarf von Unternehmen an einer gemeinsam genutzten GPU-Infrastruktur zu decken, sollten Rechenzentrumsbetreiber die Bereitstellung entsprechender Produkte in Betracht ziehen. Einige Unternehmen benötigen nur in wenigen Fällen Server mit GPU-Ausstattung, sodass Rechenzentrumsbetreiber vorübergehend Zugriff auf GPU-Ressourcen über GPU-as-a-Service bereitstellen und so Unternehmen mit KI-Workload-Anforderungen besser ansprechen können

    Erweiterte Netzwerklösungen
  1. Die meisten Rechenzentren der Enterprise-Klasse haben bereits Zugriff auf eine leistungsstarke Netzwerkinfrastruktur und bieten Verbindungsdienste, um Daten schnell an externe Einrichtungen zu übertragen. Um jedoch die Leistungsfähigkeit der künstlichen Intelligenz voll ausschöpfen zu können, müssen Netzwerkprodukte für Rechenzentren möglicherweise leistungsfähiger sein Die Übertragung großer Datenmengen ist besonders wichtig, wenn KI-Modelle auf einer verteilten Infrastruktur trainiert werden. Zweitens muss das Netzwerk eine geringe Latenz bieten, was für KI-Anwendungen und -Dienste, die eine Ausführung in Echtzeit anstreben, von entscheidender Bedeutung ist sind flexibler hinsichtlich des Umfangs der Infrastruktur, die sie unterstützen können. KI kann auch die Nachfrage nach Diensten erhöhen, die es Unternehmen ermöglichen, Server bei Bedarf in anderen Rechenzentren bereitzustellen, anstatt diese Server selbst einzurichten, da eine On-Demand-Infrastruktur eine gute Möglichkeit ist, Schwankungen im Ressourcenbedarf Rechnung zu tragen.

Zu diesem Zweck sollten Rechenzentrumsbetreiber, die für KI optimieren möchten, Produkte in Betracht ziehen, die ihre Einrichtungen flexibler machen. Die Kombination aus kurzfristigen Verträgen und Services, die mehr als nur Rack-Platz umfassen, auf dem Kunden ihre eigene Infrastruktur aufbauen können, kann für Unternehmen attraktiv sein, die KI-Workloads bereitstellen müssen.

Fazit

Die KI-Revolution ist noch im Gange und es ist noch zu früh, um genau zu wissen, wie KI die Art und Weise verändern wird, wie Rechenzentren funktionieren oder welche Art von Infrastruktur darin bereitgestellt wird. Relativ sicher ist jedoch, dass Veränderungen wie GPU-fähige Server und flexiblere Lösungen in einer KI-zentrierten Welt von entscheidender Bedeutung sein können. Betreiber von Rechenzentren, die ein Stück von diesem Kuchen haben möchten, sollten ihre Einrichtungen auf den neuesten Stand bringen, um den besonderen Anforderungen von KI-Workloads gerecht zu werden.

Das obige ist der detaillierte Inhalt vonVier Möglichkeiten zur Optimierung Ihres Rechenzentrums für die Bewältigung von KI-Workloads. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Verwandte Etiketten:
Quelle:51cto.com
Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Beliebte Tutorials
Mehr>
Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage