목차
데이터 센터는 점점 더 "핫"해지고 있습니다.
냉각 기술은 점점 더 중요해지고 있습니다.
액체 냉각의 장점과 단점
지금 알아야 할 사항
기술 주변기기 일체 포함 데이터 센터의 미래: 인공 지능과 액체 냉각의 융합

데이터 센터의 미래: 인공 지능과 액체 냉각의 융합

Sep 20, 2023 pm 12:21 PM
일체 포함 데이터 센터

데이터 센터의 미래: 인공 지능과 액체 냉각의 융합

생성 인공 지능(AI)의 급속한 증가는 기업이 AI를 채택하는 놀라운 속도를 강조합니다. 최근 Accenture 보고서에 따르면 비즈니스 리더의 98%는 인공 지능이 향후 3~5년 동안 자사 전략에서 중요한 역할을 할 것이라고 말합니다. McKinsey 분석가들은 기업의 약 65%가 향후 3년 동안 인공 지능에 대한 투자를 늘릴 계획이라고 밝혔습니다.

NVIDIA, AMD 및 Intel이 생성 인공 지능 및 고성능 컴퓨팅(HPC)을 위해 설계된 새로운 칩을 출시할 예정입니다. 이제 막 시작되었습니다. 퍼블릭 클라우드 제공업체와 신흥 칩 기업도 경쟁하고 있습니다. IDC 분석가들은 AI 소프트웨어, 하드웨어 및 서비스에 대한 전 세계 지출이 3,000억 달러에 도달하여 올해 예상되는 1,540억 달러를 넘어설 것으로 예측합니다.

그러나 AI 확장에는 여전히 과제가 남아 있으며, 그중에서도 이러한 워크로드를 지원하는 것과 관련된 과제가 남아 있습니다. 필수 데이터 센터 인프라 과제 .

데이터 센터는 점점 더 "핫"해지고 있습니다.

GPU는 인공 지능 애플리케이션의 컴퓨팅 프로세스를 가속화할 수 있는 인공 지능 및 기계 학습에서 가장 일반적인 칩입니다. 예를 들어 NVIDIA의 H100 GPU에는 800억 개의 트랜지스터가 있으므로 많은 열이 발생하고 효율적인 냉각이 필요합니다.

전통적으로 단일 데이터 센터 랙에서 10kW에 달하는 구성은 고밀도로 간주되지만 여전히 공기 냉각이 효과적인 방법입니다. 이 서버를 식히십시오. Uptime Institute는 30kW를 초과하는 랙을 갖춘 데이터 센터가 거의 없다는 사실을 발견했지만 극도의 밀도가 나타나고 있습니다. 고성능 컴퓨팅의 상품화와 생성 인공 지능의 부상으로 인해 전력 수요가 증가하고 기존 공기 냉각 방식이 과중해지고 있습니다.

예를 들어 NVIDIA의 최신 GPU의 최대 전력 소비는 이전 세대 칩보다 160% 더 높습니다. 랙 구성은 40kW 범위를 쉽게 초과할 수 있으며 이는 기존 공기 냉각 방법으로는 관리하기 어렵습니다. 오늘날의 데이터 센터는 이러한 증가된 열 부하를 효과적으로 관리하기 위해 지속적으로 발전해야 합니다.

냉각 기술은 점점 더 중요해지고 있습니다.

다행스럽게도 우리는 점점 인기를 얻고 있는 백도어 열 스위칭 및 직접 칩 기술을 포함하여 이러한 과제를 해결할 수 있는 다양한 액체 냉각 기술을 보유하고 있습니다. 액체 냉각제가 채워진 용기에 IT 구성 요소를 담그는 것과 관련된 다양한 유형의 새로운 침수 냉각 기술도 있습니다.

침수 냉각은 아직 초기 채택 단계이지만 분석가들은 이 기술이 이 분야에서 주류가 될 것이라고 예측합니다. 시장 규모는 2021년 2억5100만 달러에서 2027년 16억 달러 이상으로 성장할 전망이다. 이는 데이터 센터 인프라 요구 사항에 큰 영향을 미칠 것이며, 비즈니스 리더는 데이터 센터 운영자가 이러한 변화를 지원하기 위해 단기적으로 필요한 투자를 할 의향이 있는지 알아야 합니다.

액체 냉각의 장점과 단점

액체는 공기보다 열 전도체로서 1,000배 더 효율적이며 인프라가 덜 필요합니다. 공기 냉각 시스템에는 쿨러, 공기 펌프, 케이블, 습도 제어 및 여과 시스템을 포함한 복잡한 냉동 장비와 정전 시 서버가 냉각을 잃지 않도록 하는 중복 백업 시스템이 필요합니다

반면, 액체 냉각 시스템은 상대적으로 단순하지만 현재 데이터 센터 인프라에 이를 구현하는 것은 초기 투자와 복잡성을 포함하여 상당한 과제를 안고 있을 수 있습니다. 액체 냉각 시스템 설정은 복잡할 수 있으며 전문적인 유지 관리가 필요할 수 있습니다. 또한 서버 설계를 조정해야 할 수 있으며 침수 방식을 채택하면 OEM 보증이 무효화될 수 있으며 냉각 시스템 누출로 인해 장비가 손상되고 가동 중지 시간이 발생할 수 있습니다. 데이터 센터 운영자는 액체 냉각 시스템 사용과 관련된 새로운 규정 및 환경 표준도 고려해야 합니다.

즉, 액체 또는 침수 냉각 시스템에는 많은 백업이나 특별한 바닥 또는 통로 밀봉 전략이 필요하지 않습니다. 에너지 소비와 비용에 대한 전반적인 영향은 상당할 수 있습니다. 최근 연구 결과에 따르면 액체 냉각을 구현하면 시설 전력을 거의 20%까지 줄이고 전체 데이터 센터 전력을 10% 이상 줄일 수 있는 것으로 나타났습니다. 고성능 컴퓨팅 환경에서 액체 냉각과 공기 냉각의 효율성을 비교하기 위해 고안된 새로운 지표인 TUE(Total Usage Effectiveness)는 액체 냉각이 에너지 효율성을 15% 이상 향상시키는 것으로 나타났습니다.

액체 냉각으로 전환하면 지속 가능한 다른 이점도 있습니다. 액체 냉각 시스템은 공기 냉각 시스템보다 물이 덜 필요합니다. 데이터 센터를 개조하면 새로운 사고 방식을 사용하여 물리적 및 탄소 배출량을 줄일 수 있습니다. 열 재사용 전략은 주변 기업과 지역 사회에 에너지를 제공할 수 있습니다. 가능성은 흥미롭고 생성 AI만큼 혁신적일 수 있습니다.

지금 알아야 할 사항

온프레미스 데이터 센터로 전환하는 것은 대부분의 기업에 너무 복잡하고 비용이 많이 들 수 있습니다. 반면, 오늘날 퍼블릭 클라우드 인프라의 대부분은 대규모 AI 애플리케이션을 실행하도록 구축되지 않았으며, 클라우드에서 대용량 워크로드를 호스팅하는 데 드는 비용 증가로 인해 많은 조직이 다른 옵션을 찾게 되었습니다

이러한 과제와 기회를 고려할 때, 수많은 고객 사용 사례를 처리한 인프라 경험을 갖춘 코로케이션 데이터 센터 제공업체는 많은 기업에 최고의 솔루션을 제공할 수 있습니다. 이 분야의 리더는 조직의 혁신 과정을 안내하는 전문 지식과 지원을 제공할 수 있습니다. 또한 우리는 데이터 센터 성장을 주도할 다수의 하드웨어 OEM 및 액체 냉각 공급업체와 핵심 관계를 발전시켜 고객의 고유한 요구 사항을 충족할 수 있는 다양한 옵션을 제공하고 있습니다.

이제 조직은 데이터 센터 운영자가 이미 계획을 세우고 있는지, 그리고 더 중요한 것은 차세대 데이터 센터 개발을 지원하는 데 필요한 물리적 용량이나 기술을 보유하고 있는지 알아야 합니다. 데이터 센터는 이미 요구 사항에 맞는 최상의 서버로 워크로드를 이동해야 하는 복잡한 과제에 직면해 있습니다. 인공 지능 및 고성능 컴퓨팅 워크로드에 대한 요구가 계속 증가함에 따라 근본적으로 다른 냉각 시스템을 추가해야 하는 추가적인 과제로 인해 이러한 장애물이 더욱 가중될 것입니다.

현재 이러한 전략에 투자하고 있는 데이터 센터 운영자는 고객이 이러한 과제를 적극적으로 해결하도록 도울 수 있는 좋은 위치에 있을 것입니다. 인공지능은 데이터센터를 포함한 모든 것을 변화시키고 있습니다. 이제 이 대화를 시작할 시간입니다

위 내용은 데이터 센터의 미래: 인공 지능과 액체 냉각의 융합의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.

핫 AI 도구

Undresser.AI Undress

Undresser.AI Undress

사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover

AI Clothes Remover

사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool

Undress AI Tool

무료로 이미지를 벗다

Clothoff.io

Clothoff.io

AI 옷 제거제

AI Hentai Generator

AI Hentai Generator

AI Hentai를 무료로 생성하십시오.

인기 기사

R.E.P.O. 에너지 결정과 그들이하는 일 (노란색 크리스탈)
3 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 최고의 그래픽 설정
3 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 아무도들을 수없는 경우 오디오를 수정하는 방법
3 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25 : Myrise에서 모든 것을 잠금 해제하는 방법
4 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌

뜨거운 도구

메모장++7.3.1

메모장++7.3.1

사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전

SublimeText3 중국어 버전

중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기

스튜디오 13.0.1 보내기

강력한 PHP 통합 개발 환경

드림위버 CS6

드림위버 CS6

시각적 웹 개발 도구

SublimeText3 Mac 버전

SublimeText3 Mac 버전

신 수준의 코드 편집 소프트웨어(SublimeText3)

Bytedance Cutting, SVIP 슈퍼 멤버십 출시: 연간 연속 구독료 499위안, 다양한 AI 기능 제공 Bytedance Cutting, SVIP 슈퍼 멤버십 출시: 연간 연속 구독료 499위안, 다양한 AI 기능 제공 Jun 28, 2024 am 03:51 AM

이 사이트는 6월 27일에 Jianying이 ByteDance의 자회사인 FaceMeng Technology에서 개발한 비디오 편집 소프트웨어라고 보도했습니다. 이 소프트웨어는 Douyin 플랫폼을 기반으로 하며 기본적으로 플랫폼 사용자를 위한 짧은 비디오 콘텐츠를 제작합니다. Windows, MacOS 및 기타 운영 체제. Jianying은 멤버십 시스템 업그레이드를 공식 발표하고 지능형 번역, 지능형 하이라이트, 지능형 패키징, 디지털 인간 합성 등 다양한 AI 블랙 기술을 포함하는 새로운 SVIP를 출시했습니다. 가격면에서 SVIP 클리핑 월 요금은 79위안, 연간 요금은 599위안(본 사이트 참고: 월 49.9위안에 해당), 월간 연속 구독료는 월 59위안, 연간 연속 구독료는 59위안입니다. 연간 499위안(월 41.6위안)입니다. 또한, 컷 관계자는 "사용자 경험 향상을 위해 기존 VIP에 가입하신 분들도

Rag 및 Sem-Rag를 사용한 상황 증강 AI 코딩 도우미 Rag 및 Sem-Rag를 사용한 상황 증강 AI 코딩 도우미 Jun 10, 2024 am 11:08 AM

검색 강화 생성 및 의미론적 메모리를 AI 코딩 도우미에 통합하여 개발자 생산성, 효율성 및 정확성을 향상시킵니다. EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG에서 번역됨, 저자 JanakiramMSV. 기본 AI 프로그래밍 도우미는 자연스럽게 도움이 되지만, 소프트웨어 언어에 대한 일반적인 이해와 소프트웨어 작성의 가장 일반적인 패턴에 의존하기 때문에 가장 관련성이 높고 정확한 코드 제안을 제공하지 못하는 경우가 많습니다. 이러한 코딩 도우미가 생성한 코드는 자신이 해결해야 할 문제를 해결하는 데 적합하지만 개별 팀의 코딩 표준, 규칙 및 스타일을 따르지 않는 경우가 많습니다. 이로 인해 코드가 애플리케이션에 승인되기 위해 수정되거나 개선되어야 하는 제안이 나타나는 경우가 많습니다.

7가지 멋진 GenAI 및 LLM 기술 인터뷰 질문 7가지 멋진 GenAI 및 LLM 기술 인터뷰 질문 Jun 07, 2024 am 10:06 AM

AIGC에 대해 자세히 알아보려면 다음을 방문하세요. 51CTOAI.x 커뮤니티 https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou는 인터넷 어디에서나 볼 수 있는 전통적인 문제 은행과 다릅니다. 고정관념에서 벗어나 생각해야 합니다. LLM(대형 언어 모델)은 데이터 과학, 생성 인공 지능(GenAI) 및 인공 지능 분야에서 점점 더 중요해지고 있습니다. 이러한 복잡한 알고리즘은 인간의 기술을 향상시키고 많은 산업 분야에서 효율성과 혁신을 촉진하여 기업이 경쟁력을 유지하는 데 핵심이 됩니다. LLM은 자연어 처리, 텍스트 생성, 음성 인식 및 추천 시스템과 같은 분야에서 광범위하게 사용될 수 있습니다. LLM은 대량의 데이터로부터 학습하여 텍스트를 생성할 수 있습니다.

미세 조정을 통해 LLM이 실제로 새로운 것을 배울 수 있습니까? 새로운 지식을 도입하면 모델이 더 많은 환각을 생성할 수 있습니다. 미세 조정을 통해 LLM이 실제로 새로운 것을 배울 수 있습니까? 새로운 지식을 도입하면 모델이 더 많은 환각을 생성할 수 있습니다. Jun 11, 2024 pm 03:57 PM

LLM(대형 언어 모델)은 대규모 텍스트 데이터베이스에서 훈련되어 대량의 실제 지식을 습득합니다. 이 지식은 매개변수에 내장되어 필요할 때 사용할 수 있습니다. 이러한 모델에 대한 지식은 훈련이 끝나면 "구체화"됩니다. 사전 훈련이 끝나면 모델은 실제로 학습을 중단합니다. 모델을 정렬하거나 미세 조정하여 이 지식을 활용하고 사용자 질문에 보다 자연스럽게 응답하는 방법을 알아보세요. 그러나 때로는 모델 지식만으로는 충분하지 않을 때도 있으며, 모델이 RAG를 통해 외부 콘텐츠에 접근할 수 있더라도 미세 조정을 통해 모델을 새로운 도메인에 적응시키는 것이 유익한 것으로 간주됩니다. 이러한 미세 조정은 인간 주석 작성자 또는 기타 LLM 생성자의 입력을 사용하여 수행됩니다. 여기서 모델은 추가적인 실제 지식을 접하고 이를 통합합니다.

삼성, v7 QLC V-NAND를 탑재하고 PCIe 5.0을 지원하는 BM1743 데이터 센터급 SSD 출시 삼성, v7 QLC V-NAND를 탑재하고 PCIe 5.0을 지원하는 BM1743 데이터 센터급 SSD 출시 Jun 18, 2024 pm 04:15 PM

18일 홈페이지 소식에 따르면 삼성반도체는 최근 자사 기술 블로그를 통해 최신 QLC 플래시 메모리(v7)를 탑재한 차세대 데이터센터급 SSD BM1743을 소개했다. ▲삼성 QLC 데이터센터급 솔리드스테이트드라이브 BM1743 지난 4월 트렌드포스에 따르면 QLC 데이터센터급 솔리드스테이트드라이브 분야에서 삼성전자와 SK하이닉스 자회사인 솔리드다임만이 기업 고객 검증을 통과했다. 그때. 이전 세대 v5QLCV-NAND(이 사이트 참고: Samsung v6V-NAND에는 QLC 제품이 없음)와 비교하여 Samsung v7QLCV-NAND 플래시 메모리는 적층 레이어 수가 거의 두 배로 늘어났으며 저장 밀도도 크게 향상되었습니다. 동시에 v7QLCV-NAND의 부드러움은

대형 모델에 대한 새로운 과학적이고 복잡한 질문 답변 벤치마크 및 평가 시스템을 제공하기 위해 UNSW, Argonne, University of Chicago 및 기타 기관이 공동으로 SciQAG 프레임워크를 출시했습니다. 대형 모델에 대한 새로운 과학적이고 복잡한 질문 답변 벤치마크 및 평가 시스템을 제공하기 위해 UNSW, Argonne, University of Chicago 및 기타 기관이 공동으로 SciQAG 프레임워크를 출시했습니다. Jul 25, 2024 am 06:42 AM

편집자 |ScienceAI 질문 응답(QA) 데이터 세트는 자연어 처리(NLP) 연구를 촉진하는 데 중요한 역할을 합니다. 고품질 QA 데이터 세트는 모델을 미세 조정하는 데 사용될 수 있을 뿐만 아니라 LLM(대형 언어 모델)의 기능, 특히 과학적 지식을 이해하고 추론하는 능력을 효과적으로 평가하는 데에도 사용할 수 있습니다. 현재 의학, 화학, 생물학 및 기타 분야를 포괄하는 과학적인 QA 데이터 세트가 많이 있지만 이러한 데이터 세트에는 여전히 몇 가지 단점이 있습니다. 첫째, 데이터 형식이 비교적 단순하고 대부분이 객관식 질문이므로 평가하기 쉽지만 모델의 답변 선택 범위가 제한되고 모델의 과학적 질문 답변 능력을 완전히 테스트할 수 없습니다. 이에 비해 개방형 Q&A는

당신이 모르는 머신러닝의 5가지 학교 당신이 모르는 머신러닝의 5가지 학교 Jun 05, 2024 pm 08:51 PM

머신 러닝은 명시적으로 프로그래밍하지 않고도 컴퓨터가 데이터로부터 학습하고 능력을 향상시킬 수 있는 능력을 제공하는 인공 지능의 중요한 분야입니다. 머신러닝은 이미지 인식, 자연어 처리, 추천 시스템, 사기 탐지 등 다양한 분야에서 폭넓게 활용되며 우리의 삶의 방식을 변화시키고 있습니다. 기계 학습 분야에는 다양한 방법과 이론이 있으며, 그 중 가장 영향력 있는 5가지 방법을 "기계 학습의 5개 학교"라고 합니다. 5개 주요 학파는 상징학파, 연결주의 학파, 진화학파, 베이지안 학파, 유추학파이다. 1. 상징주의라고도 알려진 상징주의는 논리적 추론과 지식 표현을 위해 상징을 사용하는 것을 강조합니다. 이 사고 학교는 학습이 기존을 통한 역연역 과정이라고 믿습니다.

SOTA 성능, 샤먼 다중 모드 단백질-리간드 친화성 예측 AI 방법, 최초로 분자 표면 정보 결합 SOTA 성능, 샤먼 다중 모드 단백질-리간드 친화성 예측 AI 방법, 최초로 분자 표면 정보 결합 Jul 17, 2024 pm 06:37 PM

Editor | KX 약물 연구 및 개발 분야에서 단백질과 리간드의 결합 친화도를 정확하고 효과적으로 예측하는 것은 약물 스크리닝 및 최적화에 매우 중요합니다. 그러나 현재 연구에서는 단백질-리간드 상호작용에서 분자 표면 정보의 중요한 역할을 고려하지 않습니다. 이를 기반으로 Xiamen University의 연구자들은 처음으로 단백질 표면, 3D 구조 및 서열에 대한 정보를 결합하고 교차 주의 메커니즘을 사용하여 다양한 양식 특징을 비교하는 새로운 다중 모드 특징 추출(MFE) 프레임워크를 제안했습니다. 조정. 실험 결과는 이 방법이 단백질-리간드 결합 친화도를 예측하는 데 있어 최첨단 성능을 달성한다는 것을 보여줍니다. 또한 절제 연구는 이 프레임워크 내에서 단백질 표면 정보와 다중 모드 기능 정렬의 효율성과 필요성을 보여줍니다. 관련 연구는 "S"로 시작된다

See all articles