Gartner: Generative AI가 중국 기업 데이터 센터 설계의 변화를 주도할 것입니다
2024년 4월 15일 뉴스, Gartner가 최근 발표한 2024 CIO 및 기술 임원 설문 조사에 따르면 중국 기업의 60% 이상이 향후 12~24개월 내에 생성 인공 지능(GenAI)을 배포할 계획인 것으로 나타났습니다. 중국 기업은 퍼블릭 클라우드가 아닌 로컬에서 GenAI를 배포하는 경향이 있기 때문에 현재 인프라 환경에서는 GenAI 프로젝트를 지원할 수 없습니다. 이는 중국 기업 데이터 센터의 설계 혁신을 촉진할 것입니다.
Gartner의 연구 책임자인 Zhang Lukeng은 다음과 같이 말했습니다. “보안 및 데이터 개인 정보 보호 문제와 규제 요구 사항으로 인해 일부 기업은 온프레미스에 GenAl 솔루션을 배포하거나 대규모 언어 모델(LLM)을 미세 조정하는 것을 선호합니다. 이는 단순한 호스팅 요구 사항이 아니라, 모델 교육에는 대규모 GPU 클러스터가 필요하기 때문에 엔터프라이즈 데이터 센터의 전략을 변경할 수 있습니다. "Gartner는 5가지 GenAI 배포 방법을 정의합니다(그림 1 참조). 기업이 선택한 GenAI 배포 방법에 따라 중국의 최고 정보 책임자(CIO)와 인프라 및 운영(I&O) 리더는 GenAI 배포의 영향과 조치를 취하는 방법을 이해해야 합니다.
그림 1: 생성적 인공 지능 배포를 위한 5가지 방법
Gartner: 생성적 AI가 중국 기업 데이터 센터 설계의 변화를 주도할 것입니다
중국의 CIO 및 I&O 리더는 이 기술에 대비해야 합니다. 데이터 센터에 미치는 영향.
GenAI를 온프레미스에 배포하면 I&O 리더들이 호스팅 환경을 설계하는 방식을 변경해야 합니다.
일부 GenAI 워크로드에는 고급 그래픽을 사용해야 하므로 GenAI를 데이터 센터에 배포하는 영향에 따라 실행되는 워크로드 유형이 결정됩니다. 처리 장치(GPU). 중국 시장에서 고급 GPU 공급이 제한되어 있기 때문에 GenAI를 온프레미스에 배포하려는 I&O 리더는 호스팅 환경 설계 방식을 변경해야 합니다.
I&O 리더는 혼자서 공급 부족을 해결할 수 없으며 비즈니스, AI 엔지니어 및 기능 팀과 협력하여 이 문제를 해결해야 합니다.
Zhang Yingling은 다음과 같이 말했습니다. “GenAl 배포를 위한 인프라 리소스를 준비하는 중국 CIO 및 I&O 리더는 비즈니스 및 관련 팀과 적극적으로 협력하여 다양한 워크로드가 데이터 센터의 비용 및 일정에 미치는 영향을 예측해야 합니다. GenAl의 경우 배포를 위한 데이터 센터 매크로 전략을 개발합니다. 훈련 모델에 고급 GPU 클러스터가 필요한 경우 비용, 위험 및 기회(예: 대체 하드웨어 구매 또는 GPU 리소스 임대)의 균형을 유지하여 다양한 호스팅 옵션을 완전히 이해해야 합니다.
대규모 GPU 배포. 클러스터는 데이터 센터 인프라와 장비를 변환하고 업그레이드해야 합니다.
기본 모델을 처음부터 구축하거나 모델을 미세 조정하려면 대규모 GPU 클러스터를 배포해야 하며, 이는 기존 데이터 센터를 전복시킵니다. GenAI 모델을 훈련하려면 높은 처리량, 짧은 대기 시간, 무손실 인프라가 필요하기 때문입니다. 이러한 고성능 컴퓨팅 클러스터를 지원하려면 네트워크, 스토리지, 전원 공급 장치, 냉각 시스템을 업그레이드해야 합니다. 어떤 경우에는 업그레이드된 인프라를 수용하기 위해 기존 시설을 개조해야 합니다(그림 2 참조).
그림 2: 대규모 GPU 클러스터가 데이터 센터에 미치는 영향
Gartner: 제너레이티브 AI가 중국 기업 데이터 센터 설계의 변화를 주도할 것입니다
Zhang Yingling은 다음과 같이 말했습니다. "중국 CIO 및 I&O 리더 네트워크 및 스토리지에 대한 인프라 요구 사항을 결정하려면 데이터 과학자 및 엔지니어와 협력하여 GPU 클러스터 크기 및 GenAI 성능 요구 사항을 명확히 해야 합니다. 동시에 전력 요구 사항, 냉각 효율성, 랙, 공간 등도 분석하여 결정해야 합니다. 대규모 GPU 클러스터를 배포하는 데는 환경에 차이가 있습니다. 시간과 비용의 균형을 맞추고 가장 적합한 데이터 센터 전환 솔루션을 선택하세요.”
위 내용은 Gartner: Generative AI가 중국 기업 데이터 센터 설계의 변화를 주도할 것입니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
핫 AI 도구
Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱
AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.
Undress AI Tool
무료로 이미지를 벗다
Clothoff.io
AI 옷 제거제
AI Hentai Generator
AI Hentai를 무료로 생성하십시오.
인기 기사
뜨거운 도구
메모장++7.3.1
사용하기 쉬운 무료 코드 편집기
SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.
스튜디오 13.0.1 보내기
강력한 PHP 통합 개발 환경
드림위버 CS6
시각적 웹 개발 도구
SublimeText3 Mac 버전
신 수준의 코드 편집 소프트웨어(SublimeText3)
뜨거운 주제
7454
15
1375
52
77
11
40
19
14
9
Bytedance Cutting, SVIP 슈퍼 멤버십 출시: 연간 연속 구독료 499위안, 다양한 AI 기능 제공
Jun 28, 2024 am 03:51 AM
이 사이트는 6월 27일에 Jianying이 ByteDance의 자회사인 FaceMeng Technology에서 개발한 비디오 편집 소프트웨어라고 보도했습니다. 이 소프트웨어는 Douyin 플랫폼을 기반으로 하며 기본적으로 플랫폼 사용자를 위한 짧은 비디오 콘텐츠를 제작합니다. Windows, MacOS 및 기타 운영 체제. Jianying은 멤버십 시스템 업그레이드를 공식 발표하고 지능형 번역, 지능형 하이라이트, 지능형 패키징, 디지털 인간 합성 등 다양한 AI 블랙 기술을 포함하는 새로운 SVIP를 출시했습니다. 가격면에서 SVIP 클리핑 월 요금은 79위안, 연간 요금은 599위안(본 사이트 참고: 월 49.9위안에 해당), 월간 연속 구독료는 월 59위안, 연간 연속 구독료는 59위안입니다. 연간 499위안(월 41.6위안)입니다. 또한, 컷 관계자는 "사용자 경험 향상을 위해 기존 VIP에 가입하신 분들도
Rag 및 Sem-Rag를 사용한 상황 증강 AI 코딩 도우미
Jun 10, 2024 am 11:08 AM
검색 강화 생성 및 의미론적 메모리를 AI 코딩 도우미에 통합하여 개발자 생산성, 효율성 및 정확성을 향상시킵니다. EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG에서 번역됨, 저자 JanakiramMSV. 기본 AI 프로그래밍 도우미는 자연스럽게 도움이 되지만, 소프트웨어 언어에 대한 일반적인 이해와 소프트웨어 작성의 가장 일반적인 패턴에 의존하기 때문에 가장 관련성이 높고 정확한 코드 제안을 제공하지 못하는 경우가 많습니다. 이러한 코딩 도우미가 생성한 코드는 자신이 해결해야 할 문제를 해결하는 데 적합하지만 개별 팀의 코딩 표준, 규칙 및 스타일을 따르지 않는 경우가 많습니다. 이로 인해 코드가 애플리케이션에 승인되기 위해 수정되거나 개선되어야 하는 제안이 나타나는 경우가 많습니다.
7가지 멋진 GenAI 및 LLM 기술 인터뷰 질문
Jun 07, 2024 am 10:06 AM
AIGC에 대해 자세히 알아보려면 다음을 방문하세요. 51CTOAI.x 커뮤니티 https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou는 인터넷 어디에서나 볼 수 있는 전통적인 문제 은행과 다릅니다. 고정관념에서 벗어나 생각해야 합니다. LLM(대형 언어 모델)은 데이터 과학, 생성 인공 지능(GenAI) 및 인공 지능 분야에서 점점 더 중요해지고 있습니다. 이러한 복잡한 알고리즘은 인간의 기술을 향상시키고 많은 산업 분야에서 효율성과 혁신을 촉진하여 기업이 경쟁력을 유지하는 데 핵심이 됩니다. LLM은 자연어 처리, 텍스트 생성, 음성 인식 및 추천 시스템과 같은 분야에서 광범위하게 사용될 수 있습니다. LLM은 대량의 데이터로부터 학습하여 텍스트를 생성할 수 있습니다.
미세 조정을 통해 LLM이 실제로 새로운 것을 배울 수 있습니까? 새로운 지식을 도입하면 모델이 더 많은 환각을 생성할 수 있습니다.
Jun 11, 2024 pm 03:57 PM
LLM(대형 언어 모델)은 대규모 텍스트 데이터베이스에서 훈련되어 대량의 실제 지식을 습득합니다. 이 지식은 매개변수에 내장되어 필요할 때 사용할 수 있습니다. 이러한 모델에 대한 지식은 훈련이 끝나면 "구체화"됩니다. 사전 훈련이 끝나면 모델은 실제로 학습을 중단합니다. 모델을 정렬하거나 미세 조정하여 이 지식을 활용하고 사용자 질문에 보다 자연스럽게 응답하는 방법을 알아보세요. 그러나 때로는 모델 지식만으로는 충분하지 않을 때도 있으며, 모델이 RAG를 통해 외부 콘텐츠에 접근할 수 있더라도 미세 조정을 통해 모델을 새로운 도메인에 적응시키는 것이 유익한 것으로 간주됩니다. 이러한 미세 조정은 인간 주석 작성자 또는 기타 LLM 생성자의 입력을 사용하여 수행됩니다. 여기서 모델은 추가적인 실제 지식을 접하고 이를 통합합니다.
삼성, v7 QLC V-NAND를 탑재하고 PCIe 5.0을 지원하는 BM1743 데이터 센터급 SSD 출시
Jun 18, 2024 pm 04:15 PM
18일 홈페이지 소식에 따르면 삼성반도체는 최근 자사 기술 블로그를 통해 최신 QLC 플래시 메모리(v7)를 탑재한 차세대 데이터센터급 SSD BM1743을 소개했다. ▲삼성 QLC 데이터센터급 솔리드스테이트드라이브 BM1743 지난 4월 트렌드포스에 따르면 QLC 데이터센터급 솔리드스테이트드라이브 분야에서 삼성전자와 SK하이닉스 자회사인 솔리드다임만이 기업 고객 검증을 통과했다. 그때. 이전 세대 v5QLCV-NAND(이 사이트 참고: Samsung v6V-NAND에는 QLC 제품이 없음)와 비교하여 Samsung v7QLCV-NAND 플래시 메모리는 적층 레이어 수가 거의 두 배로 늘어났으며 저장 밀도도 크게 향상되었습니다. 동시에 v7QLCV-NAND의 부드러움은
대형 모델에 대한 새로운 과학적이고 복잡한 질문 답변 벤치마크 및 평가 시스템을 제공하기 위해 UNSW, Argonne, University of Chicago 및 기타 기관이 공동으로 SciQAG 프레임워크를 출시했습니다.
Jul 25, 2024 am 06:42 AM
편집자 |ScienceAI 질문 응답(QA) 데이터 세트는 자연어 처리(NLP) 연구를 촉진하는 데 중요한 역할을 합니다. 고품질 QA 데이터 세트는 모델을 미세 조정하는 데 사용될 수 있을 뿐만 아니라 LLM(대형 언어 모델)의 기능, 특히 과학적 지식을 이해하고 추론하는 능력을 효과적으로 평가하는 데에도 사용할 수 있습니다. 현재 의학, 화학, 생물학 및 기타 분야를 포괄하는 과학적인 QA 데이터 세트가 많이 있지만 이러한 데이터 세트에는 여전히 몇 가지 단점이 있습니다. 첫째, 데이터 형식이 비교적 단순하고 대부분이 객관식 질문이므로 평가하기 쉽지만 모델의 답변 선택 범위가 제한되고 모델의 과학적 질문 답변 능력을 완전히 테스트할 수 없습니다. 이에 비해 개방형 Q&A는
당신이 모르는 머신러닝의 5가지 학교
Jun 05, 2024 pm 08:51 PM
머신 러닝은 명시적으로 프로그래밍하지 않고도 컴퓨터가 데이터로부터 학습하고 능력을 향상시킬 수 있는 능력을 제공하는 인공 지능의 중요한 분야입니다. 머신러닝은 이미지 인식, 자연어 처리, 추천 시스템, 사기 탐지 등 다양한 분야에서 폭넓게 활용되며 우리의 삶의 방식을 변화시키고 있습니다. 기계 학습 분야에는 다양한 방법과 이론이 있으며, 그 중 가장 영향력 있는 5가지 방법을 "기계 학습의 5개 학교"라고 합니다. 5개 주요 학파는 상징학파, 연결주의 학파, 진화학파, 베이지안 학파, 유추학파이다. 1. 상징주의라고도 알려진 상징주의는 논리적 추론과 지식 표현을 위해 상징을 사용하는 것을 강조합니다. 이 사고 학교는 학습이 기존을 통한 역연역 과정이라고 믿습니다.
SOTA 성능, 샤먼 다중 모드 단백질-리간드 친화성 예측 AI 방법, 최초로 분자 표면 정보 결합
Jul 17, 2024 pm 06:37 PM
Editor | KX 약물 연구 및 개발 분야에서 단백질과 리간드의 결합 친화도를 정확하고 효과적으로 예측하는 것은 약물 스크리닝 및 최적화에 매우 중요합니다. 그러나 현재 연구에서는 단백질-리간드 상호작용에서 분자 표면 정보의 중요한 역할을 고려하지 않습니다. 이를 기반으로 Xiamen University의 연구자들은 처음으로 단백질 표면, 3D 구조 및 서열에 대한 정보를 결합하고 교차 주의 메커니즘을 사용하여 다양한 양식 특징을 비교하는 새로운 다중 모드 특징 추출(MFE) 프레임워크를 제안했습니다. 조정. 실험 결과는 이 방법이 단백질-리간드 결합 친화도를 예측하는 데 있어 최첨단 성능을 달성한다는 것을 보여줍니다. 또한 절제 연구는 이 프레임워크 내에서 단백질 표면 정보와 다중 모드 기능 정렬의 효율성과 필요성을 보여줍니다. 관련 연구는 "S"로 시작된다
