기술 주변기기 일체 포함 연구원: AI 모델 추론은 더 많은 전력을 소비하며, 2027년 산업 전력 소비량은 네덜란드와 비슷할 것

연구원: AI 모델 추론은 더 많은 전력을 소비하며, 2027년 산업 전력 소비량은 네덜란드와 비슷할 것

Oct 14, 2023 am 08:25 AM
AI 모델 전력 소비 추론 세션

IT하우스뉴스는 10월 13일, 'Cell'의 자매지인 'Joule'에서 이번 주에 '인공지능의 증가하는 에너지 발자국'이라는 제목의 논문을 게재했습니다.

문의를 통해 우리는 이 논문이 과학 연구 기관인 Digiconomist의 창립자인 Alex De Vries가 출판한 것이라는 것을 알게 되었습니다. 그는 미래의 인공지능의 추론 성능이 많은 전력을 소비할 것이라고 주장했습니다. 2027년까지 인공지능의 전력 소비량은 네덜란드의 1년 전력 소비량과 맞먹을 것으로 추정됩니다

Alex De Vries는 외부 세계에서는 항상 AI 모델 훈련이 "AI의 가장 전력 소모가 많은 단계"라고 믿어 왔다고 말했습니다. 그러나 Vries는 SemiAnalytic과 Google의 보고서를 인용하고 "추론 링크"가 AI에서 더 많은 전력을 소비한다고 지적했습니다. 2019년부터 2021년까지 AI와 관련된 에너지 소비의 60%는 모델 추론에서 나올 것으로 추정된다.

연구원: AI 모델 추론은 더 많은 전력을 소비하며, 2027년 산업 전력 소비량은 네덜란드와 비슷할 것

▲ 사진 출처 관련 논문

Alex De Vries도 Google이 2021년에 공개한 18.3TWh의 전력 소비량을 기준으로 계산했는데, 당시 Google이 'AI 검색'을 전면 구현한 후 AI가 Google 전체 전력 소비량의 10~15%를 차지했다고 주장했습니다. AI의 전력 소비량은 최대 27.4TWh에 달할 수 있는데, 이는 아일랜드가 1년 동안 사용하는 전력(29.3TWh)에 가깝습니다.

NVIDIA 파트너인 Taiwan Semiconductor Manufacturing Company(TSMC)가 2027년에 새로운 CoWoS 공장 대량 생산을 시작할 계획을 세우면서 시장 전체가 변화할 것으로 예상됩니다. Alex De Vries의 추정에 따르면 그때까지 NVIDIA가 제공하는 모든 AI 서버의 총 전력 소비량은 85~134TWh에 달할 것이며 이는 네덜란드의 1년 전력 사용량과 맞먹습니다

연구원: AI 모델 추론은 더 많은 전력을 소비하며, 2027년 산업 전력 소비량은 네덜란드와 비슷할 것

▲ 사진 출처 관련 논문

Alex De Vries는 인공 지능 산업이 산업의 에너지 소비를 개선하기 위해 하드웨어 효율성을 개선하고 모델 알고리즘의 효율성을 향상해야 한다고 믿습니다. 또한 개발자는 인공지능 최적화에만 집중할 것이 아니라, 인공지능 산업에서 에너지 비용 절감을 위해 인공지능 활용의 필요성도 고려해야 한다고 제안했습니다

원래 의미를 바꾸지 않고 내용을 다시 작성하려면 언어를 중국어로 다시 작성해야 합니다. 원문은 필요없습니다

위 내용은 연구원: AI 모델 추론은 더 많은 전력을 소비하며, 2027년 산업 전력 소비량은 네덜란드와 비슷할 것의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.

핫 AI 도구

Undresser.AI Undress

Undresser.AI Undress

사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover

AI Clothes Remover

사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool

Undress AI Tool

무료로 이미지를 벗다

Clothoff.io

Clothoff.io

AI 옷 제거제

AI Hentai Generator

AI Hentai Generator

AI Hentai를 무료로 생성하십시오.

인기 기사

R.E.P.O. 에너지 결정과 그들이하는 일 (노란색 크리스탈)
1 몇 달 전 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 최고의 그래픽 설정
4 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 아무도들을 수없는 경우 오디오를 수정하는 방법
1 몇 달 전 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 채팅 명령 및 사용 방법
1 몇 달 전 By 尊渡假赌尊渡假赌尊渡假赌

뜨거운 도구

메모장++7.3.1

메모장++7.3.1

사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전

SublimeText3 중국어 버전

중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기

스튜디오 13.0.1 보내기

강력한 PHP 통합 개발 환경

드림위버 CS6

드림위버 CS6

시각적 웹 개발 도구

SublimeText3 Mac 버전

SublimeText3 Mac 버전

신 수준의 코드 편집 소프트웨어(SublimeText3)

AI 대형 모델의 물결로 인해 컴퓨팅 성능에 대한 수요가 폭발적으로 증가했습니다. SenseTime의 '대형 모델 + 대형 컴퓨팅 성능'은 여러 산업의 발전을 지원합니다. AI 대형 모델의 물결로 인해 컴퓨팅 성능에 대한 수요가 폭발적으로 증가했습니다. SenseTime의 '대형 모델 + 대형 컴퓨팅 성능'은 여러 산업의 발전을 지원합니다. Jun 09, 2023 pm 07:35 PM

최근에는 'AI가 시대를 선도하고, 컴퓨팅 파워가 미래를 주도한다'라는 주제로 '린강 신구 지능형 컴퓨팅 컨퍼런스'가 열렸다. 회의에서 신지역 지능형 컴퓨팅 산업 연합이 공식적으로 설립되었으며, SenseTime은 컴퓨팅 파워 제공업체로서 이 연합의 회원이 되었습니다. 동시에 SenseTime은 "신지역 지능형 컴퓨팅 산업 체인 마스터" 기업이라는 칭호를 받았습니다. Lingang 컴퓨팅 파워 생태계의 적극적인 참여자로서 SenseTime은 현재 아시아 최대 지능형 컴퓨팅 플랫폼 중 하나인 SenseTime AIDC를 구축했습니다. SenseTime AIDC는 총 5,000페타플롭의 컴퓨팅 파워를 출력하고 수천억 개의 매개변수를 갖춘 20개의 초대형 모델을 지원할 수 있습니다. 동시에 훈련하십시오. AIDC를 기반으로 구축된 미래지향적인 대규모 디바이스인 SenseCore는 인공지능에 힘을 실어주는 고효율, 저비용, 대규모 차세대 AI 인프라 및 서비스를 만드는 데 전념하고 있습니다.

연구원: AI 모델 추론은 더 많은 전력을 소비하며, 2027년 산업 전력 소비량은 네덜란드와 비슷할 것 연구원: AI 모델 추론은 더 많은 전력을 소비하며, 2027년 산업 전력 소비량은 네덜란드와 비슷할 것 Oct 14, 2023 am 08:25 AM

IT하우스는 '셀(Cell)'의 자매지 '줄(Joule)'이 이번 주 '인공지능의 성장하는 에너지 발자국(The getting Energy Footprint of Artificial Intelligence)'이라는 제목의 논문을 게재했다고 13일 보도했다. 문의를 통해 우리는 이 논문이 과학 연구 기관인 Digiconomist의 설립자인 Alex DeVries에 의해 출판되었다는 것을 알게 되었습니다. 그는 앞으로 인공지능의 추론 성능이 많은 전력을 소비할 수 있다고 주장했다. 2027년까지 인공지능의 전력 소비량은 네덜란드의 1년 전력 소비량과 맞먹을 것으로 추정된다. 외부 세계에서는 항상 AI 모델을 훈련하는 것이 "AI에서 가장 중요한 것"이라고 믿어왔습니다.

China Unicom, 텍스트에서 이미지와 비디오 클립을 생성할 수 있는 대형 이미지 및 텍스트 AI 모델 출시 China Unicom, 텍스트에서 이미지와 비디오 클립을 생성할 수 있는 대형 이미지 및 텍스트 AI 모델 출시 Jun 29, 2023 am 09:26 AM

Driving China News 2023년 6월 28일, 오늘 상하이에서 열린 모바일 월드 콩그레스에서 China Unicom은 그래픽 모델 "Honghu Graphic Model 1.0"을 출시했습니다. China Unicom은 Honghu 그래픽 모델이 통신업체의 부가가치 서비스를 위한 최초의 대형 모델이라고 밝혔습니다. China Business News 기자는 Honghu의 그래픽 모델이 현재 8억 개의 훈련 매개변수와 20억 개의 훈련 매개변수의 두 가지 버전을 가지고 있으며 텍스트 기반 사진, 비디오 편집, 사진 기반 사진과 같은 기능을 실현할 수 있다는 사실을 알게 되었습니다. 또한, China Unicom Liu Liehong 회장도 오늘 기조연설에서 생성 AI가 발전의 특이점을 가져오고 향후 2년 내에 일자리의 50%가 인공 지능에 의해 심각한 영향을 받을 것이라고 말했습니다.

동의하지 않으면 점수를 얻게 된다. 국내 대형 AI 모델은 왜 '순위 스와핑'에 중독되는 걸까? 동의하지 않으면 점수를 얻게 된다. 국내 대형 AI 모델은 왜 '순위 스와핑'에 중독되는 걸까? Dec 02, 2023 am 08:53 AM

휴대폰 서클을 팔로우하는 친구들이라면 '안 받아도 점수를 준다'는 말이 낯설지 않을 거라 믿습니다. 예를 들어 AnTuTu, GeekBench와 같은 이론적인 성능 테스트 소프트웨어는 휴대폰의 성능을 어느 정도 반영할 수 있기 때문에 플레이어들로부터 많은 관심을 받았습니다. 마찬가지로, 성능을 측정하기 위해 PC 프로세서와 그래픽 카드에 해당하는 벤치마킹 소프트웨어가 있습니다. "모든 것이 벤치마킹 가능"하기 때문에 가장 인기 있는 대형 AI 모델도 특히 "100개 모델"에서 벤치마킹 대회에 참가하기 시작했습니다. '전쟁'이 시작되고 거의 매일 획기적인 발전이 있었고 각 회사는 '실적 점수 1위'를 주장했습니다. 사용자 경험 조건.

4배 더 빨라진 Bytedance의 오픈소스 고성능 훈련 추론 엔진 LightSeq 기술 공개 4배 더 빨라진 Bytedance의 오픈소스 고성능 훈련 추론 엔진 LightSeq 기술 공개 May 02, 2023 pm 05:52 PM

Transformer 모델은 Google 팀이 2017년에 발표한 논문 "Attentionisallyouneed"에서 나왔습니다. 이 논문은 Seq2Seq 모델의 순환 구조를 대체하기 위해 Attention을 사용하는 개념을 처음 제안했으며, 이는 NLP 분야에 큰 영향을 미쳤습니다. 그리고 최근 연구의 지속적인 발전으로 Transformer 관련 기술은 점차 자연어 처리에서 다른 분야로 흘러가고 있습니다. 지금까지 Transformer 시리즈 모델은 NLP, CV, ASR 및 기타 분야의 주류 모델이 되었습니다. 따라서 Transformer 모델을 어떻게 더 빠르게 훈련하고 추론할 것인가가 업계에서는 중요한 연구 방향이 되었습니다. 정밀도가 낮은 양자화 기술은

중국과학원 물리공동연구소 네트워크센터, AI 모델 MatChat 출시 중국과학원 물리공동연구소 네트워크센터, AI 모델 MatChat 출시 Nov 03, 2023 pm 08:13 PM

IT House는 11월 3일 중국과학원 물리학 연구소 공식 웹사이트에 중국과학원 물리학 연구소/베이징 국립 응집물리학 연구센터 SF10 그룹이 기사를 게재했다고 보도했습니다. 중국과학원 컴퓨터 네트워크 정보센터는 대규모 AI 모델을 재료과학에 적용하기 위해 협력했다. 현장에서는 수만 개의 화학 합성 경로 데이터를 대규모 언어 모델인 LLAMA2-7b에 입력해 MatChat 모델을 얻는다. , 이는 무기 물질의 합성 경로를 예측하는 데 사용될 수 있습니다. IT House는 이 모델이 쿼리된 구조를 기반으로 논리적 추론을 수행하고 해당 준비 프로세스와 공식을 출력할 수 있다고 언급했습니다. 온라인으로 배포되었으며 모든 재료 연구자에게 공개되어 재료 연구 및 혁신에 새로운 영감과 아이디어를 제공합니다. 이 작업은 분할된 과학 분야의 대규모 언어 모델을 위한 것입니다.

메타 연구자들은 새로운 AI 시도를 합니다. 지도나 훈련 없이 로봇이 물리적으로 탐색하도록 가르치는 것입니다. 메타 연구자들은 새로운 AI 시도를 합니다. 지도나 훈련 없이 로봇이 물리적으로 탐색하도록 가르치는 것입니다. Apr 09, 2023 pm 08:31 PM

메타플랫폼의 인공지능 부서는 최근 소량의 훈련 데이터의 지원을 받아 AI 모델에게 물리적 세계에서 걷는 법을 배우는 방법을 가르치고 있으며 빠른 발전을 이뤘다고 밝혔습니다. 이 연구는 AI 모델이 시각적 탐색 기능을 획득하는 데 걸리는 시간을 크게 단축할 수 있습니다. 이전에는 이러한 목표를 달성하려면 대규모 데이터 세트를 사용한 반복적인 '강화 학습'이 필요했습니다. 메타AI 연구진은 AI 시각 내비게이션에 대한 이번 탐구가 가상 세계에 큰 영향을 미칠 것이라고 말했다. 프로젝트의 기본 아이디어는 복잡하지 않습니다. 단순히 관찰과 탐색을 통해 AI가 인간처럼 물리적 공간을 탐색할 수 있도록 돕는 것입니다. Meta AI 부서는 “예를 들어 AR 안경이 열쇠를 찾도록 안내하려면

Nvidia, 고급 GPU 칩에서 AI 모델 성능을 향상시키는 TensorRT-LLM 오픈 소스 소프트웨어 출시 Nvidia, 고급 GPU 칩에서 AI 모델 성능을 향상시키는 TensorRT-LLM 오픈 소스 소프트웨어 출시 Sep 14, 2023 pm 12:29 PM

Nvidia는 최근 Nvidia GPU에서 대규모 언어 모델 최적화 기능을 확장하고 배포 후 인공 지능 추론 성능의 한계를 뛰어넘는 TensorRT-LLM이라는 새로운 오픈 소스 소프트웨어 제품군의 출시를 발표했습니다. 생성적 AI 대형 언어 모델은 인상적인 기능으로 인해 인기를 얻었습니다. 인공지능의 가능성을 확장하며 다양한 산업 분야에서 널리 활용되고 있습니다. Nvidia Corporation의 하이퍼스케일 및 고성능 컴퓨팅 담당 부사장인 Ian Buck은 사용자가 챗봇과 대화하여 정보를 얻고, 대용량 문서를 요약하고, 소프트웨어 코드를 작성하고, 정보를 이해하는 새로운 방법을 발견할 수 있다고 말했습니다. .모델의 복잡성은 계속 증가하고 모델은 점점 더 지능화되며

See all articles