생성 AI의 비용과 지속 가능성
DALL-E를 사용하여 이미지를 만들거나 ChatGPT에서 학기말 논문을 작성하게 하는 모든 사람은 많은 클라우드 리소스를 소비하고 있습니다. 이 모든 비용은 누가 지불합니까?
번역가 | Bugatti
리뷰어 | Sun Shujuan
인공지능(AI)은 모든 플랫폼(퍼블릭 클라우드 포함)에서 리소스 집약적인 기술입니다. 대부분의 AI 기술에는 대량의 추론 계산이 필요하므로 프로세서, 네트워크 및 스토리지 리소스에 대한 수요가 증가하고 궁극적으로 전기 요금, 인프라 비용 및 탄소 배출량이 증가합니다.
ChatGPT와 같은 생성 AI 시스템의 등장으로 인해 이 문제가 다시 한 번 전면에 부각되었습니다. 이 기술의 인기와 기업, 정부 및 일반 대중의 광범위한 사용을 고려하면 전력 소비 증가 곡선에 우려스러운 곡선이 나타날 것으로 예상할 수 있습니다.
AI는 1970년대부터 실현 가능했지만, 성숙하고 완전한 AI 시스템이 제대로 작동하려면 많은 리소스가 필요하다는 점을 고려하면 처음에는 상업적인 영향이 크지 않았습니다. 나는 20대에 설계한 AI 기반 시스템을 실행하는 데 4천만 달러 이상의 하드웨어, 소프트웨어, 데이터 센터 공간이 필요했던 것을 기억합니다. 덧붙여서, 이 프로젝트는 다른 많은 AI 프로젝트와 마찬가지로 출시 날짜도 정해지지 않았으며 상용 솔루션도 실행 가능하지 않았습니다.
클라우드 컴퓨팅이 모든 것을 변화시킵니다. 퍼블릭 클라우드를 사용하면 한때 접근할 수 없었던 작업을 이제 상당한 비용 효율성으로 처리할 수 있습니다. 사실 여러분도 짐작하셨겠지만 지난 10~15년 동안 클라우드 컴퓨팅의 부상은 AI의 부상과 동시에 일어났는데, 이제는 그 둘이 밀접하게 연관되어 있다고 말하고 싶습니다.
클라우드 리소스의 지속 가능성 및 비용
사실 이 분야에서 어떤 일이 일어날지 예측하는 데는 많은 연구가 필요하지 않습니다. 현재 매우 인기가 높은 생성 AI 시스템과 기타 AI 및 기계 학습 시스템과 같은 AI 서비스에 대한 시장 수요가 급증할 것입니다. 스마트 공급망과 같은 혁신을 통해 이점을 추구하는 기업이나 학기 논문을 작성하기 위해 생성 AI 시스템을 찾고 있는 수천 명의 대학생이 이러한 책임을 주도할 것입니다.
AI에 대한 수요 증가는 퍼블릭 클라우드 및 제공 서비스 등 AI 시스템에서 사용하는 리소스에 대한 수요 증가를 의미합니다. 이러한 수요는 전력 소모가 많은 서버와 네트워크 장비를 수용하는 더 많은 데이터 센터에 의해 충족될 가능성이 높습니다.
공용 클라우드 제공업체는 다른 유틸리티 리소스 제공업체와 마찬가지로 수요가 증가하면 가격을 인상합니다. 마치 주거용 전기 요금이 계절에 따라 증가하는 것처럼(역시 수요에 따라). 그래서 우리는 여름에는 전력 소비를 조절하고 에어컨 온도를 높이는 경우가 많습니다.
그러나 높은 클라우드 컴퓨팅 비용은 비즈니스에 동일한 영향을 미치지 않을 수 있습니다. 기업에서는 이러한 AI 시스템이 꼭 필요한 것은 아니지만 특정 핵심 비즈니스 프로세스를 추진하는 데 필요하다는 것을 알 수 있습니다. 많은 경우 AI 시스템 비용을 상쇄하기 위해 인력을 줄이는 등 내부적으로 비용을 절감하려고 할 수 있습니다. 생성적 AI 시스템이 곧 많은 정보 근로자를 대체할 것이라는 사실은 비밀이 아닙니다.
우리는 무엇을 할 수 있나요?
AI 시스템을 실행하기 위한 리소스에 대한 수요로 인해 컴퓨팅 비용이 증가하고 탄소 배출이 증가한다면 어떻게 해야 할까요? 그 대답은 AI가 프로세서, 네트워크, 스토리지와 같은 리소스를 최대한 활용할 수 있는 보다 효율적인 방법을 찾는 데 있을 수 있습니다.
예를 들어 파이프라인을 샘플링하면 처리되는 데이터 양을 줄여 딥 러닝 속도를 높일 수 있습니다. MIT(Massachusetts Institute of Technology)와 IBM의 연구에 따르면 이 접근 방식을 사용하면 대규모 데이터 세트에서 신경망을 실행하는 데 필요한 리소스를 줄일 수 있습니다. 그러나 이는 정확성을 제한하기도 하며 이는 일부 비즈니스 사용 사례에서는 허용되지만 모든 경우에는 허용되지 않습니다.
다른 기술 분야에서 이미 사용되고 있는 또 다른 접근 방식은 인메모리 컴퓨팅입니다. 이 아키텍처는 데이터가 메모리 안팎으로 이동하는 것을 방지하여 AI 처리 속도를 높일 수 있습니다. 대신 AI 계산이 메모리 모듈에서 직접 실행되어 작업 속도가 크게 향상됩니다.
물리적 프로세서를 변경하거나(코프로세서를 사용하여 AI 계산을 처리하여 속도 향상) 양자 컴퓨팅과 같은 차세대 컴퓨팅 모델을 채택하는 등 다른 접근 방식이 개발되고 있습니다. 대규모 퍼블릭 클라우드 제공업체가 가까운 시일 내에 이러한 많은 문제를 해결하는 기술을 발표할 것으로 예상할 수 있습니다.
어떻게 해야 하나요?
이 글은 클라우드 컴퓨팅 비용을 줄이거나 지구를 구하기 위해 AI를 피하는 것에 관한 것이 아닙니다. AI는 대부분의 기업이 엄청난 가치를 창출하는 데 사용할 수 있는 기본적인 컴퓨팅 방법입니다.
AI 기반 개발 프로젝트나 새로운 AI 시스템 개발 프로젝트를 진행할 때 비용과 지속가능성에 미치는 영향은 서로 밀접하게 연관되어 있으므로 명확히 이해하는 것이 좋습니다. 비용/이익 선택을 해야 합니다. 이는 실제로 감수해야 하는 비용과 위험에 대해 회사에 어떤 가치를 가져올 수 있는지에 대한 오래된 주제로 돌아갑니다. 여기에는 새로운 것이 없습니다.
저는 그 혁신이 인메모리 컴퓨팅이든, 양자 컴퓨팅이든, 아직 등장하지 않은 다른 기술이든 혁신을 통해 이 문제가 대체로 해결될 것으로 예상한다고 믿습니다. AI 기술 제공업체와 클라우드 컴퓨팅 제공업체는 AI를 더욱 비용 효율적이고 에너지 효율적이며 환경 친화적으로 만드는 데 열심입니다. 이는 좋은 소식입니다.
원제: 생성 AI의 비용과 지속 가능성, 저자: David S. Linthicum
위 내용은 생성 AI의 비용과 지속 가능성의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

핫 AI 도구

Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool
무료로 이미지를 벗다

Clothoff.io
AI 옷 제거제

Video Face Swap
완전히 무료인 AI 얼굴 교환 도구를 사용하여 모든 비디오의 얼굴을 쉽게 바꾸세요!

인기 기사

뜨거운 도구

메모장++7.3.1
사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기
강력한 PHP 통합 개발 환경

드림위버 CS6
시각적 웹 개발 도구

SublimeText3 Mac 버전
신 수준의 코드 편집 소프트웨어(SublimeText3)

DALL-E 3는 이전 모델보다 대폭 개선된 모델로 2023년 9월 공식 출시되었습니다. 복잡한 디테일의 이미지를 생성할 수 있는 현재까지 최고의 AI 이미지 생성기 중 하나로 간주됩니다. 그러나 출시 당시에는 제외되었습니다.

이 사이트는 6월 27일에 Jianying이 ByteDance의 자회사인 FaceMeng Technology에서 개발한 비디오 편집 소프트웨어라고 보도했습니다. 이 소프트웨어는 Douyin 플랫폼을 기반으로 하며 기본적으로 플랫폼 사용자를 위한 짧은 비디오 콘텐츠를 제작합니다. Windows, MacOS 및 기타 운영 체제. Jianying은 멤버십 시스템 업그레이드를 공식 발표하고 지능형 번역, 지능형 하이라이트, 지능형 패키징, 디지털 인간 합성 등 다양한 AI 블랙 기술을 포함하는 새로운 SVIP를 출시했습니다. 가격면에서 SVIP 클리핑 월 요금은 79위안, 연간 요금은 599위안(본 사이트 참고: 월 49.9위안에 해당), 월간 연속 구독료는 월 59위안, 연간 연속 구독료는 59위안입니다. 연간 499위안(월 41.6위안)입니다. 또한, 컷 관계자는 "사용자 경험 향상을 위해 기존 VIP에 가입하신 분들도

31일 본 사이트 소식에 따르면 거대 기술기업 아마존은 핀란드 통신업체 노키아를 클라우드 컴퓨팅 기술과 관련된 12개 이상의 아마존 특허를 침해했다며 화요일 델라웨어 연방법원에 고소했다. 1. Amazon은 소송에서 Nokia가 자체 클라우드 서비스 제품을 향상시키기 위해 클라우드 컴퓨팅 인프라, 보안 및 성능 기술을 포함한 Amazon Cloud Computing Service(AWS) 관련 기술을 남용했다고 밝혔습니다. 아마존은 2006년 AWS를 출시했으며 획기적인 클라우드 컴퓨팅 기술은 2000년대 초반부터 개발됐다고 고소장에는 적혀 있다. 고소장에는 "아마존은 클라우드 컴퓨팅의 선구자인데 이제 노키아는 허가 없이 아마존의 클라우드 컴퓨팅 특허 기술을 사용하고 있다"고 적혀 있다. 아마존, 법원에 차단 금지 명령 요청

편집자 |ScienceAI 질문 응답(QA) 데이터 세트는 자연어 처리(NLP) 연구를 촉진하는 데 중요한 역할을 합니다. 고품질 QA 데이터 세트는 모델을 미세 조정하는 데 사용될 수 있을 뿐만 아니라 LLM(대형 언어 모델)의 기능, 특히 과학적 지식을 이해하고 추론하는 능력을 효과적으로 평가하는 데에도 사용할 수 있습니다. 현재 의학, 화학, 생물학 및 기타 분야를 포괄하는 과학적인 QA 데이터 세트가 많이 있지만 이러한 데이터 세트에는 여전히 몇 가지 단점이 있습니다. 첫째, 데이터 형식이 비교적 단순하고 대부분이 객관식 질문이므로 평가하기 쉽지만 모델의 답변 선택 범위가 제한되고 모델의 과학적 질문 답변 능력을 완전히 테스트할 수 없습니다. 이에 비해 개방형 Q&A는

Editor | KX 약물 연구 및 개발 분야에서 단백질과 리간드의 결합 친화도를 정확하고 효과적으로 예측하는 것은 약물 스크리닝 및 최적화에 매우 중요합니다. 그러나 현재 연구에서는 단백질-리간드 상호작용에서 분자 표면 정보의 중요한 역할을 고려하지 않습니다. 이를 기반으로 Xiamen University의 연구자들은 처음으로 단백질 표면, 3D 구조 및 서열에 대한 정보를 결합하고 교차 주의 메커니즘을 사용하여 다양한 양식 특징을 비교하는 새로운 다중 모드 특징 추출(MFE) 프레임워크를 제안했습니다. 조정. 실험 결과는 이 방법이 단백질-리간드 결합 친화도를 예측하는 데 있어 최첨단 성능을 달성한다는 것을 보여줍니다. 또한 절제 연구는 이 프레임워크 내에서 단백질 표면 정보와 다중 모드 기능 정렬의 효율성과 필요성을 보여줍니다. 관련 연구는 "S"로 시작된다

1일 본 사이트 소식에 따르면 SK하이닉스는 오늘(1일) 블로그 게시물을 통해 8월 6일부터 8일까지 미국 캘리포니아주 산타클라라에서 열리는 글로벌 반도체 메모리 서밋 FMS2024에 참가한다고 밝혔다. 많은 새로운 세대의 제품. 인공지능 기술에 대한 관심이 높아지고 있는 가운데, 이전에는 주로 NAND 공급업체를 대상으로 한 플래시 메모리 서밋(FlashMemorySummit)이었던 미래 메모리 및 스토리지 서밋(FutureMemoryandStorage) 소개를 올해는 미래 메모리 및 스토리지 서밋(FutureMemoryandStorage)으로 명칭을 변경했습니다. DRAM 및 스토리지 공급업체와 더 많은 플레이어를 초대하세요. SK하이닉스가 지난해 출시한 신제품

7월 5일 이 웹사이트의 소식에 따르면 글로벌파운드리는 올해 7월 1일 보도자료를 통해 타고르 테크놀로지(Tagore Technology)의 전력질화갈륨(GaN) 기술 및 지적재산권 포트폴리오 인수를 발표하고 자동차와 인터넷 시장 점유율 확대를 희망하고 있다고 밝혔다. 더 높은 효율성과 더 나은 성능을 탐구하기 위한 사물 및 인공 지능 데이터 센터 응용 분야입니다. 생성 AI와 같은 기술이 디지털 세계에서 계속 발전함에 따라 질화갈륨(GaN)은 특히 데이터 센터에서 지속 가능하고 효율적인 전력 관리를 위한 핵심 솔루션이 되었습니다. 이 웹사이트는 이번 인수 기간 동안 Tagore Technology의 엔지니어링 팀이 GLOBALFOUNDRIES에 합류하여 질화갈륨 기술을 더욱 개발할 것이라는 공식 발표를 인용했습니다. G

Open AI의 ChatGPT Mac 애플리케이션은 이제 모든 사람이 사용할 수 있게 되었으며, 지난 몇 달 동안 ChatGPT Plus를 구독하는 사용자에게만 제한되었습니다. 최신 Apple S가 있는 한 앱은 다른 기본 Mac 앱과 마찬가지로 설치됩니다.
