AI 대형 모델의 물결로 인해 컴퓨팅 성능에 대한 수요가 폭발적으로 증가했습니다. SenseTime의 '대형 모델 + 대형 컴퓨팅 성능'은 여러 산업의 발전을 지원합니다.

최근 'AI가 시대를 선도하고, 컴퓨팅 파워가 미래를 주도한다'라는 주제로 '린강신구 지능형 컴퓨팅 컨퍼런스'가 열렸습니다. 회의에서 신지역 지능형 컴퓨팅 산업 연합이 공식적으로 설립되었으며, SenseTime은 컴퓨팅 파워 제공업체로서 이 연합의 회원이 되었습니다. 동시에 SenseTime은 "신지역 지능형 컴퓨팅 산업 체인 마스터" 기업이라는 칭호를 받았습니다.

Lingang 컴퓨팅 파워 생태계의 적극적인 참여자로서 SenseTime은 현재 아시아에서 가장 큰 지능형 컴퓨팅 플랫폼 중 하나인 SenseTime AIDC를 구축했습니다. SenseTime AIDC는 총 5,000페타플롭의 컴퓨팅 파워를 출력하고 수천억 개의 매개변수로 20개의 프로젝트를 지원할 수 있습니다. 매우 큰 모델이 동시에 훈련됩니다. AIDC를 기반으로 미래지향적으로 구축된 대규모 디바이스인 SenseCore는 고효율, 저비용, 대규모 차세대 AI 인프라 및 서비스를 구축하여 인공지능 생산의 새로운 패러다임을 제시하는 데 전념하고 있습니다. AGI 시대의 인프라 서비스를 선도하겠습니다.

대형 AI 모델의 물결 속에서 컴퓨팅 성능에 대한 수요가 폭발적으로 증가했습니다

인공지능의 3대 요소는 크게 데이터, 알고리즘, 컴퓨팅 파워입니다. OpenAI가 최근 발표한 데이터에 따르면, 인공지능 훈련 작업에 사용되는 컴퓨팅 성능은 2012년부터 기하급수적으로 증가했으며, 성장률은 3.5개월마다 두 배씩 증가했습니다. 지금까지 컴퓨팅 성능에 대한 사람들의 수요는 30만 배 이상 증가했습니다. ChatGPT의 인기는 컴퓨팅 성능에 대한 새로운 시장 수요를 촉발시켰습니다.

현재 우리나라의 컴퓨팅 파워 시장은 계속해서 성장하고 있습니다. 정보통신기술원의 추정에 따르면, 우리나라의 컴퓨팅 장비 컴퓨팅 파워의 총 규모는 2021년에 약 50%의 성장률로 202EFlops에 도달할 것입니다. 이는 글로벌 성장률보다 높은 수치다.

이러한 맥락에서 Shanghai Lingang은 현지 컴퓨팅 파워 산업의 장점과 생태적 견인력을 적극적으로 활용하고 "컴퓨팅 파워 산업 생태계 구축을 가속화하기 위한 Lingang 신지역 실행 계획"(이하 "계획")을 발표했습니다. ).

보고에 따르면 Lingang New Area의 컴퓨팅 파워 산업은 업스트림 소프트웨어 및 하드웨어, 미드스트림 데이터 센터, 파견 플랫폼 및 다운스트림 애플리케이션에서 상응하는 조치를 취했으며 현재 Lingang의 총 컴퓨팅 파워는 3EFLOPS(FP32)를 초과합니다. 지능형 컴퓨팅 파워의 비율은 거의 80%이고 총 컴퓨팅 파워는 상하이의 거의 20%를 차지합니다.

'계획'에서는 2025년까지 린강 신구가 지능형 컴퓨팅 능력에 중점을 두고 기본 컴퓨팅 능력과 슈퍼컴퓨팅 능력을 조화시키는 다양한 컴퓨팅 전력 공급 시스템을 형성할 것을 제안합니다. 총 컴퓨팅 능력은 5EFLOPS(FP32)를 초과하며, AI 비율은 컴퓨팅 파워가 80%에 도달하고 컴퓨팅 파워 산업의 전체 규모가 100억 위안을 초과했습니다. 공공 컴퓨팅 파워 서비스 플랫폼이 구축되었으며 컴퓨팅 파워 거래 메커니즘이 표준화되었으며 지역적 컴퓨팅 파워 파견이 실현되었습니다. 국가 영향력을 갖춘 컴퓨팅 파워 산업 클러스터가 구축되었습니다. 컴퓨팅 파워 시범 애플리케이션 벤치마크 시나리오.

SenseTime의 Xu Li 회장 겸 CEO는 컴퓨팅 파워가 새로운 시대의 에너지원이라고 말했습니다. 어느 정도 컴퓨팅 파워는 시장의 경쟁력을 결정합니다. "컴퓨팅 파워는 모델 전체의 능력을 표현한 것으로, 이는 알고리즘이나 대형 모델의 매개변수에 처리하는 데이터의 양을 곱한 것과 같습니다. 대형 모델 시대에는 매개변수가 클수록 처리하는 데이터의 양도 많아집니다. 데이터가 배가되고 필요한 컴퓨팅 성능도 커집니다.”

동시에 25개 기업과 3개 대학 및 연구 기관으로 구성된 산업 연합이 공식적으로 설립되었습니다. 새로운 영화를 홍보하기 위해 실시되었습니다. 지역에 지능형 컴퓨팅 산업을 적용하면 경제 발전에 힘을 실어줍니다.

SenseTime은 "신지역 지능형 컴퓨팅 산업 체인의 체인 리더"라는 칭호를 받았습니다. Lingang New Area에 위치한 SenseTime 지능형 컴퓨팅 센터는 대규모 인공 지능 연구 개발과 산업화를 수행하는 중요한 임무를 맡고 있습니다. 장강삼각주에서 홍콩의 스마트 컴퓨팅 산업 체인의 공동 통합 및 클러스터 개발에 적극적으로 참여할 것입니다.

대형 모델 + 대형 컴퓨팅 성능 통합 혁신

대형 모델과 대규모 컴퓨팅 성능의 통합은 생산 패러다임에 큰 변화를 일으키고 있으며, 과학 연구와 산업 응용이 지능형 컴퓨팅이 주도하는 일반 인공지능(AGI) 시대로 나아가고 있습니다. 빠른 기술 반복의 초기 단계에서 업계는 애플리케이션 임계값을 낮추고 R&D 주기를 단축하며 혁신 효율성을 향상시키기 위한 차세대 인프라를 시급히 구축해야 합니다.

SenseTime Technology는 SenseTime의 대형 디바이스인 SenseCore를 구축하는 데 5년이 걸렸습니다. 이를 기반으로 대형 모델 알고리즘 서비스를 업계에 제공하기 위해 "SenseTime New SenseNova"를 구축했습니다. 최적화, 데이터 서비스 등 소프트웨어와 하드웨어를 결합한 AGI 인프라입니다.

보고에 따르면 SenseTime의 대형 장치인 SenseCore는 SenseTime 인공 지능 컴퓨팅 센터("SenseTime 지능형 컴퓨팅 센터 또는 SenseTime AIDC"라고 함)를 컴퓨팅 성능 기반으로 사용하며 총 컴퓨팅을 출력할 수 있습니다. 업계 최고의 컴퓨팅 성능, 초대형 모델 훈련 및 대규모 추론 기능을 갖춘 이 플랫폼은 현재 아시아 최대의 지능형 컴퓨팅 플랫폼 중 하나입니다.

SenseTime의 대형 디바이스인 SenseCore의 현재 컴퓨팅 성능은 수천억 개의 매개변수를 가진 20개의 초대형 모델의 동시 훈련을 지원할 수 있으며, 데이터, 훈련 도구, 추론을 포괄하는 원스톱 대형 모델 인프라 서비스 시스템을 제공합니다. 배포 및 성능 최적화.

SenseTime의 대형 장치는 탁월한 병렬 컴퓨팅 기능을 갖추고 있으며 최대 3200개의 카드 규모 클러스터로 단일 작업 훈련을 수행할 수 있으며, SenseTime 자체의 대규모 모델 훈련 프로젝트를 지원할 뿐만 아니라 훈련을 통해 7일 이상 중단 없이 안정적인 훈련을 달성할 수 있습니다. 다른 회사에서 맞춤 제작한 모델.

또한 SenseTime 대규모 디바이스는 AI, 슈퍼컴퓨팅 및 빅데이터의 핵심 기능을 통합하며 고성능 컴퓨팅, 고성능 스토리지 및 캐싱, AI에 최적화된 고성능 네트워크를 통해 스토리지와 컴퓨팅의 분리를 달성합니다. , 대규모 탄력성, 내결함성 스케줄링 및 기타 기능을 통해 수천 개의 카드와 PB 수준 스토리지에서 대규모 모델을 지원하여 수조 개의 매개변수로 대규모 모델 교육을 완료합니다.

SenseCore AI 플랫폼 제품은 모듈식, 전체 체인 데이터, 교육 및 추론 기능도 제공합니다. 수백억 건의 데이터 관리 및 검색, 수동 주석 서비스를 실현하고 AI 대형 모델 개발의 효율성을 가속화할 수 있습니다. 원클릭 정량화, 원클릭 배포, 원클릭 애플리케이션은 대규모 모델의 신속한 온라인 검증을 위한 도구를 제공하고 혁신을 가속화합니다.

또한 Big Device는 고객과 생태학적 파트너에게 풀체인 MaaS 대규모 Model-as-a-Service를 제공하여 대형 모델의 혁신과 적용 효율성을 가속화합니다.

그 중 자동화된 데이터 주석 서비스는 지능형 주석의 효율성을 100배까지 높일 수 있습니다. 대규모 모델 추론 배포 서비스는 대규모 모델 추론의 효율성을 600%까지 높일 수 있으며, 대규모 모델 병렬 교육 서비스는 단일 클러스터 3200 카드를 지원합니다. 5,000억 개의 조밀한 매개변수 모델 학습, 대규모 모델 증가 볼륨 학습 서비스를 통해 점진적인 미세 조정 비용을 90%까지 줄일 수 있습니다.

SenseTime AI 대형 모델은 다중 산업 개발을 지원합니다

대형 장치를 지원하는 SenseTime은 대형 모델 분야에서 급속한 발전을 이루었습니다.

Xu Li에 따르면 올해 3월 오픈 소스로 공개된 'Scholar 2.5' 다중 모드 대형 모델은 감지, 세분화, 분류라는 세 가지 주요 시각적 작업에서 20개 이상의 권위 있는 데이터 세트에서 선두를 차지했습니다. 자율주행, 로봇 등에 대한 기회를 제공하고 있습니다. 공통 현장 업무는 지각 및 이해 능력을 효율적이고 정확하게 지원합니다.

인공지능 기초과학(AI For Science)에 있어 기상 및 기후예보 업무 중 글로벌 중기예보는 가장 중요한 예측 업무 중 하나입니다. 올해 4월 출시된 대형 글로벌 중기 기상예보 AI 모델 '펑우(Fengwu)'는 최초로 10일 이상 핵심 대기 변수에 대한 고해상도의 효과적인 예측을 달성했으며, 평가 지표의 80%에서 GraphCast 모델을 능가했습니다. . 고해상도 지구 대기 데이터 모델링 덕분에 'Fengwu'는 태풍과 같은 극한 기상을 시뮬레이션하고 태풍 궤적을 정확하게 예측할 수도 있습니다.

SenseTime이 구축한 통합 인식 및 의사 결정 기능을 갖춘 업계 최초의 엔드 투 엔드 자율 주행 솔루션인 UniAD는 여러 주요 데이터 세트 및 지표에서 SOTA 방식을 능가하여 차선 예측 정확도를 30% 향상시키고 동작을 예측합니다. 변위 오류는 약 40% 감소하고, 계획 오류는 약 30% 감소합니다.

또한 SenseTime이 지난달 출시한 SenseEarth 3.0 원격 감지 대형 모델은 업계에서 가장 포괄적인 해석 범주를 보유할 뿐만 아니라 해석 효율성, 일반화 능력, 해석 정확도 등 많은 지표에서 기술적 혁신을 달성했습니다.

Xu Li는 "AGI 시대에는 모델의 능력이 컴퓨팅 파워로 측정됩니다. 우리는 SenseTime의 대형 디바이스인 SenseCore를 사용하여 AGI 시대의 인프라를 구축하고 있습니다. 모델의 반복 속도를 지속적으로 업데이트하고 있습니다. AGI를 통해 더 많은 가능성을 열어보세요.”

올해 5월 기준 센스타임은 지능형 운전, 바이오제약, 칩 디자인, 스마트 비즈니스, 대학 과학 연구 등 첨단 분야를 망라하는 10개 이상의 대형 모델 고객을 포함해 40개 이상의 핵심 고객에게 서비스를 제공한 것으로 알려졌다. , 20개 이상의 착륙 시나리오에서 대규모 모델 제공을 달성했습니다.

센스타임 공동 창업자이자 대형기기사업부 사장인 양판(Yang Fan)은 오늘날 볼 수 있는 대형 모델의 성능 발전은 인공지능 3대 요소의 규모가 지속적으로 커짐에 따른 기술적 가치의 향상이라고 말했다. , 그리고 이는 R&D 역량과 체계적인 엔지니어링 역량의 완벽한 결합의 기반이기도 합니다. 이 세 가지 요소는 공동으로 조정되는 경우가 많습니다. 알고리즘 최적화, 데이터 정렬 및 선택, 컴퓨팅 성능 플랫폼은 서로 연결되어 있어 이를 별도의 링크로 전환하여 단독으로 수행하기가 어렵습니다. 이것이 바로 우리가 지능형 컴퓨팅 파워 산업 체인을 구축해야 하는 이유입니다. 체인에 있는 더 많은 기업이 교류, 협력, 사고 및 보다 심층적인 협력을 촉진해야만 주요 기술 발전의 새로운 중요한 물결에서 더 잘할 수 있기 때문입니다. 그리고 지원.

위 내용은 AI 대형 모델의 물결로 인해 컴퓨팅 성능에 대한 수요가 폭발적으로 증가했습니다. SenseTime의 '대형 모델 + 대형 컴퓨팅 성능'은 여러 산업의 발전을 지원합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!