엔드투엔드 엔터프라이즈 GenAI 혁신을 가속화하는 NVIDIA NIM 마이크로서비스는 소프트웨어 회사의 하이라이트가 되었습니다!

소프트웨어 개발 회사 Cloudera는 최근 생성 AI 애플리케이션 배포를 가속화하기 위해 NVIDIA와의 전략적 파트너십을 발표했습니다. 이번 협력에는 NVIDIA의 AI 마이크로서비스를 CDP(Cloudera Data Platform)에 통합하는 작업이 포함되며 기업이 데이터를 기반으로 맞춤형 LLM(대형 언어 모델)을 보다 신속하게 구축하고 확장할 수 있도록 설계되었습니다. 이 이니셔티브는 기업에 데이터 리소스를 더 잘 활용하고 AI 애플리케이션의 개발 및 배포 프로세스를 가속화할 수 있는 더욱 강력한 도구와 기술을 제공할 것입니다. 이러한 협력은 기업에 더 많은 기회를 제공하여 보다 효율적인 데이터 기반 결정을 내리고 비즈니스 개발을 추진하도록 돕습니다. Cloudera와 NVIDIA의 협력은 기업에 더 많은 선택권과 유연성을 제공할 것이며 다양한 산업 분야에서 AI 기술의 광범위한 적용을 촉진할 것으로 예상됩니다.

이번 협력에서 Cloudera는 NIM(NVIDIA Inference Manager) 마이크로서비스를 포함한 NVIDIA AI Enterprise 기술을 최대한 활용하여 CDP에 있는 25엑사바이트 이상의 데이터에서 통찰력을 얻을 계획입니다. 이 귀중한 기업 정보는 Cloudera가 제공하는 엔드투엔드 AI 워크플로우 서비스인 Cloudera의 기계 학습 플랫폼으로 가져오며, 새로운 생성 AI 혁신을 주도하도록 설계되었습니다.

Cloudera의 AI/ML 제품 부사장인 Priyank Patel은 대규모 언어 모델에 최적화된 풀 스택 플랫폼과 결합된 엔터프라이즈 데이터가 조직의 생성 AI 애플리케이션을 파일럿에서 프로덕션으로 전환하는 데 매우 중요하다고 언급했습니다. Cloudera는 현재 NVIDIA NIM과 CUDA-X 마이크로서비스를 통합하여 머신 러닝 플랫폼을 구동하고 고객이 AI의 잠재력을 비즈니스 현실로 전환할 수 있도록 지원하고 있습니다.

이 협력은 Cloudera와 NVIDIA의 기술 혁신 강점을 강조하고 생성 AI 애플리케이션에 대한 시장 수요가 빠르게 증가하고 있음을 보여줍니다. 양 당사자의 자원과 기술적 이점을 통합함으로써 기업에서 AI의 실제 적용을 공동으로 촉진하고 기업에 보다 효율적이고 스마트한 솔루션을 제공할 것입니다.

또한 기업은 CDP의 방대한 데이터를 활용하고 이를 Cloudera 머신 러닝 플랫폼의 강력한 기능과 결합함으로써 데이터의 가치를 더 깊이 파고들어 더 정확한 의사 결정과 효율적인 비즈니스 운영을 달성할 수 있습니다. 이번 협력은 기업에 더욱 지능적이고 자동화된 미래를 선사하고 전체 산업의 발전과 발전을 촉진할 것입니다.

1. 모델과 데이터 연결

모델과 데이터를 연결할 때 엔터프라이즈 AI는 기본 모델을 관련 비즈니스 데이터와 연결하여 정확하고 상황에 맞는 출력을 생성하는 방법이라는 중요한 과제에 직면합니다. NVIDIA의 NIM 및 NeMo Retriever 마이크로서비스는 개발자가 LLM(Large Language Model)을 텍스트 문서에서 이미지 및 시각화에 이르는 구조적 및 구조화되지 않은 기업 데이터와 연결할 수 있도록 하여 이러한 격차를 해소하는 것을 목표로 합니다.

특히 Cloudera Machine Learning은 통합 NIM 모델 제공 기능을 제공하여 추론 성능을 향상하고 하이브리드 및 멀티 클라우드 환경에서 내결함성, 짧은 대기 시간 및 자동 확장을 지원합니다. NeMo Retriever를 추가하면 관련 데이터를 실시간으로 검색하여 생성 AI의 정확성을 향상시키는 RAG(검색 증강 생성) 애플리케이션의 개발이 단순화됩니다.

그 중 NVIDIA NeMo Retriever는 NVIDIA NeMo 프레임워크 및 도구 시리즈의 새로운 서비스입니다. NeMo는 생성적 AI 모델을 구축, 사용자 정의 및 배포하기 위한 프레임워크 및 도구 제품군입니다. 의미 검색 마이크로서비스인 NeMo Retriever는 NVIDIA에 최적화된 알고리즘을 사용하여 생성 AI 애플리케이션이 보다 정확한 답변을 제공하도록 돕습니다. 이 마이크로서비스를 사용하는 개발자는 AI 애플리케이션을 다양한 클라우드 및 데이터 센터에 있는 비즈니스 데이터에 연결할 수 있습니다. 이러한 연결은 AI 애플리케이션의 정확성을 향상시킬 뿐만 아니라 개발자가 기업 데이터를 보다 유연하게 처리하고 활용할 수 있도록 해줍니다.

요약하자면, NVIDIA의 NIM 및 NeMo Retriever와 같은 마이크로서비스는 AI 모델을 비즈니스 데이터와 긴밀하게 통합하여 보다 정확하고 유용한 결과를 생성할 수 있는 효과적인 방법을 기업에 제공합니다. 이는 기업에 다양한 분야에서 AI의 적용과 개발을 더욱 촉진할 수 있는 강력한 도구를 제공합니다.

2. 데이터에서 생성적 AI 배포까지, 시간을 크게 단축합니다.

NVIDIA와 Cloudera의 협력은 기업이 대규모 데이터를 보다 효율적으로 사용하여 맞춤형 협업 지원 및 생산성을 구축할 수 있도록 지원합니다. 도구. NVIDIA의 엔터프라이즈 제품 담당 부사장인 Justin Boitano는 "NIM 마이크로서비스와 Cloudera 데이터 플랫폼의 통합은 개발자에게 대규모 언어 모델을 배포하는 더 유연하고 쉬운 방법을 제공하여 엔터프라이즈 비즈니스 혁신을 촉진합니다."라고 말했습니다.

Cloudera와 NVIDIA는 데이터에서 생성적 AI 배포까지의 경로를 단순화함으로써 코딩 도우미, 챗봇, 문서 요약 도구, 의미론적 검색 도구와 같은 혁신적인 애플리케이션의 기업 채택을 가속화하는 것을 목표로 합니다. 이번 협력은 NVIDIA RAPIDS를 CDP에 통합하여 GPU 가속을 활용하려는 두 회사의 이전 노력을 기반으로 합니다.

Patel은 확장된 협업의 비즈니스 이점을 강조하면서 다음과 같이 말했습니다. “고객에게 강력한 생성 AI 기능과 성능을 제공하는 것 외에도 이번 통합의 결과를 통해 기업은 보다 정확하고 시기적절한 의사 결정을 내릴 수 있습니다. 예측의 부정확성, 환상 및 오류를 줄이는 것은 오늘날의 데이터 환경을 탐색하는 데 중요한 요소입니다.”

Cloudera는 3월 18일부터 21일까지 캘리포니아 산호세에서 개최되어 새로운 생성 AI 기능을 선보입니다. 선도적인 기업이 운영을 변화시키기 위한 기본 모델의 잠재력을 탐구함에 따라 Cloudera와 NVIDIA는 이들의 협력이 고객을 새로운 엔터프라이즈 AI 시대의 최전선에 위치시킬 것이라고 믿습니다.

위 내용은 엔드투엔드 엔터프라이즈 GenAI 혁신을 가속화하는 NVIDIA NIM 마이크로서비스는 소프트웨어 회사의 하이라이트가 되었습니다!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!