대형 모델의 0 코드 미세 조정이 인기가 있으며 5단계만 필요하며 비용은 150위안 정도로 저렴합니다.

코드가 0인 대형 모델을 미세 조정하면 비용이 $20(약 RMB 144) 미만인가요?

과정도 매우 간단합니다. 단 5단계입니다.

LLaMA, GPT, StableLM 등 인기 오픈소스 생성 모델을 모두 처리할 수 있습니다.

Pictures

최신 인기 API 플랫폼인 Monster API입니다.

오픈 소스 분야의 이 새로운 작업이 AI 개발의 게임 규칙을 다시 작성하고 AI 애플리케이션의 속도를 가속화할 수 있다고 생각하는 사람들도 있습니다.

사진

몇몇 분들이 신나게 물어보시더군요. 앞으로는 GPT-3/GPT-4가 연결될까요?

Pictures

그럼 정확히 어떻게 구현되나요?

5단계 및 제로 코드

간단히 이해하면 Monster API는 미세 조정 단계를 최대한 단순화하여 개발자가 더 이상 일련의 설정을 수동으로 수행할 필요가 없도록 하는 동시에 저렴한 GPU 리소스 및 메모리 최적화도 제공합니다. .

구체적인 과정은 다음과 같습니다.

첫 번째 단계는 미세 조정을 위한 모델을 선택하는 것입니다.

예를 들어 LLaMA-7B, GPT-J-6B, StableLM-7B 등 Monster API는 최소 10개 이상의 기본 대형 모델을 제공합니다.

Pictures

단계, 미세 조정 작업을 선택하거나 생성하세요. 예를 들어 지침 미세 조정, 텍스트 분류 등 또는 사용자 정의 작업이 있습니다.

Pictures

단계에서 HuggingFace 데이터 세트를 선택하세요.

Monster API는 HuggingFace 데이터 세트를 다양한 선택과 원활하게 통합할 수 있으며 작업 유형에 따라 데이터 세트를 추천할 수도 있습니다.

그리고 수동 조작 없이 자동으로 형식을 설정할 수 있습니다.

Pictures

단계, 하이퍼파라미터를 설정하세요.

Pictures

5단계를 확인하고 제출하세요.

위 단계를 모두 설정한 후, 오류가 없는지 확인한 후 제출하세요.

Monster API는 WandB의 로그를 통해 작업을 모니터링할 수 있음을 의미합니다.

그의 블로그에는 DataBricks Dolly 15k 미세 조정 LLaMA-7B를 사용하여 3개의 에포치를 완성하는 데 드는 비용이 미화 20달러(RMB로 약 144위안) 미만이라고 썼습니다.

공식 홈페이지에는 회원가입 후 사용자에게 2,500포인트가 지급된다고 나와 있습니다. 멤버십은 월 US$9/US$29/US$39의 수수료로 3단계로 구분됩니다.

Pictures

Monster API는 미세 조정 기능을 제공할 뿐만 아니라 다양한 생성 AI API 인터페이스를 제공하며, 비용은 다른 솔루션보다 80% 저렴합니다.

사진

이 회사는 110만 달러의 자금 조달을 받았습니다.

뉴스에 따르면 Monster API 뒤에 있는 회사는 사전 시드 자금으로 110만 달러를 받았습니다.

이 AI 스타트업은 개발자들이 저렴한 가격에 사용할 수 있도록 전 세계에 흩어져 있는 GPU 리소스를 유연하게 스케줄링하여 "GPU 분야의 에어비앤비"로 자리매김하고 있습니다.

Pictures

창립자는 Gaurav Vij와 Saurabh Vij 두 형제입니다.

그중 Gaurav Vij도 CV 회사를 설립했습니다. CV 회사가 그러한 플랫폼을 구축하도록 영감을 받은 것은 바로 거대한 클라우드 컴퓨팅 자본에 직면해야 했기 때문입니다.

Saurabh Vij는 이전에 CERN의 입자 물리학자였으며 분산 컴퓨팅도 연구했습니다.

형제들은 여러 차례의 기술 반복 끝에 기계 학습 작업에서 소비자급 GPU의 성능을 최적화하여 Whisper AI 모델 실행 비용을 AWS 플랫폼에 비해 90% 절감했기 때문에 사용하지 않을 이유가 없다고 말했습니다. 이 방법은 수만 명의 개발자를 돕기 위한 것입니다.

동시에 회사 고객 중 한 명이 분산 GPU 컴퓨팅 리소스를 사용하여 300,000달러를 절약했다고 ​​밝혔습니다.

참조링크:
[1]https://blog.monsterapi.ai/no-code-fine-tuning-llm/
[2]https://www.enterpriseai.news/2023/06/ 09/monster-api-launches-the-airbnb-of-gpus-with-1-1m-pre-seed/

위 내용은 대형 모델의 0 코드 미세 조정이 인기가 있으며 5단계만 필요하며 비용은 150위안 정도로 저렴합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!