Baidu 지능형 클라우드 Qianfan 대형 모델 플랫폼이 다시 업그레이드되었습니다. 5개의 대형 모델과 55개의 새로운 도구 구성 요소가 출시되었습니다!

80,000명의 기업 사용자에게 서비스를 제공하고 사용자가 13,000개의 대형 모델을 미세 조정하도록 지원했으며 사용자가 160,000개의 대형 모델 애플리케이션을 개발하도록 도왔습니다. 2023년 12월부터 Baidu Smart Cloud Qianfan 대형 모델 플랫폼의 일일 API 호출이 매월 증가했습니다. .97%... 1년 전 국내 대형 모델 플랫폼의 '선구자'부터 오늘날의 대형 모델 '슈퍼 팩토리'까지 Baidu Intelligent Cloud Qianfan 대형 모델 플랫폼은 국내 대형 모델 시장에서 확고한 선두 위치를 차지하고 있지만 Bend는 발걸음은 멈추지 않았습니다.

3월 21일 Baidu Intelligent Cloud는 베이징 Shougang 공원에서 Qianfan 제품 출시 컨퍼런스를 개최했습니다. Baidu Intelligent Cloud는 컨퍼런스에서 다음과 같이 발표했습니다.

1 베이징 석경산 지구와 손을 잡고 중국 최초의 건설을 구축합니다. Baidu 지능형 클라우드 Qianfan 대형 모델 산업 혁신 기지는 지역 산업의 도약을 촉진합니다.

2. "비용 효율성"에 대한 기업의 핵심 요구를 충족하기 위해 Qianfan ModelBuilder 대형 모델 서비스가 3가지 경량화로 완전히 업그레이드되었습니다. 대형 모델, 2 수직 장면 대형 모델이 새로 출시되었습니다.

3. AI 기본 애플리케이션 개발의 문턱이 크게 줄어들고 Qianfan AppBuilder 구성 요소 기능이 완전히 업그레이드되었습니다.

(Baidu Intelligent Cloud Qianfan 대형 모델 산업(베이징) 혁신 기지 건설 착공)

행사 기간 동안 스징산(Shijingshan) 구 정부 당 그룹 멤버이자 지구 부지사인 Cao Shihui, 중관촌 석경산 공원 관리위원회 협회 부회장 Cui Mingming, Baidu 부사장 Xie Guangjun, Baidu 부사장 Shi Qinghua가 공동으로 국내 최초의 Baidu 지능형 클라우드 Ganfan 대형 모델 산업 출범식(베이징)을 시작했습니다. 혁신기지.

혁신 기반은 대형 모델 기술과 산업 혁신의 심층 통합을 촉진하는 데 전념하고 있습니다. 두 당사자는 컴퓨팅 성능 공급 개선, 모델 알고리즘 최적화, 데이터 개방성 촉진, 데모 시나리오 생성, 인재 소개 및 교육을 심화하여 정부와 기업이 협력하여 인공 지능 산업의 새로운 고지를 만듭니다. Cao Shihui 지구 부총재는 Shijingshan 지구가 Baidu와 협력하여 인공 지능 및 대형 모델 기술의 연구 개발 및 혁신적인 적용에 중점을 두고 AI 산업 생태계를 구축 및 개선하며 지역 디지털 변혁을 지원할 것이라고 말했습니다. 산업 지능화와 새로운 품질의 생산성 지원을 제공하는 등 육성과 발전에 탄력이 붙고 있습니다.

(바이두 시광준 부사장)

2023년에는 전 세계적으로 대형 모델이 폭발적인 성장을 보일 것이며, 중국에서는 수많은 메이저와 함께 '100모델 대결'이 시작될 것이다. 과학 연구 기관과 함께 대형 모델의 "온톨로지"에 초점을 맞춘 기술 회사, 미친 "혁명".

바이두 Xie Guangjun 부사장은 지난 1년 동안 대형 모델 기술이 급속도로 발전했으며, 다양한 산업 분야에서 점진적으로 구현되면서 2024년은 국내 대형 모델이 폭발적으로 증가하는 원년이 될 것이라고 말했습니다. 산업 응용 프로그램. 대규모 모델 구현 시나리오, 사용 비용, 애플리케이션 개발, 애플리케이션 효과 등 기업이 가장 우려하는 4가지 주요 과제에 대응하여 Baidu Intelligent Cloud Qianfan은 대형 모델이라는 두 가지 측면에서 최신 '문제 해결 아이디어'를 제공했습니다. AI 네이티브 애플리케이션 개발.

Baidu 지능형 클라우드 Qianfan 대형 모델 플랫폼, "3+2" 새 모델 패키지 출시: 엔터프라이즈 애플리케이션 대형 모델의 "비용 효율성" 향상

대형 모델의 효과는 "기술적" " 부단한 경제적 이익 추구는 '시장파'의 궁극적인 목표이다. Xie Guangjun은 여러 업계의 고객과 소통하면서 대형 모델의 궁극적인 효과를 추구하는 일부 대형 고객을 제외하고 더 많은 기업과 기관이 대형 모델의 사용 효과, 성능 및 비용을 종합적으로 고려해야 하는 경우가 많다는 사실을 발견했습니다. "원가" 비교". 이번에 Qianfan 플랫폼의 모델 매트릭스는 "비용 효율성"이라는 회사의 핵심 매력에 부응하여 일련의 업그레이드를 거쳤습니다.

(Baidu 지능형 클라우드 Qianfan 대형 모델 플랫폼 모델 매트릭스)

Wenxin 대형 모델 ERNIE 3.5는 현재 Baidu Intelligent Cloud Qianfan 대형 모델 플랫폼에서 가장 인기 있는 기본 대형 모델 중 하나입니다. 사용자의 일반적인 대화 시나리오를 위해 ERNIE 3.5는 지침 따르기, 상황 학습 및 논리적 추론 기능이라는 세 가지 측면에서 기능을 향상했습니다. 업그레이드된 ERNIE 3.5는 카피라이팅 생성, 정보 추출 및 도구 호출과 같은 세 가지 주요 엔터프라이즈 애플리케이션 시나리오에서 애플리케이션 성능을 24%, 27%, 22% 크게 향상시켰습니다.

두 번째로, 경량 대형 모델은 매개변수가 매우 큰 대형 모델에 비해 매개변수가 작아 고객이 특정 사용 시나리오에 맞게 모델을 미세 조정하기가 더 쉽고 기대되는 사용 효과를 더 쉽게 얻을 수 있습니다. 비용을 절약하면서 더 많은 비용을 절감할 수 있습니다. 이번 컨퍼런스에서 Baidu Intelligent Cloud는 ERNIE Speed, ERNIE Lite 및 ERNIE Tiny를 포함한 세 가지 경량 대형 모델을 출시했으며, 이는 고객이 "효율성을 줄이지 않고 볼륨을 줄"을 달성하고 불필요한 비용을 절감할 수 있도록 지원합니다.

구체적으로 ERNIE Speed는 세 가지 경량 대형 모델 중 "대형"으로서 추론 시나리오에서 최대 128k의 컨텍스트 길이를 가지며 지식 질문 및 답변 처리와 같은 작업을 더 잘 처리할 수 있습니다. 보다 일관되고 정확한 예측이나 답변을 생성하기 위한 컨텍스트 종속성. 동시에 ERNIE Speed는 특정 시나리오에 대한 미세 조정을 위한 기본 모델로 사용할 수 있으며 모델 효과는 주력 대형 매개변수 대규모 모델과 동일하거나 심지어 초과할 수 있으며 비용 효율성이 크게 향상됩니다. .

ERNIE Speed에 비해 ERNIE Lite는 더 작은 매개변수를 가지며 추론 작업을 처리하기 위해 컴퓨팅 성능이 낮은 AI 가속기 카드에 설치하는 것이 더 적합합니다. 고객 구현 비용을 절감합니다. ERNIE-Bot-turbo 모델의 업그레이드 버전인 ERNIE Lite는 감성분석, 멀티태스킹 학습, 자연추론 등 시나리오에서의 적용 효과가 20% 향상됐다. 추론 호출 비용이 53% 대폭 감소했습니다!

세 가지 경량 모델 중 매개변수 수가 가장 적은 ERNIE Tiny는 극도로 낮은 비용과 낮은 대기 시간을 위한 최선의 선택을 고객에게 제공합니다. 검색, 추천, 의도 인식 등 높은 동시성, 낮은 지연 시간의 애플리케이션 시나리오에서 ERNIE Tiny의 우수한 성능은 뛰어난 성능을 보여줍니다. 특정 대화 추천 비즈니스 시나리오에서 미세 조정된 ERNIE Tiny는 검색 엔진 추천 단어 자극에 있어 ERNIE 3.5 대비 대화 라운드 수를 3.5% 늘리고 비용을 32% 절감했습니다.

또한 기업은 실제 응용 프로그램의 캐릭터 플레이 및 외부 도구 호출에서 대형 모델의 효과에 대해 더 높은 요구 사항을 가지고 있습니다. 이 Qianfan 대형 모델 플랫폼 ModelBuilder는 기업 시나리오에 대한 심층적인 통찰력과 Baidu의 자체 비즈니스 모범 사례를 기반으로 고객의 롤플레잉 애플리케이션 시나리오(예: 게임 NPC, 고객 서비스 대화 등) 및 도구 호출 시나리오(대화에서 외부 도구 사용, 비즈니스 기능 호출 등).

한 스마트 하드웨어 제조업체는 이 모델을 적용한 후 문자 일관성, 사용자의 채팅 욕구 자극 및 증가 등의 측면에서 지능형 비서를 개발했습니다. . 여행 및 여행 앱은 ERNIE 기능을 사용하여 티켓 예약 및 항공편 상태 확인과 같은 여러 기능 호출을 실행하는 데 85%의 정확도로 지능형 고객 서비스 도우미를 만듭니다.

Qianfan AppBuilder가 완전히 업그레이드되었습니다. AI 네이티브 애플리케이션 개발의 문턱을 대폭 낮추었습니다

Qianfan AppBuilder는 산업용 등급 AI 네이티브 애플리케이션 개발 플랫폼으로서 Qianfan의 중요한 부분입니다. AppBuilder의 하단 레이어는 Baidu의 다년간의 기술과 실제 경험을 기반으로 한 대규모 모델 구성 요소, AI 기능 구성 요소의 기본 구성 요소, 일반적인 애플리케이션 시나리오에 맞게 심층적으로 조정 및 구성된 일련의 고급 구성 요소로 구성됩니다. 기본 구성 요소와 고급 구성 요소가 함께 에이전트를 지원하는 반면, 에이전트는 강력한 자율 작업 계획 기능을 갖추고 있으며 사용자 의도를 이해하고 실행 경로를 자동으로 계획할 수 있습니다. 다중 도구 통합을 달성합니다. 이러한 기능은 다양한 개발자의 요구 사항에 더 잘 부합하기 위해 제로 코드 상태와 코드 상태라는 두 가지 개발 방법을 통해 제공됩니다.

개발이 완료된 후 AppBuilder는 WeChat 고객 서비스, WeChat 공식 계정, 웹 클라이언트/H5, 및 Baidu Lingjing 매트릭스. Baidu Spiritual Realm Matrix를 기반으로 Baidu 검색 및 Baidu 정보 흐름과 같은 주류 시나리오에 애플리케이션을 배포하고 탑재할 수 있습니다. 애플리케이션이 실제로 개발되면 사용자에게 직접 도달하고 AI 기본 애플리케이션 생성부터 개발, 배포까지 전체 프로세스가 공개됩니다.

(Baidu Smart Cloud Qianfan AppBuilder)

업그레이드된 AppBuilder에는 최대 55개의 개방형 도구 구성 요소가 있습니다. Baidu의 다년간의 기술 축적과 자체 비즈니스 축적을 기반으로 한 대형 모델 구성 요소와 AI 기능 구성 요소는 물론 검색 등 Baidu 전용 비즈니스 구성 요소와 다양한 시나리오에 대한 타사 API 도구도 제공합니다. RAG(지식 검색 질문 및 답변), 일반적인 애플리케이션 시나리오에 따라 심층 조정되는 GBI(생성 데이터 분석)와 같은 고급 기능 구성 요소입니다.

AI 네이티브 애플리케이션 개발은 클라우드 인프라와 불가분의 관계입니다. 이번에 출시된 기본 구성 요소에는 Baidu Smart Cloud가 새로 출시한 벡터 데이터베이스 VDB 1.0도 포함되어 있습니다. 벡터 데이터베이스는 기업을 위한 지식 베이스의 필수적인 핵심 구성 요소입니다. 이는 기존 지식 베이스 질문 및 답변 시스템에서 발생하는 성능 병목 현상, 유지 관리 문제 및 규모 제한에 대한 강력한 솔루션을 제공합니다. 새로 출시된 Baidu 벡터 데이터베이스 VDB 1.0은 포괄적인 운영 및 유지 관리 제어와 보안 보호 기능을 통합할 뿐만 아니라 Qianfan 및 LangChain과 같은 주류 생태계와도 호환됩니다. 이를 통해 기업은 수천만 개의 문서 지식과 지원을 쉽게 관리할 수 있습니다. 1000억 벡터 저장 규모와 밀리초 수준의 벡터 검색 속도. 동시에 유사한 오픈 소스 제품과 비교하여 VDB 1.0의 성능은 최대 10배 향상되었습니다.

구성 요소 외에도 Qianfan AppBuilder가 출시한 Agent(지능형) 응용 프로그램 프레임워크는 정밀하고 독립적인 작업 계획 기능을 갖추고 있으며 여러 응용 프로그램 도구의 자동 조정 정확도가 90%를 초과하며 이 수치는 여전히 90%를 넘습니다. 끊임없이 개선되고 있습니다. AppBuilder는 또한 개발자가 사용자 정의 도구에 액세스하고 자동 오케스트레이션과 수동 오케스트레이션을 결합하여 보다 복잡한 시나리오 애플리케이션의 요구 사항을 사용자 정의할 수 있도록 지원합니다. Agent 프레임워크 내 코드 해석 기능도 이번 업그레이드를 통해 성능이 40% 대폭 향상되었으며, 복잡한 데이터 분석 시나리오에서 생성된 결과의 승인률이 95%에 달해 다양한 데이터 분석 및 정보에 쉽게 대처할 수 있습니다. 처리 시나리오.

또한 AppBuilder의 코드 기반 개발 도구도 추가되었습니다. AppBuilder SDK는 이번에 Agent API를 출시하여 개발자가 Agent를 비즈니스 시스템에 쉽게 통합할 수 있게 해줍니다. 동시에 AppBuilder SDK는 주류 AI 기본 애플리케이션 시나리오에 대한 풍부한 애플리케이션 예제를 제공하며 현재 Github에서 오픈 소스로 다양한 애플리케이션을 지원합니다. . 자유로운 구성요소 호출을 통한 유연한 오케스트레이션은 개발자가 2차 개발과 편리한 애플리케이션 통합을 실현하는 데 도움이 됩니다.

이 컨퍼런스에서는 제로 코드 개발 모드에서 단 1분 만에 "영어 작문 도우미" 에이전트(지능형) 애플리케이션을 구축하는 방법도 시연했습니다. AppBuilder에서 애플리케이션 이름이나 희망 사항만 입력하면 됩니다. 개발된 응용 기능을 사용하면 플랫폼에서 자동으로 응용 프로그램을 생성할 수 있으며, 역할 지침을 조정하고 필요한 도구 구성 요소를 추가하기만 하면 영어 작문 교정 도우미를 빠르게 생성할 수 있습니다. 게시 후 바로 사용할 수 있으며, 3단계로 애플리케이션 생성 및 배포를 완료할 수 있습니다.

(1분 만에 영어 작문 교정 도우미 만들기)

바이두 인텔리전트 클라우드의 관점에서는 대형 모델 기술의 지속적인 발전과 혁신으로 엔지니어링 실습이 사용자 요구에 적응합니다. 점점 더 중요해지고 있습니다. 시나리오에 깊이 파고들어 고객의 실제 요구 사항을 발견하고 이에 대응하는 것이야말로 혁신적인 기술의 성과를 실현하는 가장 좋은 방법입니다.

위 내용은 Baidu 지능형 클라우드 Qianfan 대형 모델 플랫폼이 다시 업그레이드되었습니다. 5개의 대형 모델과 55개의 새로운 도구 구성 요소가 출시되었습니다!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!