Mistral 7B를 사용한 AI 요원에서 기능 호출 - 분석 Vidhya

Mistral 7B로 호출하는 기능의 힘 활용 : 지능형 AI 에이전트 구축

LLMS (Largin Language Models)는 외부 시스템 및 API와의 AI 에이전트 상호 작용에 혁명을 일으켜 정교하고 자연스러운 언어 중심의 의사 결정을 가능하게했습니다. 이는 JSON 스키마 정의 된 기능을 통해 LLM이 외부 작업을 자율적으로 선택하고 실행하여 자동화를 크게 향상시킬 수있는 기능 호출을 통해 달성됩니다. 이 기사에서는 명령을 내리는 데 최적화 된 최첨단 모델 인 Mistral 7B를 사용한 기능 호출을 보여줍니다.

주요 학습 목표 :

• 생성 AI 내에서 AI 에이전트의 역할과 유형을 파악하십시오.
• JSON Schemas를 통해 기능 호출이 LLM 기능을 향상시키는 방법을 이해하십시오.
• 텍스트 생성을 위해 Mistral 7B 모델을 구성하고로드하십시오.
• 외부 프로세스를 실행하기 위해 LLM에서 호출 기능을 구현하십시오.
• Mistral 7b를 사용하여 기능 인수를 추출하고 응답을 생성합니다.
• 구조화 된 출력으로 날씨 쿼리와 같은 실시간 기능을 실행하십시오.
• 여러 도구를 사용하여 다양한 도메인에서 AI 에이전트 기능을 확장하십시오.

(이 기사는 데이터 과학 블로그의 일부입니다.)

목차 :

• AI 에이전트 이해
• LLMS에서 기능 호출
• Mistral 7B 파이프 라인 구축 : 모델 및 텍스트 생성
• Mistral 7b로 기능 호출 구현
• 모델 생성 최종 응답
• 결론
• 자주 묻는 질문

AI 에이전트 이해 :

생성 AI (GENAI) 내에서 AI 에이전트는 상당한 발전을 나타냅니다. LLM과 같은 모델을 사용하여 콘텐츠를 생성하고 상호 작용을 시뮬레이션하며 복잡한 작업을 자율적으로 실행합니다. 그들의 적응성은 고객 서비스, 교육 및 건강 관리를 포함한 다양한 분야에 걸쳐 확장됩니다.

AI 에이전트는 다음과 같이 분류 할 수 있습니다 (아래 이미지 참조).

• 인간-루프 (피드백 조항)
• 코드 집행자 (예 : Ipython 커널)
• 도구 실행자 (기능 또는 API 실행)
• 모델 (LLM, VLM 등)

함수 호출은 코드 실행, 공구 실행 및 모델 추론을 통합합니다. LLM은 자연어 처리를 처리하고 코드 집행자는 사용자 요청을 수행하기 위해 필요한 코드 스 니펫을 실행합니다. 인간-루프 상호 작용은 피드백 또는 제어 프로세스 종료를 제공 할 수 있습니다.

LLMS에서 기능을 호출하는 기능은 다음과 같습니다.

개발자는 JSON 스키마를 사용하여 기능을 정의합니다 (모델로 전달). 그런 다음 모델은 사용자 프롬프트를 기반으로 필요한 기능 인수를 생성합니다. 예를 들어, 날씨 API에 전화하여 실시간 날씨 정보를 제공 할 수 있습니다. 함수 호출을 통해 LLM은 적절한 기능 또는 도구를 지능적으로 선택하여 자율 작업 완료 및 효율성을 향상시킬 수 있습니다.

이 기사에서는 LLM (Mistral)이 사용자 쿼리를 기반으로 함수 인수를 생성하는 방법을 보여줍니다. 사용자는 델리 온도를 요구합니다. 모델은 인수를 추출하고, 함수는 실시간 데이터 (또는 기본값)를 검색하고 LLM은 사용자 친화적 인 응답을 제공합니다.

Mistral 7B 파이프 라인 구축 : 모델 및 텍스트 생성 :

필요한 라이브러리를 가져 와서 미스 트랄 7B 모델과 토큰 화제를 껴안는 얼굴에서 추론을 위해로드 할 것입니다. 모델은 여기에서 사용할 수 있습니다.

라이브러리 가져 오기 :

 변압기 가져 오기 파이프 라인, AutomodeLforcausallm, Autotokenizer
경고 수입
경고 .filterwarnings ( "무시")

Mistral 7B 모델 저장소 지정 :

 model_name = "mistralai/mistral-7b-instruct-v0.3"

모델 및 토 케이저 다운로드 :

(참고 : 액세스는 웹 사이트의 지침에 따라 포옹 얼굴 가입 및 토큰 생성이 필요합니다.)

 model = automodelforcausallm.from_pretraind (model_name, token = hf_token, device_map = 'auto')
Tokenizer = Autotokenizer.from_pretrained (model_name, token = hf_token)

(구현, 결과 및 결론을 자세히 설명하는 나머지 섹션은 명확성과 흐름을 향상시키는 동시에 원래 의미를 유지하기 위해 유사한 구조 조정 및 리 워드를 따릅니다. 이미지는 원래 위치에 남아 있습니다.)

위 내용은 Mistral 7B를 사용한 AI 요원에서 기능 호출 - 분석 Vidhya의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!