Verifai를 사용하여 로컬 생성 검색 엔진을 쉽게 배포하는 방법

이 기사는 오픈 소스 생성 검색 엔진 인 Verifai Project에 대한 중요한 업데이트를 자세히 설명합니다. 이전에 생의학 데이터 (

https://www.php.cn/link/ae8e20f2cb995afbe0f507856c17 주요 기능 및 아키텍처 :

Verifai Core의 아키텍처는 세 가지 주요 구성 요소 인 로 구성됩니다

인덱싱 : 는 의미 론적 인덱싱을위한 어휘 색인 및 QDRANT (Hugging Face Embedding 모델 사용)를위한 옵션 검색을 활용합니다. 이 이중 접근 방식은 포괄적 인 문서 표현을 보장합니다. 인덱싱 스크립트는 다양한 파일 유형 (PDF, Word, PowerPoint, Text, Markdown)을 지원합니다.

검색 세대 생성 (RAG) :
1. 는 OpenSearch의 어휘 검색 및 Qdrant의 시맨틱 검색 (DOT 제품 유사성 사용)의 결과를 결합합니다. 병합 된 결과는 선택한 LLM (Lange Language Model)에게 프롬프트를 알려줍니다. 기본 LLM은 로컬로 배포 된 미세 조정 된 버전의 Mistral이지만 사용자는 다른 사람 (OpenAi API, Azure API 등, Vllm, Ollama 또는 Nvidia NIMS)을 지정할 수 있습니다. 검증 엔진 : 소스 문서에 대한 생성 된 답변을 확인하고 환각을 최소화하는 중요한 구성 요소.

설정 및 설치 :

2. 저장소를 복제하십시오 파이썬 환경을 만듭니다 :

3. 설치 종속성 :

   구성 verifai :
파일을 구성 ( 기준) 데이터베이스 자격 증명 지정 (PostgreSQL), OpenSearch, QDRANT, LLM 세부 사항 (PATH, API 키, 배포 이름), 형성 모델 및 인덱스 이름.

DataStores 설치 :

(Docker 필요)

색인 파일 : (예 : ).

1. 백엔드를 실행하십시오 :

2. 프론트 엔드를 실행하십시오 :

   , run , 그런 다음 . client-gui/verifai-ui npm install npm start

   기여 및 미래 개발 :
verifai는 기부금을 환영하는 오픈 소스 프로젝트입니다. 이 프로젝트는 초기에 차세대 인터넷 검색 프로젝트 (유럽 연합)에 의해 자금을 지원 받았으며 세르비아 및 바이어 A.G의 인공 지능 연구 및 개발 연구소와 협력하여 개발이 진행 중이며, 기능과 유용성을 확대하는 데 중점을두고 있습니다. 기부금은 풀 요청, 버그 보고서 및 기능 요청을 통해 권장됩니다. 자세한 내용을 보려면

https://www.php.cn/link/d16c19f1f1f1f8361fda1f625ce3ff26a

를 방문하십시오

위 내용은 Verifai를 사용하여 로컬 생성 검색 엔진을 쉽게 배포하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!