Routeur sémantique – Piloter les LLM

Je voulais partager un projet sur lequel je travaille appelé SemRoute, et j'aimerais avoir vos commentaires. SemRoute est un routeur sémantique qui utilise des intégrations vectorielles pour acheminer les requêtes en fonction de leur signification sémantique. Il est conçu pour être flexible et facile à utiliser, sans avoir besoin de classificateurs de formation ni d'utilisation de grands modèles de langage.

Voici un bref aperçu :

• Prend en charge plusieurs modèles d'intégration (OpenAI, MistralAI)
• Prend en charge les modèles d'intégration personnalisés
• Offre un seuillage dynamique et statique
• Permet différentes méthodes de notation (moyenne individuelle, centroïde)

Vous pouvez le consulter sur GitHub : https://github.com/HansalShah007/semroute. J'apprécierais vraiment tous les commentaires ou suggestions de cette communauté sur la façon de l'améliorer ou les cas d'utilisation pour lesquels vous pensez qu'elle pourrait être adaptée.
Merci !

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!