HeartBeatAgents

Fournisseur d'embeddings

Voir en Markdown

Activez la véritable recherche sémantique pour la mémoire et les compétences en connectant un fournisseur d'embeddings, ou passez outre et reposez-vous sur une correspondance textuelle gratuite.

Recherche vectorielle ou textuelle

Configurez ceci depuis Paramètres → Embeddings. Par défaut, les recherches de mémoire et de compétences utilisent une correspondance textuelle (par mots-clés), sans coût supplémentaire. Connecter un fournisseur d'embeddings active à la place la recherche vectorielle, afin qu'une recherche corresponde par sens plutôt que par mots exacts. Un interrupteur en haut de la page bascule entre Recherche vectorielle et Recherche textuelle seule.

Fournisseurs pris en charge

Sept fournisseurs, chacun avec son propre modèle d'embeddings :

  • OpenAI
  • Voyage AI
  • Cohere
  • Mistral
  • Google Gemini
  • Hugging Face
  • Ollama (local) : la seule option qui ne nécessite aucune clé API. Pointez-le vers une installation locale d'Ollama et utilisez Découvrir pour récupérer les modèles que vous avez déjà là-bas.

La plupart des fournisseurs affichent une liste déroulante de modèles avec les dimensions et le coût par jeton de chaque option ; Ollama et Hugging Face prennent à la place un nom de modèle en texte libre.

Testez avant d'enregistrer

Utilisez Tester la connexion avant d'enregistrer un fournisseur nouveau ou modifié. Cela renvoie les dimensions et la latence du vecteur obtenu, afin que vous sachiez que la connexion fonctionne réellement avant que la recherche de mémoire et de compétences n'en dépende.

Changer de fournisseur plus tard

Les embeddings des compétences sont reconstruits automatiquement en arrière-plan si vous changez de fournisseur ou de modèle ; les compétences existantes continuent de fonctionner avec leurs anciens vecteurs jusqu'à la fin de la reconstruction, afin que la recherche ne s'interrompe pas entre-temps. La mémoire ne se reconstruit pas de la même façon : changer de fournisseur modifie ce à quoi les nouveaux souvenirs sont comparés, sans reconstruire rétroactivement les anciens. Considérez un changement de fournisseur comme une décision à prendre tôt, pas quelque chose à changer à la légère une fois qu'un agent a accumulé une mémoire significative.

Si aucun fournisseur n'est configuré ou en cas d'échec

L'absence de fournisseur d'embeddings configuré, ou un fournisseur inaccessible, ne casse pas la recherche de mémoire ni de compétences : HeartBeatAgents revient à la correspondance textuelle seule pour cette recherche plutôt que d'afficher une erreur. Voir Un agent ne se rappelle pas correctement de la mémoire si vous constatez ce repli de façon inattendue.

À voir aussi