Base de données vectorielle haute performance et moteur de mémoire d'agent pour les développeurs d'IA
rostam, de Rostamlabs, est une base de données vectorielle et un moteur clé-valeur qui fournit une mémoire persistante pour les assistants IA et les flux de travail des agents. Il connecte le stockage et le contexte du modèle via un point de terminaison du Protocole de Contexte de Modèle et prend en charge un déploiement flexible en tant que bibliothèque intégrable, serveur autonome ou service en cluster. L'outil cible les développeurs IA construisant des systèmes de génération augmentée par récupération qui ont besoin d'un stockage local à haut débit pour l'état de l'agent et la recherche.
Quelles tâches pouvez-vous réellement utiliser Rostam pour ?
Rostam fonctionne à la fois comme un hôte d'index vectoriel et un plan de données programmable pour les flux de travail de récupération, permettant aux ingénieurs d'automatiser le fractionnement et l'indexation des documents avec les outils inclus "RAG-in-a-box". Il expose des points d'extension côté serveur, notamment des procédures stockées WASM et des fonctions Go personnalisées, afin que la logique d'application puisse s'exécuter à proximité des données. Les options d'indexation incluent HNSW, IVF et Vamana, ciblant différents compromis latence/rappel.
Quelle est la fiabilité et la rapidité de la récupération ?
Le moteur fournit un chemin clé-valeur dédié avec des caractéristiques de recherche sub-microseconde et plusieurs types d'index pour accélérer les requêtes de voisinage le plus proche. La recherche peut combiner des signaux vectoriels denses avec des représentations éparses et un appariement de texte BM25 pour augmenter le rappel sur des collections riches en texte. Un proxy de mise en cache de réponses LLM stocke les complétions de chat répétées, réduisant les allers-retours répétés pour des invites identiques et améliorant les temps de réponse pour des charges de travail répétitives.
Quelles déploiements et entrées cela nécessite-t-il ?
Le cœur est écrit en Go et fonctionne sur des plateformes de bureau et de serveur, avec des options pour intégrer la bibliothèque dans un binaire Go, exécuter une instance de serveur unique, ou répliquer l'état à travers un cluster Raft pour la disponibilité. Il prend en charge le code côté serveur basé sur WASM et Go, et s'intègre avec des clients compatibles MCP et des interfaces utilisateur d'agent, de sorte qu'il s'intègre dans des chaînes d'agents existantes plutôt que de les remplacer.
Besoin-t-il de services externes et comment les données sont-elles gérées ?
La recherche de texte de base fonctionne sans API externes, mais la recherche de vecteurs denses peut être améliorée en connectant un point de terminaison d'intégration compatible avec OpenAI pour des vecteurs plus riches. Le proxy llm-stocke les complétions localement, et les déploiements locaux suppriment le besoin de comptes cloud obligatoires pour les fonctions de base de données centrales. La compatibilité avec les clients MCP signifie que l'état persistant de l'agent peut être hébergé là où les équipes contrôlent la rétention et l'emplacement de stockage.
Qui devrait adopter Rostam et quand
Rostam convient aux équipes d'ingénierie qui peuvent faire fonctionner et étendre un moteur de données basé sur Go et qui souhaitent un contrôle local sur la mémoire des agents et les performances de récupération. Il réduit la dépendance aux services de vecteurs externes lorsqu'il est déployé localement, mais les équipes qui nécessitent un hébergement géré, clé en main ou des embeddings denses intégrés sans se connecter à un point de terminaison d'embedding peuvent préférer une alternative hébergée. Évaluez-le lorsque vous avez besoin d'un contrôle strict sur la latence de récupération et la logique côté serveur personnalisée.
