Respan

Qu'est-ce que Respan ?

Respan (anciennement Keywords AI) est un plan de contrôle unifié pour l'observabilité et l'évaluation des agents IA. Il capture les traces d'exécution complètes à travers chaque appel LLM, invocation d'outil, décision de routage et état mémoire — offrant aux équipes une visibilité totale sur le comportement réel de leurs agents en production. Au-delà de la visibilité, Respan boucle la boucle : il exécute des évaluations automatisées au niveau des workflows, remonte les causes profondes, recommande des correctifs et permet aux équipes de déployer des changements de prompts et de modèles directement depuis la plateforme. Soutenu par Y Combinator et Gradient, Respan sert des équipes traitant des millions d'appels LLM par heure et est conforme aux normes ISO 27001, SOC 2, RGPD et HIPAA.

Fonctionnalités clés

• Traçage de bout en bout

  Capture 100 % des requêtes en production avec un niveau de détail complet au niveau des spans — entrées, sorties, appels d'outils, décisions de routage, latence, coût et métadonnées personnalisées — reconstruits automatiquement en arbres d'exécution complets pour les agents multi-étapes.

• Workflows d'évaluation automatisés

  Combine vérifications par code, révision humaine et juges LLM dans un pipeline d'évaluation unique, déclenché automatiquement lors de changements de prompts, de modèles ou du comportement des agents — sans outillage supplémentaire.

• Agent d'évaluation IA

  Un agent inédit qui analyse les échecs sur plusieurs essais, localise les causes profondes jusqu'aux décisions spécifiques, recommande les évaluations à ajouter en priorité et échantillonne intelligemment le trafic en production pour révision.

• Déploiement de prompts et de modèles

  Versionnez, testez et promouvez les prompts et les changements de modèles directement depuis l'interface vers la production, avec prise en charge du rollback et comparaison A/B avec les versions précédentes sur les mêmes données de production.

• Passerelle IA adaptative

  Une passerelle unique donnant accès à plus de 500 modèles avec routage flexible, abstraction des fournisseurs, support BYOK et basculement automatique — sans reconstruire l'infrastructure.

• Surveillance et alertes en temps réel

  Des tableaux de bord personnalisables avec plus de 80 types de graphiques suivent la qualité, la latence, les coûts et les taux d'erreur. Des alertes sont envoyées via Slack, e-mail ou SMS en cas de dérive ou d'incident, avec des automatisations pour déclencher des évaluations ou des constructions de jeux de données.

Cas d'utilisation

• Débogage d'agents IA : Les équipes d'ingénierie peuvent ouvrir n'importe quelle trace de production directement dans un environnement de rejeu pour reproduire les défaillances, tester les correctifs et confirmer leur résolution sans tâtonnement.
• Protection contre les régressions : Les équipes qui publient fréquemment des mises à jour de prompts ou de modèles utilisent Respan pour exécuter des évaluations par rapport aux bases de référence historiques avant chaque release, détectant les régressions de qualité avant qu'elles n'affectent les utilisateurs.
• Surveillance LLM à grande échelle : Les entreprises traitant des millions d'appels LLM par heure — comme les plateformes de voix IA — utilisent la journalisation asynchrone et le regroupement par fils de discussion de Respan pour maintenir une visibilité complète sur les agents, les langues et les cas d'usage à grande échelle.
• Constitution de jeux de données depuis la production : Les traces de production sont automatiquement converties en jeux de données d'évaluation annotés, éliminant l'effort manuel de construction des jeux de test et ancrant les évaluations dans l'usage réel.
• Optimisation des prompts : Les équipes utilisent les flux de données de production en direct pour exécuter de l'ingénierie de prompts automatique directement dans la plateforme, améliorant continuellement les sorties des agents sans cycles d'expérimentation hors ligne.

FAQ