Respan

O que é Respan?

Respan (anteriormente Keywords AI) é um plano de controle unificado para observabilidade e avaliação de agentes de IA. Ele captura traces de execução completos em cada chamada LLM, invocação de ferramenta, decisão de roteamento e estado de memória — dando às equipes visibilidade completa sobre como seus agentes realmente se comportam em produção. Além da visibilidade, o Respan fecha o ciclo: executa avaliações automatizadas em nível de fluxo de trabalho, identifica causas raiz, recomenda correções e permite que as equipes publiquem alterações de prompts e modelos diretamente da plataforma. Apoiado por Y Combinator e Gradient, o Respan atende equipes que processam milhões de chamadas LLM por hora e está em conformidade com ISO 27001, SOC 2, GDPR e HIPAA.

Recursos Principais

• Rastreamento de ponta a ponta

  Captura 100% das requisições em produção com detalhes completos em nível de span — entradas, saídas, chamadas de ferramentas, decisões de roteamento, latência, custo e metadados personalizados — reconstruídos automaticamente em árvores de execução completas para agentes de múltiplas etapas.

• Fluxos de trabalho de avaliação automatizados

  Combina verificações baseadas em código, revisão humana e juízes LLM em um único pipeline de avaliação acionado automaticamente quando prompts, modelos ou o comportamento dos agentes mudam — sem ferramentas adicionais.

• Agente de avaliação de IA

  Um agente pioneiro no setor que analisa falhas em múltiplas tentativas, localiza as causas raiz em decisões específicas, recomenda quais avaliações adicionar em seguida e faz amostragem inteligente do tráfego ao vivo para revisão.

• Implantação de prompts e modelos

  Versione, teste e promova prompts e alterações de modelos diretamente da interface para produção, com suporte a rollback e comparação A/B com versões anteriores usando os mesmos dados de produção.

• Gateway de IA adaptativo

  Um único gateway que fornece acesso a mais de 500 modelos com roteamento flexível, abstração de provedores, suporte a BYOK e failover automático — sem reconstruir a infraestrutura.

• Monitoramento e alertas em tempo real

  Painéis personalizados com mais de 80 tipos de gráficos rastreiam qualidade, latência, custos e taxas de erro. Alertas são enviados via Slack, e-mail ou SMS quando o comportamento se desvia ou falha, com automações para acionar avaliações subsequentes ou construção de conjuntos de dados.

Casos de Uso

• Depuração de agentes de IA : As equipes de engenharia podem abrir qualquer trace de produção diretamente em um ambiente de replay para reproduzir falhas, testar correções e confirmar a resolução sem adivinhações.
• Proteção contra regressões : Equipes que lançam atualizações frequentes de prompts ou modelos usam o Respan para executar avaliações contra linhas de base históricas antes de cada release, detectando regressões de qualidade antes que os usuários sejam afetados.
• Monitoramento de LLM em larga escala : Empresas que processam milhões de chamadas LLM por hora — como plataformas de voz com IA — usam o registro assíncrono e o agrupamento de threads do Respan para manter visibilidade completa em escala entre agentes, idiomas e casos de uso.
• Curadoria de conjuntos de dados a partir da produção : Os traces de produção são automaticamente convertidos em conjuntos de dados de avaliação rotulados, eliminando o esforço manual de construir conjuntos de testes e mantendo as avaliações ancoradas no uso real.
• Otimização de prompts : As equipes usam fluxos de dados de produção ao vivo para executar engenharia de prompts automática diretamente na plataforma, melhorando continuamente as saídas dos agentes sem ciclos de experimentação offline.

Perguntas Frequentes