Respan

Respanとは？

Respan（旧 Keywords AI）は、AI エージェントの可観測性と評価のための統合コントロールプレーンです。すべての LLM 呼び出し・ツール呼び出し・ルーティング決定・メモリ状態にわたる完全な実行トレースをキャプチャし、エージェントが本番環境で実際にどのように動作しているかをチームが完全に把握できるようにします。可視性にとどまらず、Respan はループを完結させます。自動化されたワークフローレベルの評価を実行し、根本原因を明らかにし、修正を推奨し、チームがプラットフォームから直接プロンプトとモデルの変更をリリースできるようにします。Y Combinator と Gradient の支援を受ける Respan は、1時間あたり数百万件の LLM 呼び出しを処理するチームにサービスを提供しており、ISO 27001・SOC 2・GDPR・HIPAA に準拠しています。

主な機能

• エンドツーエンドのトレーシング

  本番環境のリクエストを100%キャプチャし、入力・出力・ツール呼び出し・ルーティング決定・レイテンシ・コスト・カスタムメタデータを含む完全な span レベルの詳細を提供します。マルチステップエージェントの完全な実行ツリーを自動的に再構築します。

• 自動化された評価ワークフロー

  コードベースのチェック、人間によるレビュー、LLM ジャッジを単一の評価パイプラインに統合し、プロンプト・モデル・エージェントの動作が変更された際に自動でトリガーされます。別途ツールは不要です。

• AI 評価エージェント

  業界初のエージェントで、複数の試行にわたる失敗を分析し、特定の意思決定箇所に根本原因を特定し、次に追加すべき評価項目を推奨し、レビュー用にライブトラフィックをインテリジェントにサンプリングします。

• プロンプト・モデルのデプロイ

  UI から直接プロンプトとモデルの変更をバージョン管理・テスト・本番リリースでき、ロールバックのサポートと同一の本番データを使った過去バージョンとの A/B 比較が可能です。

• アダプティブ AI ゲートウェイ

  柔軟なルーティング・プロバイダー抽象化・BYOK サポート・自動フェイルオーバーを備えた単一ゲートウェイで 500 以上のモデルにアクセスできます。インフラの再構築は不要です。

• リアルタイムモニタリングとアラート

  80 種類以上のグラフタイプに対応したカスタムダッシュボードで品質・レイテンシ・コスト・エラー率を追跡します。動作が乱れたり障害が発生した際には Slack・メール・SMS でアラートを送信し、後続の評価やデータセット構築を自動でトリガーできます。

ユースケース

• AI エージェントのデバッグ : エンジニアリングチームはリプレイプレイグラウンドで本番トレースを直接開き、障害を再現し、修正をテストし、推測に頼らず解決を確認できます。
• リグレッション防止 : プロンプトやモデルを頻繁に更新するチームは、Respan を使ってリリースのたびに過去のベースラインに対して評価を実行し、ユーザーへの影響が出る前に品質の低下を検出します。
• 大規模 LLM モニタリング : 音声 AI プラットフォームなど、1時間あたり数百万件の LLM 呼び出しを処理する企業は、Respan の非同期ロギングとスレッドグループ化を活用して、エージェント・言語・ユースケースをまたいで大規模な完全な可視性を維持します。
• 本番データからのデータセット構築 : 本番トレースが自動的にラベル付き評価データセットに変換され、テストセットを手動で構築する手間を省き、評価が実際の使用状況に基づいた状態を維持します。
• プロンプト最適化 : チームはライブ本番データストリームを活用してプラットフォーム上で直接自動プロンプトエンジニアリングを実行し、オフラインの実験サイクルなしにエージェントの出力を継続的に改善します。

よくある質問