Respan

Respan 是什麼？

Respan（前身為 Keywords AI）是面向 AI Agent 可觀測性與評估的統一控制平面。它擷取每次 LLM 呼叫、工具呼叫、路由決策和記憶體狀態的完整執行鏈路，讓團隊對 Agent 在生產環境中的真實行為瞭若指掌。Respan 不止於可見性，更形成完整閉環：自動執行工作流層級的評估、定位根因、推薦修復方案，並支援團隊直接從平台發布提示詞和模型變更。Respan 獲得 Y Combinator 和 Gradient 投資，服務於每小時處理數百萬次 LLM 呼叫的團隊，並通過 ISO 27001、SOC 2、GDPR 和 HIPAA 合規認證。

主要功能

• 端對端鏈路追蹤

  擷取生產環境中100%的請求，提供完整的 span 層級詳情——包含輸入、輸出、工具呼叫、路由決策、延遲、成本及自訂元資料——並自動重建為多步驟 Agent 的完整執行樹。

• 自動化評估工作流

  在單一評估流水線中整合程式碼檢查、人工審核與 LLM 裁判，當提示詞、模型或 Agent 行為發生變化時自動觸發——無需額外工具。

• AI 評估 Agent

  業界首創的 Agent，能夠分析多次試驗中的失敗案例、將根因定位至具體決策節點、推薦下一步應新增的評估項，並智慧採樣線上流量供人工審核。

• 提示詞與模型部署

  直接在介面中對提示詞和模型變更進行版本管理、測試與發布上線，支援回滾，並可使用相同的生產資料與歷史版本進行 A/B 比較。

• 自適應 AI 閘道

  單一閘道接入 500+ 模型，支援彈性路由、服務商抽象、BYOK（自帶金鑰）及自動故障轉移——無需重建基礎設施。

• 即時監控與告警

  自訂儀表板支援 80+ 圖表類型，即時追蹤品質、延遲、成本與錯誤率。當行為出現漂移或異常時，透過 Slack、電子郵件或簡訊發送告警，並可自動觸發後續評估或資料集建構。

使用案例

• AI Agent 除錯 : 工程團隊可直接在回放沙盒中開啟任意生產鏈路，重現故障、測試修復方案並確認解決結果，無需憑感覺排查。
• 回歸保護 : 頻繁迭代提示詞或模型的團隊使用 Respan 在每次發布前對歷史基準執行評估，在影響使用者之前提早發現品質回歸問題。
• 大規模 LLM 監控 : 每小時處理數百萬次 LLM 呼叫的企業（如語音 AI 平台）利用 Respan 的非同步日誌記錄與執行緒分組功能，在大規模場景下跨 Agent、語言和業務場景保持全面可見性。
• 從生產資料建構資料集 : 生產鏈路自動轉化為帶標注的評估資料集，省去手動建構測試集的繁瑣工作，並確保評估始終基於真實使用者使用情況。
• 提示詞最佳化 : 團隊利用即時生產資料流直接在平台上執行自動提示詞工程，持續提升 Agent 輸出品質，無需離線實驗週期。

常見問題