icon of MCPJam

MCPJam

面向 MCP server 的测试、调试与评测平台,展示其在 ChatGPT、Claude、Cursor 等 16+ 真实 AI 客户端上的表现。

社区:

产品概览

什么是MCPJam?

MCPJam preview

MCPJam 是一个开源的测试与评测平台,面向开发和发布 MCP(Model Context Protocol)server、MCP 应用和 ChatGPT 应用的开发者。团队无需再凭猜测判断 server 上线后的表现,而是可以让同一条 prompt 在 16+ 主流 AI 客户端上运行,检查每一条 JSON-RPC 消息和 OAuth 交互,并评估 agent 是否真正选对了工具、完成了用户目标。该平台涵盖本地 Inspector、CLI、SDK、模拟用户 “Swarms”、真实用户测试以及 CI/CD 门禁,让团队在 pull request 合并之前就发现回归问题,而不是等用户遇到故障的工作流之后才发现。


主要功能

  • 多客户端 Inspector

    连接任意本地或远程 MCP server,在 ChatGPT、Claude、Cursor 等客户端上运行同一条 prompt,并排对比工具选择、延迟和输出结果。

  • OAuth 与协议调试器

    逐步查看每一次重定向、token 交换和 scope 授权,并针对多个 OAuth 规范版本和客户端注册方式(DCR、预注册、CIMD)验证合规性。

  • Agent Swarms 与用户测试

    启动具有不同目标的模拟用户角色,对工作流进行压力测试,再邀请真实测试人员体验同样的流程,并对情感倾向和可用性缺陷进行评分。

  • Model-in-the-Loop 评测

    把录制的工作流转化为可重复运行的评测套件,对工具选择、参数准确性和目标完成度打分,持续跟踪通过率,而不是依赖脆弱的断言。

  • CI/CD 回归门禁

    将评测套件接入 GitHub Actions 或任意流水线,评测失败即阻止 pull request 合并,在发布前拦截跨客户端的回归问题。

  • CLI 与 SDK 接入

    直接在终端或通过 TypeScript SDK 以编程方式探测 server、运行 doctor 检查、测试 OAuth 流程并执行评测,无需搭建数据库。


使用场景

  • 调试失败的工具调用 : 开发者通过本地真实 agent 运行自己的 server,复现用户反馈的故障,并精确定位出错的工具调用、参数或响应。
  • 跨客户端兼容性检查 : 团队在上线前验证 server 的工具、prompt 和渲染出的 UI 在 ChatGPT、Claude、Copilot 等宿主客户端上表现一致。
  • OAuth 实现验证 : 工程师针对每个受支持的 OAuth 规范版本和客户端注册路径测试授权流程,尽早发现不符合规范之处。
  • 发布前回归测试 : 工程经理将每个 pull request 与评测通过率挂钩,若 server 更新导致工具准确率下降或破坏已知工作流,则无法合并。
  • 用户旅程验证 : 产品经理模拟真实的用户角色和目标,或邀请真实测试人员,找出 MCP 驱动的工作流在哪些环节让用户困惑或无法完成。
  • 企业级可靠性监控 : 平台团队跟踪各版本的套件健康度和运行次数,并借助 SSO、审计日志和 DPA 满足内部合规要求。

常见问题

MCPJam的替代方案

🚀

MCPJam网站分析