产品概览
什么是Conifer？
Conifer 通过兼容 OpenAI 和 Anthropic 客户端的统一接口，整合 200 多个模型和本地推理能力。开发者可以指定确切模型，也可以让路由器按请求自动选择，将合适的任务留在本地硬件上处理，并把其他任务发送至云端提供商。它还支持提供商故障转移、提示词缓存和单次请求成本报告，无需为每个提供商分别集成。
主要功能
统一模型网关
通过一个 API 密钥和端点访问 200 多个模型，也可以接入您自己的提供商密钥和兼容的自托管端点。
请求级路由
可指定具体模型，也可让路由策略根据每个请求自动选择模型，路由范围涵盖本地和云端执行。
本地模型运行
在 Apple Silicon 和 Windows 上下载并运行受支持的 GGUF 模型，让本地处理的请求始终留在您的设备上。
提供商故障转移
当某个提供商发生故障、超时或触发速率限制时，自动重试其他提供商，同时保持使用所请求的模型。
兼容现有工具
可连接兼容 OpenAI 和 Anthropic 的应用，包括 Claude Code、Codex 和 Cursor 等编程工具。
透明的使用成本
通过响应回执追踪实际提供服务的模型和最终费用；云端 token 按模型公开费率计费，不收取加价。
使用场景
- 多模型应用 : 构建可访问不同提供商模型的应用，无需为每个提供商分别维护集成。
- 混合推理工作流 : 将适合的请求留在本地硬件上处理，同时把要求更高的任务路由至云端模型。
- 编程助手集成 : 在现有编程环境中使用统一网关，实现模型选择、提供商故障转移和成本追踪。
- 私密本地处理 : 在本地运行受支持的模型，以处理敏感提示词和文档，无需将这些请求发送给云端提供商。
- 模型评估 : 通过同一 API 接口比较不同模型，同时查看由哪个模型作答以及每次请求的费用。
常见问题
Conifer的替代方案
Predibase
新一代 AI 平台，专注于开源小型语言模型的极速微调与部署，兼具高效与低成本。
PPIO派欧云
分布式云计算平台，为 AI、多媒体及元宇宙应用提供高性能算力、模型服务与边缘计算能力。
Not Diamond
AI元模型路由器，智能为每次查询选择最优LLM，提升质量、降低成本、减少延迟。
OpenPipe
专为开发者设计的微调、托管与管理定制大型语言模型平台，帮助降低成本与延迟，同时提升准确率。
TrainLoop AI
基于强化学习的推理模型托管微调平台，助力行业实现高可靠AI性能。
NetMind.AI
分布式AI计算平台，提供可扩展的模型API、快速部署以及经济高效地访问全球GPU资源。
AIxBlock
去中心化、自托管AI开发平台，安全高效地获取算力、AI模型及人工验证者。
Unify AI
一个通过统一API和动态路由简化大型语言模型访问、比较和优化的平台。