Auriko

什么是Auriko？

Auriko是一个AI基础设施平台，作为LLM推理的交易台式控制平面，通过单一的兼容OpenAI的API将开发者连接到OpenAI、Anthropic、Google、xAI、DeepSeek、MiniMax和数十个其他供应商的模型。团队无需为每个供应商处理单独的SDK和定价结构，而是通过Auriko路由每个请求，Auriko持续建模供应商定价、延迟、提示缓存行为和正常运行时间，将每个调用发送到最具成本效益和可靠的端点。该平台对供应商定价零加价，并叠加路由策略、自动故障转移、密钥编排和预算控制，使生产AI工作负载保持快速、廉价和有弹性。

主要功能

• 统一模型网关

  一个兼容OpenAI的接口即可访问200多个主流供应商的模型，让团队无需重写集成代码即可切换模型。

• 成本套利路由

  量化引擎实时建模每个供应商的定价和缓存机制，将每个请求路由到实时最低成本的选项。

• 自定义路由策略

  内置或用户自定义策略可针对成本、延迟、吞吐量或自定义约束（如数据驻留和结构化输出支持）进行优化。

• 自动故障转移

  冗余供应商路径和健康信号确保即使特定模型或供应商出现停机时，请求仍能继续流转。

• 密钥编排（BYOK）

  团队可以使用自己的供应商API密钥、Auriko托管密钥或两者混合使用，以最大化速率限制利用率。

• 预算控制与可观测性

  工作区和密钥级别的支出限制、警报和仪表板为财务和工程团队提供推理支出的可见性。

使用场景

• AI产品开发 : 构建LLM驱动应用的初创公司可以快速测试和切换模型，无需管理多个供应商集成。
• 推理成本优化 : 大量使用LLM的公司通过让Auriko自动将调用路由到最便宜的合格供应商来削减支出。
• 生产可靠性工程 : 需要正常运行时间保证的团队依赖自动故障转移和容量智能来避免单一供应商中断。
• Agent框架集成 : 使用LangChain、CrewAI、Claude Agent SDK或类似框架的开发者只需最少设置即可将Auriko作为模型后端接入。
• 企业级AI财务运营 : 组织使用预算警报、发票和SSO安全团队访问跨部门跟踪和控制AI支出。

常见问题