产品概览
什么是Not Diamond？
Not Diamond是一款先进的AI路由平台，将多种大型语言模型整合为元模型，能够根据输入动态选择最合适的LLM。在主要基准测试中始终调用表现最优的模型，最大化输出质量，并通过智能路由实现成本与延迟的灵活权衡。用户可通过实时反馈实现个性化路由，也可基于自身数据集训练定制化路由器，并通过Python、TypeScript或REST API无缝集成。Not Diamond作为推荐引擎运行，而非代理，支持客户端发起LLM请求，增强数据隐私与灵活性。
主要功能
智能模型路由
通过基于大量评测数据训练的元模型，自动判断并调用每个提示词最合适的LLM。
成本与延迟优化
支持灵活配置权衡，在不影响输出质量的前提下，优先使用更小、更经济的模型。
自定义路由器训练
允许用户上传评测数据集，快速生成针对特定场景优化的路由器。
基于反馈的个性化路由
根据个人用户反馈实时调整路由决策，提升模型选择的准确性。
灵活集成
支持Python、TypeScript及REST API，便于集成到多种开发环境。
注重隐私的架构设计
非代理架构，所有LLM请求均在客户端发起，支持私有化部署及模糊哈希保障数据安全。
使用场景
- 提升AI应用开发 : 开发者和初创企业可通过动态选择最佳模型，提升AI输出质量与效率。
- 高性价比AI扩展 : 企业可将简单请求路由到成本更低的模型，在保证质量的同时降低运营成本。
- 定制化AI解决方案 : 组织可基于自身数据集训练路由器，使AI响应更加贴合行业需求。
- 个性化用户体验 : 平台可根据用户偏好和反馈，动态调整AI响应，提升相关性。
- 安全的AI集成 : 企业可在客户端管理LLM调用，保障数据隐私，同时享受智能路由带来的优势。
常见问题
Not Diamond的替代方案
Unify AI
一个通过统一API和动态路由简化大型语言模型访问、比较和优化的平台。
OpenPipe
专为开发者设计的微调、托管与管理定制大型语言模型平台，帮助降低成本与延迟，同时提升准确率。
NetMind.AI
分布式AI计算平台，提供可扩展的模型API、快速部署以及经济高效地访问全球GPU资源。
AIxBlock
去中心化、自托管AI开发平台，安全高效地获取算力、AI模型及人工验证者。
TrainLoop AI
基于强化学习的推理模型托管微调平台，助力行业实现高可靠AI性能。
Predibase
新一代 AI 平台，专注于开源小型语言模型的极速微调与部署，兼具高效与低成本。
PPIO派欧云
分布式云计算平台，为 AI、多媒体及元宇宙应用提供高性能算力、模型服务与边缘计算能力。
VTok
一个可靠的API中继服务，通过单一统一端点整合对OpenAI、DeepSeek、Gemini、Claude和其他领先AI模型的访问。