產品概覽
Not Diamond 是什麼？
Not Diamond 是先進的 AI 路由平台，結合多個大型語言模型（LLM），以 meta-model 動態選擇最適合的 LLM，確保每次輸入都能獲得最佳品質的輸出。平台可根據主要評測基準自動選用表現最優的模型，並透過智慧路由在成本與延遲間取得平衡。用戶可即時回饋個人化路由、用自有資料集訓練專屬路由器，並可透過 Python、TypeScript 或 REST API 無縫整合。Not Diamond 屬於推薦引擎而非代理伺服器，支援用戶端 LLM 呼叫，強化資料隱私與彈性。
主要功能
智慧模型路由
自動判斷並呼叫最適合每個提示的 LLM，透過以大量評測數據訓練的 meta-model 完成。
成本與延遲最佳化
可靈活調整，善用較小、較便宜的模型，同時維持產出品質不下降。
自訂路由訓練
用戶可上傳評測資料集，快速產生針對特定應用場景最佳化的路由器。
結合回饋的個人化路由
根據個別用戶即時回饋，動態調整路由決策，提升模型選擇精準度。
彈性整合
支援 Python、TypeScript 與 REST API，方便整合進各種開發環境。
重視隱私的架構設計
非代理伺服器；所有 LLM 請求皆於用戶端執行，支援私有化部署與模糊雜湊保障資料安全。
使用案例
- 強化 AI 應用開發 : 開發者與新創團隊可依需求動態選擇最佳模型，提升 AI 輸出品質與效率。
- 高效 AI 擴展 : 企業可將簡單查詢導向較便宜模型，降低營運成本且不影響品質。
- 客製化 AI 解決方案 : 組織可用自有資料集訓練路由器，讓 AI 回應更貼合專屬領域。
- 個人化用戶體驗 : 平台可根據用戶偏好與回饋，調整 AI 回應，互動更貼近需求。
- 安全 AI 整合 : 企業可於用戶端管理 LLM 請求，兼顧資料隱私與智慧路由效益。
常見問題
Not Diamond 的替代方案
Unify AI
一個透過統一API和動態路由簡化大型語言模型存取、比較和最佳化的平台。
OpenPipe
專為開發者設計的微調、託管與管理自訂大型語言模型平台，降低成本與延遲並提升準確率。
NetMind.AI
分散式AI運算平台，提供可擴展的模型API、快速部署以及經濟高效地存取全球GPU資源。
AIxBlock
去中心化、自我託管的 AI 開發平台，提供安全、低成本的運算資源、AI 模型與人力驗證者。
TrainLoop AI
以強化學習微調推理模型，提供領域專屬且可靠AI效能的託管平台。
Predibase
新一代 AI 平台，專注於高速微調與部署開源小型語言模型，兼具極速與高性價比。
PPIO派欧云
分散式雲計算平台，為AI、多媒體和元宇宙應用提供高效能計算資源、模型服務和邊緣計算。
VTok
一個可靠的API中繼服務，透過單一統一端點整合對OpenAI、DeepSeek、Gemini、Claude和其他領先AI模型的存取。