Not Diamond

Not Diamond 是什麼？

Not Diamond 是先進的 AI 路由平台，結合多個大型語言模型（LLM），以 meta-model 動態選擇最適合的 LLM，確保每次輸入都能獲得最佳品質的輸出。平台可根據主要評測基準自動選用表現最優的模型，並透過智慧路由在成本與延遲間取得平衡。用戶可即時回饋個人化路由、用自有資料集訓練專屬路由器，並可透過 Python、TypeScript 或 REST API 無縫整合。Not Diamond 屬於推薦引擎而非代理伺服器，支援用戶端 LLM 呼叫，強化資料隱私與彈性。

主要功能

• 智慧模型路由

  自動判斷並呼叫最適合每個提示的 LLM，透過以大量評測數據訓練的 meta-model 完成。

• 成本與延遲最佳化

  可靈活調整，善用較小、較便宜的模型，同時維持產出品質不下降。

• 自訂路由訓練

  用戶可上傳評測資料集，快速產生針對特定應用場景最佳化的路由器。

• 結合回饋的個人化路由

  根據個別用戶即時回饋，動態調整路由決策，提升模型選擇精準度。

• 彈性整合

  支援 Python、TypeScript 與 REST API，方便整合進各種開發環境。

• 重視隱私的架構設計

  非代理伺服器；所有 LLM 請求皆於用戶端執行，支援私有化部署與模糊雜湊保障資料安全。

使用案例

• 強化 AI 應用開發 : 開發者與新創團隊可依需求動態選擇最佳模型，提升 AI 輸出品質與效率。
• 高效 AI 擴展 : 企業可將簡單查詢導向較便宜模型，降低營運成本且不影響品質。
• 客製化 AI 解決方案 : 組織可用自有資料集訓練路由器，讓 AI 回應更貼合專屬領域。
• 個人化用戶體驗 : 平台可根據用戶偏好與回饋，調整 AI 回應，互動更貼近需求。
• 安全 AI 整合 : 企業可於用戶端管理 LLM 請求，兼顧資料隱私與智慧路由效益。

常見問題