Not Diamond

Not Diamondとは？

Not Diamondは、複数の大規模言語モデル（LLM）を組み合わせたメタモデルにより、入力ごとに最適なLLMを動的に選択する高度なAIルーティングプラットフォームです。主要なベンチマークで常に最高性能のモデルを呼び出すことで出力品質を最大化し、インテリジェントなルーティングによってコストやレイテンシのトレードオフも実現します。ユーザーはリアルタイムフィードバックによるルーティングのパーソナライズや、独自データセットに合わせたカスタムルーターの学習、Python・TypeScript・REST API経由でのシームレスな統合も可能です。Not Diamondはプロキシではなくレコメンデーションエンジンとして動作し、クライアントサイドでのLLMコールを可能にすることで、データプライバシーと柔軟性を高めています。

主な機能

• インテリジェント・モデル・ルーティング

  膨大な評価データで訓練されたメタモデルを用いて、各プロンプトに最適なLLMを自動で判定・呼び出します。

• コストとレイテンシ最適化

  小規模かつ低コストなモデルを活用しつつ、出力品質を損なうことなく柔軟なトレードオフを設定できます。

• カスタムルーター学習

  評価データセットをアップロードすることで、特定のユースケースに最適化されたルーターを迅速に生成できます。

• フィードバックによるパーソナライズド・ルーティング

  個々のユーザーからのフィードバックをリアルタイムで反映し、より良いモデル選択を実現します。

• 柔軟なインテグレーション

  Python、TypeScript、REST APIに対応し、様々な開発環境に簡単に組み込めます。

• プライバシー重視のアーキテクチャ

  プロキシではなく、すべてのLLMリクエストはクライアントサイドで実行され、プライベートなインフラへの導入やファジーハッシュによるデータ保護も可能です。

ユースケース

• AIアプリケーション開発の高度化 : 開発者やスタートアップは、リクエストごとに最適なモデルを動的に選択することで、AIの出力品質と効率を向上させることができます。
• コスト効率的なAIスケーリング : ビジネスは、単純なクエリを低コストモデルにルーティングすることで、品質を維持しつつ運用コストを削減できます。
• カスタムAIソリューション : 独自のデータセットでルーターを学習させることで、各組織のドメインに合わせたAI応答を実現できます。
• パーソナライズドなユーザー体験 : プラットフォームは、ユーザーごとの好みやフィードバックに基づき、より関連性の高いAI応答を提供できます。
• セキュアなAIインテグレーション : エンタープライズは、クライアントサイドでLLMコールを管理しつつ、インテリジェントなルーティングの利点を享受しながらデータプライバシーを維持できます。

よくある質問