Not Diamond

O que é Not Diamond?

Not Diamond é uma plataforma avançada de roteamento de IA que combina múltiplos large language models em um meta-model para selecionar dinamicamente o LLM mais adequado a cada entrada. Maximiza a qualidade dos resultados ao sempre acionar o modelo de melhor desempenho nos principais benchmarks, permitindo ajustes de custo e latência por meio de roteamento inteligente. Usuários podem personalizar o roteamento com feedback em tempo real, treinar routers customizados para seus próprios dados e integrar facilmente via Python, TypeScript ou APIs REST. Not Diamond opera como um mecanismo de recomendação, não como proxy, permitindo chamadas LLM no lado do cliente para maior privacidade e flexibilidade de dados.

Recursos Principais

• Roteamento Inteligente de Modelos

  Determina e aciona automaticamente o melhor LLM para cada prompt usando um meta-model treinado com extensos dados de avaliação.

• Otimização de Custos e Latência

  Permite ajustes configuráveis para aproveitar modelos menores e mais baratos sem sacrificar a qualidade do resultado.

• Treinamento Personalizado de Router

  Permite que os usuários façam upload de conjuntos de dados de avaliação e gerem rapidamente routers otimizados para casos de uso específicos.

• Roteamento Personalizado com Feedback

  Adapta as decisões de roteamento em tempo real com base no feedback individual do usuário para melhorar a seleção do modelo.

• Integração Flexível

  Suporta Python, TypeScript e APIs REST para fácil incorporação em diversos ambientes de desenvolvimento.

• Arquitetura Focada em Privacidade

  Não é um proxy; todas as requisições LLM são feitas no lado do cliente, suportando implantação em infraestrutura privada e hash difuso para segurança de dados.

Casos de Uso

• Desenvolvimento Avançado de Aplicações de IA : Desenvolvedores e startups podem melhorar a qualidade e eficiência dos resultados de IA ao selecionar dinamicamente o melhor modelo para cada requisição.
• Escalonamento de IA com Custo-Efetivo : Empresas podem reduzir custos operacionais roteando consultas mais simples para modelos mais baratos sem perda de qualidade.
• Soluções de IA Personalizadas : Organizações podem treinar routers em seus próprios conjuntos de dados para adaptar as respostas de IA ao seu domínio específico.
• Experiências Personalizadas para Usuários : Plataformas podem adaptar respostas de IA com base nas preferências e feedback individuais dos usuários para interações mais relevantes.
• Integração Segura de IA : Empresas podem manter a privacidade dos dados ao gerenciar chamadas LLM no lado do cliente enquanto se beneficiam do roteamento inteligente.

Perguntas Frequentes