Not Diamond

¿Qué es Not Diamond?

Not Diamond es una plataforma avanzada de enrutamiento de IA que combina múltiples modelos de lenguaje grandes en un meta-modelo para seleccionar dinámicamente el LLM más adecuado para cada entrada. Maximiza la calidad del resultado llamando siempre al modelo con mejor rendimiento en los principales benchmarks, permitiendo ajustes de costo y latencia a través de un enrutamiento inteligente. Los usuarios pueden personalizar el enrutamiento con retroalimentación en tiempo real, entrenar routers personalizados adaptados a sus conjuntos de datos e integrar fácilmente mediante Python, TypeScript o APIs REST. Not Diamond funciona como un motor de recomendación y no como un proxy, permitiendo llamadas a LLM del lado del cliente para mayor privacidad y flexibilidad de los datos.

Características Principales

• Enrutamiento Inteligente de Modelos

  Determina y selecciona automáticamente el mejor LLM para cada solicitud utilizando un meta-modelo entrenado con amplios datos de evaluación.

• Optimización de Costos y Latencia

  Permite ajustar configuraciones para aprovechar modelos más pequeños y económicos sin sacrificar la calidad del resultado.

• Entrenamiento Personalizado de Routers

  Permite a los usuarios cargar conjuntos de datos de evaluación y generar routers optimizados para casos de uso específicos de manera rápida.

• Enrutamiento Personalizado con Retroalimentación

  Adapta las decisiones de enrutamiento en tiempo real según la retroalimentación individual del usuario para mejorar la selección de modelos.

• Integración Flexible

  Soporta Python, TypeScript y APIs REST para una fácil incorporación en diversos entornos de desarrollo.

• Arquitectura centrada en la privacidad

  No es un proxy; todas las solicitudes a LLM se realizan del lado del cliente, permitiendo despliegue en infraestructuras privadas y hash difuso para la seguridad de los datos.

Casos de Uso

• Desarrollo Mejorado de Aplicaciones de IA : Desarrolladores y startups pueden mejorar la calidad y eficiencia de la IA seleccionando dinámicamente el mejor modelo para cada solicitud.
• Escalado Rentable de IA : Las empresas pueden reducir costos operativos enrutando consultas simples a modelos más económicos sin perder calidad.
• Soluciones de IA Personalizadas : Las organizaciones pueden entrenar routers con sus propios datos para adaptar las respuestas de IA a sus necesidades específicas.
• Experiencias de Usuario Personalizadas : Las plataformas pueden adaptar las respuestas de IA según las preferencias y retroalimentación de cada usuario para interacciones más relevantes.
• Integración Segura de IA : Las empresas pueden mantener la privacidad de los datos gestionando las llamadas a LLM del lado del cliente y beneficiándose del enrutamiento inteligente.

Preguntas Frecuentes