Chroma

Что такое Chroma?

Chroma — это база данных embedding и векторов с открытым исходным кодом, специально созданная для разработки AI-приложений. Она позволяет разработчикам хранить, управлять и запрашивать высокоразмерные векторные embedding вместе с метаданными, упрощая создание конвейеров генерации с дополненным поиском (RAG), семантических поисковых систем и слоев памяти для приложений на основе LLM. Chroma поддерживает локальную разработку и масштабируется до петабайтов через объектное хранилище в облаке, с полностью управляемым бессерверным облачным предложением, доступным под тем же API. Лицензированная под Apache 2.0 с более чем 21K звездами GitHub и 5M+ ежемесячными загрузками, она стала одной из наиболее широко принятых векторных баз данных в сообществе разработчиков.

Ключевые функции

• Мультирежимный поиск

  Поддерживает поиск по векторному сходству, полнотекстовый поиск, сопоставление регулярных выражений и фильтрацию метаданных в едином интерфейсе, обеспечивая богатый и точный поиск за пределами простого поиска ближайших соседей.

• Бесшовная интеграция Embedding

  Встроенная поддержка моделей embedding от OpenAI, HuggingFace, Google Cohere и других — включая модель Sentence Transformers по умолчанию — позволяет разработчикам начать работу без пользовательских конвейеров embedding.

• Гибкие варианты развертывания

  Работает в памяти для быстрого прототипирования, как постоянный локальный экземпляр или как полностью управляемый бессерверный облачный сервис на Chroma Cloud, все используют один и тот же API разработчика.

• Совместимость с фреймворками и языками

  Нативные клиенты для Python, JavaScript, Ruby, PHP, Java и других, с глубокой интеграцией в LangChain, LlamaIndex и другие ведущие фреймворки разработки AI.

• Облачно-нативная масштабируемость

  Распределенная, горизонтально масштабируемая архитектура, построенная на объектном хранилище с автоматическим распределением данных по уровням, мультитенантностью и соответствием SOC 2 Type I для производственных нагрузок.

Варианты использования

• RAG-приложения : Разработчики, создающие системы генерации с дополненным поиском, используют Chroma для хранения embedding документов и извлечения наиболее релевантного контекста для подачи в LLM во время запроса.
• Семантический поиск : Команды встраивают и индексируют большие текстовые корпусы в Chroma для работы семантических поисковых систем, которые возвращают результаты по смыслу, а не по совпадению ключевых слов.
• Память LLM и управление контекстом : Chroma служит постоянным хранилищем памяти для разговорных агентов и чат-ботов, позволяя им вспоминать релевантные прошлые взаимодействия или знания предметной области.
• Рекомендательные системы : Конвейеры рекомендаций продуктов и контента используют Chroma для поиска элементов, наиболее похожих на предпочтения пользователя, основываясь на векторной близости.
• Мультимодальный поиск : Поддерживает изображения и мультимодальные embedding, обеспечивая рабочие процессы поиска, охватывающие текстовые и визуальные данные в одной базе данных.

Часто задаваемые вопросы