Hailo

Что такое Hailo?

Hailo - израильская компания, основанная в 2017 году, которая специализируется на разработке прорывных периферийных процессоров для локального запуска приложений глубокого обучения на устройствах. Запатентованная кремниевая архитектура компании обеспечивает эффективную высокопроизводительную обработку при низком энергопотреблении, малых размерах и экономически выгодной цене. Портфолио продуктов Hailo включает ускоритель Hailo-8, обеспечивающий до 26 TOPS, новое семейство Hailo-10, поддерживающее генеративные модели при энергопотреблении менее 5 Вт, и процессоры компьютерного зрения Hailo-15, сочетающие возможности вывода с передовыми движками компьютерного зрения. Эти процессоры обслуживают различные отрасли, включая автомобильную промышленность, промышленную автоматизацию, розничную торговлю и персональные вычисления, обеспечивая обработку в реальном времени без зависимости от облака при сохранении конфиденциальности и безопасности данных.

Ключевые функции

• Высокопроизводительная периферийная обработка

  Обеспечивает вычислительную производительность до 40 TOPS с семейством Hailo-10 и 26 TOPS с Hailo-8, позволяя выполнять вывод глубокого обучения в реальном времени на периферийных устройствах с превосходной эффективностью площади и энергопотребления.

• Поддержка генеративных моделей

  Ускорители Hailo-10 могут запускать большие языковые модели, такие как Llama2-7B, со скоростью 10 токенов в секунду и Stable Diffusion 2.1 за 5 секунд на изображение, все в пределах энергопотребления менее 5 Вт.

• Гибкие варианты интеграции

  Предлагает модули форм-фактора M.2 с интерфейсом PCIe Gen-3.0, поддерживающие как архитектуры x86, так и ARM для беспрепятственной интеграции в существующие периферийные платформы и устройства.

• Комплексная программная экосистема

  Предоставляет компилятор потока данных и обширные инструменты разработчика, поддерживающие стандартные фреймворки, обеспечивая легкий перенос и развертывание моделей нейронных сетей в сотнях клиентских реализаций.

• Многопоточная обработка

  Способен обрабатывать несколько потоков камер одновременно на одном устройстве, сохраняя обработку данных в полном разрешении для повышения экономической эффективности и производительности.

Варианты использования

• Автомобильный интеллект : Обеспечивает передовые системы помощи водителю, восприятие автономных транспортных средств и информационно-развлекательные системы в автомобиле с возможностями обработки в реальном времени для критически важных с точки зрения безопасности приложений.
• Инфраструктура умного города : Обеспечивает интеллектуальные системы наблюдения, мониторинг трафика и городскую аналитику с обнаружением объектов в реальном времени и поведенческим анализом по нескольким потокам камер.
• Промышленная автоматизация : Способствует контролю качества, предсказательному обслуживанию и системам машинного зрения в производственных средах, требующих немедленного принятия решений и высокой надежности.
• Улучшение персональных вычислений : Ускоряет генеративные задачи на устройстве, такие как перевод в реальном времени, генерация кода и создание контента, без зависимости от облачного подключения или истощения системных ресурсов.
• Розничная аналитика : Обеспечивает умные розничные решения, включая анализ поведения клиентов, управление запасами и автоматизированные системы оплаты с локальной обработкой, сохраняющей конфиденциальность.

Часто задаваемые вопросы