Modal

O que é Modal?

Modal é uma plataforma de funções em nuvem projetada para equipes de IA, machine learning e dados executarem aplicações intensivas em computação sem gerenciar infraestrutura. Oferece execução serverless rápida de código Python com capacidades de autoescalonamento, incluindo suporte a GPU, permitindo que desenvolvedores implantem endpoints de inferência, tarefas em lote e tarefas agendadas de forma transparente. Modal abstrai a complexidade da infraestrutura ao fornecer uma interface intuitiva baseada em Python para definir ambientes de container, requisitos de hardware e armazenamento persistente, cobrando apenas pelo tempo real de computação utilizado. Sua integração com Oracle Cloud Infrastructure garante alto desempenho e eficiência de custos para cargas de trabalho de IA em larga escala.

Recursos Principais

• Escalonamento Automático Serverless

  Escalona automaticamente os recursos computacionais até centenas de GPUs e reduz a zero em segundos, garantindo eficiência no uso de recursos e economia de custos.

• Limites Elevados de Recursos

  Suporta até 64 CPUs, 336 GB de RAM e 8 GPUs Nvidia H100 por container, permitindo a execução de cargas de trabalho exigentes de IA e ML.

• Desenvolvimento Centrado em Python

  Desenvolvedores escrevem e implantam funções Python com infraestrutura definida como código, eliminando a necessidade de configuração manual ou arquivos YAML.

• Opções Flexíveis de Implantação

  Funções podem ser servidas como endpoints web, tarefas agendadas (cron) ou processamento em lote, com suporte nativo para primitivas de computação distribuída.

• Cargas de Trabalho de IA Aceleradas por GPU

  Otimizado para inferência de modelos de IA, fine-tuning e tarefas em lote com inicialização rápida de containers GPU e integração com GPUs de nuvem potentes.

• Preços Pay-As-You-Go

  Cobrança baseada no uso real de CPU, GPU e memória por segundo, eliminando custos para recursos ociosos.

Casos de Uso

• Inferência e Fine-Tuning de Modelos de IA : Execute inferência de modelos em larga escala ou realize fine-tuning em GPUs com configuração mínima e implantação rápida.
• Pipelines de Dados e Processamento em Lote : Execute fluxos de trabalho de dados complexos, tarefas ETL e computações em lote em escala com recursos computacionais autoescaláveis.
• Aplicações Web em Tempo Real : Ofereça endpoints web e APIs alimentados por IA com baixa latência e suporte a WebSocket em tempo real.
• Tarefas Agendadas e Automação : Implemente tarefas agendadas tipo cron para processamento rotineiro de dados ou re-treinamento de modelos sem gerenciar infraestrutura.
• Pesquisa e Experimentação em Machine Learning : Prototipe e itere rapidamente modelos de ML com acesso instantâneo a computação escalável e armazenamento persistente.

Perguntas Frequentes