MLOps Engineer, LLM Performance (Kernels, Profiling, Serving) / Infraestrutura de LLMs
Sobre a Vaga
🚀 Oportunidade remota e em tempo integral para engenheiros de MLOps e sistemas de ML! Esta vaga é oferecida pela Mercor, plataforma que conecta especialistas a laboratórios de IA que treinam modelos de ponta. Inscreva-se pelo link abaixo:
👉 https://t.mercor.com/3HG3w
A equipe de GenAI de um laboratório líder em IA busca engenheiros de MLOps e sistemas de ML com experiência prática em infraestrutura de grandes modelos de linguagem, em ao menos uma de quatro frentes: programação de kernels para aceleradores, profiling e análise de traces, depuração de cargas distribuídas e aceleradas, e serving de inferência de alto throughput. Experiência com JAX, XLA ou TPUs é especialmente valorizada. O trabalho envolve criar e avaliar tarefas e soluções de sistemas de ML para gerar dados de treinamento de alta qualidade para modelos de IA de ponta.
A vaga é 100% remota e aberta a candidatos do mundo todo. Conforme o país, a contratação é feita pela Cincinnatus LLC ou por um parceiro local de employer of record.
Responsabilidades
- Criar tarefas desafiadoras de kernels, profiling, depuração e serving de inferência, incluindo problemas adversariais que mostram onde os modelos falham em código para aceleradores (ex.: kernels Pallas em TPU), e escrever soluções precisas
- Orientar equipes de pesquisa e engenharia a fechar lacunas de conhecimento em sistemas de ML, compiladores e infraestrutura de treinamento
- Avaliar tarefas e soluções de sistemas de ML com feedback técnico escrito que resista a revisão de especialistas
- Desenvolver diretrizes e rubricas sobre otimização de kernels, interpretação de saídas de profiler, sistemas distribuídos e trade-offs de throughput e latência em serving
- Colaborar com outros especialistas para manter os dados de treinamento consistentes e precisos
- ATENÇÃO à dedicação: são 40 horas semanais em tempo integral, em dias úteis, com exclusividade (o anúncio exige não ter outros vínculos ou conflitos).
Requisitos
- 2+ anos de experiência profissional prática em sistemas de ML, infraestrutura de ML, serving de modelos ou engenharia de performance de aceleradores (vaga de sistemas, não de modelagem aplicada ou ciência de dados)
- Experiência prática em ao menos uma destas frentes (mais de uma é um forte diferencial): escrita ou otimização de kernels customizados (Pallas, Triton, CUDA, CUTLASS); profiling e análise de traces (JAX/XLA profiler, Kineto, torch.profiler, Nsight); depuração de cargas distribuídas ou limitadas por acelerador; serving de LLMs em escala (vLLM, SGLang, TensorRT-LLM, JetStream, KV cache, paged attention, continuous batching)
- Experiência em produção com JAX e/ou PyTorch
- Experiência com aceleradores modernos como TPU (v4 a v6e), H100, B200, Trainium ou MI300, e capacidade de raciocinar sobre trade-offs de throughput, latência e memória
- Progressão de carreira comprovável
- Disponibilidade de 40 horas semanais em dias úteis, sem outros vínculos
- Comunicação escrita forte em inglês para explicar decisões técnicas complexas
- Desejável: profundidade em nível de framework, como operadores customizados, sharding e treinamento distribuído (pjit/shard_map, FSDP, Megatron, MaxText) ou trabalho com compiladores e grafos (XLA/StableHLO, torch.compile, MLIR)
Benefícios
A Mercor conecta especialistas a laboratórios de IA e empresas que treinam modelos de ponta. O salário é de $90 a $120 por hora (aproximadamente R$80.000 a R$106.600/mês estimado em 40h semanais). A contratação é feita pela Cincinnatus LLC ou por parceiro local de employer of record, conforme o país; os termos da Mercor citam prestação de serviços como contratado independente, com pagamento semanal via Stripe ou Wise.
Vagas semelhantes para você
Selecionadas com base na tecnologia, modalidade, nível e localização desta oportunidade.