Engenheiro de Dados Pl

Buscamos profissionais que tenham vontade de crescer, colocar a mão na massa e fazer acontecer. Vivemos um momento único, recheado de desafios e oportunidades para agregar ainda mais valor aos nossos clientes. Se você tem esse perfil e essa ambição, inscreva-se nesta vaga e junte-se a nós para construir o futuro do mercado financeiro.#VemSerGenial

Responsabilidades e atribuições

Desenvolver e evoluir pipelines de dados batch e streaming utilizando Python, Spark e Databricks.

Construir integrações com bancos de dados, APIs e serviços AWS.

Modelar e transformar dados seguindo os padrões de arquitetura e qualidade da plataforma.

Monitorar pipelines em produção, atuando na investigação de falhas, performance e causa raiz.

Participar de code reviews e contribuir para a evolução dos padrões de engenharia do time.

Trabalhar próximo às áreas de negócio para entender requisitos e transformar necessidades em soluções de dados.

Garantir boas práticas de qualidade, segurança, governança e observabilidade dos dados.

Requisitos e qualificações

Python sólido para engenharia de dados, com boas práticas de desenvolvimento, testes e tratamento de erros.

SQL, incluindo CTEs, window functions e otimização de queries.

Apache Spark / PySpark, com entendimento de particionamento, shuffle, joins, cache e planos de execução.

Delta Lake, incluindo MERGE, OPTIMIZE, VACUUM, schema evolution e estratégias de reprocessamento.

Databricks, com experiência em Jobs/Workflows e conhecimentos de Unity Catalog.

AWS para dados, principalmente S3, IAM e serviços de integração/mensageria.

Modelagem dimensional e arquitetura em camadas, incluindo SCD tipos 1 e 2.

Git e desenvolvimento via pull request.

Experiência com ingestão de bancos relacionais e APIs REST.

DiferenciaisExperiência no mercado financeiro.

Structured Streaming.

Databricks Asset Bundles e Terraform.

CI/CD para pipelines de dados.

Delta Lake, incluindo MERGE, OPTIMIZE, VACUUM, schema evolution e estratégias de reprocessamento.

Informações adicionais

Assistência MédicaAssistência OdontológicaVale RefeiçãoVale AlimentaçãoSeguro de VidaTotal PassGymPassAux. CrechePPRSão Paulo, modelo Remoto