[Job-29175] Engenheiro(a) de Dados SENIOR, Brasil

Na CI&T , ajudamos grandes empresas a transformar o potencial da AI em impacto real nos negócios com AI Deployment, execução AI-native e tech-integrated business solutions.

Com 30 anos de experiência em transformação tecnológica, aceleramos inovação com expertise em agentic SDLC, application modernization, Data & AI, martech e business strategy. 

Somos 8.000 CI&Ters em mais de 25 países, colaborando para construir soluções com impacto real. AI já faz parte da forma como trabalhamos, evoluímos e inovamos todos os dias.

 

O projeto consiste na migração e modernização de um legado massivo (baseado em Azure/Databricks) para uma nova arquitetura no Google Cloud Platform (GCP).
Você atuará na construção de uma fundação de dados moderna, seguindo princípios de Data Mesh, arquitetura medalhão (Raw/Silver/Gold) e forte governança, garantindo a desativação do legado e a habilitação de novas capacidades de IA e Analytics.

Principais Responsabilidades:

1. Migração e Modernização

• Analisar e migrar pipelines e notebooks (Spark/Databricks)
• Refatorar ou reescrever processos para: SQL / Dataform e Dataflow

2. Desenvolvimento de Pipelines (ETL/ELT)

• Criar transformações no BigQuery + Dataform
• Construir camadas: Silver (Trusted) e Gold
• Garantir qualidade, deduplicação e padronização

3. Ingestão de Dados (Batch & Streaming)

• Implementar ingestão com:
  • Dataflow (Apache Beam) para eventos (Kafka/Event Hubs)
  • Datastream (CDC)
• Trabalhar com a persistência de dados na camada Raw utilizando tabelas Iceberg gerenciadas pelo BigLake.

4. Automação e Infraestrutura

• Provisionar recursos com Terraform (IaC)
• Gerenciar pipelines com CI/CD (GitHub Actions)
• Seguir modelo de Ingestion Factory e repositórios por domínio

5. Qualidade e Governança

• Implementar testes no Dataform
• Garantir:
  • Catalogação e linhagem (Dataplex)
  • Compartilhamento seguro (Analytics Hub)  

• SQL avançado (preferencialmente BigQuery)
• Experiência com GCP:  BigQuery, GCS, Dataflow, Cloud Composer (Airflow)
• Python + Apache Spark
• Conhecimento em:
  • Data Lakehouse
  • Modelagem de dados
  • Particionamento
  • Formatos (Parquet, Avro, Iceberg)
• Experiência com:  Git e CI/CD

Diferenciais :

• Dataform ou DBT
• Experiência com Databricks
• Terraform (IaC)
• Streaming e eventos (Kafka / Event Hubs)
• Governança e segurança:  Dataplex, IAM, VPC Service Controls

O que você vai encontrar :

• Ambiente com alto volume de dados (petabytes)
• Migração de milhares de objetos
• Uso de tecnologias modernas: BigLake, Analytics Hub, Gemini
• Atuação em Data Mesh com domínios bem definidos