AI Solution Developer - Curadoria

Nossa Oportunidade: Você é apaixonado(a) por tecnologia, inovação e quer fazer parte de um ambiente inclusivo, colaborativo e em constante evolução? Então essa oportunidade é para você!Na Capgemini, valorizamos o equilíbrio entre vida pessoal e profissional. Por isso, oferecemos modelos de trabalho flexível, híbrido, de acordo com as necessidades do projeto. Nosso objetivo é proporcionar a melhor experiência para você, respeitando seu estilo de vida e promovendo bem-estar.Estamos em busca de um(a) AI Solution Developer - Curadoria Júnior , para compor nosso time.

Responsabilidades:

• •Desenvolver em Python ferramentas, APIs, pipelines e automações para avaliação de modelos e aplicações de IA.
• •Construir pipelines de avaliação automatizada para LLMs, RAG e AI Agents.
• •Criar datasets, benchmarks e conjuntos de testes para avaliação de soluções baseadas em IA.
• •Desenvolver mecanismos automatizados para avaliar qualidade, precisão, relevância, consistência e aderência às instruções .
• •Implementar métricas e critérios de avaliação para diferentes casos de uso.
• •Desenvolver avaliações utilizando LLM-as-a-Judge, regras determinísticas, métricas semânticas e avaliações híbridas .
• •Implementar regression testing para identificar degradação de qualidade após alterações em modelos, prompts ou aplicações.
• •Desenvolver APIs e serviços em Python para disponibilização dos mecanismos de curadoria.
• •Monitorar o comportamento de LLMs e agentes em produção.
• •Identificar e investigar alucinações, vieses, inconsistências, respostas inadequadas, falhas de instrução e comportamentos inesperados .
• •Desenvolver mecanismos para avaliação de AI Agents , incluindo qualidade das decisões, seleção de ferramentas, execução de workflows e resultados gerados.
• •Criar métricas e mecanismos de monitoramento para acompanhamento contínuo da qualidade.
• •Desenvolver processos para versionamento de datasets, avaliações, prompts e configurações .
• •Trabalhar com times de Prompt Engineering e AI Engineering na identificação e correção de problemas de qualidade.
• •Apoiar a definição de critérios de aceitação e quality gates para soluções de IA.
• •Automatizar processos de curadoria, testes e validação utilizando Python.
• •Realizar análise dos resultados dos experimentos e investigar causas de degradação de qualidade.
• •Desenvolver soluções para avaliação contínua de aplicações de LLM, RAG e agentes .
• •Contribuir para definição de padrões e boas práticas de AI Quality, Evaluation e Responsible AI .
• •Documentar metodologias, métricas, datasets, experimentos e resultados.

Requisitos Técnicos:

• •Conhecimento em Python.
• •Lógica de programação e desenvolvimento de software.
• •Conhecimento básico de APIs REST e manipulação de JSON.
• •Conhecimento em Git/GitHub.
• •Noções de banco de dados SQL.
• •Interesse por Inteligência Artificial e IA Generativa.
• •Familiaridade com conceitos de testes, automação e qualidade de software.
• •Conhecimento básico em ambiente Linux.

Diferenciais

• •Experiência prática com Python aplicado a AI/ML/GenAI.
• •Experiência com avaliação de LLMs e aplicações de Generative AI.
• •Experiência desenvolvendo ferramentas, APIs ou pipelines de avaliação automatizada em Python.
• •Experiência com AI Agents e avaliação de agentes.
• •Conhecimento de frameworks como Ragas, DeepEval, LangSmith, Langfuse, Arize Phoenix ou similares.
• •Experiência com LLM-as-a-Judge.
• •Experiência com criação e gerenciamento de datasets para avaliação.
• •Conhecimento de NLP, Machine Learning ou Data Science.
• •Experiência com observabilidade de aplicações de LLM.
• •Conhecimento de Prompt Injection, Jailbreaks e Adversarial Testing.
• •Experiência com Kubernetes, Docker e CI/CD.
• •Experiência com ambientes cloud.
• •Conhecimento de práticas de MLOps/LLMOps.

Desenvolvimento e Benefícios

Aqui, você é protagonista da sua carreira! Oferecemos:

• •Plano de carreira estruturado e trilhas personalizadas de aprendizado.
• •Universidade Corporativa, com acesso a Harvard, Pluralsight.
• •Certificações oficiais com parceiros como SAP, AWS, Microsoft, Salesforce.
• •Idiomas com EF Education First (Inglês, Espanhol, Francês e Alemão).

Bem-estar completo:

• •Assistência médica e odontológica.
• •TotalPass e Equilibrium (saúde física e mental).
• •Previdência privada e seguro de vida.
• •Programa Family Care: licenças maternidade e paternidade estendidas, apoio à fertilidade, orientação personalizada em saúde e bem-estar.
• •Vale-refeição, clube de benefícios e muito mais!

Diversidade, Inclusão e Pertencimento:

Na Capgemini, você pode ser quem você é. Valorizamos a diversidade em todas as suas formas e promovemos um ambiente inclusivo por meio de comitês como:

• •Women@Capgemini – Empoderamento feminino e equidade de gênero.
• •Capgemini Black – Representatividade e valorização da cultura negra.
• •LGBTQIA+@Capgemini, Capgemini Accessibility, entre outros.

Nosso compromisso é contínuo: somos reconhecidos pela GPTW, Bloomberg Gender Equality Index, EDGE e Ethisphere como uma das empresas mais éticas e inclusivas do mundo. Nossas vagas são para todas as pessoas, independentemente de cor, etnia, religião, idade, identidade de gênero, orientação sexual ou deficiência.

Make It Real

Na Capgemini, liberamos a energia humana por meio da tecnologia para construir um futuro mais inclusivo, sustentável e inovador. Se você compartilha desses valores, venha transformar o mundo com a gente!