Engenheiro(a) de IA Sênior
Save this job and keep your search organized
Create a free account to save jobs, create alerts and return to this listing from your dashboard.
By continuing, you agree to our Terms & Privacy Policy.
Vaga aberta de Engenheiro(a) de IA Sênior (Guardrails e Segurança de LLM em Bancos Digitais) . A empresa contratante é confidencial neste anúncio, e a seleção é conduzida pela Sylision.
Nível: senior.
Modelo de trabalho: 100% Remoto.
Contratação: tempo integral, CLT ou PJ.
Sobre a vaga: Um banco digital coloca um assistente de linguagem natural diante do cliente: consulta de saldo, contestação de compra, dúvida sobre fatura e limite. O modelo conversa, consulta documentos internos e chama ferramentas que leem dados da conta. Cada uma dessas conexões é uma superfície de ataque e uma forma de vazar dado.
Você será responsável pela camada de proteção. Isso inclui filtros de entrada contra injeção de prompt direta e indireta, vinda de um texto dentro de documento recuperado, filtros de saída contra vazamento de dado pessoal e de instrução interna, permissões mínimas para cada ferramenta e confirmação humana para ação que movimenta dinheiro. O modelo nunca recebe poder que o cliente autenticado não teria.
O que dá errado é medido, não imaginado: conjunto de ataques adversariais rodado a cada mudança de prompt ou de modelo, taxa de bloqueio indevido que irrita cliente legítimo, latência adicionada pelas verificações e custo por conversa. Sucesso é reduzir sucesso de ataque no conjunto sem derrubar a taxa de resolução, e ter rastro para auditoria quando o regulador perguntar.
O que você vai fazer: Desenhar a arquitetura de guardrails de entrada, de saída e de uso de ferramentas
Construir e manter uma bateria de testes adversariais com injeção de prompt e extração de dados
Aplicar o princípio do menor privilégio em cada ferramenta que o agente pode chamar
Detectar e mascarar dado pessoal e dado de cartão em entrada, saída e logs
Medir bloqueio indevido, latência e custo de cada camada de proteção
Criar rastros auditáveis de decisão e de chamada de ferramenta por conversa
Conduzir exercícios de ataque com o time de segurança e tratar os incidentes
Definir padrões de segurança de LLM e orientar engenheiros do produto
Requisitos:
Construção de aplicações com LLMs, incluindo RAG, chamada de ferramenta e agentes
Conhecimento dos riscos de segurança de LLM, como injeção de prompt, vazamento e excesso de agência
Python e FastAPI em serviços de produção
Avaliação sistemática com conjuntos de teste e métricas de ataque e de bloqueio indevido
Noção de LGPD e de requisitos de segurança do setor financeiro
Capacidade de decidir arquitetura e de defender o equilíbrio entre segurança e experiência
Diferenciais: Experiência com ferramentas de guardrails e de classificação de conteúdo, de mercado e abertas
Prática de teste de invasão ou de equipe vermelha em aplicações web
Autenticação e autorização em APIs, com OAuth e escopos
Moderação em tempo real com baixa latência
Observabilidade de conversas com rastreamento distribuído
Como é trabalhar aqui: Vaga 100% remota, com contratação CLT, para cliente da Sylision com sede em Minas Gerais. Toda mudança de prompt, de modelo ou de ferramenta roda a bateria de ataques antes de ir ao ar, e o resultado fica anexado à revisão por outra pessoa. Incidentes viram um texto curto de causa e de correção, lido em conjunto com o time de segurança.
Benefícios oferecidos pela empresa contratante: Ambiente colaborativo, com senso de comunidade e conquistas celebradas em equipe
Trabalhe de qualquer lugar, com liberdade e flexibilidade
Conexão global: convivência com times de diferentes países e culturas
Apoio à saúde física com TotalPass e Mediquo
Cuidado com a saúde mental pelo programa Team Care
Contratação e jornada definidas com a empresa contratante
Tecnologias envolvidas: Python
LLMs
Guardrails
Segurança de LLM
Injeção de prompt
RAG
FastAPI
Observabilidade
Seus dados: tratados conforme a LGPD, com remoção a qualquer momento, a pedido.
#J-18808-Ljbffr Sylision