Engenheiro(a) de IA Sênior

5 days ago

New York NY, New York County, NY; New York State, United States Sylision Full-time

Vaga aberta de Engenheiro(a) de IA Sênior (Guardrails e Segurança de LLM em Bancos Digitais) . A empresa contratante é confidencial neste anúncio, e a seleção é conduzida pela Sylision. Nível: senior. Modelo de trabalho: 100% Remoto. Contratação: tempo integral, CLT ou PJ. Sobre a vaga: Um banco digital coloca um assistente de linguagem natural diante do cliente: consulta de saldo, contestação de compra, dúvida sobre fatura e limite. O modelo conversa, consulta documentos internos e chama ferramentas que leem dados da conta. Cada uma dessas conexões é uma superfície de ataque e uma forma de vazar dado. Você será responsável pela camada de proteção. Isso inclui filtros de entrada contra injeção de prompt direta e indireta, vinda de um texto dentro de documento recuperado, filtros de saída contra vazamento de dado pessoal e de instrução interna, permissões mínimas para cada ferramenta e confirmação humana para ação que movimenta dinheiro. O modelo nunca recebe poder que o cliente autenticado não teria. O que dá errado é medido, não imaginado: conjunto de ataques adversariais rodado a cada mudança de prompt ou de modelo, taxa de bloqueio indevido que irrita cliente legítimo, latência adicionada pelas verificações e custo por conversa. Sucesso é reduzir sucesso de ataque no conjunto sem derrubar a taxa de resolução, e ter rastro para auditoria quando o regulador perguntar. O que você vai fazer: Desenhar a arquitetura de guardrails de entrada, de saída e de uso de ferramentas Construir e manter uma bateria de testes adversariais com injeção de prompt e extração de dados Aplicar o princípio do menor privilégio em cada ferramenta que o agente pode chamar Detectar e mascarar dado pessoal e dado de cartão em entrada, saída e logs Medir bloqueio indevido, latência e custo de cada camada de proteção Criar rastros auditáveis de decisão e de chamada de ferramenta por conversa Conduzir exercícios de ataque com o time de segurança e tratar os incidentes Definir padrões de segurança de LLM e orientar engenheiros do produto

Requisitos:
Construção de aplicações com LLMs, incluindo RAG, chamada de ferramenta e agentes Conhecimento dos riscos de segurança de LLM, como injeção de prompt, vazamento e excesso de agência Python e FastAPI em serviços de produção Avaliação sistemática com conjuntos de teste e métricas de ataque e de bloqueio indevido Noção de LGPD e de requisitos de segurança do setor financeiro Capacidade de decidir arquitetura e de defender o equilíbrio entre segurança e experiência Diferenciais: Experiência com ferramentas de guardrails e de classificação de conteúdo, de mercado e abertas Prática de teste de invasão ou de equipe vermelha em aplicações web Autenticação e autorização em APIs, com OAuth e escopos Moderação em tempo real com baixa latência Observabilidade de conversas com rastreamento distribuído Como é trabalhar aqui: Vaga 100% remota, com contratação CLT, para cliente da Sylision com sede em Minas Gerais. Toda mudança de prompt, de modelo ou de ferramenta roda a bateria de ataques antes de ir ao ar, e o resultado fica anexado à revisão por outra pessoa. Incidentes viram um texto curto de causa e de correção, lido em conjunto com o time de segurança. Benefícios oferecidos pela empresa contratante: Ambiente colaborativo, com senso de comunidade e conquistas celebradas em equipe Trabalhe de qualquer lugar, com liberdade e flexibilidade Conexão global: convivência com times de diferentes países e culturas Apoio à saúde física com TotalPass e Mediquo Cuidado com a saúde mental pelo programa Team Care Contratação e jornada definidas com a empresa contratante Tecnologias envolvidas: Python LLMs Guardrails Segurança de LLM Injeção de prompt RAG FastAPI Observabilidade Seus dados: tratados conforme a LGPD, com remoção a qualquer momento, a pedido. #J-18808-Ljbffr Sylision