Nas últimas semanas, o termo Prompt Injection ganhou espaço no Brasil após casos envolvendo o uso inadequado de inteligência artificial por profissionais do Direito. Mas existe uma pergunta mais relevante para empresários: e se eu te dissesse que sua empresa pode estar sofrendo esse tipo de ataque agora, sem perceber?
Imagine a seguinte situação: sua empresa implementa um assistente de IA para otimizar processos de recrutamento. A ferramenta analisa currículos, filtra candidatos, gera rankings, resume experiências e ajuda o RH a ganhar velocidade.
Parece eficiente. E realmente é. Mas existe uma vulnerabilidade pouco discutida: o próprio candidato pode tentar manipular a IA responsável pela seleção.
Funciona assim: modelos de linguagem não distinguem, por padrão, entre uma instrução criada pelo sistema e um texto enviado pelo usuário.
Na prática, isso significa que um currículo pode deixar de ser apenas um documento de apresentação profissional e passar a funcionar como uma espécie de "comando oculto" para a inteligência artificial.
As técnicas podem variar do básico ao sofisticado. Alguns exemplos:
- Frases inseridas em fonte branca sobre fundo branco — invisíveis para humanos, mas legíveis para a máquina;
- Caracteres Unicode utilizados para mascarar comandos;
- Metadados manipulados;
- Instruções escondidas em PDFs;
- Tentativas de induzir a IA a priorizar determinado candidato;
- Comandos voltados à obtenção de informações sobre a vaga, os critérios de seleção ou até outros dados processados pelo sistema.
Em um cenário mais crítico, um sistema mal estruturado poderia:
- Alterar critérios de classificação;
- Gerar recomendações artificiais positivas;
- Revelar informações internas da empresa;
- Expor dados de outros candidatos;
- Comprometer processos de recrutamento.
E aqui está o ponto mais importante: o problema não está na utilização da IA. O problema está em utilizar IA acreditando que ela funciona como um software tradicional.
Ela não funciona.
Ferramentas baseadas em modelos de linguagem trabalham com probabilidades, interpretação de contexto e interação dinâmica. Isso significa que controles tradicionais de segurança, sozinhos, muitas vezes não são suficientes.
Enquanto muitas empresas discutem produtividade, poucas estão discutindo governança.
As perguntas talvez precisem mudar
- Quais informações a IA está autorizada a acessar?
- Existe limitação de contexto?
- Os arquivos recebidos passam por validação?
- Existe monitoramento de respostas inesperadas?
- Há política interna de uso de IA?
- Os colaboradores foram treinados?
Porque a questão deixou de ser: "Minha empresa vai usar inteligência artificial?"
A maioria já está usando. A pergunta agora é: sua empresa está utilizando IA com segurança?
Tecnologia sem governança não reduz riscos. Em alguns casos, apenas os torna invisíveis.
Martina El Atra