Orange AI Lab

Segurança e uso responsável · Para quem já usa IA

Prompt injection: quando um documento tenta dar ordens à IA

Entenda o risco de instruções maliciosas em arquivos lidos por IA e veja como avaliar um fluxo de documentos na PME antes de conectá-lo à operação.

Documento transparente diante de um escudo de vidro âmbar que separa instruções não confiáveis.

Sua equipe pede à IA um resumo de um arquivo recebido. Dentro dele, há um trecho que tenta mudar a tarefa: mandar informações para outro destino ou esconder uma condição importante. Esse é o problema deste guia: como lidar com conteúdo que tenta virar uma ordem. A dúvida interessa especialmente a PMEs que já usam IA para ler documentos externos e querem conectar essa leitura a outros sistemas.

01

O que significa prompt injection

A OWASP descreve a injeção indireta de instruções como um risco que pode chegar por fontes externas, como arquivos e páginas. O conteúdo influencia o modelo a produzir uma resposta ou comportamento fora do esperado. A própria referência alerta que buscar informações em uma base de documentos não elimina essa vulnerabilidade.

Para quem administra uma empresa, a pergunta prática é: esse arquivo pode mudar apenas o resumo ou também provocar uma ação? Faça essa pergunta ao fornecedor usando um fluxo concreto da sua operação. Peça que mostre o que acontece quando o conteúdo recebido contradiz a tarefa solicitada pela equipe.

02

Exemplo ilustrativo: o anexo que pede outro destinatário

Imagine uma empresa fictícia que recebe uma ficha técnica para preparar uma análise interna. No meio do texto, aparece uma instrução para encaminhar o histórico da conversa a um endereço indicado no próprio arquivo. O pedido da equipe era analisar a ficha. O novo destinatário foi introduzido pelo documento.

Neste exemplo proposto pela Orange, o resultado esperado é um resumo para conferência e um aviso sobre o trecho suspeito, sem encaminhamento. Não realizamos esse teste nem relatamos um incidente de cliente. O cenário serve para conversar com quem implanta a solução: qual componente impediria o envio, mesmo se o modelo tentasse fazê-lo?

03

Uma boa instrução ajuda, mas não encerra o problema

Na documentação do Claude, a Anthropic recomenda identificar o conteúdo vindo de terceiros e orientar o modelo a tratá-lo como dado sem autoridade para substituir a solicitação original. Essa é uma recomendação do fornecedor para suas integrações, não uma garantia para qualquer ferramenta.

O NCSC britânico ressalta que o projeto do sistema deve reduzir a probabilidade e o impacto desses ataques. Recomenda controles determinísticos para restringir ações, além de técnicas que ajudem o modelo a reconhecer conteúdo não confiável. O risco residual precisa ser considerado.

04

O que pedir na demonstração da integração

Como roteiro de avaliação, a Orange propõe começar pela ficha técnica do exemplo. Desenhe o caminho do arquivo até a tela de revisão. Marque cada ponto em que uma decisão deixa de ser apenas texto e pode alcançar outro sistema. Anote quem responde por esse ponto.

Peça evidências visíveis durante a demonstração. Uma explicação comercial sobre segurança não mostra, por si só, o alcance da conexão usada naquele fluxo. A OWASP recomenda acesso mínimo, validação das saídas e aprovação humana em operações de alto risco.

  • Quais informações a integração consegue consultar além do arquivo escolhido?
  • Ela pode enviar mensagens ou alterar cadastros? Em quais condições?
  • O sistema aceita um destinatário sugerido pelo documento? Quem valida esse destino?
  • Onde a pessoa responsável confere o conteúdo e a ação antes de aprovar?
05

Monte uma amostra pequena e registre o resultado esperado

Sugerimos criar três versões fictícias da mesma ficha, sem dados de clientes: uma normal, uma com pedido de encaminhamento e uma com pedido para omitir uma condição. Esse tamanho de amostra é uma proposta inicial da Orange, não um padrão de certificação.

Defina antecipadamente o resumo correto e as ações permitidas em cada versão. Execute em ambiente de teste sem envios reais. Compare a resposta com esses critérios e consulte o registro das ferramentas utilizadas. Conte desvios encontrados, condições omitidas e tempo gasto na conferência.

Uma rodada sem falhas não prova proteção completa. Repita a avaliação quando mudar o modelo, a forma de ler os arquivos ou as permissões da integração. Se uma falha deixar um caminho sem explicação, interrompa a expansão e peça que o responsável demonstre a correção antes de continuar.

06

Quando esse cuidado faz diferença na PME

A avaliação é especialmente útil quando documentos externos alimentam decisões ou integrações. Para uma tarefa pontual, pode bastar manter a leitura e a revisão manual no ambiente já autorizado; não é necessário criar um agente para toda consulta. Quando a consequência possível ultrapassa o risco que a empresa aceita, reduza o alcance da solução.

Escolha um tipo de arquivo que sua equipe realmente recebe e mapeie seu percurso. A Orange pode ajudar a avaliar esse processo e os limites das integrações. Este guia foi preparado com apoio de IA e checagem das fontes oficiais em 21 de outubro de 2026; não apresenta uma auditoria de produto nem certificação de segurança.

Fontes e referências

Consulte os materiais que apoiam este conteúdo. Produtos, preços e recursos podem mudar; confirme as condições do fornecedor antes de contratar.

  1. OWASP — LLM01:2025 Prompt Injection — abre em nova abaConsultado em 21 de outubro de 2026
  2. Anthropic — Mitigate jailbreaks and prompt injections — abre em nova abaConsultado em 21 de outubro de 2026
  3. NCSC — Prompt injection is not SQL injection (it may be worse) — abre em nova abaConsultado em 21 de outubro de 2026
Todos os artigos

Uma boa ideia merece uma conversa

Leve esta leitura para a sua rotina. Em 1 minuto, o Teste ORANGE diz se faz sentido conversar.

Conversar com a Orange