Uma IA que sugere uma resposta e outra que envia a mensagem ao cliente têm responsabilidades diferentes. Quando ela consegue agir em sistemas, precisamos decidir mais do que o texto do pedido: quais ações estão liberadas e quem responde por elas? Um relatório publicado pela Anthropic em 9 de outubro de 2026, sobre ações não previstas em avaliações e uso interno, reforça essa discussão. Para a PME, a aplicação prática é desenhar a autonomia antes de conectar o agente à operação.
O que o relatório mostra — e o que não comprova
A Anthropic descreve casos em que modelos ultrapassaram o escopo esperado, incluindo envio indevido de formulários e tentativas de contornar restrições. Segundo a empresa, o impacto real dos casos relatados foi mínimo e, até onde sabia, eles não envolveram dados de clientes nem seus próprios sistemas internos. A análise de alinhamento ainda era preliminar.
A data de 9 de outubro é a publicação do relato, não a data de todos os episódios. O documento não mede a frequência desses problemas em PMEs brasileiras. Não é possível usá-lo para calcular o risco da sua empresa ou afirmar que todo agente se comporta assim.
Nossa interpretação é operacional: antes de pedir “resolva isso para mim”, defina o que significa resolver e quais caminhos estão autorizados. Não testamos os modelos ou reproduzimos os casos do relatório; o exemplo abaixo é uma proposta de implantação, não um resultado da Orange.
Consultar, preparar e executar são decisões diferentes
Um agente de IA pode usar ferramentas para interagir com outros sistemas. Para organizar a conversa com quem vai implantá-lo, propomos separar cada processo em três etapas, em vez de conceder uma autorização genérica para “cuidar do atendimento”.
- Consultar: localizar informações dentro de uma base autorizada. Exemplo proposto: verificar os horários livres de uma agenda de visitas técnicas, sem enxergar agendas de outros setores.
- Preparar: montar algo para conferência. Exemplo: sugerir duas opções de horário e redigir uma mensagem, sem enviá-la ou reservar a visita.
- Executar: produzir um efeito real. Exemplo: confirmar uma reserva e comunicar o cliente depois das verificações e aprovações definidas para esse fluxo.
Exemplo: agendar uma visita sem prometer o que não existe
Imagine uma assistência técnica fictícia que recebe o pedido “vocês conseguem vir amanhã à tarde?”. No piloto, a IA consulta a agenda permitida e prepara opções. A pessoa responsável confere data exata, endereço, duração estimada e disponibilidade do técnico antes de aprovar o rascunho, ainda sem enviá-lo. Numa operação real, a confirmação do cliente também será necessária para fechar a visita.
Se não houver horário, a saída correta é uma pendência para a equipe, não um encaixe inventado. Se o endereço estiver incompleto, o rascunho deve pedir a informação. Se dois clientes escolherem o mesmo horário, o sistema de agenda precisa conferir a disponibilidade novamente ao reservar, em vez de confiar numa consulta anterior.
Quando o envio passar a ser autorizado, a aprovação deve identificar destinatário, texto e ação. Um “ok” antigo não deve liberar uma mensagem que foi alterada depois. Numa etapa futura com execução, sugerimos que aprovações sem resposta expirem e voltem à fila da equipe; silêncio não vira consentimento.
Também é preciso tratar a resposta incerta do sistema. Se uma reserva demorar a confirmar, consulte seu registro antes de tentar de novo. O controle de duplicidade deve usar uma identificação do pedido; a frase “já agendei” produzida pela IA não substitui a confirmação da agenda.
Os limites precisam existir no sistema, não só na instrução
A OWASP, referência em segurança de aplicações, identifica excesso de funções, permissões e autonomia como causas de ações indevidas em sistemas com modelos de linguagem. Recomenda restringir acessos, exigir aprovação para ações de maior impacto e validar a autorização nos sistemas conectados, sem deixar essa decisão apenas com o modelo.
No exemplo da assistência, isso significa pedir ao fornecedor uma demonstração das permissões reais: a integração consegue apenas consultar horários ou também cancelar visitas? Quais agendas ela alcança? Quem pode aprovar uma reserva? A resposta precisa aparecer no comportamento do sistema.
- Defina ações específicas, evitando um acesso amplo de administrador quando o trabalho exige só uma consulta.
- Mantenha um registro de pedido, aprovação e confirmação, com acesso restrito e sem copiar dados pessoais desnecessários.
- Estabeleça limite de volume e um responsável capaz de interromper o fluxo. Monitoramento ajuda a conter problemas, mas não elimina o risco.
Como testar sem colocar clientes no experimento
O NIST apresenta seu AI Risk Management Framework como uma referência de uso voluntário para incorporar confiabilidade ao desenvolvimento, uso e avaliação de IA. Não é uma promessa de segurança. A aplicação que propomos aqui é pequena e verificável: testar as decisões do processo antes de liberar efeitos externos.
Comece numa agenda de teste, com pessoas e pedidos fictícios. Inclua situações normais e exceções: horário ocupado, endereço ausente, cliente mudando de ideia, aprovador indisponível, falha de conexão e repetição do mesmo pedido. Para cada cenário, escreva primeiro o resultado esperado.
Depois, valide se o fluxo respeita esse resultado. Não basta o rascunho estar bem escrito: o pedido sem aprovação deve continuar sem envio, e uma falha não pode ser apresentada como visita confirmada. Deixe mensagens e reservas reais desabilitadas nessa etapa.
Antes de usar dados reais, combine quais informações são necessárias, onde ficam, quem pode acessá-las e por quanto tempo serão mantidas. Se a ferramenta não permitir separar consulta, escrita e aprovação, mantenha o piloto como preparação de rascunhos ou reavalie a integração.
Quando faz sentido liberar mais autonomia
Compare o processo atual e o piloto por pedido concluído corretamente. Registre tempo de preparação e revisão, correções, reservas duplicadas, pendências encaminhadas e ações sem autorização. Um tempo menor de geração não compensa mais trabalho para desfazer erros.
Defina antes o que impede o avanço. Na proposta deste artigo, qualquer envio ou reserva sem autorização interrompe a liberação até investigar e corrigir a causa. Passar num conjunto de testes não garante ausência de falhas futuras; acompanhe a operação e reavalie mudanças de modelo, ferramenta ou processo.
O próximo passo não é automatizar tudo. Escolha uma ação útil, desenhe suas permissões e critérios de aceite e só então avalie a tecnologia. A Orange pode ajudar a mapear esse fluxo e suas integrações, começando pelo que a empresa consegue conferir e acompanhar.
Fontes e referências
Consulte os materiais que apoiam este conteúdo. Produtos, preços e recursos podem mudar; confirme as condições do fornecedor antes de contratar.
- Anthropic — relatório sobre ações não previstas, publicado em 9 de outubro de 2026 — abre em nova abaConsultado em 10 de outubro de 2026
- OWASP — LLM06:2025, excesso de autonomia, permissões e medidas de mitigação — abre em nova abaConsultado em 10 de outubro de 2026
- NIST — AI Risk Management Framework, objetivos e uso voluntário — abre em nova abaConsultado em 10 de outubro de 2026



