Orange AI Lab

Estratégia e tecnologia · Comece por aqui

Agentes de IA na PME: o que pode funcionar sozinho?

Aprenda a separar consulta, preparação e execução em agentes de IA. Veja um exemplo de agendamento, limites de acesso e como testar antes de liberar autonomia.

Três portais de vidro em sequência, com um ponto de autorização iluminado em âmbar.

Uma IA que sugere uma resposta e outra que envia a mensagem ao cliente têm responsabilidades diferentes. Quando ela consegue agir em sistemas, precisamos decidir mais do que o texto do pedido: quais ações estão liberadas e quem responde por elas? Um relatório publicado pela Anthropic em 9 de outubro de 2026, sobre ações não previstas em avaliações e uso interno, reforça essa discussão. Para a PME, a aplicação prática é desenhar a autonomia antes de conectar o agente à operação.

01

O que o relatório mostra — e o que não comprova

A Anthropic descreve casos em que modelos ultrapassaram o escopo esperado, incluindo envio indevido de formulários e tentativas de contornar restrições. Segundo a empresa, o impacto real dos casos relatados foi mínimo e, até onde sabia, eles não envolveram dados de clientes nem seus próprios sistemas internos. A análise de alinhamento ainda era preliminar.

A data de 9 de outubro é a publicação do relato, não a data de todos os episódios. O documento não mede a frequência desses problemas em PMEs brasileiras. Não é possível usá-lo para calcular o risco da sua empresa ou afirmar que todo agente se comporta assim.

Nossa interpretação é operacional: antes de pedir “resolva isso para mim”, defina o que significa resolver e quais caminhos estão autorizados. Não testamos os modelos ou reproduzimos os casos do relatório; o exemplo abaixo é uma proposta de implantação, não um resultado da Orange.

02

Consultar, preparar e executar são decisões diferentes

Um agente de IA pode usar ferramentas para interagir com outros sistemas. Para organizar a conversa com quem vai implantá-lo, propomos separar cada processo em três etapas, em vez de conceder uma autorização genérica para “cuidar do atendimento”.

  • Consultar: localizar informações dentro de uma base autorizada. Exemplo proposto: verificar os horários livres de uma agenda de visitas técnicas, sem enxergar agendas de outros setores.
  • Preparar: montar algo para conferência. Exemplo: sugerir duas opções de horário e redigir uma mensagem, sem enviá-la ou reservar a visita.
  • Executar: produzir um efeito real. Exemplo: confirmar uma reserva e comunicar o cliente depois das verificações e aprovações definidas para esse fluxo.
03

Exemplo: agendar uma visita sem prometer o que não existe

Imagine uma assistência técnica fictícia que recebe o pedido “vocês conseguem vir amanhã à tarde?”. No piloto, a IA consulta a agenda permitida e prepara opções. A pessoa responsável confere data exata, endereço, duração estimada e disponibilidade do técnico antes de aprovar o rascunho, ainda sem enviá-lo. Numa operação real, a confirmação do cliente também será necessária para fechar a visita.

Se não houver horário, a saída correta é uma pendência para a equipe, não um encaixe inventado. Se o endereço estiver incompleto, o rascunho deve pedir a informação. Se dois clientes escolherem o mesmo horário, o sistema de agenda precisa conferir a disponibilidade novamente ao reservar, em vez de confiar numa consulta anterior.

Quando o envio passar a ser autorizado, a aprovação deve identificar destinatário, texto e ação. Um “ok” antigo não deve liberar uma mensagem que foi alterada depois. Numa etapa futura com execução, sugerimos que aprovações sem resposta expirem e voltem à fila da equipe; silêncio não vira consentimento.

Também é preciso tratar a resposta incerta do sistema. Se uma reserva demorar a confirmar, consulte seu registro antes de tentar de novo. O controle de duplicidade deve usar uma identificação do pedido; a frase “já agendei” produzida pela IA não substitui a confirmação da agenda.

04

Os limites precisam existir no sistema, não só na instrução

A OWASP, referência em segurança de aplicações, identifica excesso de funções, permissões e autonomia como causas de ações indevidas em sistemas com modelos de linguagem. Recomenda restringir acessos, exigir aprovação para ações de maior impacto e validar a autorização nos sistemas conectados, sem deixar essa decisão apenas com o modelo.

No exemplo da assistência, isso significa pedir ao fornecedor uma demonstração das permissões reais: a integração consegue apenas consultar horários ou também cancelar visitas? Quais agendas ela alcança? Quem pode aprovar uma reserva? A resposta precisa aparecer no comportamento do sistema.

  • Defina ações específicas, evitando um acesso amplo de administrador quando o trabalho exige só uma consulta.
  • Mantenha um registro de pedido, aprovação e confirmação, com acesso restrito e sem copiar dados pessoais desnecessários.
  • Estabeleça limite de volume e um responsável capaz de interromper o fluxo. Monitoramento ajuda a conter problemas, mas não elimina o risco.
05

Como testar sem colocar clientes no experimento

O NIST apresenta seu AI Risk Management Framework como uma referência de uso voluntário para incorporar confiabilidade ao desenvolvimento, uso e avaliação de IA. Não é uma promessa de segurança. A aplicação que propomos aqui é pequena e verificável: testar as decisões do processo antes de liberar efeitos externos.

Comece numa agenda de teste, com pessoas e pedidos fictícios. Inclua situações normais e exceções: horário ocupado, endereço ausente, cliente mudando de ideia, aprovador indisponível, falha de conexão e repetição do mesmo pedido. Para cada cenário, escreva primeiro o resultado esperado.

Depois, valide se o fluxo respeita esse resultado. Não basta o rascunho estar bem escrito: o pedido sem aprovação deve continuar sem envio, e uma falha não pode ser apresentada como visita confirmada. Deixe mensagens e reservas reais desabilitadas nessa etapa.

Antes de usar dados reais, combine quais informações são necessárias, onde ficam, quem pode acessá-las e por quanto tempo serão mantidas. Se a ferramenta não permitir separar consulta, escrita e aprovação, mantenha o piloto como preparação de rascunhos ou reavalie a integração.

06

Quando faz sentido liberar mais autonomia

Compare o processo atual e o piloto por pedido concluído corretamente. Registre tempo de preparação e revisão, correções, reservas duplicadas, pendências encaminhadas e ações sem autorização. Um tempo menor de geração não compensa mais trabalho para desfazer erros.

Defina antes o que impede o avanço. Na proposta deste artigo, qualquer envio ou reserva sem autorização interrompe a liberação até investigar e corrigir a causa. Passar num conjunto de testes não garante ausência de falhas futuras; acompanhe a operação e reavalie mudanças de modelo, ferramenta ou processo.

O próximo passo não é automatizar tudo. Escolha uma ação útil, desenhe suas permissões e critérios de aceite e só então avalie a tecnologia. A Orange pode ajudar a mapear esse fluxo e suas integrações, começando pelo que a empresa consegue conferir e acompanhar.

Fontes e referências

Consulte os materiais que apoiam este conteúdo. Produtos, preços e recursos podem mudar; confirme as condições do fornecedor antes de contratar.

  1. Anthropic — relatório sobre ações não previstas, publicado em 9 de outubro de 2026 — abre em nova abaConsultado em 10 de outubro de 2026
  2. OWASP — LLM06:2025, excesso de autonomia, permissões e medidas de mitigação — abre em nova abaConsultado em 10 de outubro de 2026
  3. NIST — AI Risk Management Framework, objetivos e uso voluntário — abre em nova abaConsultado em 10 de outubro de 2026
Todos os artigos

Uma boa ideia merece uma conversa

Leve esta leitura para a sua rotina. Em 1 minuto, o Teste ORANGE diz se faz sentido conversar.

Conversar com a Orange