Agentes de IA: quando exigir aprovação humana
Sua empresa quer usar um agente de IA para consultar informações, preparar respostas e executar tarefas. Na hora de colocar a ideia em prática, surge uma decisão: o que ele poderá fazer sozinho?
A resposta começa pelas ações do processo. Preparar um texto, enviar esse texto a um cliente e publicá-lo no site têm consequências diferentes. Cada etapa pode receber uma regra própria, mesmo quando faz parte da mesma automação.
Nossa recomendação é exigir aprovação humana nas ações cujo impacto pede uma decisão responsável antes da execução. Para definir esse ponto, avalie quem será afetado, o que pode dar errado, como corrigir e quais limites a empresa já estabeleceu. O agente pode adiantar o trabalho até ali.
Defina a autonomia por ação
Antes de discutir ferramentas, escreva a sequência do trabalho. Em uma rotina de conteúdo, por exemplo: pesquisar, escolher a pauta, redigir, revisar, publicar e divulgar. Depois, indique quem responde por cada etapa.
A tabela abaixo é uma proposta de ponto de partida para um piloto. Os limites precisam ser ajustados ao processo e às permissões de cada empresa.
| Ação | Regra inicial sugerida | O que conferir |
|---|---|---|
| Consultar uma base interna autorizada | Executar dentro do acesso concedido | Quais documentos pode ler e onde os dados podem ser usados |
| Preparar uma resposta ou artigo | Salvar como rascunho | Fontes, contexto e local de armazenamento |
| Classificar uma solicitação interna | Automatizar quando a classificação puder ser revista e não disparar outras ações | Como corrigir e quem acompanha as exceções |
| Enviar uma proposta comercial ou publicar um artigo | Solicitar aprovação da versão final | Conteúdo, destinatário ou canal e condições apresentadas |
| Excluir registros ou alterar permissões | Manter fora do escopo do piloto inicial | Necessidade real da ação e existência de um procedimento específico |
Uma classificação aparentemente simples merece atenção se também encerrar um chamado ou enviar uma mensagem. Nesse caso, avalie a sequência completa, incluindo esses efeitos.
Se a dúvida ainda é qual tipo de solução usar, o guia agente de IA ou chatbot ajuda a comparar os caminhos. A aprovação humana pode fazer parte tanto de um fluxo com etapas fixas quanto de um agente que escolhe os próximos passos. A referência da Anthropic sobre agentes descreve essa diferença e o uso de pontos de intervenção humana durante a execução.
Mostre exatamente o que será aprovado
Uma aprovação útil precisa dar contexto para a decisão. Pedir apenas “posso continuar?” deixa o responsável sem saber qual ação está liberando.
Para a publicação de um artigo, propomos apresentar:
- O título e o texto completos, com as imagens que serão utilizadas.
- As fontes e os links incluídos no conteúdo.
- O canal de publicação e a chamada comercial.
- A identificação da versão que ficará disponível ao público.
O responsável deve conseguir aprovar, pedir ajustes ou recusar. Se houver uma mudança relevante depois da revisão — por exemplo, uma nova promessa comercial — a versão modificada volta para análise. Isso evita publicar algo diferente do que foi avaliado.
Também recomendamos combinar o que acontece quando a pessoa não responde. Em uma publicação que exige aprovação, a regra proposta é manter o rascunho pendente. A agenda diária pode preparar a próxima pauta sem liberar a anterior.
Faça a aprovação funcionar na integração
Ao contratar ou desenvolver a solução, verifique como a regra será aplicada. Para ações de maior impacto, a autorização deve ser conferida pelo sistema que executa a operação. Uma instrução no texto de configuração do agente não substitui essa verificação. A OWASP recomenda limitar permissões, exigir aprovação em ações de alto impacto e validar autorizações nos sistemas integrados.
No exemplo do blog, propomos que o componente responsável pela publicação confira a decisão registrada e a versão aprovada antes de colocar o artigo no ar. A identidade usada para preparar rascunhos pode ter acesso limitado a essa tarefa.
Existem ferramentas que ajudam a construir esse fluxo. O LangGraph, por exemplo, documenta um mecanismo para pausar a execução, persistir o estado e aguardar uma resposta externa. A equipe ainda precisa implementar quem pode responder e como essa resposta autoriza a ação seguinte.
Essa escolha faz parte do desenho das integrações e pode entrar em um diagnóstico de arquitetura de software.
Teste o caminho em que a resposta é “não”
Um piloto precisa demonstrar o comportamento das exceções. Para uma automação de publicação, esta é uma lista de testes que recomendamos:
- Aprovação: o artigo publicado corresponde à versão revisada.
- Pedido de ajuste: a nova versão permanece pendente até receber a decisão.
- Recusa: o conteúdo não é publicado.
- Ausência de resposta: o rascunho continua aguardando.
- Falha de conexão: o sistema verifica o resultado antes de tentar publicar novamente, evitando duplicidade.
Use um ambiente de teste e um responsável definido para avaliar os resultados. Registre também o tempo gasto na revisão e os motivos das devoluções. Se o responsável precisa refazer quase todo o texto, esse retrabalho deve entrar na avaliação do piloto.
Para o exemplo editorial, acompanharíamos o tempo entre pauta e publicação, o esforço de revisão, a correspondência entre versão aprovada e publicada e as falhas de execução. São indicadores propostos para esse cenário, sem resultados de clientes implícitos.
Leve um processo concreto para a primeira conversa
Escolha uma rotina e descreva suas etapas, sistemas envolvidos, responsável pela decisão e situações que precisam interromper o fluxo. Esse material ajuda a discutir um piloto com entregas verificáveis e participação clara do time.
O grau de autonomia pode ser revisto conforme os testes e a operação produzirem evidências. Para cada mudança, vale perguntar qual trabalho será poupado, qual decisão continuará com a equipe e como o resultado será acompanhado.
Quer definir o que um agente de IA pode executar e onde sua equipe precisa aprovar? Conheça a solução de agentes de IA da RSR IT e converse conosco sobre o processo que deseja automatizar.