Um agente classifica há oito meses as faturas de fornecedores. Numa segunda-feira alguém repara que está a lançar mal um tipo de despesa e a reação é imediata: «desligamos». Demora dez segundos. Depois chega a pergunta que ninguém tinha feito: quem faz isto à mão? A pessoa que o fazia mudou de funções em março, o procedimento era «o que ela sabia» e o volume de uma semana não cabe numa tarde.
A tese numa linha: desligar um agente é um botão; desligá-lo sem parar o processo é um plano, e quase ninguém o desenha porque um plano de saída soa a pessimismo. Ao fim de seis meses o processo já não sabe funcionar sem o agente, e então «suspender» e «parar a atividade» querem dizer o mesmo.
Como desligar um agente de IA: o plano de saída que ninguém desenha
O arranque desenha-se com cuidado: âmbito, permissões, testes. A saída fica para «logo se vê». Um plano de saída a sério tem três peças, e as três têm de existir antes do incidente:
- O passo manual, documentado e ensaiado. Não «alguém fará»: quem, com que acessos, com que instruções e com que volume.
- O limiar que dispara o desligamento. Uma condição escrita de antemão, não uma reunião improvisada com o agente ainda a responder.
- Quem o executa. Uma pessoa com nome, autorizada a agir sem pedir licença a mais três.
Porque é que o processo deixa de saber funcionar sem o agente
É um mecanismo, não um descuido. Enquanto o agente faz a tarefa, a equipa deixa de a fazer; ao deixar de a fazer, deixa de manter o critério: as exceções, os clientes fora da norma, o atalho que só uma pessoa conhecia. Esse conhecimento não se perde de repente, evapora-se. O que sobrevive está nas instruções do agente, que não são um manual para pessoas.
Três sinais de que já chegou a esse ponto: ninguém na equipa executa o passo manual há meses, os acessos necessários foram retirados quando «já não faziam falta», e ninguém sabe que volume aguentaria uma pessoa. Se um deles for verdadeiro, desligar o agente já não é uma opção reversível, ainda que o botão funcione.
O que tem de ficar escrito no passo manual
- Os passos e as suas exceções, escritos por quem os conhece, não reconstruídos a partir das instruções do agente.
- Os acessos ativos. Contas, permissões e ferramentas do processo manual, verificados e não presumidos.
- A capacidade real. Que volume cabe à mão e o que tem prioridade quando não cabe tudo; essa decisão toma-se agora, não às seis da tarde.
- O ensaio. Um simulacro periódico em que uma pessoa executa o passo manual com casos reais. Um procedimento que nunca foi executado é uma hipótese.
O primeiro degrau da saída quase nunca é «desligado»: é baixar a autonomia para «o agente propõe, uma pessoa envia». Só é possível se tiver definido uma escala de níveis de autonomia de um agente antes de precisar dela.
Quando se desliga: um limiar escrito, não uma reunião
O limiar transforma uma discussão numa execução. Não tem de ser numérico, tem de ser inequívoco e ter dono:
| Sinal | Desligamento | Quem decide |
|---|---|---|
| Um erro com impacto em dinheiro, prazo ou num cliente concreto | Parcial: retira-se a ferramenta que o causou ou baixa-se a autonomia | Responsável do processo |
| Desvio sustentado na métrica de qualidade que define o sucesso | Intermédio: passa a «propõe, uma pessoa envia» até haver revisão | Responsável do processo, com revisão semanal |
| Uma ação fora do seu âmbito ou um acesso que nunca devia ter tido | Total e imediato, sem reunião | Quem tem o interruptor |
| Dúvida razoável de que a utilização possa criar um risco legal | Total até esclarecer, com aviso a quem de direito | Administração, com apoio jurídico |
A deteção pode ser automática, por exemplo com um agente supervisor que revê quem trabalha, mas o que se desliga e até onde é uma decisão que uma pessoa fixa antes de acontecer.
O que diz o AI Act sobre suspender um agente?
O artigo 26.º, n.º 5, do Regulamento (UE) 2024/1689 obriga o responsável pela implantação de um sistema de risco elevado que tenha motivos para considerar que a sua utilização pode apresentar um risco a informar sem demora o fornecedor e a autoridade de fiscalização do mercado e a suspender a utilização do sistema (artigo 26.º no portal oficial da Comissão Europeia).
Duas ressalvas. Primeiro, a obrigação refere-se a sistemas de risco elevado; muitos agentes empresariais não o são, e para eles é boa prática, não imposição. Segundo, a norma exige poder suspender, não como fazê-lo sem partir nada: suspender sem plano de reversão é parar o processo e deixar o problema a quem tiver de trabalhar à mão nessa tarde.
Desligar um agente é o mesmo que desativá-lo em definitivo?
Não, e confundir as duas coisas causa erros. Desligar é temporário e reversível: o agente, as suas credenciais e o seu histórico ficam onde estão, e uma pessoa assume o trabalho enquanto se corrige. Desativar em definitivo é permanente: revogam-se permissões, arquiva-se o registo e decide-se o que acontece ao que o agente tinha em aberto. O desligamento deve demorar minutos; a desativação pode levar o seu tempo. Tudo o que rege ambas, das permissões ao registo, está em governação e controlo da automatização com IA.
Lista de saída antes de pôr um agente em produção
| Pergunta | Se a resposta for «não» |
|---|---|
| O passo manual existe por escrito, com as suas exceções? | O processo não sobrevive ao agente |
| Alguém o executou com casos reais nos últimos meses? | É uma hipótese, não um plano |
| Os acessos para o fazer continuam ativos? | A saída está fechada, mesmo que o botão funcione |
| Há um limiar escrito e uma pessoa autorizada a agir? | Decide-se numa reunião, com o agente ainda a responder |
| Sabe que volume aguenta uma pessoa e o que tem prioridade? | Desligá-lo equivale a perder o que não cabe |
Quem responde, com que níveis de gravidade e a partir de que runbook explica-se em quem responde quando uma automatização cai. E se preferir não montar nem sustentar essa função, é o que cobrimos com a gestão de incidentes de agentes de IA.
A frase para levar: um agente que não se pode desligar é um risco, mas um que se desliga sem que ninguém saiba fazer o seu trabalho é o mesmo risco com um botão.