Quanta autonomia dar a um agente de IA não é uma pergunta de sim ou não
A conversa sobre autonomia é quase sempre posta como um interruptor: ou o agente faz as coisas sozinho, ou não as faz. Com esse enquadramento só há dois finais possíveis e ambos são maus. O primeiro é deixá-lo em modo sugestão para sempre, onde ninguém arrisca nada: a pessoa continua a fazer o trabalho inteiro, agora com mais uma opinião em cima da mesa, e o sistema não poupa uma única hora real. O segundo é largá-lo por completo no primeiro dia porque a demo correu bem, e dar pelo erro quando ele já está no email de um cliente.
A autonomia não é um interruptor: é uma escada. E como toda a escada, sobe-se um degrau de cada vez e só quando o anterior aguenta o peso. O que se segue são os cinco degraus, os três critérios que autorizam uma subida e a lista curta de ações que ficam a meio da escada por desenho. Se o que estás a decidir ainda é aquilo em que o agente pode mexer, essa decisão é anterior e está resolvida em que permissões dar a um agente de IA: as permissões definem o alcance, a autonomia define a velocidade. Não são a mesma coisa e decidem-se em separado.
Os cinco degraus, um a um
Os degraus ordenam-se por duas perguntas: quem executa e quem revê. Não pelo quão esperto é o modelo.
Degrau 1 — Observa em sombra
O agente recebe os casos reais, faz o seu trabalho inteiro e a sua saída não chega a ninguém: fica no registo. A operação nem dá pela sua existência. É o único degrau onde enganar-se sai de graça, e por isso é o único sítio onde te podes dar ao luxo de descobrir o que o sistema não sabe fazer.
O que aqui se mede não é «se acerta», é contra o quê se compara. Em sombra tens de guardar a decisão humana do mesmo caso para poderes pôr as duas lado a lado. Se só guardas a saída do agente, ao fim do mês terás mil respostas e nenhuma forma de saber se eram boas. Este é o degrau que mais se salta — não produz nada visível, por isso parece tempo perdido — e o que sai mais caro saltar: sem ele, a primeira medição real do sistema é feita por um cliente.
Degrau 2 — Sugere
A sua saída chega à pessoa como proposta. A pessoa continua a fazer o trabalho; o que o agente lhe tira é a página em branco. A poupança é real mas modesta, e é esse o ponto: é um degrau de aprendizagem, não de retorno. O seu valor está em que aqui aparece o primeiro dado que interessa mesmo — a taxa de correção — e aparece de graça, porque a pessoa ia rever de qualquer maneira.
O erro típico do degrau 2 é instalar-se nele. Um sistema que leva oito meses a sugerir não é prudente: é um sistema que ninguém se atreve a avaliar. Se os números dão para subir e não se sobe, o que falta não é evidência, é alguém que assine.
Degrau 3 — Executa com confirmação
O agente deixa a ação preparada e completa — o email escrito, o lançamento contabilístico certo, o ticket classificado e encaminhado — e uma pessoa carrega no botão. É o padrão a que a literatura chama human in the loop, e a diferença face ao degrau 2 é quem carrega com o trabalho: no 2 a pessoa executa, no 3 revê. Essa mudança é onde aparece a primeira poupança que se nota na conta de horas.
Aviso: o degrau 3 degrada-se sozinho. Quando a confirmação é um clique sobre vinte elementos iguais, deixa de ser supervisão e passa a ser um trâmite. Se a tua taxa de rejeição vai a zero, não festejes: vê se foi o sistema que melhorou ou se foi o revisor que deixou de ler. A forma da supervisão e a sua mecânica estão desenvolvidas em humano no ciclo numa automatização com IA; o que importa não é que haja alguém a olhar, é que essa pessoa tenha contexto, tempo e autoridade real para dizer que não.
Degrau 4 — Executa e avisa
O agente atua e deixa o aviso. A pessoa já não autoriza: vigia. É o que se chama human on the loop. Este degrau só faz sentido se existir uma janela de reversão real: um tempo durante o qual a ação se pode desfazer sem ter custado nada a ninguém. Um rascunho que sai dentro de dez minutos e se pode cancelar tem janela. Uma fatura emitida não.
O que há para desenhar aqui não é o aviso — essa é a parte fácil —, é o desfazer. Se o plano de reversão é «ligamos ao cliente e pedimos desculpa», não tens um degrau 4: tens um degrau 5 disfarçado, com a responsabilidade repartida por ninguém.
Degrau 5 — Executa e presta contas
O agente atua e ninguém olha caso a caso. O que se revê é o agregado: uma amostra semanal, as métricas do costume e as exceções que o próprio sistema levanta. Não é ausência de supervisão, é supervisão estatística — e só funciona se o sistema souber declarar quando não está seguro. Um agente que não tem forma de dizer «isto não tenho a certeza» não pode estar no degrau 5, porque os seus erros chegam com a mesma cara que os seus acertos.
Muito poucas tarefas chegam aqui, e as que chegam partilham perfil: volume alto, erro barato, correção rápida. Classificar, encaminhar, etiquetar, extrair campos de um documento para que outro sistema os valide. Quando o volume do que há para rever deixa de caber numa pessoa, a supervisão passa a ser uma função com processo próprio, e isso já é supervisão humana de IA à escala.
Os três critérios para subir um degrau («vai bem» não é nenhum)
Um degrau sobe-se com evidência, e a evidência são três números que têm de estar a favor ao mesmo tempo. Dois em três não autoriza nada.
1. Volume de casos vistos
Com vinte casos não sabes nada: sabes que o agente funciona nos vinte casos que lhe calharam. O que é preciso não é um número mágico, é ter visto os raros: o cliente que escreve em duas línguas, a fatura sem número de encomenda, o mês de fecho, o fornecedor que responde com um PDF digitalizado ao contrário. Uma regra prática: se não consegues nomear três casos raros que o agente já resolveu bem, ainda estás a medir o fácil.
2. Taxa de correção humana — e a sua forma
A percentagem de vezes em que a pessoa mudou o que o agente propôs. Mas o número sozinho, sem a sua forma, engana. Uns 10 % de correções repartidas ao acaso são ruído tolerável. Uns 10 % concentrados sempre no mesmo tipo de caso são um buraco conhecido que a média te está a esconder, e subir um degrau com esse buraco aberto é automatizar precisamente a falha. Antes de olhares para a percentagem, agrupa as correções por motivo; se um motivo leva mais de metade, esse motivo é o trabalho pendente, não a subida.
3. Reversibilidade da ação
Três perguntas, por esta ordem: pode desfazer-se?, quanto custa desfazê-lo?, quanto tempo tens antes de ser tarde? Um rascunho por enviar é reversível e grátis. Um email enviado a um cliente é reversível a meias e caro: resolve-se com outro email e uma conversa incómoda. Uma transferência executada não é reversível — é uma segunda transferência em sentido contrário, com um telefonema ao banco pelo meio e uma probabilidade razoável de não voltar.
Este critério não se compensa com os outros dois. Se a ação não se pode desfazer, tanto faz que a taxa de correção seja de 0,1 % sobre cem mil casos: a subida não está autorizada. A precisão reduz a frequência do erro; não reduz o seu custo.
O que fica no degrau 3 para sempre
Há ações que não sobem por muito impecáveis que estejam os três critérios. Não é desconfiança no modelo: é que o custo do percentil 1 não é o modelo que o paga. Três famílias:
- Dinheiro que sai. Pagamentos, transferências, reembolsos, criação de um fornecedor com conta bancária nova. A fraude da mudança de IBAN existe precisamente porque este passo foi automatizado cedo demais em muita gente.
- Pessoas. Contratação, salário, disciplina, avaliação, qualquer decisão que toque a relação laboral de alguém. Aqui, ainda por cima, o enquadramento legal aperta por sua conta.
- Compromissos com terceiros. Contratos, propostas em firme, preços fechados, prazos assumidos e qualquer comunicação com um organismo oficial. O que sai pela porta com o teu nome é uma pessoa que o assina.
Esta lista de três famílias é nossa, não do regulador. Mas o regulador aponta na mesma direção. A autoridade espanhola de proteção de dados — que não é o teu regulador, mas publicou o texto europeu mais claro que há sobre agentes — recolhe o princípio dos quatro olhos, ou seja, dupla verificação por pessoas diferentes, e propõe-no para os processos automáticos com grande impacto nos direitos e liberdades das pessoas. Esse critério é mais amplo e mais abstrato do que as nossas três famílias; o que fazemos aqui é concretizá-lo nas ações onde, numa empresa normal, o erro não se desfaz com um clique.
O que a norma te obriga a poder fazer, e o que não te diz
O que te obriga a ti, em Portugal, é o Regulamento europeu de inteligência artificial. Nos sistemas classificados como de alto risco, o seu artigo 14 exige que sejam concebidos de modo a que pessoas singulares os possam vigiar de forma efetiva enquanto estão em uso, compreendendo as suas capacidades e limitações, detetando anomalias e comportamentos inesperados, e intervindo ou parando-os. Traduzido para a escada: em qualquer degrau, incluindo o 5, tem de haver alguém que possa compreender, intervir e parar. Um botão de paragem que ninguém nunca testou não cumpre o artigo 14; cumpre a ata da reunião.
Ao lado disso há um documento que compensa ler mesmo não te obrigando. Em fevereiro de 2026, a autoridade espanhola de proteção de dados publicou orientações sobre inteligência artificial agêntica na perspetiva da proteção de dados: hoje é a lista mais concreta que um regulador europeu pôs por escrito sobre isto. Entre as medidas que propõe para reduzir riscos — governação sólida do sistema, participação ativa do encarregado da proteção de dados, avaliação contínua do desempenho do agente, compartimentação da memória, rastreabilidade do ciclo de vida do dado, supervisão humana significativa, ambientes de isolamento técnico e controlo estrito das atualizações. Não é norma portuguesa e não te obriga; é a melhor checklist publicada. Fonte: Orientaciones sobre Inteligencia Artificial agéntica, AEPD, versão 1.2, fevereiro de 2026.
E agora o que nenhum dos dois faz: dar-te a escada. A norma diz-te o que tens de ser capaz de fazer e em que operações exige dois pares de olhos. Em que degrau colocas cada tarefa é decisão tua, e é por isso que tem de ficar escrita nalgum sítio em vez de ficar na cabeça de quem montou o sistema. Os cinco degraus deste guia são uma formulação editorial nossa, não uma classificação oficial: usa-os, muda-os ou inventa os teus, mas que existam por escrito.
Os três erros que se repetem ao subir
Subir por calendário
«Já levamos um mês em sugestão, está na altura de subir.» O tempo não é evidência de nada: um mês fraco são quarenta casos e um mês forte são quatrocentos. O que autoriza a subida é o volume de casos vistos, não as semanas passadas.
Confundir «não se partiu» com «vai bem»
A ausência de queixas não é uma métrica. Nos degraus 2 e 3 o erro do agente é absorvido pela pessoa em silêncio, por isso um sistema pode passar meses a ser medíocre sem que ninguém o diga. Se não estás a medir a correção, não tens evidência: tens ausência de ruído.
Subir o agente inteiro
É o erro mais caro e o mais comum. Um agente faz cinco coisas e só duas têm os números para subir; sobe-se o agente e as outras três viajam à borla. A subida autoriza-se por ação, regista-se por ação e reverte-se por ação. A ideia de um agente que «já é autónomo» é a mesma que desmonta o mito do agente 100 % autónomo: em produção não há um interruptor, há uma repartição.
Como se escreve isto numa tabela de uma página
Este guia inteiro cabe numa tabela que se revê uma vez por mês. Uma linha por ação, não por agente:
| Ação | Degrau hoje | O que falta para subir | Quem autoriza |
|---|---|---|---|
| Classificar e encaminhar o email recebido | 4 — executa e avisa | Amostra semanal 3 meses sem desvio por tipo | Responsável de operações |
| Redigir a resposta ao cliente | 3 — executa com confirmação | Correção < 8 % e dispersa por motivo | Responsável de apoio ao cliente |
| Emitir a fatura | 3 — teto permanente | Não sobe: dinheiro que sai | — |
| Extrair campos de uma guia de remessa | 5 — presta contas | Já está lá em cima; rever exceções | Responsável administrativo |
- Uma linha por ação. Se uma linha diz «o agente de apoio ao cliente», está mal escrita: divide-a.
- Degrau de hoje, com data. Sem data não saberás se está ali há três semanas ou há sete meses.
- O que falta para subir, em número. «Quando estivermos confortáveis» não é critério; «correção abaixo de 8 % e dispersa» é.
- Um nome que autoriza. Uma pessoa, não um comité. Se ninguém assina, nada sobe e o sistema fica no degrau 2 para sempre.
- Marca as linhas com teto permanente. Dinheiro, pessoas e compromissos com terceiros levam «não sobe» escrito, para que daqui a um ano ninguém tenha de voltar a discuti-lo.
Nós montamos agentes que começam em sombra e sobem com esta tabela à frente — é o que fazem os empregados IA que pomos a trabalhar, sobre a infraestrutura que permite pará-los e auditá-los no dia em que for preciso, dentro da lógica geral de criar um agente de IA que aguente produção. Não vendemos autonomia. Cobramos por cada degrau se subir com um número e com um nome por trás.