Solução · AI Operations

A tua IA decide todos os dias. Daqui a seis meses, consegues explicar uma decisão concreta?

Um log não é rastreabilidade. Ter registos espalhados pelo modelo, pela ferramenta e pelo sistema de destino não te deixa reconstruir porque é que este pedido foi recusado, este preço aplicado ou este caso fechado sozinho. A rastreabilidade de decisões é a função que liga cada decisão à sua entrada, às suas versões, aos seus dados, à sua política e a quem a aprovou —e a mantém recuperável quando alguém perguntar. Montamo-la e operamo-la.

Montem no meu negócio Ver como funciona

O problema

Tens logs. O que não tens é a capacidade de reconstruir uma decisão concreta de ponta a ponta.

A informação de uma mesma decisão vive em quatro sítios —a chamada ao modelo, o motor de recuperação, a ferramenta que executou e o sistema onde acabou— e nenhum partilha identificador, por isso reconstruí-la são horas de trabalho manual.
Não sabes com que versão se decidiu: o prompt, o modelo, a política de negócio e o conjunto de dados mudaram desde então, e ninguém guardou qual estava em vigor nesse momento.
O registo guarda a saída mas não o porquê: que documentos recuperou, que ferramentas chamou, o que devolveram e que regra se aplicou no fim para decidir assim e não de outra forma.
A supervisão humana não deixa rasto utilizável: alguém aprovou, mas não consta o que viu no ecrã, o que mudou face à proposta nem com que base decidiu.
A retenção está por decidir: ou se guarda tudo para sempre —dados pessoais incluídos— ou roda aos trinta dias, e quando chega a reclamação já não há nada para mostrar.

O custo de continuar igual

A rastreabilidade não é papelada opcional: para os sistemas de alto risco, o regulamento europeu de IA exige registo automático de eventos ao longo do ciclo de vida (art. 12) e obriga a conservar esses registos durante pelo menos seis meses, tanto ao fornecedor (art. 19) como ao responsável pela implantação (art. 26.6). Mas o regulador é o que chega por último. Antes chega o cliente que contesta a decisão, o comercial que não percebe porque é que o seu processo foi recusado e a equipa que quer melhorar o sistema e não consegue, porque sem rasto não há diagnóstico: não se distingue uma falha do modelo de um dado mau, nem uma política mal escrita de uma exceção legítima. Sem rasto, a única resposta possível é «foi a IA que decidiu», e essa frase não vale perante ninguém — nem perante um auditor, nem perante um cliente, nem perante o teu próprio comité.

A solução

Montamos o rasto de decisão de ponta a ponta —identificador, versões, contexto, política e supervisão— e operamo-lo como função contínua

1Começamos por definir o que é uma «decisão» no teu negócio, o passo que quase ninguém dá: nem tudo o que um agente faz merece processo. Marcamos as decisões com consequência —as que afetam uma pessoa, um recebimento, um contrato ou um compromisso— e são essas que se rastreiam em detalhe; o resto amostra-se.
2Damos um identificador único a cada caso e fazemo-lo atravessar tudo: a chamada ao modelo, a recuperação de informação, cada ferramenta invocada e o registo final no teu ERP, CRM ou ticketing. Sem esse fio, reconstruir uma decisão continuará a ser arqueologia entre quatro sistemas.
3Congelamos o contexto da decisão: versão do modelo, do prompt e da política de negócio em vigor, documentos ou registos recuperados, parâmetros usados, ferramentas chamadas e o que devolveram. O rasto não guarda só o que saiu, mas com que se decidiu.
4Fazemos com que a supervisão humana deixe rasto real: o que se mostrou ao revisor, o que o sistema propôs, o que a pessoa mudou e com que motivo. É a diferença entre «há supervisão» e poder demonstrá-la, e liga-se a a supervisão humana de IA à escala.
5Fixamos retenção e acesso com critério: quanto se guarda cada tipo de rasto, o que se mascara ou substitui por um identificador para não acumular dados pessoais sem base legal, quem pode consultá-lo e com que registo de acesso. Guardar tudo para sempre não é cumprir: é outro risco.
6Deixamo-lo consultável e medido. Um processo de decisão que se abre por identificador de caso e se lê em minutos, não um despejo de registos; mais um painel de cobertura —que percentagem de decisões com consequência tem rasto completo— e ensaios periódicos: escolhemos uma decisão ao acaso e reconstruímo-la, para descobrir os buracos antes que os descubra outro.

O que muda

O que deixas de perder

A decisão contestada deixa de ser arqueologia entre quatro sistemas: abre-se por identificador de caso, com a sua entrada, o seu contexto, as suas versões e quem a aprovou num único processo.
Mecanismo
Para sistemas de alto risco, o regulamento europeu de IA exige registo automático de eventos (art. 12) e conservação mínima de seis meses (art. 19 para o fornecedor, art. 26.6 para o responsável pela implantação). O rasto deixa de ser um projeto pendente e passa a ser uma obrigação coberta com evidência.
Regulamento (UE) 2024/1689 (AI Act), arts. 12, 19 e 26.6 — âmbito: União Europeia
A melhoria do sistema deixa de ser às cegas: com o rasto distingue-se uma falha do modelo de um dado mau ou de uma política mal escrita, que é o que decide onde vale a pena mexer.
Mecanismo
O que medimos: cobertura de decisões com consequência que têm rasto completo, tempo para reconstruir um caso de ponta a ponta, % de reconstruções que falham por um buraco, e antiguidade e volume de rasto retido por tipo.
O que medimos

Ficha técnica

Trabalho que elimina: reconstruir à mão uma decisão de IA a remexer em registos de quatro sistemas que não partilham identificador, sem saber que versão de modelo, prompt ou política estava em vigor
Implementação habitual: 4–8 semanas
Entrada: uma decisão com consequência tomada pela tua IA —uma recusa, um preço, um fecho de caso, uma ação sobre um sistema— e tudo o que a rodeou
Saída: um processo de decisão recuperável por identificador de caso: entrada, contexto recuperado, ferramentas invocadas, versões, política aplicada, supervisão humana e resultado
Compatível com: Los frameworks de agentes que ya uses (LangChain, LlamaIndex, SDKs de proveedor, desarrollo propio)OpenTelemetry y tu plataforma de observabilidad o de trazas de LLMTu ERP / CRM / ticketing como sistema de destinoTu gestor de versiones de prompts, políticas y modelos
Pode ligar-se a: O teu programa de conformidade com o AI Act e as tuas evidências de auditoriaA tua política de retenção e de proteção de dados pessoaisO teu circuito de supervisão humana e de aprovaçõesO teu processo de incidentes e de melhoria contínua
O que medimos: cobertura de decisões com consequência que têm rasto completotempo para reconstruir um caso de ponta a ponta% de reconstruções que falham por um buraco no rastoantiguidade e volume de rasto retido por tipo de decisão
Adequado para: empresas com IA ou agentes a tomar decisões com consequência em produção —crédito, preços, contratação, apoio, operações— que terão de as explicar a um cliente, a um auditor ou a um regulador
Não adequado para: quem só usa assistentes de escrita ou pilotos internos sem efeito sobre terceiros: aí basta a observabilidade operativa; e não substitui o critério jurídico do que é defensável, que continua a ser do teu advogado

Perguntas frequentes

Não, e confundi-los é o erro caro. Monitorizar a IA em produção responde a uma pergunta agregada e no presente: o sistema está bem hoje, quanto custa, onde se degrada? A rastreabilidade responde a uma pergunta singular e no passado: porque é que esta decisão saiu assim, a de 14 de março, a que este cliente contesta? Uma olha para a curva; a outra abre o processo. Precisas das duas, mas a que te salva numa reclamação ou numa auditoria é a segunda — e é a que quase ninguém tem montada, porque exige decidir o que se guarda, com que identificador e durante quanto tempo.

Cumprir o AI Act a operar a tua IA é o quadro: que sistemas tens, em que categoria de risco caem, que documentação e que supervisão exige cada um. A rastreabilidade é um dos mecanismos que esse quadro dá por adquiridos e que quase nunca está construído: o registo automático de eventos do artigo 12 e a sua conservação mínima de seis meses. Podes ter o programa de conformidade em dia e continuar sem conseguir reconstruir uma decisão concreta, que é justamente o que te vão pedir. Montam-se bem juntos, e se já tens o programa a andar, isto é a peça que lhe falta.

Cria, se o fizeres à bruta, e por isso a retenção faz parte do desenho e não é um ajuste posterior. Rastreamos em detalhe só as decisões com consequência e amostramos o resto; substituímos dados pessoais por identificadores sempre que o rasto continue reconstruível; fixamos prazos por tipo de decisão —cobrindo o mínimo legal aplicável, sem o transformar em «para sempre»—; e registamos quem consulta um processo. Guardar tudo indefinidamente não é cumprir melhor: é acumular risco e fatura. A regra é que o rasto tem de chegar para reconstruir, e não mais do que isso.

Montamos no teu negócio?

Localizaste o problema. Nós entregamos a solução e deixamo-la medida.

Ver o serviço