Anomalia semantica
fiabilidadsemantic anomaly · fallo semantico · anomalia de significado
Fallo en el que todas las llamadas del agente devuelven exito y la latencia es normal, pero el resultado esta mal: eligio la rama equivocada, clasifico mal o ejecuto acciones validas en un orden inseguro.
La anomalia semantica es la clase de fallo que los logs y las trazas convencionales no ven, porque todo lo observable esta en verde. Una llamada a una herramienta puede tener exito tecnico y ser incorrecta en el significado: cancelar una cita antes de confirmar la sustituta, imputar un gasto a la categoria equivocada, invocar APIs correctas en un orden que no se puede deshacer. La literatura academica reciente sobre operaciones de sistemas de agentes la coloca en el centro: trata la observabilidad como un problema semantico, no de salud del sistema, y distingue anomalias intra-agente (razonamiento, accion, memoria, seguridad) de inter-agente (especificacion de tareas, orquestacion, comunicacion, terminacion). Consecuencia practica para quien opera: la correccion funcional y la seguridad operativa son dos medidas distintas, y un agente puede acabar dejando el estado final correcto despues de haber hecho algo irreversible por el camino.
How it differs from
- Fallo tecnico
- El fallo tecnico da error, timeout o codigo 500 y se detecta solo; la anomalia semantica devuelve exito y hay que buscarla.
- Observabilidad de agentes
- La observabilidad es la capacidad de mirar; la anomalia semantica es la clase de fallo que esa capacidad no captura si solo mide salud del sistema.
Examples
- El agente de facturacion emite las 240 facturas del mes sin un solo error de API y mete 18 en el ejercicio fiscal equivocado.
- El agente de atencion cierra el ticket con un mensaje correcto y bien escrito que responde a una pregunta que el cliente no hizo.
FAQ
- ¿Como se detecta si los logs estan en verde?
- Comparando el resultado contra el significado esperado, no contra el estado del sistema: evaluaciones sobre casos con respuesta conocida, reglas de negocio aplicadas a la salida, y muestreo humano de casos cerrados. Es trabajo de evaluacion, no de monitorizacion.
- ¿Por que importa separarla de la correccion funcional?
- Porque arreglar el resultado final no deshace una accion intermedia perjudicial. Un proceso puede terminar con el estado correcto despues de haber enviado un correo que no debia salir.