¿Qué es la trazabilidad de LLM?

La trazabilidad de LLM significa que cuando una solicitud de usuario desencadena una secuencia de llamadas de modelo, puedes reconstruir toda la secuencia como una historia conectada en lugar de una dispersión de entradas de registro no relacionadas. El mecanismo estándar es la traza: una solicitud única se asigna un ID de traza, y cada unidad de trabajo dentro de ella — un prompt, una recuperación, una llamada de herramienta, un paso de subagente — se convierte en un span que lleva el mismo ID de traza más su propio ID de span.

Debido a que los spans están vinculados por estos identificadores compartidos, puedes ver la solicitud como un árbol: qué prompt se ejecutó primero, qué recuperó, qué herramienta llamó, qué devolvió y cómo los resultados intermedios fluyeron en la respuesta final. Esto está estrechamente relacionado con la observabilidad de LLM — la traza es la estructura de datos que hace que un flujo de trabajo de LLM de varios pasos sea legible.

Una sola finalización de LLM es fácil de inspeccionar — una entrada, una salida. La dificultad llega con las cadenas y los agentes. Una solicitud moderna puede expandirse a través de la recuperación, varios pasos de razonamiento, varias llamadas de herramientas y incluso subagentes, con la salida de cada paso alimentando el siguiente. Sin una traza compartida, esas llamadas aterrizan como registros desconectados y el hilo causal se pierde.

Los agentes lo hacen aún más difícil: hacen bucles, ramas y deciden qué herramientas llamar en tiempo de ejecución, por lo que ninguna de las dos trazas se ve igual y el camino solo es conocible después del hecho. Esta es la desafío central de la supervisión de agentes de IA — y la razón por la cual la correlación robusta de trazas y spans es un requisito previo, no un lujo, para comprender el comportamiento del agente.

La trazabilidad de LLM te dice cómo se ensambló una respuesta — cada prompt y llamada de herramienta en el camino. Pero para la responsabilidad, la pregunta más importante es generalmente por qué: en qué evidencia, contra qué política y con qué alternativas consideradas el agente se decidió por su resultado. Esa es una capa diferente.

Este es el puente desde la ejecución hasta la capa de decisión. La trazabilidad de IA reconstruye la línea de descendencia completa de una salida, y la trazabilidad de decisiones captura el razonamiento detrás de la elección en sí — distinto de la traza de ejecución prompt por prompt. Ambas importan, pero es el registro de decisión el que defiendes ante un auditor o un cliente.