Compactación de contexto sin amnesia

Todo agente que hace trabajo analítico real acaba chocando con la misma pared: la investigación es más larga que la ventana de contexto. Una respuesta supervisora que abarca tres semanas, cuarenta consultas, una docena de supuestos revisados y dos desvíos de comité no cabe en el contexto de ningún modelo - ni hoy, ni el año que viene, porque las investigaciones crecen hasta llenar el espacio que se les dé.

Lo que separa a las plataformas de agentes no es si chocan con esa pared. Es qué hacen ahí, y las dos respuestas estándar del sector son calladamente deshonestas. La primera es el truncado silencioso: descartar los turnos más antiguos y esperar que allí no hubiera nada importante - amnesia administrada sin decírselo al paciente. La segunda es la pretensión del contexto infinito: marketing que sugiere que el problema de la ventana está resuelto, cuando lo que ocurre bajo carga es la respuesta uno, en silencio. Si su trabajo está regulado, ambas fallan el mismo examen: ¿puede decir, con precisión, qué había dejado de considerar el agente cuando produjo este número?

La respuesta de DataQube empieza por negarse a que una sola estructura de datos haga dos trabajos.

Dos memorias con trabajos distintos

La confusión bajo casi todo el debate sobre ventanas de contexto es tratar "lo que ve el modelo" y "lo que ocurrió" como la misma cosa. Son objetos distintos con garantías distintas:

El registro - el log de conversación del hilo - es solo-anexado y completo: cada turno, cada llamada a herramienta con su referencia de auditoría, cada resultado, cada decisión, para siempre. Es el objeto sobre el que vive el rastro de auditoría, y nada de la gestión de contexto puede tocarlo. El contexto de trabajo es una proyección construida desde el registro para la siguiente llamada al modelo: turnos recientes literales, el resto representado por resúmenes y esenciales fijados. Se reconstruye, se redimensiona y se reescribe con libertad - porque no soporta peso probatorio. El registro responde "qué ocurrió"; el contexto de trabajo responde "qué necesita el modelo ahora mismo". En cuanto son objetos separados, la ventana de contexto deja de ser un problema de verdad y pasa a ser un presupuesto de ingeniería.

La compactación es un evento, no una goma de borrar

Cuando el contexto de trabajo de un hilo se acerca a la ventana, DataQube lo compacta: los turnos antiguos se pliegan en un resumen estructurado y el contexto se reconstruye a su alrededor. La parte que importa para la confianza es cuán visiblemente ocurre.

La compactación es un evento, anexado al registro como cualquier otro. Dice cuándo corrió, qué tramo de la conversación resumió y con qué resumen trabajará el modelo en adelante. En el propio hilo se ve como un marcador entre mensajes - cualquiera que lea la conversación ve exactamente dónde se consolidó la memoria de trabajo del agente, igual que ve dónde se llamó a una herramienta. Nada de la cognición del agente queda fuera del registro: incluso los momentos en que reorganizó su propia memoria están en él.

Esa visibilidad suena cosmética hasta que hace falta. Cuando un revisor pregunta por qué las respuestas tardías del agente dejaron de referirse a una salvedad temprana, la respuesta honesta se puede encontrar: aquí está el evento de compactación, aquí el resumen que produjo, y la salvedad entró en él o no entró. El modo de fallo sigue existiendo - resumir es con pérdida por naturaleza -, pero es inspeccionable, que es la diferencia entre un bug que se puede reportar y un fantasma que no se puede cazar.

Qué sobrevive literal y qué se comprime

La compactación no es un licuado uniforme. Algunas cosas están fijadas y sobreviven cada compactación al pie de la letra, porque su redacción exacta soporta carga: las definiciones validadas en juego, las decisiones que el usuario tomó, los parámetros de la tarea y las preguntas abiertas que el agente aún debe responder. Lo que se comprime es el grueso: salidas largas de herramientas, turnos exploratorios que llevaron a algún sitio, callejones sin salida que no.

Y comprimido no significa desaparecido. Una línea de resumen como "consultada la cartera en nueve variantes de segmento; todas conciliadas dentro de tolerancia salvo Oficinas (ver turno 87)" lleva un puntero de vuelta al registro. Si el agente necesita después las cifras reales del turno 87, están a una consulta de distancia - en el registro, donde nunca dejaron de existir. El contexto de trabajo olvida como olvida el escritorio de una buena analista: la carpeta volvió al archivador, no a la trituradora.

Auditar un hilo compactado

Aquí está la propiedad que hace coherente este diseño con todo lo demás de este blog: la evidencia nunca vive en el contexto de trabajo. Cada cifra que el agente produjo lleva su cadena - consultas, documentos, ejecuciones, comprobaciones - anclada en el registro, no en lo que el modelo tuviera en la ventana en ese momento. Así que la compactación no puede dejar huérfana la evidencia. Un hilo compactado cinco veces se audita exactamente igual que uno nunca compactado: recorra la cadena de cualquier afirmación y cada eslabón se resuelve, porque aquello a lo que apuntan los eslabones nunca se compactó.

Un revisor que examine una investigación larga obtiene, pues, las dos verdades a la vez: la historia completa (el registro, intacto) y una cuenta honesta de con qué trabajaba el agente en cada fase (la secuencia de eventos de compactación y sus resúmenes). Nada en esa frase exige confiar en el resumidor - solo leer qué escribió, cuándo, en el registro.

Un registro que nadie puede reescribir

La propiedad con la que quedarse de todo esto: en DataQube, el registro no puede editarse - ni el agente, ni la compactación, ni nosotros. Algunas plataformas gestionan el contexto compactando la propia conversación, resumiendo los turnos viejos y sustituyéndolos; el día que llega una revisión, el hilo que se lee ya no es el hilo que produjo los números - es un recuento, escrito por la misma clase de modelo cuyas salidas la revisión existe para comprobar, y su artefacto probatorio primario se ha convertido en silencio en uno derivado.

Por eso pagamos con gusto el precio del registro solo-anexado y sus proyecciones desechables: el almacenamiento es barato, y una historia que podría haber sido editada no vale nada exactamente en el momento en que alguien la necesita. Cuando evalúe cualquier plataforma de agentes, una sola pregunta zanja todo este asunto: ¿el hilo que audito es el hilo que se ejecutó - o un resumen de él?

El mismo principio - un registro, muchas proyecciones - recorre toda la plataforma; la página de producto lo muestra como chat, notebook y presentación. Y si quiere ver un hilo compactado conservar sus recibos, reserve una demo y traiga una conversación larga.