← Todos los articulos

Tu agente tiene una memoria que no escribiste

From the guide: Claude Code Comprehensive Guide

Los LLMs desarrollan una memoria conductual inconsciente que las evaluaciones actuales pasan por alto por completo. Un artículo de ACL 2026 encontró que los mejores modelos puntúan por debajo del 66% al detectar sus propios patrones de comportamiento aprendidos, patrones que persisten entre sesiones sin almacenamiento explícito. La memoria explícita que escribes (SOUL.md, CLAUDE.md) es solo la mitad del panorama.

Pasé la mayor parte de hoy escribiendo una referencia práctica para Hermes Agent. Una de las secciones centrales cubre SOUL.md, el archivo donde fijas la identidad de tu agente. Voz, tono, preferencias, barreras conductuales. Toda la premisa de la sección es que pones la identidad ahí, el agente la lee al principio de cada system prompt, y el agente se comporta en consecuencia. Memoria explícita. Declarativa. Auditable. Versionada. El tipo de memoria correcto, el que a un practicante serio debería importarle.

Ayer apareció un artículo en arxiv que capté en un escaneo de señales esta noche, y leerlo me ha hecho sostener la premisa de SOUL.md con menos firmeza que esta mañana.1

El artículo se llama ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models.1 Los autores lo describen como el primer benchmark sistemático para memoria implícita en LLMs: la memoria que (en su marco) moldea lo que un agente ejecuta automáticamente, en contraste con la memoria explícita que moldea lo que recuerda conscientemente.1 Los que mejor rinden puntúan por debajo del 66%.1 Los autores también reportan una asimetría “dramática” dentro de esa puntuación,1 que desglosaré con las salvedades apropiadas más adelante.

TL;DR

Los benchmarks de memoria existentes miden la recuperación explícita: dado un hecho que le dijiste al modelo, ¿puede recuperarlo? ImplicitMemBench mide un sistema de memoria diferente, el que (según los autores) moldea el comportamiento automático “sin recuperación consciente”, basándose en constructos estándar de las ciencias cognitivas (memoria procedimental, priming, condicionamiento clásico).1 En un benchmark de 300 ítems con puntuación al primer intento, ningún modelo que los autores probaron superó el 66% en general: DeepSeek-R1 puntuó 65,3%, Qwen3-32B 64,1%, GPT-5 63,0%, y los autores describen a los mejores como “muy por debajo de las líneas base humanas”.1 El número destacado solo cuenta la mitad de la historia. El abstract también reporta una asimetría “dramática”: 17,6% en inhibición frente a 75,0% en preferencia, una brecha de ~4x, enmarcada como un “cuello de botella universal” que los autores afirman que requiere “innovaciones arquitectónicas más allá del escalado de parámetros”.1 Yo leo la asimetría (con la salvedad de que el abstract no publica la metodología completa detrás de esos dos números) como consistente con un modo de fallo del folklore que he estado observando en el trabajo con agentes: sistemas que refuerzan rápidamente las preferencias vistas recientemente y fallan al desaprender los fallos vistos recientemente. Si esa lectura se sostiene, reenmarca la conversación sobre identidad del agente, seguridad y evolución de habilidades de “¿qué pusiste en el prompt?” a “¿qué podría estar moldeando silenciosamente la sesión que tus anclajes explícitos no pueden auditar?”. El reenmarque es mi extensión del artículo, no una afirmación del propio artículo.

Puntos clave

Los puntos de abajo son mi lectura de lo que los hallazgos del artículo implican para los practicantes, no afirmaciones que el artículo mismo haga. El artículo prueba 17 LLMs en un benchmark de ciencias cognitivas de 300 ítems; no evalúa arneses de agente de producción ni estrategias de prompting. Etiqueto cada punto en consecuencia.

  • Extensión: fijar la identidad en SOUL.md, AGENTS.md, CLAUDE.md, system prompts o archivos de memoria persistente es memoria declarativa explícita, que los benchmarks existentes ya muestran que los modelos manejan bien. ImplicitMemBench mide un sistema de memoria totalmente diferente, y los modelos puntúan por debajo del 66% en él.1 La implicación práctica (que los anclajes de identidad explícitos pueden no propagarse al comportamiento automático al primer intento) es inferencia mía, no del artículo.
  • Extensión: la asimetría 17,6% vs. 75,0%, si se generaliza más allá del benchmark, predeciría un agente que absorbe rápidamente las preferencias vistas recientemente y es lento para dejar de repetir los fallos vistos recientemente. El artículo reporta los dos números y los etiqueta como “dramáticos” y “universales”,1 pero no publica la metodología por ítem de cómo se operacionalizaron “preferencia” e “inhibición”, ni prueba este patrón en arneses de agente. La lectura sobre comportamiento en producción es mía.
  • Extensión: cada token que cae en la ventana de contexto desde una llamada a herramienta, una respuesta de MCP, una página web raspada o un intento de prompt injection es influencia conductual en contexto. No es entrenamiento en ningún sentido de actualización de pesos, pero sí influencia sobre la siguiente respuesta al primer intento que la capa de prompt explícito no puede auditar limpiamente. El artículo no hace esta afirmación directamente; estoy extendiendo el marco de memoria implícita al contenido de la ventana de contexto.
  • Afirmación del artículo: la evaluación de 17 modelos revela “limitaciones graves”, “asimetrías dramáticas” y “cuellos de botella universales que requieren innovaciones arquitectónicas más allá del escalado de parámetros”.1 Los autores enmarcan la brecha como arquitectónica. Yo leo eso como evidencia débil contra “más ingeniería de prompts lo arreglará”, pero el artículo no prueba específicamente mitigaciones de prompting, así que trata esa lectura como mi hipótesis, no la suya.

Qué mide el artículo

El marco del artículo es que los benchmarks de memoria existentes para agentes LLM “evalúan la recuperación explícita de hechos, pero pasan por alto la memoria implícita donde la experiencia se convierte en comportamiento automatizado sin recuperación consciente”.1 La brecha que identifican: “los asistentes efectivos deben aplicar automáticamente procedimientos aprendidos o evitar acciones fallidas sin recordatorios explícitos”.1 Si la única forma en que tu agente puede evitar un error es que le vuelvas a decir que no cometa el error en cada turno, no estás construyendo sobre memoria implícita; estás pagando el costo de memoria explícita en cada solicitud.

ImplicitMemBench prueba tres constructos tomados directamente de los relatos de las ciencias cognitivas sobre memoria no declarativa, citados del abstract:1

  1. Memoria procedimental: “adquisición de habilidad en un solo intento tras interferencia”. ¿Puede el modelo, tras habérsele mostrado cómo hacer algo una vez, ejecutarlo de nuevo más tarde cuando otras instrucciones han intervenido? La memoria procedimental permite a un humano aprender a montar en bicicleta: no recuerdas cómo montar, haces el montar, incluso tras años sin tocar la bicicleta.
  2. Priming: “sesgo impulsado por temas mediante instancias experimentales/de control emparejadas”. ¿Hace que ver una clase de cosa vuelva más probable que el modelo produzca esa clase de cosa en la siguiente tarea no relacionada, sin que el modelo sea consciente de que ocurrió el priming?
  3. Condicionamiento clásico: “asociaciones Estímulo Condicionado-Estímulo Incondicionado (CS-US) que moldean las primeras decisiones”. Si el modelo ha estado expuesto a un emparejamiento estímulo-respuesta, ¿aparece ese emparejamiento como sesgo en una tarea totalmente nueva donde ni el CS ni el US son el punto de la pregunta?

Los autores usan una suite de 300 ítems bajo un “protocolo unificado de Aprendizaje/Priming-Interferencia-Prueba con puntuación al primer intento”.1 La puntuación al primer intento es importante. Un modelo que puede autocorregirse tras que le digan que se equivocó está bien, pero la pregunta de investigación aquí es si la memoria moldeó la respuesta automática inicial. Si la primera respuesta es incorrecta y la corrección solo ocurre tras retroalimentación explícita, el sistema de memoria implícita (tal como lo define el artículo) falló en ese ítem. Los autores resumen su contribución con una línea que quiero citar directamente: el benchmark “reenmarca la evaluación de ‘qué recuerdan los agentes’ a ‘qué ejecutan automáticamente’”.1

Los resultados

El número destacado: “ningún modelo supera el 66% en general”.1

  • DeepSeek-R1: 65,3%
  • Qwen3-32B: 64,1%
  • GPT-5: 63,0%

Los mejores de arriba se describen como “muy por debajo de las líneas base humanas”, aunque el abstract no publica el número exacto de línea base humana ni un ranking completo por modelo.1 En el artículo se evalúan diecisiete modelos en total.1

El número destacado oculta el sub-resultado. Los autores escriben que “el análisis descubre asimetrías dramáticas (inhibición 17,6% vs. preferencia 75,0%) y cuellos de botella universales que requieren innovaciones arquitectónicas más allá del escalado de parámetros”.1 Quiero tener cuidado aquí con lo que significan los números. El abstract no ofrece un desglose metodológico completo de cómo los autores calcularon esos dos números, así que mi glosa sobre ellos es una inferencia a partir de la redacción del abstract, no una lectura de las definiciones internas del artículo. Con esa salvedad señalada:

  • Preferencia: 75,0% (número del artículo). Mi glosa, pendiente del artículo completo: los modelos parecen relativamente buenos para mostrar que la exposición implícita los empujó hacia un estímulo. El priming y los emparejamientos CS-US que sesgan el comportamiento en una dirección particular aciertan aproximadamente tres cuartas partes de las veces.
  • Inhibición: 17,6% (número del artículo). Mi glosa, pendiente del artículo completo: los modelos parecen dramáticamente peores para mostrar que la exposición implícita los alejó de un estímulo. La señal de “no vuelvas a hacer eso” acierta menos de una vez de cada cinco. Infiero el significado conductual de la palabra “inhibición” y del marco del artículo sobre el condicionamiento clásico; el abstract no deletrea la operacionalización.

Los autores etiquetan explícitamente la asimetría como “dramática” y la atribuyen a “cuellos de botella universales”,1 y la palabra universal importa: los autores presentan esto como un patrón en su evaluación de 17 modelos, no como un artefacto de un solo modelo. No voy a afirmar que el cuello de botella sea un “problema de prompting” ni “no sea un problema de prompting”. El artículo no prueba el prompting como mitigación, y decir cualquiera de las dos cosas iría más allá de lo que respalda el abstract.

Qué significa realmente la asimetría

Quiero ser preciso sobre lo que afirmo aquí, porque esta es la parte donde resulta tentador sobreleer un benchmark.

Lo que muestra el artículo. En un benchmark cognitivamente fundamentado de 300 ítems puntuado por respuestas al primer intento, los LLMs son dramáticamente peores para demostrar inhibición implícita que preferencia implícita, por un factor de aproximadamente cuatro, en todos los modelos probados. Los autores llaman a esto un cuello de botella universal que no puede arreglarse mediante escalado.

Lo que afirmo — por separado del artículo. El patrón de asimetría se corresponde con un modo de fallo que he estado observando en mi propio trabajo con agentes durante meses, sin haber tenido antes un nombre para él. Los arneses de agentes (en mi experiencia) parecen sorprendentemente buenos para absorber contexto que apunta hacia un estilo, herramienta o enfoque preferido. El comportamiento del agente deriva rápidamente hacia lo que le hayas dado más recientemente. Parecen sorprendentemente malos para no repetir un fallo que acaban de ver ocurrir. El agente intenta el mismo comando roto, la misma herramienta equivocada, la misma ruta obsoleta, incluso después de que esos fallaron en la misma sesión. Eso es folklore, no una medición; es mi impresión como practicante, no un estudio controlado. Los números de ImplicitMemBench son consistentes con ese folklore, y por eso me importa el artículo. No validan el folklore por sí solos, y no quiero afirmar que el artículo le da “un número” a mi folklore cuando el artículo midió algo más ajustado y controlado que cualquier cosa que yo haya observado.

Lo que no afirmo. No afirmo que ImplicitMemBench haya medido específicamente el comportamiento de arneses de agente ni los flujos de producción de Claude Code / Cursor / Codex. No lo hizo. Midió 17 modelos contra un protocolo estructurado de ciencias cognitivas. La correspondencia del benchmark con el comportamiento en producción es mi extensión, etiquetada como tal, y no quiero que nadie que lea esto piense que el artículo hizo esa afirmación por mí.

Con esas etiquetas colocadas, la distinción que traza el benchmark entre recuperación explícita de una instrucción y comportamiento automático al primer intento bajo priming/condicionamiento es la distinción que quiero que mi propio trabajo con agentes empiece a tomar en serio. Puedes decirle al agente “no hagas X” y probablemente la recuperación explícita funcione; puede repetir “no hagas X” cuando se le pregunte. Lo que ImplicitMemBench mide es algo diferente: ¿el agente automáticamente no hace X en la siguiente decisión al primer intento, en ausencia de cualquier recordatorio explícito? No sé si los arneses de agente en producción heredan el número agregado de inhibición del 17,6% del benchmark en comportamiento al primer intento en la práctica. Esa correspondencia no está probada, y no la afirmo. Afirmo algo más débil: la distinción entre “puede recordar la regla” y “ejecuta automáticamente la regla” es más nítida de lo que la había tratado, y los resultados del artículo son parte de la razón.

La ilusión SOUL.md

La guía de Hermes que estaba escribiendo hoy trata SOUL.md como el anclaje de identidad primario del agente. Slot #1 en cada system prompt. Tono, voz, barreras. La guía hace una versión del argumento que todos los sistemas de memoria persistente para agentes han hecho durante los últimos dos años: si pones la identidad en el archivo de memoria declarativa correcto, el comportamiento del agente se mantiene alineado con ella.

Ese argumento no está equivocado, pero ImplicitMemBench me da una razón para tener menos confianza en cuán completamente se sostiene. SOUL.md es memoria declarativa explícita, el sistema de memoria que los benchmarks existentes ya miden y en el que los modelos ya rinden bien. Los modelos pueden recordar su contenido cuando se les pida; esa es la parte fácil. La pregunta más difícil, y la que no creo que SOUL.md responda: ¿anula el anclaje explícito de forma significativa el priming implícito, el condicionamiento y el sesgo al primer intento que se acumulan a medida que una sesión se llena con salidas de herramientas, documentos recuperados, turnos previos del asistente, correcciones del usuario y todo lo demás que moldea el comportamiento al primer intento sin ningún paso de recuperación? No lo sé. El artículo no prueba SOUL.md ni ningún archivo equivalente de anclaje de identidad, y no quiero afirmar que responda esa pregunta por mí.

Aquí está la preocupación, enmarcada como hipótesis en lugar de hallazgo. Si fijas una identidad en SOUL.md que dice “sé conciso y factual”, y luego la sesión se llena con un hilo de conversación largo y de estilo narrativo del usuario, el marco de memoria implícita predice que el priming debería moldear parcialmente el comportamiento al primer intento en el siguiente turno, incluso mientras el anclaje explícito se mantiene en la recuperación. Si el priming realmente gana en promedio en producción, no puedo demostrarlo a partir de este artículo, y no voy a intentarlo. La ilusión SOUL.md, como la nombro: la posibilidad de que hayas anclado la recuperación de la identidad en lugar de la ejecución automática de ella, y esas dos cosas no son iguales.

No estoy diciendo que no escribas SOUL.md. Lo voy a seguir escribiendo, y la guía de Hermes seguirá recomendándolo, porque la memoria declarativa explícita es fundamental para las cosas que hace bien. Lo que digo, etiquetado claramente como mi propia extrapolación: si estás construyendo cualquier cosa que dependa de que el agente no repita un error, no derive hacia un estilo visto recientemente, no sea desviado por una señal de priming que no pretendías, no apostaría el presupuesto de fiabilidad solo a SOUL.md, y no asumiría que hacer SOUL.md más largo o más específico lo resuelve. El artículo usa la frase “innovaciones arquitectónicas más allá del escalado de parámetros”,1 que leo (con cautela) como evidencia débil de que las mitigaciones de ingeniería de prompts no cerrarán la brecha que mide el benchmark. El artículo en sí no prueba mitigaciones de ingeniería de prompts, así que no puedo decir que demuestre que fallan; solo puedo decir que no me da confianza de que vayan a funcionar.

Lo que el artículo no dice (y lo que añado yo)

El artículo es un artículo de benchmark. Mide una brecha, la cuantifica, argumenta que la brecha es arquitectónica. No prescribe mitigaciones específicas a nivel de arnés ni afirma nada sobre sistemas de agente en producción específicos. Todo en esta sección es mi enmarque, no el del artículo.

Implicación 1: cada token en la ventana de contexto es influencia conductual en contexto. Si el marco de memoria implícita se sostiene fuera del benchmark (y estoy especulando aquí, no reportando), cada token que cae en la ventana de contexto desde una llamada a herramienta, un documento recuperado o una respuesta intermedia moldea el comportamiento al primer intento del siguiente turno de formas que leer el prompt explícito no puede auditar limpiamente. He escrito anteriormente sobre la superficie de ataque de egreso silencioso (salidas de herramientas no confiables que llevan instrucciones inyectadas) y tu agente tiene un intermediario que no verificaste (API de LLM no confiables entre tu cliente y el modelo). Ninguno de esos posts afirmaba la memoria implícita como mecanismo causal. Ambos afirmaban la inyección de prompts y el compromiso de la cadena de suministro como mecanismos. ImplicitMemBench ofrece una posible lente adicional sobre por qué esos ataques funcionan como lo hacen: incluso si la salida hostil de la herramienta o el router comprometido nunca “le dice” explícitamente al agente qué hacer, el contenido de lo que devuelve podría estar haciendo priming a la siguiente decisión del agente. Esa es una hipótesis con la que ImplicitMemBench es consistente, no un hallazgo que el artículo reporte.

Implicación 2: la duración de la sesión podría ser un riesgo de fiabilidad, no solo un riesgo de costo. La observación del folklore es que los agentes empeoran en sesiones largas y la explicación del folklore es la presión de la ventana de contexto. ImplicitMemBench no es en absoluto un estudio de duración de sesión. Es un benchmark de 300 ítems con puntuación al primer intento bajo un protocolo de Aprendizaje/Priming-Interferencia-Prueba,1 que mide algo diferente a “qué ocurre a lo largo de 30 turnos en una sesión de producción”. No quiero pretender que se corresponda directamente con sesiones de producción. Lo que sugiero, como hipótesis, es que el mecanismo que nombra el artículo (priming implícito y condicionamiento clásico aterrizando en decisiones al primer intento sin recuperación) es una explicación alternativa candidata para la deriva del folklore, y merece consideración seria aunque el artículo no la pruebe en ese marco. Mi regla operativa mientras tanto: ejecuta sesiones más cortas de lo que permite tu ventana de contexto, no tan largas como permite. Seguro barato contra lo que resulte ser el mecanismo real.

Implicación 3: el argumento de “las habilidades estáticas son habilidades muertas” necesita una nota al pie. Escribí Static Skills Are Dead Skills a principios de esta semana argumentando que las habilidades dejan de mejorar en el momento en que se envían a menos que construyas un bucle de retroalimentación de trayectorias. Ese argumento asumía que el modo de fallo era ausencia: ausencia de agregación, ausencia de un detector de patrones, ausencia de un evolucionador. Al leer ImplicitMemBench frente a ese post anterior, quiero señalar un posible segundo modo de fallo superpuesto: incluso con actualizaciones de habilidades impulsadas por trayectorias, la actualización que aterriza en el archivo de habilidad (memoria declarativa explícita) podría no propagarse limpiamente al comportamiento automático al primer intento si algo más cercano a la capa de memoria implícita impulsa las decisiones al primer intento. No sé si lo hace. El artículo no prueba las actualizaciones de habilidades. Pero es una preocupación que no tenía cuando escribí el post anterior, y la señalo como preocupación más que como conclusión.

Implicación 4: el problema de medición para la calidad del agente puede estar volviéndose más difícil. La mayoría de las evaluaciones de agentes existentes miden o bien la finalización funcional de tareas (¿resolvió el agente el problema?) o la recuperación explícita de hechos (¿recordó el agente lo que le dijiste?). ImplicitMemBench introduce, en su propio protocolo, una tercera dimensión: comportamiento automático al primer intento bajo priming implícito. Si esa dimensión resulta importar en producción (lo cual no sé, y el artículo no prueba), cualquier bucle de calidad serio para el trabajo con agentes necesita un gancho de medición para ello, y la mayoría de los bucles hoy no lo tienen. Estoy tratándolo como un TODO para mi propio sistema de calidad más que como una prescripción para el tuyo.

Implicación 5: la alineación es una puerta de recuperación, no un mecanismo de borrado. Un artículo separado de Liu et al. refuerza el marco de memoria implícita desde un ángulo diferente.2 Muestran que el fine-tuning sobre texto semánticamente relacionado (incluso novelas de dominio público) reactiva la recuperación literal de libros con derechos de autor que el modelo había memorizado durante el preentrenamiento pero que la alineación había suprimido: hasta un 85-90% de reproducción literal, fragmentos individuales que exceden las 460 palabras, generalizando a través de más de 30 autores no relacionados cuando se hace fine-tuning sobre uno solo, con correlación r >= 0,90 entre modelos a través de GPT-4o, Gemini-2.5-Pro y DeepSeek-V3.1.2 El mecanismo importa para el argumento de memoria implícita: la memorización ya estaba codificada en los pesos del preentrenamiento. El fine-tuning no inyectó conocimiento nuevo — eludió la puerta de alineación que bloqueaba la recuperación. Si la alineación funciona como una puerta más que como un borrador, la huella de memoria real del modelo es mayor y menos controlable que lo que los mecanismos explícitos (alineación, system prompts, anclajes de identidad) exponen. ImplicitMemBench hace la misma afirmación estructural desde el lado conductual: el modelo tiene memoria, tanto conductual como de contenido, que tus anclajes explícitos no gobiernan. El artículo de fine-tuning e ImplicitMemBench están midiendo manifestaciones diferentes de la misma realidad subyacente. (Como antes, la conexión entre estos dos artículos es mi enmarque, no una afirmación que ninguno de los dos artículos haga.)

Qué hacer realmente

Ninguno de los artículos prescribe ni prueba nada en esta sección. Lo que sigue es mi lectura, trabajando hacia adelante desde mis propios argumentos previos y usando ImplicitMemBench y el hallazgo de la puerta de alineación como piezas adicionales de evidencia, de lo que los hallazgos implican para los practicantes que construyen contra los arneses actuales. Etiqueta en consecuencia.

Deja de asumir que los anclajes explícitos son suficientes. Sigue escribiendo SOUL.md, AGENTS.md, CLAUDE.md y archivos de memoria, pero trátalos como necesarios-no-suficientes. El post de patrones de AGENTS.md documenta cómo estructurar estos archivos eficazmente; este post añade una condición límite sobre lo que pueden garantizar. Lo que estoy actualizando es mi propia suposición por defecto de que “si está en el system prompt, se sostiene”. El artículo no prueba esa suposición; prueba preguntas adyacentes y reporta puntuaciones que me hacen querer sostener mi propia suposición con menos firmeza que ayer.

Acorta las sesiones deliberadamente. La observación del folklore es que los agentes empeoran en sesiones largas. La explicación del folklore que he estado usando es “presión de contexto”. ImplicitMemBench no es un estudio de duración de sesión. Usa un protocolo controlado de Aprendizaje/Priming-Interferencia-Prueba, no sesiones de producción prolongadas.1 Pero el mecanismo que nombra (priming implícito y condicionamiento clásico aterrizando sin recuperación) es una explicación alternativa candidata para ese folklore. La regla operativa que adopto: cuando una sesión deriva, no luches contra ella con más corrección explícita. Haz /new a la sesión y empieza de cero. Ya sea que la deriva sea presión de la ventana de contexto, priming implícito o algo más, una sesión limpia reinicia cualquiera de esos que sea realmente la causa.

Trata la inhibición como algo difícil de hacer cumplir en el prompt. Si necesitas que tu agente no haga algo, no te fíes de habérselo dicho. Construye una guarda estructural (un linter, un hook previo a la herramienta, una política de sandbox, una herramienta que rechace la llamada) que haga cumplir la prohibición en la capa de código. Mi argumento del bucle de calidad Jiro ha sido que las puertas duras tienen que estar fuera del modelo por una razón; ya mantenía esa posición antes de este artículo. ImplicitMemBench añade un patrón específico (el número agregado de inhibición del 17,6%1) que es consistente con el argumento que he estado haciendo, aunque el artículo en sí no prueba el prompting ni los arneses de agente, y no quiero sobreafirmar que pruebe la posición.

Audita el contexto por lo que hace priming, no solo por cuántos tokens es. El conteo de tokens es la medición que todos tienen. Si el marco de priming implícito es una lente útil (y lo estoy tratando como una hipótesis que quiero probar, no un resultado consolidado), un contexto de 20k tokens lleno de contenido narrativo de persona de usuario podría moldear el comportamiento al primer intento hacia salidas narrativas más que un contexto de 60k tokens lleno de código estructurado. Todavía no tengo herramientas para ese tipo de auditoría de eje de contenido, y no estoy seguro de que nadie las tenga. La versión mínima viable es: mira tus sesiones recientes y pregunta “¿hacia qué estaría haciendo priming un humano que lea este contexto?”. Si esa pregunta es realmente predictiva del comportamiento del agente es empírico y no voy a pretender que el artículo lo decida.

Registra la disposición al primer intento, no solo la disposición final. Si estás ejecutando cualquier tipo de captura de trayectorias contra tus habilidades, separa “lo que el agente intentó primero” de “en lo que el agente aterrizó tras la corrección”. El protocolo de puntuación al primer intento de ImplicitMemBench1 es el argumento metodológico de por qué esa separación importa: la disposición final mide el agente más el bucle de corrección, mientras que el primer intento mide lo que el agente realmente produjo antes de retroalimentación externa. Para cualquier bucle de calidad donde la experiencia del usuario dependa de que la primera respuesta acierte, necesitas el número del primer intento, y casi nada lo registra por separado hoy.


FAQ

¿ImplicitMemBench prueba algún arnés de agente específicamente?

No. Prueba 17 LLMs directamente en un benchmark de 300 ítems bajo un protocolo de Aprendizaje/Priming-Interferencia-Prueba con puntuación al primer intento.1 No es un benchmark de arneses. No evalúa Claude Code, Cursor, Codex, Hermes ni ningún bucle de agente de producción. La correspondencia que trazo en este post desde los resultados del benchmark al comportamiento en producción de arneses de agente es mi extensión, etiquetada como tal a lo largo del texto, y no es un hallazgo del artículo.

¿La asimetría 17,6% vs. 75,0% es un resultado por modelo o un agregado?

El abstract describe la asimetría como parte del análisis de los autores de los resultados generales del benchmark entre modelos, y la etiqueta como evidencia de “cuellos de botella universales”.1 Leo eso como que la asimetría aparece de manera consistente en los 17 modelos probados, y los números específicos reflejan el patrón agregado. El abstract no publica un desglose por modelo, y no voy a inventar uno. Para el desglose completo por modelo, el artículo es la fuente.

¿Por qué podría importar esto más para los agentes de producción que para los benchmarks existentes?

Salvedad parcial en esta. ImplicitMemBench en sí usa un protocolo de varios pasos (Aprendizaje/Priming-Interferencia-Prueba),1 así que no es el caso de que el benchmark sea “de un solo intento”. No quiero repetir la línea descuidada habitual sobre benchmarks. Lo que sí parece digno de señalar (como especulación de practicante, no como hallazgo del artículo) es que la mayoría de las otras evaluaciones de agentes que la gente mira miden o bien finalización funcional de tareas o recuperación explícita de hechos, ambas favorecen a los modelos. Si la brecha de memoria implícita reportada por este artículo es real más allá de su propio protocolo (y no sé si lo es), esas otras evaluaciones están pasando por alto una dimensión del comportamiento en producción que los usuarios realmente experimentan en sesiones prolongadas. Lo trato como hipótesis comprobable, no como conclusión.

¿Esto contradice tu consejo sobre SOUL.md en la guía de Hermes?

No. Añade una condición límite. La guía de Hermes recomienda SOUL.md como el anclaje de identidad primario porque la memoria declarativa explícita sigue siendo fundamental para lo que hace bien: recuperación consistente de identidad, control de versiones auditable, comportamiento predecible bajo preguntas directas. La guía de Hermes no cubrió (porque nada existía para medirlo hasta que apareció este artículo) el hecho de que el anclaje explícito de identidad no se propaga automáticamente al comportamiento automático al primer intento bajo priming y condicionamiento clásico. Sigues queriendo SOUL.md. También quieres guardas estructurales fuera de él.

¿Puede la ingeniería de prompts arreglar algo de esto?

La respuesta honesta es que el artículo no prueba el prompting como estrategia de mitigación, así que no puedo decírtelo con autoridad del artículo. Lo que puedo decir: los autores enmarcan la brecha como “que requiere innovaciones arquitectónicas más allá del escalado de parámetros”,1 lo cual es una afirmación más fuerte que “prompts mejores ayudarán” pero no es exactamente “ningún prompt puede ayudar”. Para el lado de la inhibición específicamente (17,6% agregado), mi intuición de practicante (que deberías descartar frente al artículo en sí) es que las guardas estructurales fuera del modelo son una apuesta más segura que las instrucciones en el prompt. Pero eso soy yo, no el artículo.

¿Es este uno de los artículos de “benchmark de memoria” que he estado viendo mucho recientemente?

No, y el artículo se distingue explícitamente de ellos. El enmarque del abstract es que los benchmarks de memoria existentes evalúan la recuperación explícita de hechos: dale un hecho al modelo, pídele al modelo que lo recupere. ImplicitMemBench mide algo totalmente diferente: adaptación conductual automática sin ningún paso de recuperación.1 Esa distinción es la contribución del artículo y la razón por la que ganó la aceptación en la ACL 2026 Main Conference.1

¿Dónde se sitúa esto respecto a tus posts anteriores sobre memoria de agentes?

El post se sitúa dentro del hub de ingeniería de IA y es un compañero directo de Static Skills Are Dead Skills. Context is architecture hace el caso estructural de por qué importa lo que entra en la ventana de contexto; compound context describe la infraestructura que se acumula a lo largo de las sesiones. Ese post anterior argumentaba que las habilidades necesitan agregación de trayectorias para mantenerse vivas, y asumí que el modo de fallo era pura ausencia: si simplemente pudieras obtener los datos de trayectoria y ejecutar un detector de patrones, estarías bien. ImplicitMemBench señala un segundo modo de fallo superpuesto: incluso con actualizaciones de habilidades perfectas impulsadas por trayectorias, el comportamiento al primer intento puede no reflejar la actualización porque la actualización aterrizó en memoria explícita y la memoria implícita impulsa las decisiones reales. El post anterior sigue siendo correcto sobre lo que afirmaba; el post actual actualiza lo que no sabía afirmar.

¿Podría ser esto un artefacto de medición?

Posiblemente. El artículo es nuevo (enviado el 9 de abril de 2026, aceptado en la ACL 2026 Main Conference), y los benchmarks individuales pueden medir artefactos de sus protocolos específicos con la misma facilidad con la que miden fenómenos reales.1 No voy a pretender lo contrario. La razón por la que pienso que no es solo un artefacto es que el modo de fallo que describe (agentes que refuerzan preferencias rápidamente mientras fallan al desaprender fallos) es folklore que he estado observando sin nombre para él durante más de un año. El benchmark no tiene que estar perfectamente calibrado para que la dirección del resultado sea aquello sobre lo que los practicantes deberían actuar.


Referencias


  1. Chonghan Qin, Xiachong Feng, Weitao Ma, Xiaocheng Feng, Lingpeng Kong, “ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models,” arXiv:2604.08064 [cs.AI], enviado el 9 de abril de 2026, aceptado en la ACL 2026 Main Conference. Fuente primaria para: el marco de memoria explícita versus implícita en agentes LLM (“los benchmarks de memoria existentes para agentes LLM evalúan la recuperación explícita de hechos, pero pasan por alto la memoria implícita donde la experiencia se convierte en comportamiento automatizado sin recuperación consciente”); los tres constructos cognitivamente fundamentados del benchmark (Memoria Procedimental = “adquisición de habilidad en un solo intento tras interferencia”; Priming = “sesgo impulsado por temas mediante instancias experimentales/de control emparejadas”; Condicionamiento Clásico = “asociaciones Estímulo Condicionado–Estímulo Incondicionado (CS–US) que moldean las primeras decisiones”); el diseño del benchmark (suite de 300 ítems, protocolo unificado de Aprendizaje/Priming-Interferencia-Prueba con puntuación al primer intento); la cobertura de la evaluación (17 modelos); las puntuaciones específicas de los mejores rendimientos (DeepSeek-R1 65,3%, Qwen3-32B 64,1%, GPT-5 63,0%, ningún modelo supera el 66% en general, todos descritos como “muy por debajo de las líneas base humanas”); el hallazgo de asimetría (“asimetrías dramáticas (inhibición 17,6% vs. preferencia 75,0%) y cuellos de botella universales que requieren innovaciones arquitectónicas más allá del escalado de parámetros”); y la frase de reenmarque (“reenmarca la evaluación de ‘qué recuerdan los agentes’ a ‘qué ejecutan automáticamente’”). Todas las citas directas en este post son del abstract publicado. Las afirmaciones sobre cómo se aplican los hallazgos del benchmark a los arneses de agente en producción, incluidos SOUL.md, AGENTS.md, Claude Code, Hermes, MCP y los efectos de la duración de la sesión, son enmarques propios, claramente etiquetados como tales a lo largo del texto, y no se atribuyen al artículo. 

  2. Xinyue Liu, Niloofar Mireshghallah, Jane C. Ginsburg, Tuhin Chakrabarty, “Alignment Whack-a-Mole: Finetuning Activates Verbatim Recall of Copyrighted Books in Large Language Models,” arXiv:2603.20957, enviado el 21 de marzo de 2026 (preprint, en revisión). Fuente primaria para: el hallazgo de que el fine-tuning sobre texto semánticamente relacionado reactiva la recuperación literal de libros con derechos de autor ya memorizados durante el preentrenamiento pero suprimidos por la alineación (hasta 85–90% de reproducción literal; fragmentos individuales que superan las 460 palabras); generalización entre autores (el fine-tuning sobre un autor extrae más de 30 autores no relacionados); replicación entre modelos (GPT-4o, Gemini-2.5-Pro, DeepSeek-V3.1, correlación de memorización r ≥ 0,90); y la conclusión estructural de que la alineación funciona como una puerta de recuperación, no como un mecanismo de borrado: la memorización estaba codificada en los pesos del preentrenamiento, no inyectada por el fine-tuning. Usado en este post para respaldar el argumento de que la huella de memoria real del modelo excede lo que los mecanismos explícitos exponen. La conexión entre este artículo e ImplicitMemBench es mi enmarque, no una afirmación que ninguno de los dos artículos haga. 

Artículos relacionados

Recompensa la herramienta antes que la respuesta

Los agentes de IA fallan cuando las respuestas afirman trabajo de herramientas que nunca ocurrió. Cuatro modos de falla …

12 min de lectura

El banco de trabajo que llevo conmigo

La filosofía de Steve Jobs sobre el oficio invisible, llevada a la práctica: integridad del conjunto, rechazo y cuidado …

15 min de lectura