El modelo finge memoria que no tiene

En las lecciones anteriores aprendiste que el modelo olvida cosas que SÍ pasaron en la conversación. Esta lección es el espejo: a veces el modelo inventa cosas que NUNCA pasaron, porque vos le diste pistas que sugieren que sí.

El mecanismo

El modelo predice el siguiente token. Si tu mensaje empieza con "como dijimos" o "sobre el archivo que te pasé", las palabras más probables después son las de un acuerdo previo o una referencia al archivo. Aunque no exista ningún acuerdo previo ni ningún archivo.

El modelo no te va a decir "no tengo ese contexto". Va a fabricar el contexto faltante y seguir como si lo tuviera.

Las tres trampas más comunes

A la derecha tenés los tres casos clásicos:

1. "Como dijimos" sin haber dicho nada. El modelo fabrica el acuerdo.
2. "El archivo que te pasé ayer" sin haber pasado nada. El modelo fabrica el contenido.
3. Referencia al system prompt como si fuera memoria. El modelo lo trata como recuerdo compartido.

Defensa

La regla de oro: cada conversación nueva arranca de cero. El modelo no "se acuerda" de la conversación de ayer, ni del archivo que abriste, ni del proyecto en el que estás trabajando. Si querés que lo sepa, lo pegás vos.

Esto se vuelve más sutil dentro de UNA misma conversación larga. El modelo "se acuerda" de los primeros turnos, pero ya con menos peso. Si después de 20 turnos hacés una referencia ambigua a algo del turno 2, el modelo puede inventar la conexión en lugar de chequear.

Mirá los tres casos, identificá la trampa en cada uno. La próxima vez que vos estés por escribir "como hablamos" en un primer turno, vas a tener el reflejo de explicitar el contexto en su lugar.