La IA no se le "olvidan" las cosas. Pasa algo más simple, y entenderlo le ahorra plata.

A todos nos ha pasado. Uno lleva un rato largo trabajando con ChatGPT, le ha explicado el contexto con paciencia, y de repente la herramienta responde como si acabara de llegar a la conversación. “Pero si esto te lo expliqué hace rato”, le reclama uno, casi ofendido. Y la sensación es que la máquina se volvió bruta, o perezosa, o que le está tomando el pelo.

No es nada de eso. Lo que pasó tiene una explicación sencilla, y entenderla no es un capricho técnico: es lo que separa a quien usa estas herramientas con criterio de quien las usa a ciegas y termina pagando de más.

Imagínese una sala de juntas con sillas contadas

La inteligencia artificial no “entiende” lo que usted le escribe como lo entendería una persona. Toma su texto, lo parte en pedacitos llamados tokens, y opera matemáticamente con ellos. No hay nadie pensando del otro lado. Hay un sistema calculando, con mucha precisión, cuál es la respuesta que probabilísticamente tiene más sentido.

Y aquí viene lo importante. Todo lo que usted le escribe, más todo lo que la IA le responde, se va guardando en algo que se llama la ventana de contexto. Piénsela como una sala de juntas con un número fijo de sillas. Cada persona en esa sala trae información: una preside, otra toma notas, otra sabe de finanzas, otra de operaciones.

¿Qué pasa cuando usted sigue invitando gente a la reunión? Llega un momento en que se acaban las sillas. Y para que entren los nuevos, alguien tiene que salir. Si el que sacó fue el experto en temas fiscales y usted de repente pregunta algo de impuestos, le va a responder quien quedó en la sala —digamos, alguien de arquitectura— y le va a inventar cualquier disparate con tono de seguridad.

Eso son las famosas “alucinaciones”. No es que la IA falle por mala. Es que la información que necesitaba ya se salió de la sala porque usted la llenó de gente.

Por qué esto le importa a su bolsillo

Aquí está la parte práctica, que es la que de verdad traje a contar. Si usted entiende que la ventana no es infinita, cambia su forma de trabajar de tres maneras concretas.

Primero: en conversaciones largas, saque resúmenes y guárdelos. Cuando empiece algo nuevo relacionado, péguelos. Está volviendo a meter a la sala, ordenada, la información que importa.

Segundo: no le tire archivos enormes a la conversación sin pensar. Cada documento que sube mete decenas de personas a esa sala de juntas, muchas de las cuales no tienen nada que hacer ahí. Y eso nos lleva al tercer punto, el del bolsillo: casi todas las herramientas ya cobran por cantidad de tokens usados. Cada token es plata saliendo de su billetera. Llenar la ventana de basura no solo empeora las respuestas: le sale caro.

Si necesita que cierta información nunca se pierda, existen sistemas que la dejan siempre disponible —una especie de biblioteca al lado de la sala de juntas, de donde se traen documentos cuando hacen falta sin ocupar las sillas. Las “carpetas” o “proyectos” que ya traen muchas de estas herramientas hacen justamente eso.

Lo que de verdad hay que recordar

Le confieso que todo este rollo de los tokens y las sillas lleva a una sola conclusión, y es la más importante: la IA no lo conoce, no lo entiende, no sabe lo que usted siente ni lo que está pensando. Está convirtiendo sus palabras en números y devolviéndoselos en el orden que tiene más probabilidad de sonar bien.

Eso no la hace menos útil. La hace más manejable, porque deja de ser magia y pasa a ser una herramienta con reglas que usted puede aprender. Y cuando uno entiende las reglas de una herramienta, deja de pelearse con ella y empieza a sacarle provecho de verdad.