Un chatbot mantiene un historial de conversación que se re-envía en cada turno. Cuando parece que el chatbot "recuerda" lo que dijiste hace tres mensajes, en realidad está leyendo esos mensajes de nuevo como parte de su prompt. La memoria es una ilusión limitada por la ventana de contexto.
Lo que ves como "Claude" o "ChatGPT" es una capa de producto sobre el modelo base. Esa capa incluye: la interfaz de usuario, filtros de seguridad, enrutamiento de modelos (a veces usa un modelo más barato para consultas simples), integraciones de herramientas (búsqueda web, ejecución de código), el system prompt (instrucciones que nunca ves) y gestión de conversación. El modelo es una pieza; el chatbot es un sistema.
Los chatbots no piensan entre conversaciones, no aprenden de tus conversaciones anteriores (a menos que se implemente explícitamente), y no tienen estado más allá de la ventana de contexto actual. Cada nueva conversación empieza efectivamente de cero. Las funciones de "memoria" que ofrecen algunos chatbots son notas almacenadas que se inyectan en el system prompt, no aprendizaje real.