Saltar al contenido principal
Zubnet AI › Aprender › Wiki › Chunking
Usar AI

Chunking

También conocido como: Fragmentación de texto, División de documentos
Dividir los documentos en trozos más pequeños antes de generar sus embeddings, para que un sistema RAG pueda encontrar y devolver solo las partes relevantes.

Por qué importa

Un mal chunking arruina un RAG sin hacer ruido. Si los chunks son demasiado pequeños, pierden el contexto: un chunk que dice «este ajuste debe estar desactivado» no sirve si el nombre del ajuste estaba en el chunk anterior. Si son demasiado grandes, el embedding se vuelve vago, la recuperación pierde precisión y desperdicias ventana de contexto en texto irrelevante. Un chunk que corta una tabla o un bloque de código por la mitad puede dejar sin sentido las dos mitades.

Cuando un sistema RAG da respuestas equivocadas, muchos equipos piensan primero en un modelo más grande. A menudo el arreglo real está antes, en cómo se dividieron los documentos.

En profundidad

Un sistema de generación aumentada por recuperación (RAG) no puede convertir de forma útil un manual de 200 páginas en un solo vector. Un único embedding para todo lo difuminaría todo, y aunque lo encontraras, no cabría limpiamente en el contexto del modelo. Por eso, antes de indexar, los documentos se cortan en chunks (fragmentos), a menudo de unos cientos de tokens cada uno. Cada chunk recibe su propio embedding, y en el momento de la pregunta el sistema recupera los pocos chunks más relevantes para la consulta.

Cómo cortas es una de las decisiones más importantes, y más infravaloradas, al construir un RAG.

Estrategias habituales

  • Tamaño fijo: cortar cada N tokens o caracteres. Simple y predecible, pero ciego a la estructura.
  • Recursivo: intentar cortar primero en los límites grandes (secciones, luego párrafos, luego oraciones) y bajar a los más pequeños solo cuando un trozo sigue siendo demasiado largo. Una opción por defecto sensata para la mayoría de los textos.
  • Según la estructura: aprovechar la estructura propia del documento, como los encabezados de Markdown, las etiquetas HTML, el diseño de un PDF, las funciones en el código o las filas de una tabla.
  • Semántico: generar embeddings de las oraciones y empezar un chunk nuevo donde cambia el tema. Es más caro, pero puede dar unidades más limpias.

Solapamiento

La mayoría de las configuraciones añaden un solapamiento entre chunks vecinos, a menudo del 10 % al 20 %, de modo que una oración cercana a un límite aparezca en los dos. Así se reduce el riesgo de que una información clave quede partida entre dos chunks y se pierda.

Darles contexto a los chunks

Un chunk sacado de un documento suele carecer de lo que lo rodeaba. Algunas soluciones eficaces:

  • Anteponer metadatos: añadir el título del documento y el encabezado de la sección a cada chunk.
  • Recuperación contextual: usar un LLM para escribir una nota breve por chunk que explique dónde encaja en el documento, y generar el embedding de la nota junto con el chunk. Anthropic informó en 2024 de que esto reducía los fallos de recuperación aproximadamente a la mitad, y todavía más al combinarlo con reranking.
  • Recuperación de pequeño a grande: buscar sobre chunks pequeños y precisos, pero devolverle al modelo la sección madre más amplia.

Punto de partida práctico

Empieza con una división recursiva de unos 300 a 800 tokens con algo de solapamiento, añade títulos y encabezados a cada chunk y arma un pequeño conjunto de prueba con preguntas reales de respuesta conocida. Luego cambia una sola cosa cada vez y mide la calidad de la recuperación. El tamaño adecuado depende de tus documentos y de tus preguntas: las consultas factuales cortas favorecen los chunks pequeños, mientras que las preguntas que piden explicaciones favorecen chunks más grandes.

← Todos los términos
ESC