Zyphra lanzó Zamba2-VL, una familia de vision-language models abiertos en tres tamaños, 1.2B, 2.7B y 7B parámetros, bajo Apache 2.0 con pesos, código y un paper todos públicos. Del lado de la percepción es convencional: un encoder vision-transformer Qwen2.5-VL pre-entrenado convierte patches de imagen en features, un adaptador MLP de dos capas los proyecta al espacio del modelo de lenguaje, y el modelo de lenguaje procesa los tokens vision y texto entrelazados con grounding de una y múltiples imágenes. La parte no-convencional es el backbone de lenguaje, y el claim de Zyphra al respecto es el titular: es la primera familia de VLM abierta construida sobre un modelo híbrido state-space-más-transformer totalmente abierto.

La arquitectura divide el trabajo a propósito. El backbone Zamba2 alterna capas state-space Mamba2, que llevan el grueso de la computación barato y escalan casi-linealmente con la longitud de secuencia, con bloques de atención transformer compartidos, cada uno con su propio adaptador LoRA, que preservan el retrieval in-context que los modelos SSM-puros tienden a abandonar. La razón por la que importa es la latencia en inputs largos, y la visión hace los inputs largos rápido: una sola imagen de alta resolución puede agregar del orden de 3400 tokens visuales, así que unas imágenes o un documento multi-página pasan el punto donde el costo cuadrático de la atención y su KV cache creciente dominan el prefill. Zamba2 mantiene un estado recurrente de tamaño fijo en su lugar, y en un prefill de 32k tokens Zyphra reporta cerca de un orden de magnitud menos en time-to-first-token que la baseline Transformer más cercana. Los modelos se entrenaron sobre 100 mil millones de tokens de datos vision-texto y texto con el tokenizer Mistral v0.1.

Los benchmarks cuentan una historia de dos lados, y la lectura honesta está en el segundo lado. A 2.7B, Zamba2-VL es fuerte donde el trabajo es percepción: anota 90.9 en DocVQA para comprensión de documentos y 82.5 en PixMoCount para conteo visual, este último muy por encima de las baselines Transformer de mismo tamaño, con percepción general competitiva. Está detrás donde el trabajo es conocimiento y razonamiento: 37.7 en MMMU y 51.0 en MathVista quedan detrás de los VLM Transformer de mismo tamaño, y el OCR también queda atrás. Así que la ganancia de latencia de un orden de magnitud no es gratis. Cambias razonamiento y calidad de OCR por un primer token mucho más rápido en contexto visual largo, y los use cases que Zyphra nombra se alinean exactamente con esa forma: extracción de documentos y formularios, conteo e inventario retail, PDF multi-página, y asistentes on-device, donde el modelo 1.2B edge-tuneado y el bajo time-to-first-token importan más que el razonamiento máximo.

Para el hilo de diversidad de arquitectura que seguimos rastreando, la acumulación lenta de evidencia de que la atención no es la única forma de construir un modelo capaz, este es un data point limpio y verificable: un VLM híbrido SSM-transformer abierto con una ventaja de latencia real y medida y un costo de calidad honestamente acotado, código y pesos abiertos. Las salvedades están dichas claramente: necesita una GPU CUDA para los kernels optimizados, con caminos CPU lentos; no hay API gestionada, así que self-hosteas; y se envía como un artefacto de investigación, no un servicio de producción. Pero la forma es el punto. A medida que los inputs multimodales siguen alargándose, más páginas, imágenes de mayor resolución, más frames de video, el costo cuadrático de la atención en el prefill es exactamente donde un backbone state-space casi-lineal se gana el pan, y Zamba2-VL es la primera familia abierta que deja a los builders medir ese tradeoff sobre sus propios workloads visuales de largo contexto en vez de tomarlo por fe.