El tutorial de Shittu Olumide para crear un resumidor de reuniones con IA afirma que ahora puedes construir aplicaciones listas para producción usando solo LLM y herramientas gratuitas. Su stack incluye modelos como GLM-4.7-Flash de Zhipu AI y LFM2-2.6B-Transcript para transcripción, combinado con Ollama para inferencia local y la API Gemini de Google para solicitudes en la nube gratuitas. El tutorial promete una aplicación completa React/FastAPI que transcribe grabaciones de voz y extrae elementos de acción sin gastar dinero en API comerciales.
Esto refleja un cambio real en la economía de la IA. Los modelos de código abierto han cerrado gran parte de la brecha de calidad con las ofertas comerciales, y el modelo "trae tu propia clave" está creando nuevas opciones de implementación. Pero hay una diferencia entre "gratis" y "costo cero". Ejecutar modelos localmente requiere hardware decente, y los niveles gratuitos de API tienen límites de uso que desaparecen rápidamente en producción. La promesa de "rendimiento de vanguardia" de los modelos gratuitos es exagerada — son suficientemente buenos para muchos casos de uso, pero no reemplazan a GPT-4 o Claude para tareas de razonamiento complejo.
Lo que falta en esta narrativa es la realidad operacional. Los niveles gratuitos desaparecen cuando escalas, la inferencia local es más lenta y menos confiable que las API en la nube, y depurar problemas de rendimiento del modelo se convierte en tu problema en lugar del de OpenAI. La afirmación de "presupuesto cero" funciona para prototipos y proyectos personales, pero las aplicaciones de producción aún necesitan respaldos, monitoreo y soporte — nada de eso es gratis.
Para los desarrolladores, esto sigue siendo valioso. Los modelos gratuitos son excelentes para experimentación, aprendizaje y validar ideas antes de comprometerse con infraestructura de pago. Solo no confundas un buen stack de prototipo con una arquitectura de producción.