Ollama lleva los modelos de IA locales a otro nivel en Mac con soporte para MLX

Si llevas tiempo queriendo ejecutar modelos de IA en tu propio ordenador sin depender de suscripciones, límites de uso ni servidores de terceros, la última actualización de Ollama es exactamente el tipo de noticia que estabas esperando. Y si tienes un Mac con chip Apple Silicon, aún más.

Ollama, para quien no lo conozca, es una herramienta que permite ejecutar grandes modelos de lenguaje directamente en tu máquina local. Sin nube. Sin cuotas mensuales. Sin que tus conversaciones viajen a un servidor en algún lugar de Virginia. Con la versión 0.19, ha dado un paso importante: soporte para MLX, el framework de Apple para aprendizaje automático, pensado específicamente para sacar partido a la arquitectura de los chips M1 y posteriores.

Qué es MLX y por qué importa en este contexto

Apple Silicon tiene una particularidad que lo diferencia del hardware tradicional para IA: la memoria es compartida entre CPU y GPU. En un PC de escritorio convencional, la GPU tiene su propia VRAM dedicada, y ahí es donde se ejecutan los modelos. En un Mac con chip M, todo convive en el mismo banco de memoria unificada, lo que obliga a plantear las cosas de forma distinta si quieres aprovechar bien el hardware.

MLX es el framework que Apple diseñó precisamente para eso. Permite operaciones de aprendizaje automático optimizadas para esta arquitectura de memoria compartida, de modo que los modelos pueden aprovechar de manera más eficiente tanto los núcleos de CPU como los de GPU del chip. Hasta ahora, Ollama no integraba este framework de forma nativa, lo que dejaba bastante rendimiento sobre la mesa en Macs.

Con el soporte en vista previa que llega en la versión 0.19, eso empieza a cambiar.

Qué mejoras concretas trae esta actualización

Además de la integración con MLX, Ollama ha introducido 2 mejoras adicionales que conviene no pasar por alto:

• Mejora del rendimiento de caché: optimiza cómo se almacenan y reutilizan los contextos de conversación, lo que se traduce en respuestas más rápidas en sesiones largas o con mucho historial.
• Soporte para NVFP4: un formato de compresión de Nvidia que permite cuantizar modelos con mayor eficiencia, reduciendo notablemente el consumo de memoria sin sacrificar demasiado en calidad. Esto es relevante especialmente para usuarios que quieren correr modelos grandes con hardware más ajustado.

Y hay un punto extra para los que acaban de renovar equipo: Ollama ahora aprovecha los nuevos Aceleradores Neurales presentes en las GPU de la serie M5 de Apple. Si tienes uno de esos Macs, el salto en tokens por segundo y en tiempo de respuesta debería ser perceptible.

El primer modelo compatible: Qwen3.5 de 35B

Aquí viene el primer jarro de agua fría, aunque comprensible: el soporte para MLX está en fase de vista previa y, por ahora, solo funciona con un modelo. Concretamente, con la variante de 35.000 millones de parámetros de Qwen3.5, el modelo de Alibaba que ha ganado bastante tracción últimamente en comunidades de desarrollo.

Los requisitos de hardware no son precisamente modestos. Necesitas un Mac con Apple Silicon y, como mínimo, 32 GB de RAM. Eso ya descarta a una parte importante de los usuarios de Mac que tienen configuraciones de 8 o 16 GB. No es un capricho de los desarrolladores: los modelos de esta escala sencillamente necesitan esa memoria para funcionar con fluidez.

Ollama no ha dado fechas sobre cuándo esta compatibilidad saldrá de la fase de vista previa ni cuándo se extenderá a otros modelos. Así que, de momento, es una promesa con potencial pero todavía con recorrido por delante.

Por qué este momento tiene más sentido que nunca

Esta actualización no llega en el vacío. Los últimos meses han sido especialmente activos para los modelos locales, y hay varias razones para ello.

La más llamativa ha sido el fenómeno de OpenClaw, que superó las 300.000 estrellas en GitHub y despertó un interés masivo, especialmente en China, por ejecutar modelos de razonamiento localmente. Experimentos como Moltbook, que mostraban cómo usar estos modelos en hardware limitado, demostraron que la comunidad tiene tanto ingenio como ganas de no depender de servicios centralizados.

Al mismo tiempo, muchos desarrolladores están llegando al límite de paciencia con los modelos en la nube. Claude Code, ChatGPT Codex y similares tienen planes de primer nivel que no son baratos, y sus límites de uso son frustrantes cuando se trabaja a un ritmo intenso. No es casualidad que Ollama también haya ampliado recientemente su integración con Visual Studio Code: apunta directamente a ese público que quiere un copiloto de código que no le cueste 20 euros al mes ni le agote el crédito a mitad de la tarde.

El argumento de privacidad: real, pero con matices

Una de las razones habituales para optar por modelos locales es la privacidad. Tiene lógica: si el modelo corre en tu máquina, tus consultas no salen a ningún servidor externo. Nadie las indexa, nadie las usa para entrenar modelos, nadie las puede filtrar.

Dicho esto, hay que ser cuidadoso con cómo se implementa esto. Configuraciones que dan a los modelos acceso profundo al sistema operativo, como algunas variantes del proyecto OpenClaw, presentan sus propios riesgos. La privacidad frente a terceros no implica que el modelo sea seguro en tu propio entorno si tiene permisos amplios sobre tu sistema.

La privacidad es una ventaja real de los modelos locales, pero no es una solución mágica. Hay que saber qué se está ejecutando y con qué permisos.

Los modelos locales todavía no compiten de tú a tú con los modelos frontera

Sería deshonesto no decirlo: los modelos locales, incluso los mejores que puedes ejecutar en un Mac con 32 GB, siguen por detrás de GPT-4o, Claude 3.7 Sonnet o Gemini 1.5 Pro en la mayoría de benchmarks. La brecha se ha reducido notablemente en los últimos 2 años, pero existe.

Donde los modelos locales empiezan a ser genuinamente útiles es en tareas concretas y bien definidas: asistencia de código, resumen de documentos, respuestas a preguntas sobre contextos específicos, o simplemente como herramienta de productividad del día a día sin necesidad de conexión. Para eso, modelos como Qwen3.5 o Llama 3 rinden más que suficiente.

El argumento no es que los modelos locales sean mejores. Es que, para ciertos casos de uso, son suficientemente buenos, gratuitos y privados. Y eso ya es bastante.

La barrera real sigue siendo el hardware y la configuración

El mayor freno para la adopción masiva de herramientas como Ollama no es la calidad de los modelos ni la integración con MLX. Son 2 cosas mucho más mundanas: el hardware y la curva de entrada.

Ollama sigue siendo, en su núcleo, una herramienta de línea de comandos. Hay interfaces gráficas disponibles de terceros que lo hacen más accesible, pero instalar, configurar y gestionar modelos locales no es todavía algo que un usuario sin conocimientos técnicos pueda hacer en 5 minutos. Es manejable, pero requiere cierta disposición.

El hardware es el otro cuello de botella. Necesitar 32 GB de RAM para ejecutar el único modelo compatible con MLX en este momento no es algo que la mayoría de usuarios tenga. Y aunque el precio de la memoria ha bajado, los Macs con esa configuración siguen siendo equipos de gama alta.

Aun así, la dirección es clara. Cada nueva versión de Ollama reduce un poco más esa fricción. El soporte para MLX es un paso técnico real en la dirección correcta para los usuarios de Mac, y si Apple sigue empujando con hardware cada vez más potente en esa franja de memoria, la ecuación puede cambiar bastante en los próximos 12 a 18 meses.