Apple no lidera los modelos de IA, pero sí puede dominar su ejecución en local
Apple todavía no cuenta con el modelo de inteligencia artificial más avanzado del mercado, pero sus nuevos ordenadores apuntan a convertirse en una de las mejores plataformas para ejecutar modelos de IA en local. La compañía ha presentado equipos capaces de combinar una gran cantidad de memoria con un consumo contenido, poco ruido y un ecosistema de software cada vez más preparado para esta tarea.
El problema es el precio. Estas máquinas ofrecen unas prestaciones excepcionales para investigadores, desarrolladores y usuarios avanzados, aunque siguen quedando lejos del alcance de buena parte de los consumidores. La paradoja es evidente: Apple puede estar perdiendo la carrera por crear los mejores modelos, pero tiene una posición especialmente sólida en la carrera por hacerlos funcionar dentro de casa.
La memoria se ha convertido en el gran factor diferencial
Cuando Apple presentó sus primeros chips M1 en 2020, una de sus características menos valoradas fue la memoria unificada. Esta tecnología permite que el procesador y el chip gráfico compartan un mismo espacio de memoria, en lugar de trabajar con sistemas separados para la CPU y la GPU.
En aquel momento, la mayoría de los usuarios apenas necesitaba grandes cantidades de memoria gráfica. Una tarjeta como la RTX 3090, con 24 GB de VRAM, parecía una solución extraordinaria, mientras que los 8 o 10 GB de modelos más asequibles eran suficientes para jugar, editar vídeo o trabajar con aplicaciones profesionales.
La llegada de ChatGPT a finales de 2022 cambió las prioridades. El crecimiento de los modelos de lenguaje y la aparición de alternativas de pesos abiertos, como Llama, impulsaron el interés por ejecutar inteligencia artificial en ordenadores personales, sin depender siempre de la nube.
Los pesos son los valores internos que permiten a un modelo aprender patrones y generar respuestas. Cuanto más grande es un modelo, más memoria necesita para cargarse y funcionar. Por eso, en IA local no solo importa la velocidad del procesador: también son decisivas la cantidad de memoria disponible y la velocidad con la que se pueden mover los datos.
Hasta 512 GB de memoria unificada
Las tarjetas gráficas más potentes de Nvidia destacan por su enorme ancho de banda, es decir, por la cantidad de datos que pueden transferir cada segundo. Sin embargo, su memoria sigue siendo limitada frente a las necesidades de los modelos más grandes. La RTX 5090, por ejemplo, ofrece 32 GB de memoria GDDR7 y un ancho de banda cercano a 1,8 TB por segundo.
Ese rendimiento resulta excelente para muchas tareas, pero puede no ser suficiente para cargar modelos voluminosos sin dividirlos entre varios dispositivos o recurrir a técnicas que reducen su precisión. La cuantización, precisamente, consiste en representar los datos del modelo con menos bits para ahorrar memoria y acelerar su ejecución, aunque en algunos casos puede afectar a la calidad de las respuestas.
Los Mac Studio con chips M3 Ultra ya ofrecían hasta 512 GB de memoria unificada, con un ancho de banda de 819 GB por segundo. Los nuevos equipos con M5 Ultra mantienen esa capacidad máxima y elevan la velocidad hasta 1,2 TB por segundo, aproximadamente un 50% más.
La cifra de transferencia no supera a la de las GPU de Nvidia, pero la cantidad de memoria disponible ofrece un margen mucho mayor para ejecutar modelos de pesos abiertos de gran tamaño en una sola máquina. Además, el usuario no necesita montar un ordenador completo alrededor de varias tarjetas gráficas, con los costes, el consumo y la complejidad que ello implica.
La competencia tiene memoria, pero no siempre velocidad
Existen alternativas interesantes en el ecosistema Windows y Linux. La DGX Spark de Nvidia proporciona 128 GB de memoria unificada, mientras que equipos de Acer, Dell y otros fabricantes recurren a configuraciones similares. También los ordenadores basados en los procesadores AMD Strix Halo, como el Ryzen AI Max+ 395, pueden manejar cantidades elevadas de memoria compartida.
El inconveniente aparece en el ancho de banda. Estas soluciones se sitúan en torno a los 250 GB por segundo, una cifra considerablemente inferior a la de los Mac Studio más avanzados. Incluso el Mac mini con chip M4 alcanza unos 120 GB por segundo, pese a ser un equipo mucho más compacto y económico.
La comparación no es completamente directa: el rendimiento final depende del modelo utilizado, su nivel de cuantización, el software y la forma de distribuir las operaciones. Aun así, la combinación de memoria abundante, eficiencia energética y ancho de banda convierte a Apple Silicon en una opción muy atractiva para ejecutar IA local.
MLX quiere plantar cara al dominio de CUDA
Nvidia mantiene una ventaja histórica gracias a CUDA, una plataforma de software que permite a los desarrolladores aprovechar sus GPU para tareas de inteligencia artificial. Este ecosistema, ampliamente utilizado en centros de datos, ha sido una de las claves del liderazgo de la compañía frente a sus rivales.
Apple ha respondido con MLX, un framework abierto diseñado para sus chips Apple Silicon. Un framework es un conjunto de herramientas y bibliotecas que facilita la creación y optimización de aplicaciones. En este caso, MLX permite adaptar modelos para que funcionen de manera eficiente en los procesadores de Apple.
Su expansión ha favorecido la aparición de modelos cuantizados y aplicaciones como LM Studio, que permiten descargar y ejecutar modelos localmente con una configuración relativamente sencilla. De este modo, Apple intenta compensar con software una desventaja tradicional frente a Nvidia.
Varios Mac pueden trabajar como un solo sistema
Otra de las novedades más relevantes es la posibilidad de conectar varios Mac para sumar recursos. Estas configuraciones pueden combinar la capacidad de cálculo de distintos equipos y, sobre todo, ampliar la memoria total disponible para un modelo.
La tecnología desarrollada por Exo Labs permite crear estos clústeres con ordenadores como el Mac mini o el Mac Studio. Apple trabaja ahora para integrar esta posibilidad de forma más directa en sus nuevos equipos, algo que podría facilitar la creación de pequeños sistemas de IA domésticos o profesionales.
El escenario que se dibuja es el de un ordenador funcionando de manera permanente, como hoy ocurre con algunos servidores domésticos o sistemas NAS. En lugar de enviar cada consulta a la nube, el usuario podría mantener sus modelos, documentos y conversaciones dentro de su propia red.
La privacidad sería una de las principales ventajas: los datos sensibles no tendrían que abandonar el domicilio o la empresa. También habría menos dependencia de suscripciones y servicios externos, aunque el coste inicial de estas máquinas sigue siendo el principal obstáculo para que la IA local se convierta en una opción verdaderamente generalizada.
