Cuatro mini PC de Geekom se unen para ejecutar DeepSeek V4 Flash de forma local
Geekom ha conectado cuatro mini PC A9 Mega mediante USB4 para crear un pequeño clúster de inteligencia artificial capaz de ejecutar DeepSeek V4 Flash sin recurrir a servicios en la nube. La propuesta busca demostrar que determinadas cargas de trabajo de IA privada pueden abordarse con equipos compactos, en lugar de utilizar servidores voluminosos o estaciones profesionales con un coste elevado.
El interés de este planteamiento no está únicamente en ejecutar un modelo de IA en local, algo que ya es posible con distintos equipos, sino en repartir el procesamiento entre varios ordenadores. Los cuatro sistemas trabajan como una plataforma conjunta y distribuyen el modelo para afrontar tareas que podrían superar las capacidades de una sola máquina.
Un clúster de IA basado en cuatro mini PC
Cada Geekom A9 Mega incorpora un procesador AMD Ryzen AI Max+ 395 con 16 núcleos de CPU basados en la arquitectura Zen 5, gráficos integrados Radeon 8060S y memoria unificada. Esta última permite que el procesador y la GPU compartan un mismo espacio de memoria, algo útil para manejar modelos de inteligencia artificial de gran tamaño.
La compañía ha utilizado cuatro unidades para construir una plataforma de inferencia distribuida. La inferencia es el proceso mediante el cual un modelo ya entrenado analiza una petición y genera una respuesta. En este caso, parte de ese trabajo se reparte entre los distintos mini PC conectados.
El sistema funciona con Ubuntu y emplea ROCm, la plataforma de software de AMD para ejecutar cargas de computación en sus procesadores gráficos. También utiliza DwarfStar, una herramienta encargada de distribuir una versión optimizada de DeepSeek V4 Flash entre los cuatro nodos del clúster.
USB4 en lugar de infraestructura de servidor
Uno de los elementos más llamativos es la conexión mediante USB4. Según Geekom, esta configuración evita la necesidad de instalar un conmutador de red de alta velocidad o utilizar interconexiones propietarias habituales en servidores especializados para inteligencia artificial.
La conexión no convierte cuatro mini PC en un sustituto universal de un centro de datos. La velocidad de comunicación entre los equipos, la gestión de la memoria y la coordinación del software siguen siendo factores determinantes. Sin embargo, sí plantea una alternativa relativamente sencilla para laboratorios, pequeñas empresas y organizaciones que necesiten procesar información sensible en sus propias instalaciones.
Las aplicaciones pueden comunicarse con el clúster mediante una API compatible con OpenAI. Una API es una interfaz que permite a un programa enviar solicitudes a otro sistema y recibir sus respuestas. Al utilizar un formato conocido, las empresas podrían conectar sus herramientas actuales al nuevo entorno sin tener que rediseñar por completo sus aplicaciones.
Más control sobre los datos empresariales
La principal ventaja de ejecutar DeepSeek V4 Flash de forma local está relacionada con la privacidad. Cuando una compañía utiliza un servicio de IA en la nube, las consultas y los documentos necesarios para responder deben enviarse a una infraestructura externa, de acuerdo con las condiciones del proveedor.
Ese modelo puede resultar poco adecuado para trabajar con contratos, código fuente, credenciales, informes internos o documentación confidencial. En un clúster local, los datos pueden permanecer dentro de la red de la organización, lo que facilita el control sobre su almacenamiento y procesamiento.
Entre los posibles usos se encuentran los asistentes privados capaces de consultar políticas internas y manuales, la revisión automatizada de documentos, el análisis de repositorios de código y la creación de sistemas RAG. Esta técnica combina un modelo generativo con una base documental: antes de responder, el sistema busca información relevante en archivos internos para reducir errores y ofrecer respuestas fundamentadas.
La plataforma también puede utilizarse con agentes de IA. A diferencia de un chatbot convencional, un agente puede consultar herramientas, ejecutar acciones, revisar documentos, utilizar memoria y encadenar varios pasos antes de completar una tarea.
Contextos extensos y rendimiento comunicado por Geekom
Geekom asegura que su configuración ha trabajado con contextos de hasta 250.000 tokens. Los tokens son las unidades en las que los modelos de lenguaje dividen el texto para procesarlo; no equivalen exactamente a palabras, ya que pueden representar fragmentos de palabras, signos o espacios.
Un contexto de esta capacidad permite analizar documentos extensos, repositorios de código de cierto tamaño y procesos compuestos por numerosas instrucciones. Aun así, admitir muchos tokens no garantiza por sí mismo una respuesta rápida: también influyen la memoria disponible, la arquitectura del modelo y la velocidad de comunicación entre los nodos.
En las pruebas técnicas comunicadas por la compañía, el clúster alcanzó aproximadamente 14,61 tokens por segundo con una única solicitud concurrente. El tiempo P95 hasta el primer token fue de unos 0,42 segundos en pruebas con contextos de 32 y 128 tokens.
El percentil 95, conocido como P95, indica que el 95 % de las solicitudes obtuvo un resultado igual o más rápido que la cifra señalada. Estos datos proceden de la configuración y la metodología de Geekom, por lo que no deben interpretarse como una comparación independiente con servidores dedicados, tarjetas gráficas profesionales o servicios comerciales en la nube.
Una arquitectura modular para crecer sin sustituir todo el equipo
El diseño también apuesta por la ampliación progresiva. Una organización podría comenzar con uno o dos A9 Mega y añadir más unidades cuando aumentase el volumen de trabajo. Cada mini PC puede funcionar de manera independiente o incorporarse posteriormente al procesamiento distribuido.
Este enfoque sitúa la propuesta entre las estaciones de trabajo para IA y los servidores tradicionales. No pretende reemplazar la infraestructura empresarial de gran escala, pero muestra que algunas aplicaciones de inteligencia artificial privada pueden ejecutarse con equipos más compactos, discretos y potencialmente fáciles de desplegar.
La idea más relevante no es solo fabricar mini PC más potentes, sino utilizarlos como nodos capaces de colaborar. Para ciertos escenarios, cuatro equipos pequeños pueden ofrecer una vía flexible para mantener los datos bajo control y acercar la IA local a organizaciones que no necesitan, o no pueden asumir, un servidor especializado.
