PR Newswire
El clúster ejecuta DeepSeek V4 Flash localmente, ofreciendo IA privada y escalable a las empresas.
GEEKOM, empresa líder en innovación de mini PCs de alto rendimiento, ha implementado DeepSeek V4 Flash en cuatro sistemas GEEKOM A9 Mega. Este logro demuestra cómo GEEKOM está extendiendo su experiencia en computación compacta al ámbito de la IA empresarial práctica.
En lugar de depender de un servidor de centro de datos, el clúster conecta cuatro A9 Mega mini PC mediante USB4 como una plataforma distribuida. Cada A9 Mega incorpora el procesador AMD Ryzen AI Max+ 395, que combina 16 núcleos de CPU Zen 5, gráficos Radeon 8060S y memoria unificada en un chasis compacto.
Ubuntu, ROCm y DwarfStar distribuyen un modelo DeepSeek V4 Flash optimizado entre las máquinas. Una API compatible con OpenAI conecta las aplicaciones y los agentes de IA, mientras que USB4 elimina la necesidad de un conmutador de alta velocidad o un rack de servidor propietario.
Acercando la IA empresarial a las empresas
El clúster permite a las organizaciones utilizar IA avanzada manteniendo la información confidencial bajo su control. Las indicaciones, los documentos, el código fuente, las credenciales y los resultados intermedios pueden permanecer en la infraestructura local en lugar de enviarse a una nube pública.
Las empresas pueden crear asistentes de conocimiento privados que buscan y analizan políticas, manuales, contratos, informes y otros documentos internos. La plataforma también admite la revisión de documentos, el análisis de código fuente, la generación aumentada mediante recuperación local, la investigación multifuente y la automatización controlada del flujo de trabajo.
Para sistemas de agentes como Hermes Agent, el clúster puede procesar herramientas, políticas, memoria, registros, código e información recuperada antes de actuar. Su trayectoria técnica ha operado con contextos de hasta 250.000 tokens, lo que la hace idónea para documentos extensos, bases de código grandes y trabajos complejos de varios pasos.
Rendimiento comprobado con expansión flexible
En concurrencia simple, el sistema ofreció aproximadamente 14,61 tokens por segundo y un tiempo P95 para el primer token de aproximadamente 0,42 segundos en las pruebas de 32 y 128 tokens. Más importante aún, proporciona mayor capacidad y una aceleración más potente para solicitudes largas, no solo una generación de texto más rápida.
Las organizaciones pueden comenzar con uno o dos sistemas y ampliarlos a cuatro según sus necesidades. Cada A9 Mega puede operar de forma independiente o contribuir a la inferencia distribuida, maximizando la flexibilidad y el valor a largo plazo.
Este logro refuerza la posición de GEEKOM a la vanguardia de la innovación en mini PC. Al transformar computadoras compactas y de uso individual en una plataforma de IA local accesible, GEEKOM continúa redefiniendo las posibilidades de las mini PC para empresas, laboratorios, aulas y entornos de computación perimetral.
View original content to download multimedia:https://www.prnewswire.com/news-releases/geekom-amplia-los-limites-de-la-innovacion-en-mini-pcs-con-su-cluster-de-ia-a9-mega-de-cuatro-nodos-302854911.html
