
Skymizer promete llevar modelos de 700B parámetros a una sola tarjeta PCIe
Skymizer ha presentado HTX301, su primer chip de referencia basado en la plataforma HyperThought, con una promesa muy llamativa para el mercado de inferencia de Inteligencia Artificial: ejecutar modelos de lenguaje de hasta 700.000 millones de parámetros en local, sobre una única tarjeta PCIe con seis chips HTX301, 384 GB de memoria y un consumo aproximado de 240 W por tarjeta. La propuesta apunta directamente a uno de los grandes problemas de la IA empresarial. Muchas compañías quieren usar modelos grandes sin enviar datos sensibles a servicios externos, pero desplegar inferencia avanzada en local suele exigir clústeres de GPU, interconexiones caras, refrigeración compleja y equipos especializados. Skymizer asegura que su arquitectura puede simplificar ese modelo al separar mejor las fases




