
Kog AI impulsa una revolución en la inferencia con AMD MI300X: hasta 3,5 veces más rápida que los motores actuales
La startup francesa redefine los límites de la inferencia en inteligencia artificial con una arquitectura optimizada que refuerza la soberanía digital europea La empresa emergente Kog AI, con sede en Francia, ha dado un paso de gigante en el campo de la inferencia de modelos de inteligencia artificial al anunciar que su motor de inferencia ha alcanzado una velocidad de generación de tokens hasta 3,5 veces superior en comparación con soluciones líderes como vLLM y TensorRT-LLM, utilizando GPUs AMD Instinct™ MI300X. Este avance sitúa a Kog en la vanguardia de las plataformas de inferencia de nueva generación y refuerza la apuesta europea por una infraestructura tecnológica soberana e independiente. En la era de la inteligencia artificial generativa, el cuello de