Olala mini: OVHcloud entrena su propio LLM en superordenadores europeos

Vista del campus de OVHcloud en Roubaix, Francia

OVHcloud ha dado un paso poco habitual entre los proveedores europeos de nube: entrenar desde cero su propio modelo de lenguaje. Olala mini 7A1B, presentado el 17 de noviembre en Roubaix, tiene 7.000 millones de parámetros, activa unos 1.000 millones en cada petición y se ha entrenado en tres superordenadores públicos europeos. Está disponible en Hugging Face con licencia Apache 2.0 y se presentará oficialmente el 19 de noviembre en el OVHcloud AI Summit.

Las claves de Olala mini de OVHcloud en 20 segundos

  • Modelo abierto de 7.000 millones de parámetros y unos 1.000 millones activos.
  • Entrenado en Jupiter, MeluXina y Jean Zay con 7 millones de euros en horas de cálculo públicas.
  • Qwant lo usa ya en sus respuestas rápidas.
  • OVHcloud planea versiones de más de 100.000 millones de parámetros.

La decisión tiene una lectura estratégica que el propio Octave Klaba, consejero delegado de OVHcloud, ha hecho explícita: la compañía no quiere depender de que otros laboratorios sigan compartiendo sus modelos en abierto en los próximos años, así que prefiere construir los suyos para su uso interno y el de sus clientes.

Vista del campus de OVHcloud en Roubaix, Francia
Campus de OVHcloud en Roubaix (Francia). Foto: Velvet, CC BY-SA 4.0, vía Wikimedia Commons.

Pensado para funcionar sin grandes GPU

Olala mini es un modelo de mezcla de expertos con 256 expertos por capa y una atención híbrida que combina Differential-TPA y Mamba-3. Trabaja en BF16 y ofrece por ahora 32.000 tokens de contexto. Según OVHcloud, cabe en una GPU de 8 GB y alcanza 160 tokens por segundo en una RTX A4500, o 50 tokens por segundo en un procesador convencional sin GPU. Son cifras de la compañía que habrá que contrastar con pruebas independientes.

Ese tamaño lo orienta a despliegues baratos y locales más que a competir con los grandes modelos de frontera. El primer caso de uso público es el del buscador francés Qwant, que según OVHcloud responde un 20 % más rápido en su función de respuestas rápidas y gasta un tercio de lo que le costaba el modelo anterior.

Supercomputación pública para un modelo privado y abierto

El entrenamiento se hizo en Jupiter (Jülich, Alemania), MeluXina (Luxemburgo) y Jean Zay (Francia), con GPU GH200, A100 y H100, y un apoyo público que OVHcloud valora en el equivalente a 7 millones de euros en horas de cálculo. A cambio, el modelo se publica completo: pesos, modelo base preentrenado, informe técnico y documentación de cumplimiento de la Ley de Inteligencia Artificial de la UE, algo que puede facilitar su adopción en empresas y administraciones que necesitan justificar el origen de los modelos que usan.

Los planes de la compañía, que por ahora son objetivos, pasan por una versión 1.1 a finales de 2026 con 128.000 tokens de contexto y mejor razonamiento matemático, y por una 2.0 de más de 100.000 millones de parámetros con variantes para IA agentiva en empresas, DevOps en la nube y ciberseguridad, además de un espacio de trabajo cifrado, OVHai Workspace, que funcionaría en local.

Preguntas frecuentes

¿Dónde se puede descargar Olala mini?

En Hugging Face, con licencia Apache 2.0, según OVHcloud.

¿En qué superordenadores se entrenó?

En Jupiter, MeluXina y Jean Zay, tres máquinas públicas europeas.

¿Quién lo usa ya?

El buscador Qwant, en su función de respuestas rápidas.

Fuentes:

encuentra artículos

newsletter

Recibe toda la actualidad del sector tech y cloud en tu email de la mano de RevistaCloud.com.

Suscripción boletín

LO ÚLTIMO