La innovación en inteligencia artificial (IA) ha alcanzado un nuevo nivel con el anuncio de ExaAILabs, que ha implementado su Exacluster, uno de los primeros clústeres de la industria basados en las GPUs Nvidia H200 Hopper. Este clúster no solo es un hito tecnológico, sino que también busca revolucionar la manera en que interactuamos con los motores de búsqueda, con la ambiciosa meta de superar a Google en la comprensión y procesamiento de consultas complejas.
Un vistazo al Exacluster
El Exacluster destaca por su impresionante potencia y diseño especializado:
- Hardware: Está compuesto por 18 servidores equipados con 8 GPUs Nvidia H200 cada uno, sumando un total de 144 GPUs con 20TB de memoria HBM3E (141GB por GPU). Este diseño ofrece un rendimiento combinado de 570 PetaTOPS, una capacidad crucial para entrenar redes neuronales avanzadas.
- Procesadores: 192 CPUs de 96 núcleos, alcanzando un total de 3.456 núcleos de procesamiento.
- Memoria y almacenamiento:
- 36TB de memoria DDR5.
- 270TB de almacenamiento NVMe.
- Refrigeración y eficiencia energética: A pesar de su potencia, el Exacluster utiliza refrigeración por aire estándar y consume 100kW de energía. Solo se instalan dos máquinas por rack para garantizar un enfriamiento óptimo.
Una inversión estratégica y económica
El costo total del Exacluster asciende a $5 millones, lo que equivale a aproximadamente $277.777 por máquina. Este precio sorprendentemente bajo para un sistema tan avanzado ha sido posible gracias a la estrecha relación de ExaAILabs con Nvidia, uno de sus principales inversores junto con Lightspeed y YCombinator.
El acceso anticipado a las GPUs H200 también resalta la posición privilegiada de ExaAI en la industria, lo que le permite aprovechar la última tecnología para proyectos únicos en IA.
El objetivo: Transformar los motores de búsqueda
El Exacluster se dedicará a entrenar redes neuronales avanzadas con un propósito claro: desarrollar un motor de búsqueda capaz de comprender las consultas de los usuarios de manera más precisa y ofrecer resultados más relevantes que los actuales motores líderes, incluido Google. Este motor apunta a interpretar mejor el lenguaje natural y responder a consultas complejas, redefiniendo lo que esperamos de un buscador.
Impacto y desafíos
El despliegue del Exacluster subraya cómo la computación de alto rendimiento (HPC) y la IA están convergiendo para abordar problemas cada vez más complejos. Si ExaAILabs logra su objetivo, su motor de búsqueda podría alterar significativamente la dinámica de la industria tecnológica y abrir nuevas posibilidades en el uso de la IA para comprender y procesar datos.
No obstante, la competencia en este espacio es feroz, y las expectativas son altas. La capacidad de ExaAI para innovar y escalar su tecnología determinará si este clúster se convierte en el catalizador de una nueva era en los motores de búsqueda.
vía: tom’s hardware
