
NVIDIA quiere sacar más tokens de cada megavatio en sus fábricas de IA
NVIDIA está trasladando la optimización de los centros de datos de IA desde componentes aislados hacia la gestión conjunta de potencia, refrigeración, red y cargas de trabajo. Su plataforma NVIDIA DSX busca aumentar la cantidad de trabajo de IA que puede realizar una infraestructura con un presupuesto eléctrico fijo, con pruebas de Lambda que registran un 24 % más de tokens por segundo bajo el mismo límite de potencia. Las claves de NVIDIA DSX en 30 segundos La expansión de la inteligencia artificial está convirtiendo la disponibilidad eléctrica en una de las restricciones que condicionan el crecimiento de las infraestructuras de computación acelerada. NVIDIA plantea que aumentar el número de megavatios no siempre es la única vía para obtener más




