Etiqueta: Centro de Seguridad de Microsoft Azure

Cómo ahorrar VRAM al ejecutar modelos de IA en local sin cambiar de GPU

Ejecutar un modelo de inteligencia artificial en un ordenador propio se ha vuelto mucho más accesible, pero la VRAM sigue marcando buena parte de los límites. Cuantización, FlashAttention, reducción del contexto, KV cache optimizada y CPU offload permiten aprovechar mejor una GPU, aunque conviene huir de reglas universales: un modelo de 13B no necesita siempre la misma memoria y reducir capas no garantiza conservar su calidad. Las claves para reducir la VRAM de un LLM en 30 segundos La expansión de modelos abiertos y de herramientas como llama.cpp, Ollama, vLLM o Transformers ha hecho posible ejecutar modelos de lenguaje sin enviar cada consulta a una API externa. El problema aparece cuando se descarga un modelo y la GPU se queda

Intel prepara Diamond Rapids y Crescent Island para la era de los agentes de IA

Intel ha aprovechado Hot Chips 2026 para enseñar cómo quiere repartir las cargas de inteligencia artificial entre procesadores, aceleradores y dispositivos de usuario. La compañía ha detallado Diamond Rapids, su próxima generación de Xeon con hasta 256 núcleos; Crescent Island, una GPU para inferencia con hasta 480 GB de memoria; y Wildcat Lake, ya comercializado como Intel Core Series 3, tres arquitecturas diferentes con las que pretende cubrir desde los grandes centros de datos hasta portátiles y sistemas en el edge. Las claves de la nueva arquitectura de IA de Intel en 30 segundos El planteamiento resulta interesante porque Intel no intenta presentar un único chip capaz de resolver todas las necesidades de IA. Su propuesta parte justo de lo

Auto Router de OpenRouter cambia las reglas: un modelo diferente para cada tarea

Elegir un único modelo de inteligencia artificial para una aplicación empieza a tener menos sentido a medida que aumenta el número de LLM disponibles. Auto Router de OpenRouter propone cambiar ese planteamiento: la aplicación envía la petición y el sistema decide dinámicamente qué modelo resulta más adecuado para resolverla, teniendo en cuenta el tipo de tarea, el nivel de coste seleccionado y las restricciones establecidas por el desarrollador. Es una capa de infraestructura que gana interés justo cuando Stripe ha acordado adquirir OpenRouter. Las claves de Auto Router de OpenRouter en 20 segundos La idea parece sencilla, pero puede cambiar bastante la arquitectura de muchas aplicaciones de inteligencia artificial. Hasta ahora lo habitual ha sido escoger primero el modelo. Una

Data Domain y DD Boost: por qué siguen siendo una referencia para backup enterprise

Dell PowerProtect Data Domain mantiene una posición destacada como destino de backup empresarial gracias, entre otros factores, a DD Boost, una tecnología que permite desplazar parte del proceso de deduplicación hacia el servidor que envía los datos, reducir el tráfico hacia el almacenamiento y descargar determinadas operaciones del software de backup. Su integración con Veeam Backup & Replication es especialmente profunda, aunque una comparación actual obliga a introducir matices: ExaGrid y HPE StoreOnce también disponen de integraciones específicas con Veeam y plantean arquitecturas diferentes que pueden resultar ventajosas según el escenario. Las claves de Data Domain y DD Boost en 30 segundos Durante años la deduplicación fue uno de los grandes argumentos para desplegar appliances especializados de backup. Con conjuntos

CXMT acelera con LPDDR6 y Xiaomi la estrenará en su próximo plegable

El fabricante chino de memorias ChangXin Memory Technologies (CXMT) ha anunciado el inicio de la producción en masa de su memoria LPDDR6, que tendrá uno de sus primeros destinos comerciales confirmados en el Xiaomi 18 Fold previsto para septiembre. El movimiento coloca a CXMT en la primera oleada de fabricantes capaces de llevar la nueva generación de DRAM móvil desde las muestras y la validación hasta un dispositivo de consumo concreto. Las claves de la LPDDR6 de CXMT en 20 segundos La noticia tiene más importancia por el calendario que por una carrera por alcanzar la mayor velocidad. A comienzos de agosto las informaciones disponibles todavía situaban la nueva memoria de CXMT en las últimas etapas de validación. Ahora existe

NVIDIA estudia reducir la HBM de Rubin Ultra: la IA empieza a priorizar velocidad

NVIDIA está evaluando reducir la cantidad de memoria HBM prevista para Rubin Ultra, su futura generación de aceleradores de inteligencia artificial, ante la escasez de DRAM, el coste de la memoria y las dificultades para fabricar las configuraciones más complejas. TrendForce confirma que la compañía estudia alternativas de 8 y 12 capas tanto con HBM4 como con HBM4E, aunque la especificación definitiva todavía no está decidida. La posibilidad de utilizar menos memoria por GPU plantea además una cuestión de fondo: las cargas de IA empiezan a depender más del ancho de banda y de una jerarquía de memoria completa que de almacenar absolutamente todos los datos en HBM. Las claves del cambio de NVIDIA Rubin Ultra en 20 segundos El