Etiqueta: Lip-Bu Tan

AMD compra Taalas y abre otra vía para acelerar la inferencia de IA

AMD ha comprado Taalas, una pequeña compañía canadiense que está experimentando con una idea radicalmente distinta a la utilizada por las GPU actuales: incorporar los pesos de un modelo de inteligencia artificial directamente al silicio. Su demostrador HC1 alcanzó aproximadamente 16.960 tokens por segundo ejecutando Llama 3.1 8B, una cifra difícil de conseguir con aceleradores convencionales y que ayuda a explicar el interés de AMD por la compañía. Las claves de la compra de Taalas por AMD en 20 segundos AMD no ha comprado simplemente otra empresa que diseña aceleradores. Taalas plantea una respuesta diferente a uno de los grandes problemas económicos de la inferencia de modelos de lenguaje: mover continuamente enormes cantidades de información entre memoria y unidades de

VMware acelera la búsqueda de alternativas: Proxmox gana terreno en la empresa

La virtualización empresarial atraviesa un periodo de revisión que comenzó a hacerse especialmente visible tras la adquisición de VMware por Broadcom. Los cambios comerciales y de licenciamiento han llevado a numerosas organizaciones a estudiar alternativas, aunque eso no significa que estén abandonando VMware inmediatamente. Proxmox VE aparece cada vez con más frecuencia entre las opciones para construir infraestructuras de virtualización sobre cloud privado, especialmente cuando las empresas buscan recuperar control sobre costes, hardware y datos. Las claves de las alternativas a VMware en 30 segundos El escenario deja una aparente contradicción. Existe una elevada disposición a estudiar otras plataformas, pero la migración efectiva no se está produciendo necesariamente con la misma rapidez. La explicación está en la propia naturaleza de

Cómo usar un único Proxmox Backup Server para varios clústeres sin perder orden

Cuando una infraestructura crece hasta tener varios clústeres de Proxmox VE y algunos nodos independientes, resulta tentador crear un datastore de Proxmox Backup Server (PBS) para cada uno. Es sencillo de entender y proporciona cierta separación, pero también divide el dominio de deduplicación. Los backup namespaces permiten plantear otra arquitectura: mantener las copias organizadas por clúster dentro de un mismo datastore y compartir el almacén de chunks sobre el que trabaja la deduplicación. Las claves de PBS con varios clústeres en 20 segundos Esta arquitectura resulta especialmente interesante en organizaciones donde producción, preproducción, desarrollo y otros clústeres ejecutan sistemas operativos, plantillas o aplicaciones similares. Proxmox define precisamente los namespaces como una forma de reutilizar un único dominio de deduplicación para

IBM prepara un procesador que ejecutará Arm y arquitectura Z en el mismo núcleo

IBM ha presentado en Hot Chips el diseño de su primer procesador de doble arquitectura para futuros sistemas IBM Z y LinuxONE, capaz de ejecutar de forma nativa instrucciones Arm junto con las propias de las plataformas empresariales de IBM. El chip, todavía en desarrollo, se fabricará con tecnología de 2 nanómetros, contará con 11 núcleos a más de 5,7 GHz e incorporará aceleración de inteligencia artificial y procesamiento de entrada/salida directamente en el silicio. Las claves del procesador IBM-Arm en 30 segundos El anuncio resulta especialmente relevante porque IBM no está planteando simplemente añadir procesadores Arm auxiliares a sus mainframes. La arquitectura descrita por la compañía busca que cada núcleo pueda entender y ejecutar dos juegos de instrucciones diferentes

Samsung prepara zHBM: memoria 3D sobre la GPU para superar los límites de HBM

Samsung trabaja en una evolución profunda de la memoria HBM para los aceleradores de inteligencia artificial. Su propuesta culmina en zHBM, una arquitectura que pretende colocar la memoria verticalmente sobre el procesador, reducir las distancias que recorren los datos y eliminar elementos del empaquetado 2.5D actual. El fabricante plantea hasta un 230 % más de ancho de banda y alrededor de un 70 % menos de consumo de la DRAM frente a una configuración HBM4E convencional, aunque se trata todavía de objetivos presentados por Samsung y no de prestaciones de un producto comercial. Las claves de Samsung zHBM en 20 segundos La propuesta fue explicada por Samsung dentro de una presentación técnica sobre la evolución de la base die, el

Nutanix y ChronoScale unen cloud híbrido y GPUaaS para llevar la IA a empresas

Nutanix y ChronoScale han anunciado una alianza estratégica para desarrollar conjuntamente infraestructura de inteligencia artificial destinada al mercado empresarial, combinando el software de cloud híbrido de Nutanix con la capacidad de computación acelerada, GPU como servicio (GPUaaS) y servicios de IA de ChronoScale. El acuerdo contempla además una integración basada en tecnología de NVIDIA, aunque buena parte de las funciones anunciadas todavía están en fase de planificación o desarrollo. Las claves de la alianza Nutanix-ChronoScale en 20 segundos El planteamiento intenta resolver uno de los problemas que encuentran muchas organizaciones al pasar de las pruebas de inteligencia artificial a entornos de producción: disponer simultáneamente de GPU, infraestructura local, herramientas de gestión y una plataforma desde la que controlar las cargas