NVIDIA ha anunciado la expansión de su colaboración con Microsoft, con el objetivo de ayudar a los desarrolladores a construir y desplegar aplicaciones de inteligencia artificial (IA) de manera más rápida y eficiente. Esta colaboración se está destacando en el evento anual de desarrolladores, Microsoft Build, que se celebra este año en Seattle hasta el 23 de mayo.
Optimizaciones de Modelos de IA en GPUs de NVIDIA
Los últimos modelos de IA desarrollados por Microsoft, incluida la familia de pequeños modelos de lenguaje Phi-3, están siendo optimizados para funcionar en GPUs de NVIDIA y se pondrán a disposición como microservicios de inferencia acelerada NVIDIA NIM. Entre estos modelos se incluyen Phi-3-mini con 3.8 mil millones de parámetros, y nuevos modelos pequeños (7 mil millones de parámetros) y medianos (14 mil millones de parámetros), además de un modelo multimodal de 4.2 mil millones de parámetros, Phi-3-vision, que admite imágenes y texto.
Los APIs para los modelos Phi-3 impulsados por NIM están disponibles en ai.nvidia.com y a través de NVIDIA AI Enterprise en el Azure Marketplace.
NVIDIA cuOpt Disponible en Azure Marketplace
NVIDIA cuOpt, un microservicio de IA acelerado por GPU para la optimización de rutas, ahora está disponible en Azure Marketplace a través de NVIDIA AI Enterprise. CuOpt utiliza algoritmos masivamente paralelos que permiten la gestión logística en tiempo real para servicios de envío, sistemas ferroviarios, almacenes y fábricas.
El modelo cuOpt ha establecido dos docenas de récords mundiales en los principales puntos de referencia de enrutamiento, demostrando la mejor precisión y los tiempos más rápidos. Podría ahorrar miles de millones de dólares para las industrias de logística y cadena de suministro al optimizar las rutas de los vehículos, ahorrar tiempo de viaje y minimizar los períodos de inactividad.
Optimizaciones de Rendimiento de IA en PCs con NVIDIA RTX
La plataforma de computación acelerada de NVIDIA es la columna vertebral de la IA moderna, ayudando a los desarrolladores a construir soluciones para más de 100 millones de PCs con Windows GeForce RTX y estaciones de trabajo NVIDIA RTX en todo el mundo. NVIDIA y Microsoft están ofreciendo nuevas optimizaciones e integraciones a los desarrolladores de Windows para acelerar la IA en aplicaciones de próxima generación para PC y estaciones de trabajo. Estas incluyen:
- Rendimiento de inferencia más rápido para modelos de lenguaje grande a través del controlador DirectX de NVIDIA, la extensión Generative AI ONNX Runtime y DirectML. Estas optimizaciones, disponibles ahora en los controladores GeForce Game Ready, NVIDIA Studio y NVIDIA RTX Enterprise, ofrecen hasta 3 veces más rendimiento en GPUs NVIDIA y GeForce RTX.
- Rendimiento optimizado en GPUs RTX para modelos de IA como Stable Diffusion y Whisper a través de WebNN, una APIUna API, siglas en inglés de "Application Programming Inter... que permite a los desarrolladores acelerar modelos de IA en aplicaciones web utilizando hardware local.
- Con Windows preparado para admitir PyTorch a través de DirectML, miles de modelos Hugging Face funcionarán de manera nativa en Windows. NVIDIA y Microsoft están colaborando para escalar el rendimiento en más de 100 millones de GPUs RTX.
Participación en Microsoft Build
Los asistentes a la conferencia pueden visitar el stand de NVIDIA, FP28, para conocer a expertos en desarrollo y experimentar demostraciones en vivo de NVIDIA NIM, NVIDIA cuOpt, NVIDIA Omniverse y la plataforma NVIDIA RTX AI. El stand también destaca la plataforma NVIDIA MONAI para flujos de trabajo de imágenes médicas y la plataforma generativa de IA NVIDIA BioNeMo para el descubrimiento de medicamentos, ambas disponibles en Azure como parte de NVIDIA AI Enterprise.
Sesiones y Demostraciones
Los asistentes también pueden asistir a sesiones con oradores de NVIDIA para profundizar en las capacidades de la plataforma NVIDIA RTX AI en PCs con Windows y descubrir cómo desplegar herramientas de IA generativa y gemelos digitales en Microsoft Azure. Además, pueden inscribirse en el Developer Showcase, que se llevará a cabo el miércoles, para descubrir cómo los desarrolladores están creando innovadoras soluciones de IA generativa utilizando el software de NVIDIA AI en Azure.
Con esta colaboración ampliada, NVIDIA y Microsoft están posicionados para liderar el desarrollo y la implementación de aplicaciones de IA de alto rendimiento, impulsando a los desarrolladores hacia un futuro donde la IA sea una parte integral de la innovación tecnológica.
