Nos complace anunciar la incorporación de DeepSeek-R1 a Snowflake Cortex AI en su fase preliminar. Este modelo, desarrollado por DeepSeek y entrenado mediante aprendizaje por refuerzo (RL) a gran escala sin ajuste fino supervisado (SFT), ofrece un rendimiento equiparable al de OpenAI-o1 en áreas clave como matemáticas, generación de código y razonamiento. Según las pruebas de rendimiento publicadas por DeepSeek, DeepSeek-R1 se posiciona como líder entre los modelos de código abierto y compite con algunas de las soluciones de código cerrado más avanzadas del mercado.
Los clientes ahora pueden solicitar acceso anticipado a DeepSeek-R1 en Cortex AI. Durante esta fase preliminar privada, nuestro enfoque estará en garantizar una experiencia alineada con nuestros principios de facilidad, eficiencia y confianza.
El modelo estará disponible en modo sin servidor, permitiendo inferencias tanto por lotes (función SQL) como de forma interactiva (Python y REST API). Para solicitar acceso a la vista previa, los interesados deben contactar con su equipo de ventas. La disponibilidad del modelo se limitará a la cuenta solicitada.
El modelo se aloja en Estados Unidos, dentro del perímetro de servicio de Snowflake. No compartimos datos con el proveedor del modelo.
Una vez que el modelo esté disponible de forma general, los clientes podrán gestionar el acceso al mismo mediante el control de acceso basado en roles (RBAC). Los administradores de cuentas podrán restringir el acceso seleccionando los modelos aprobados según las políticas de gobernanza.
Snowflake Cortex AI
Snowflake Cortex AI es un conjunto de funciones y servicios integrados que incluyen inferencia LLM completamente gestionada, ajuste fino y RAG (Recuperación Aumentada Generativa) para datos estructurados y no estructurados, lo que permite a los clientes analizar rápidamente datos no estructurados junto con sus datos estructurados y acelerar la creación de aplicaciones de IA. Los clientes pueden acceder a LLM líderes en la industria, tanto de código abierto como propietarios, e integrarlos fácilmente en sus flujos de trabajo y aplicaciones. Snowflake ha adoptado el ecosistema de código abierto con la compatibilidad con múltiples LLM de Meta, Mistral y Snowflake. Creemos que este acceso abierto y la colaboración allanarán el camino para una innovación acelerada en este espacio.
DeepSeek-R1
Según el post de DeepSeek en GitHub, aplicaron directamente el aprendizaje por refuerzo al modelo base sin depender del ajuste fino supervisado como paso preliminar. Este enfoque permitió que el modelo explorara la cadena de pensamiento (CoT) para resolver problemas complejos, lo que resultó en el desarrollo de DeepSeek-R1-Zero. Mencionan además que el modelo inicial demostró capacidades como la autoverificación, la reflexión y la generación de CoT largas, pero encontró desafíos como la repetición sin fin, la poca legibilidad y la mezcla de idiomas. Para abordar estos problemas, el equipo de DeepSeek describe cómo incorporaron datos de arranque en frío antes del RL para mejorar el rendimiento del razonamiento.
El equipo implementó entrenamiento FP8 de baja precisión y una estrategia de balanceo de carga sin pérdida auxiliar, lo que llevó a un rendimiento de vanguardia con costes computacionales de entrenamiento significativamente reducidos.
Uso de DeepSeek-R1 en Cortex AI
Con Snowflake Cortex AI, acceder a grandes modelos lingüísticos es sencillo. No tiene que gestionar integraciones ni claves de API. Los controles de gobernanza se pueden implementar de forma coherente en datos e IA. Puede acceder a los modelos en una de las regiones que cuentan con soporte. Además, puede acceder desde otras regiones con la inferencia entre regiones habilitada. Puede habilitar Cortex Guard para filtrar respuestas potencialmente inapropiadas o inseguras. Las barreras de seguridad refuerzan la gobernanza al aplicar políticas alineadas para filtrar contenido dañino.
¿Qué es lo siguiente?
Según DeepSeek, este es el primer modelo de código abierto que demuestra que las capacidades de razonamiento de los LLM se pueden incentivar únicamente a través de RL, sin la necesidad de SFT. Cortex AI proporciona una fácil integración a través de funciones SQL y REST API, y Cortex Guard permite a los clientes implementar los controles de seguridad necesarios. El equipo de investigación de IA de Snowflake planea mejorar DeepSeek-R1 para reducir aún más los costes de inferencia. Los clientes pueden lograr eficiencias de coste-rendimiento con DeepSeek-R1 y acelerar la entrega de aplicaciones de IA generativa. Este avance allana el camino para futuros avances en esta área.
