La empresa tecnológica OpenAI, conocida por crear el popular ChatGPT, ha decidido suprimir el departamento encargado de analizar los riesgos a futuro de la Inteligencia Artificial (IA) apenas un año después de su creación, según informaron medios estadounidenses especializados este viernes.

Reorganización Interna

El departamento, conocido como Superalignment, estaba destinado a recibir hasta un 20 % de la potencia de cálculo de OpenAI durante los próximos cuatro años para investigar y evaluar los posibles peligros que podrían surgir con los avances en IA. Sin embargo, se ha informado que los empleados de esta división están siendo recolocados en otras áreas dentro de la compañía.

Salidas Clave

La noticia de la supresión del departamento llega pocos días después de que Ilya Sutskever, cofundador de OpenAI, y Jan Leike, codirector de Superalignment, anunciaran su salida de la empresa. Ambos argumentaron que OpenAI debería centrarse más en la seguridad, la vigilancia, la preparación y el impacto social de sus tecnologías.

«Construir máquinas más inteligentes que los humanos es un esfuerzo inherentemente peligroso. OpenAI está asumiendo una enorme responsabilidad en nombre de toda la humanidad. Pero en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos innovadores», escribió Leike en la red social X tras su salida.

Cambios en la Dirección

En noviembre, el consejo de OpenAI destituyó al cofundador y consejero delegado, Sam Altman, citando una supuesta falta de honestidad, lo que generó gran incertidumbre entre inversores y empleados. Sin embargo, una semana después, Altman regresó a la empresa, y miembros del consejo que habían votado a favor de su destitución, como el propio Sutskever, fueron desplazados de sus puestos en la junta directiva, aunque Sutskever continuó en la empresa en otro rol.

Innovación vs. Seguridad

Informes de medios como The Wall Street Journal señalaron una pugna interna entre Altman y Sutskever. Sutskever, quien estaba más enfocado en el impacto de la IA en la humanidad, chocaba con Altman, cuyo enfoque principal era continuar con la innovación.

Nuevos Lanzamientos

Esta semana, OpenAI lanzó un nuevo modelo de IA, GPT-4o, junto con una versión de escritorio de ChatGPT y una interfaz actualizada, con el objetivo de facilitar la comunicación de los usuarios por vídeo con su bot conversacional.

La decisión de eliminar el departamento de análisis de riesgos plantea interrogantes sobre el futuro enfoque de OpenAI en cuanto a la seguridad y la gestión de riesgos asociados a la inteligencia artificial, en un momento en que la tecnología avanza rápidamente y su impacto en la sociedad es cada vez más significativo.

Fuente: Noticias Inteligencia Artificial