AP.- Un exlíder de OpenAI que renunció a la compañía a principios de esta semana dijo el viernes que la seguridad ha “pasado a un segundo plano frente a los productos brillantes” en la influyente compañía de inteligencia artificial.
Jan Leike, quien dirigió el equipo «Super Alignment» de OpenAI junto con un cofundador de la compañía que también renunció esta semana, escribió en una serie de publicaciones en la plataforma de redes sociales X que se unió a la compañía con sede en San Francisco porque pensó que sería el mejor lugar para realizar investigaciones sobre IA.
«Sin embargo, he estado en desacuerdo con el liderazgo de OpenAI sobre las prioridades centrales de la compañía durante bastante tiempo, hasta que finalmente llegamos a un punto de ruptura», escribió Leike, cuyo último día fue el jueves.
Leike, investigador de IA de formación, dijo que cree que debería prestarse más atención a la preparación para la próxima generación de modelos de IA, incluso en aspectos como la seguridad y el análisis de los impactos sociales de dichas tecnologías. Dijo que construir «máquinas más inteligentes que las humanas es una tarea intrínsecamente peligrosa» y que la empresa «está asumiendo una enorme responsabilidad en nombre de toda la humanidad».
“OpenAI debe convertirse en una empresa AGI que priorice la seguridad”, escribió Leike utilizando la versión abreviada de inteligencia artificial general , una visión futurista de máquinas que son tan inteligentes como los humanos o que al menos pueden hacer muchas cosas tan bien como las personas.
La renuncia de Leike se produjo después de que el cofundador y científico jefe de OpenAI, Ilya Sutskever, dijera el martes que dejaría la compañía después de casi una década. Sutskever fue uno de los cuatro miembros de la junta directiva que el otoño pasado votaron para destituir al director ejecutivo Sam Altman , sólo para reinstalarlo rápidamente . Fue Sutskever quien le dijo a Altman en noviembre pasado que lo iban a despedir, pero luego dijo que se arrepentía de haberlo hecho.
Sutskever dijo que está trabajando en un nuevo proyecto que es significativo para él sin ofrecer detalles adicionales. Jakub Pachocki lo sustituirá como científico jefe. Altman llamó a Pachocki “también fácilmente una de las mentes más brillantes de nuestra generación” y dijo que está “muy seguro de que nos llevará a lograr un progreso rápido y seguro hacia nuestra misión de garantizar que AGI beneficie a todos”.
El lunes, OpenAI mostró la última actualización de su modelo de inteligencia artificial, que puede imitar las cadencias humanas en sus respuestas verbales e incluso puede intentar detectar el estado de ánimo de las personas.
