Ilya Sutskever, ex científico jefe de OpenAI, lanza Safe Superintelligence Inc. para desarrollar una IA segura

Ilya Sutskever, cofundador y ex científico jefe de OpenAI, ha anunciado el lanzamiento de su nueva empresa, Safe Superintelligence Inc. (SSI), un laboratorio de investigación dedicado al desarrollo de una "superinteligencia segura". Este anuncio llega poco después de su salida de OpenAI en mayo, donde desempeñó un papel clave en los avances de la compañía en el campo de la inteligencia artificial.

SSI tiene un objetivo claro: crear una superinteligencia segura avanzando en sus capacidades lo más rápido posible, pero siempre priorizando la seguridad. La empresa busca escalar en paz, centrándose en su enfoque singular en la seguridad y aislándose de las presiones comerciales a corto plazo y la gestión administrativa.

Junto a Sutskever, SSI cuenta con un equipo de cofundadores de alto calibre, incluyendo a Daniel Gross, antiguo director de IA de Apple, y Daniel Levy, ex miembro del personal técnico de OpenAI. A pesar de los intentos de obtener más información sobre los patrocinadores financieros de la empresa, Sutskever ha mantenido un perfil bajo al respecto.

La creación de SSI se produce en un momento interesante, dado que Sutskever fue uno de los que presionó para destituir a Sam Altman como CEO de OpenAI en noviembre de 2023, aunque luego se arrepintió de su decisión. Este episodio parece haber causado una ruptura entre ambos, lo que posiblemente influyó en la decisión de Sutskever de dejar OpenAI y emprender su propio proyecto.

No es la primera vez que ex empleados de OpenAI se separan para iniciar sus propias empresas de IA. En 2021, los hermanos Dario y Daniela Amodei fundaron Anthropic, una startup de IA que también busca posicionarse como más consciente de la seguridad que sus competidores en la industria.

El lanzamiento de Safe Superintelligence Inc. por parte de Ilya Sutskever refleja la creciente preocupación en el sector de la IA por desarrollar sistemas más seguros y controlados. A medida que la carrera por la IA se intensifica, es probable que veamos más iniciativas como esta, centradas en abordar los desafíos éticos y de seguridad que plantea la tecnología.

El futuro dirá si SSI logrará su ambicioso objetivo de crear una superinteligencia segura, pero su enfoque singular y el impresionante equipo detrás del proyecto sugieren que será una empresa a seguir de cerca en los próximos años. La industria de la IA está en constante evolución, y el surgimiento de nuevos actores como Safe Superintelligence Inc. promete mantener el debate sobre la seguridad y la ética en el centro de atención.