OpenAI disuelve su equipo dedicado a estudiar los riesgos a largo plazo de la IA
OpenAI, la empresa detrás de ChatGPT, ha confirmado que su equipo de "Superalineación", encargado de analizar y prepararse para los peligros a largo plazo de la inteligencia artificial superinteligente, ha sido disuelto
OpenAI, la empresa detrás de ChatGPT, ha confirmado que su equipo de "Superalineación", encargado de analizar y prepararse para los peligros a largo plazo de la inteligencia artificial superinteligente, ha sido disuelto. Esta noticia llega tras la marcha de varios investigadores clave, incluyendo a Ilya Sutskever, cofundador y científico jefe de OpenAI, y Jan Leike, quien era el otro colíder del equipo.
El equipo de Superalineación fue anunciado en julio del año pasado, con el objetivo de preparar a la empresa para la llegada de una IA capaz de superar a sus creadores. Sin embargo, menos de un año después, todo el equipo ha dimitido o ha sido absorbido por otros grupos de investigación dentro de OpenAI.
La marcha de Sutskever ha llamado especialmente la atención, ya que fue uno de los cuatro miembros de la Junta que despidió al CEO Sam Altman en noviembre, antes de que este fuera restituido tras una revuelta masiva del personal y la mediación de un acuerdo que llevó a Sutskever y otros dos directores a abandonar la Junta.
Por su parte, Jan Leike anunció su dimisión horas después de que se hiciera pública la salida de Sutskever, citando desacuerdos sobre las prioridades de la empresa y la cantidad de recursos asignados a su equipo. Leike afirmó que en los últimos meses habían estado "navegando contra el viento" y enfrentando problemas de computación para llevar a cabo su investigación.
Además de Sutskever y Leike, otros dos investigadores del equipo de Superalineación, Leopold Aschenbrenner y Pavel Izmailov, fueron despedidos por filtrar secretos de la empresa, mientras que William Saunders abandonó OpenAI en febrero. Otros dos investigadores que trabajaban en política y gobernanza de la IA, Cullen O'Keefe y Daniel Kokotajlo, también parecen haber dejado la empresa recientemente.
OpenAI ha declinado hacer comentarios sobre estas salidas o sobre el futuro de su trabajo sobre los riesgos de la IA a largo plazo. La investigación sobre los riesgos asociados a modelos más potentes correrá a cargo de John Schulman, quien coordina el equipo responsable de ajustar los modelos de IA tras el entrenamiento.
La disolución del equipo de Superalineación se produce en un momento en que OpenAI está presentando avances significativos en su tecnología, como GPT-4o, un nuevo modelo de IA "multimodal" que permite a ChatGPT ver el mundo y conversar de una forma más natural y humana. Sin embargo, estos avances también plantean cuestiones éticas en torno a la privacidad, la manipulación emocional y los riesgos de ciberseguridad.
Aunque OpenAI cuenta con otro grupo de investigación, el equipo Preparedness, que se centra en estas cuestiones, la salida de figuras clave como Sutskever y Leike, así como la disolución del equipo de Superalineación, podrían generar dudas sobre el compromiso de la empresa con el desarrollo seguro y responsable de la IA superinteligente. El futuro dirá cómo afectarán estos cambios a la trayectoria de OpenAI y a su capacidad para cumplir con su misión de crear una IA beneficiosa para la humanidad.
Te puede interesar
Meta impulsa el desarrollo tecnológico argentino: Zuckerberg anuncia expansión de IA y respaldo a Milei
Mark Zuckerberg, fundador de Facebook y actual presidente de Meta, reafirmó su compromiso con el desarrollo digital del país durante el Meta Day, evidenciando la creciente relevancia de Argentina en el mapa tecnológico mundial
Near Protocol revoluciona la IA: El ambicioso plan para crear el modelo de código abierto más grande del mundo
Near Protocol ha lanzado un proyecto sin precedentes para desarrollar el modelo de inteligencia artificial de código abierto más potente jamás creado, con 1.4 billones de parámetros que triplicarían el tamaño del actual Llama de Meta
China avanza al yuan digital: La nueva billetera física con código que desafía el dominio de WeChat y Alipay
El Banco Popular de China ha dado un paso audaz en la evolución del yuan digital con el lanzamiento de una innovadora tarjeta de pago física, presentada en la 18ª Exposición Financiera Internacional de Shenzhen
De la ficción a la realidad: Google trabaja en Jarvis, una IA autónoma que rivaliza con el asistente de Iron Man
El sueño de Tony Stark podría estar más cerca de materializarse de lo que imaginamos. Google ha filtrado detalles de su ambicioso Proyecto Jarvis, una iniciativa que pretende revolucionar la interacción humano-máquina mediante un agente de inteligencia artificial universal que trasciende las capacidades de los asistentes virtuales actuales
Cómo Anthropic desafía el reinado de OpenAI en la batalla por el dominio de la IA
El panorama de la inteligencia artificial experimenta una transformación significativa mientras Anthropic, respaldada por Amazon, emerge como un serio contendiente frente al dominio de OpenAI
OpenAI busca transformarse en empresa con fines de lucro: Las implicaciones del giro estratégico en el gigante de la IA
Esta movida estratégica marca un punto de inflexión en la trayectoria de una organización que nació en 2015 con la misión benévola de desarrollar inteligencia artificial segura y beneficiosa para la humanidad
Las apuestas empresariales de Elon Musk ante las elecciones EEUU: Beneficios y riesgos bajo Trump o Harris
El multimillonario Elon Musk ha apostado fuertemente por Donald Trump en las elecciones presidenciales estadounidenses, invirtiendo recursos significativos y capital político en la campaña republicana
La IA revoluciona la búsqueda laboral: LinkedIn apuesta por tecnología inteligente para resolver el desgaste en la contratación
La plataforma profesional implementa nuevas herramientas tecnológicas para enfrentar un sistema de reclutamiento que, según Rohan Rajiv, responsable de productos profesionales de la compañía, "parece roto"
Apple posterga el lanzamiento de Vision Pro económico: La realidad aumentada deberá esperar hasta 2027
La revolución de la realidad aumentada accesible tendrá que esperar. Apple ha confirmado que la versión económica de sus Vision Pro no llegará al mercado hasta, al menos, 2027, manteniendo su estrategia premium en el segmento de la realidad mixta