Tecnología 13News-Tecnología 17/05/2024

OpenAI disuelve su equipo dedicado a estudiar los riesgos a largo plazo de la IA

OpenAI, la empresa detrás de ChatGPT, ha confirmado que su equipo de "Superalineación", encargado de analizar y prepararse para los peligros a largo plazo de la inteligencia artificial superinteligente, ha sido disuelto

OpenAI, la empresa detrás de ChatGPT, ha confirmado que su equipo de "Superalineación", encargado de analizar y prepararse para los peligros a largo plazo de la inteligencia artificial superinteligente, ha sido disuelto. Esta noticia llega tras la marcha de varios investigadores clave, incluyendo a Ilya Sutskever, cofundador y científico jefe de OpenAI, y Jan Leike, quien era el otro colíder del equipo.

El equipo de Superalineación fue anunciado en julio del año pasado, con el objetivo de preparar a la empresa para la llegada de una IA capaz de superar a sus creadores. Sin embargo, menos de un año después, todo el equipo ha dimitido o ha sido absorbido por otros grupos de investigación dentro de OpenAI.

Android incorpora IA para detectar robos de teléfonos y proteger la información del usuario

La marcha de Sutskever ha llamado especialmente la atención, ya que fue uno de los cuatro miembros de la Junta que despidió al CEO Sam Altman en noviembre, antes de que este fuera restituido tras una revuelta masiva del personal y la mediación de un acuerdo que llevó a Sutskever y otros dos directores a abandonar la Junta.

Por su parte, Jan Leike anunció su dimisión horas después de que se hiciera pública la salida de Sutskever, citando desacuerdos sobre las prioridades de la empresa y la cantidad de recursos asignados a su equipo. Leike afirmó que en los últimos meses habían estado "navegando contra el viento" y enfrentando problemas de computación para llevar a cabo su investigación.

La inteligencia artificial impulsa el crecimiento empresarial en América Latina: Estudio revela alto nivel de adopción y entusiasmo

Además de Sutskever y Leike, otros dos investigadores del equipo de Superalineación, Leopold Aschenbrenner y Pavel Izmailov, fueron despedidos por filtrar secretos de la empresa, mientras que William Saunders abandonó OpenAI en febrero. Otros dos investigadores que trabajaban en política y gobernanza de la IA, Cullen O'Keefe y Daniel Kokotajlo, también parecen haber dejado la empresa recientemente.

OpenAI ha declinado hacer comentarios sobre estas salidas o sobre el futuro de su trabajo sobre los riesgos de la IA a largo plazo. La investigación sobre los riesgos asociados a modelos más potentes correrá a cargo de John Schulman, quien coordina el equipo responsable de ajustar los modelos de IA tras el entrenamiento.

Top 5 criptonoticias de la semana: El Salvador, Argentina, nuevas monedas, minería china y Tornado Cash

La disolución del equipo de Superalineación se produce en un momento en que OpenAI está presentando avances significativos en su tecnología, como GPT-4o, un nuevo modelo de IA "multimodal" que permite a ChatGPT ver el mundo y conversar de una forma más natural y humana. Sin embargo, estos avances también plantean cuestiones éticas en torno a la privacidad, la manipulación emocional y los riesgos de ciberseguridad.

Aunque OpenAI cuenta con otro grupo de investigación, el equipo Preparedness, que se centra en estas cuestiones, la salida de figuras clave como Sutskever y Leike, así como la disolución del equipo de Superalineación, podrían generar dudas sobre el compromiso de la empresa con el desarrollo seguro y responsable de la IA superinteligente. El futuro dirá cómo afectarán estos cambios a la trayectoria de OpenAI y a su capacidad para cumplir con su misión de crear una IA beneficiosa para la humanidad.

Te puede interesar

Meta impulsa el desarrollo tecnológico argentino: Zuckerberg anuncia expansión de IA y respaldo a Milei

Mark Zuckerberg, fundador de Facebook y actual presidente de Meta, reafirmó su compromiso con el desarrollo digital del país durante el Meta Day, evidenciando la creciente relevancia de Argentina en el mapa tecnológico mundial

Near Protocol revoluciona la IA: El ambicioso plan para crear el modelo de código abierto más grande del mundo

Near Protocol ha lanzado un proyecto sin precedentes para desarrollar el modelo de inteligencia artificial de código abierto más potente jamás creado, con 1.4 billones de parámetros que triplicarían el tamaño del actual Llama de Meta

China avanza al yuan digital: La nueva billetera física con código que desafía el dominio de WeChat y Alipay

El Banco Popular de China ha dado un paso audaz en la evolución del yuan digital con el lanzamiento de una innovadora tarjeta de pago física, presentada en la 18ª Exposición Financiera Internacional de Shenzhen

De la ficción a la realidad: Google trabaja en Jarvis, una IA autónoma que rivaliza con el asistente de Iron Man

El sueño de Tony Stark podría estar más cerca de materializarse de lo que imaginamos. Google ha filtrado detalles de su ambicioso Proyecto Jarvis, una iniciativa que pretende revolucionar la interacción humano-máquina mediante un agente de inteligencia artificial universal que trasciende las capacidades de los asistentes virtuales actuales

Cómo Anthropic desafía el reinado de OpenAI en la batalla por el dominio de la IA

El panorama de la inteligencia artificial experimenta una transformación significativa mientras Anthropic, respaldada por Amazon, emerge como un serio contendiente frente al dominio de OpenAI

OpenAI busca transformarse en empresa con fines de lucro: Las implicaciones del giro estratégico en el gigante de la IA

Esta movida estratégica marca un punto de inflexión en la trayectoria de una organización que nació en 2015 con la misión benévola de desarrollar inteligencia artificial segura y beneficiosa para la humanidad

Las apuestas empresariales de Elon Musk ante las elecciones EEUU: Beneficios y riesgos bajo Trump o Harris

El multimillonario Elon Musk ha apostado fuertemente por Donald Trump en las elecciones presidenciales estadounidenses, invirtiendo recursos significativos y capital político en la campaña republicana

La IA revoluciona la búsqueda laboral: LinkedIn apuesta por tecnología inteligente para resolver el desgaste en la contratación

La plataforma profesional implementa nuevas herramientas tecnológicas para enfrentar un sistema de reclutamiento que, según Rohan Rajiv, responsable de productos profesionales de la compañía, "parece roto"

Apple posterga el lanzamiento de Vision Pro económico: La realidad aumentada deberá esperar hasta 2027

La revolución de la realidad aumentada accesible tendrá que esperar. Apple ha confirmado que la versión económica de sus Vision Pro no llegará al mercado hasta, al menos, 2027, manteniendo su estrategia premium en el segmento de la realidad mixta