No se puede confiar en la autorregulación de las empresas de IA, advierten ex consejeras de OpenAI
Helen Toner y Tasha McCauley, exmiembros de la junta directiva de OpenAI, la empresa desarrolladora de ChatGPT, han expresado su preocupación por la falta de regulación externa en el sector de la inteligencia artificial
Helen Toner y Tasha McCauley, exmiembros de la junta directiva de OpenAI, la empresa desarrolladora de ChatGPT, han expresado su preocupación por la falta de regulación externa en el sector de la inteligencia artificial. En un artículo de opinión publicado en The Economist, las antiguas consejeras han defendido la necesidad de que los organismos reguladores intervengan y establezcan marcos eficaces para garantizar que las compañías de IA rindan cuentas.
Toner y McCauley abandonaron sus puestos en el consejo de administración de OpenAI en noviembre de 2023, tras apoyar la destitución de Sam Altman como CEO. Aunque Altman fue restituido poco después, las exmiembros mantienen su postura y sostienen que el cofundador había creado una "cultura tóxica de la mentira" y había incurrido en un "comportamiento [que] puede caracterizarse como maltrato psicológico".
Desde el regreso de Altman a la junta directiva en marzo de 2024, OpenAI ha sido cuestionada por su compromiso con la seguridad y criticada por el uso de una voz similar a la de la actriz Scarlett Johansson en su nuevo modelo de IA, el GPT-4o. Ante esta situación, Toner y McCauley afirman que no se puede confiar en que la empresa se haga responsable de sus actos y abogan por la intervención gubernamental.
Las antiguas consejeras admiten que en algún momento creyeron que OpenAI podía autorregularse, pero su experiencia les ha demostrado que "el autogobierno no puede resistir de forma fiable la presión de los incentivos económicos". Sin embargo, también advierten que una legislación mal diseñada podría obstaculizar la competencia y la innovación, perjudicando especialmente a las compañías más pequeñas.
En este sentido, Toner y McCauley hacen hincapié en la importancia de que los responsables políticos actúen con independencia de las principales empresas de IA a la hora de desarrollar nuevas normas, evitando lagunas jurídicas y la posibilidad de captación regulatoria.
El debate sobre la regulación de la inteligencia artificial ha cobrado fuerza en los últimos meses, y países como Estados Unidos han comenzado a tomar medidas. El Departamento de Seguridad Nacional anunció en abril la creación de una "Junta de Seguridad y Protección de la Inteligencia Artificial", un órgano consultivo que emitirá recomendaciones para un desarrollo y despliegue seguros de la IA en las infraestructuras críticas del país. Sin embargo, la presencia mayoritaria de representantes de grandes tecnológicas en esta junta ha generado preocupación entre los expertos en ética de la IA, quienes temen que se prioricen los intereses de la industria por encima de la seguridad humana.
Te puede interesar
Meta impulsa el desarrollo tecnológico argentino: Zuckerberg anuncia expansión de IA y respaldo a Milei
Mark Zuckerberg, fundador de Facebook y actual presidente de Meta, reafirmó su compromiso con el desarrollo digital del país durante el Meta Day, evidenciando la creciente relevancia de Argentina en el mapa tecnológico mundial
Near Protocol revoluciona la IA: El ambicioso plan para crear el modelo de código abierto más grande del mundo
Near Protocol ha lanzado un proyecto sin precedentes para desarrollar el modelo de inteligencia artificial de código abierto más potente jamás creado, con 1.4 billones de parámetros que triplicarían el tamaño del actual Llama de Meta
China avanza al yuan digital: La nueva billetera física con código que desafía el dominio de WeChat y Alipay
El Banco Popular de China ha dado un paso audaz en la evolución del yuan digital con el lanzamiento de una innovadora tarjeta de pago física, presentada en la 18ª Exposición Financiera Internacional de Shenzhen
De la ficción a la realidad: Google trabaja en Jarvis, una IA autónoma que rivaliza con el asistente de Iron Man
El sueño de Tony Stark podría estar más cerca de materializarse de lo que imaginamos. Google ha filtrado detalles de su ambicioso Proyecto Jarvis, una iniciativa que pretende revolucionar la interacción humano-máquina mediante un agente de inteligencia artificial universal que trasciende las capacidades de los asistentes virtuales actuales
Cómo Anthropic desafía el reinado de OpenAI en la batalla por el dominio de la IA
El panorama de la inteligencia artificial experimenta una transformación significativa mientras Anthropic, respaldada por Amazon, emerge como un serio contendiente frente al dominio de OpenAI
OpenAI busca transformarse en empresa con fines de lucro: Las implicaciones del giro estratégico en el gigante de la IA
Esta movida estratégica marca un punto de inflexión en la trayectoria de una organización que nació en 2015 con la misión benévola de desarrollar inteligencia artificial segura y beneficiosa para la humanidad
Las apuestas empresariales de Elon Musk ante las elecciones EEUU: Beneficios y riesgos bajo Trump o Harris
El multimillonario Elon Musk ha apostado fuertemente por Donald Trump en las elecciones presidenciales estadounidenses, invirtiendo recursos significativos y capital político en la campaña republicana
La IA revoluciona la búsqueda laboral: LinkedIn apuesta por tecnología inteligente para resolver el desgaste en la contratación
La plataforma profesional implementa nuevas herramientas tecnológicas para enfrentar un sistema de reclutamiento que, según Rohan Rajiv, responsable de productos profesionales de la compañía, "parece roto"
Apple posterga el lanzamiento de Vision Pro económico: La realidad aumentada deberá esperar hasta 2027
La revolución de la realidad aumentada accesible tendrá que esperar. Apple ha confirmado que la versión económica de sus Vision Pro no llegará al mercado hasta, al menos, 2027, manteniendo su estrategia premium en el segmento de la realidad mixta