No se puede confiar en la autorregulación de las empresas de IA, advierten ex consejeras de OpenAI
Helen Toner y Tasha McCauley, exmiembros de la junta directiva de OpenAI, la empresa desarrolladora de ChatGPT, han expresado su preocupación por la falta de regulación externa en el sector de la inteligencia artificial
Helen Toner y Tasha McCauley, exmiembros de la junta directiva de OpenAI, la empresa desarrolladora de ChatGPT, han expresado su preocupación por la falta de regulación externa en el sector de la inteligencia artificial. En un artículo de opinión publicado en The Economist, las antiguas consejeras han defendido la necesidad de que los organismos reguladores intervengan y establezcan marcos eficaces para garantizar que las compañías de IA rindan cuentas.
Toner y McCauley abandonaron sus puestos en el consejo de administración de OpenAI en noviembre de 2023, tras apoyar la destitución de Sam Altman como CEO. Aunque Altman fue restituido poco después, las exmiembros mantienen su postura y sostienen que el cofundador había creado una "cultura tóxica de la mentira" y había incurrido en un "comportamiento [que] puede caracterizarse como maltrato psicológico".
Desde el regreso de Altman a la junta directiva en marzo de 2024, OpenAI ha sido cuestionada por su compromiso con la seguridad y criticada por el uso de una voz similar a la de la actriz Scarlett Johansson en su nuevo modelo de IA, el GPT-4o. Ante esta situación, Toner y McCauley afirman que no se puede confiar en que la empresa se haga responsable de sus actos y abogan por la intervención gubernamental.
Las antiguas consejeras admiten que en algún momento creyeron que OpenAI podía autorregularse, pero su experiencia les ha demostrado que "el autogobierno no puede resistir de forma fiable la presión de los incentivos económicos". Sin embargo, también advierten que una legislación mal diseñada podría obstaculizar la competencia y la innovación, perjudicando especialmente a las compañías más pequeñas.
En este sentido, Toner y McCauley hacen hincapié en la importancia de que los responsables políticos actúen con independencia de las principales empresas de IA a la hora de desarrollar nuevas normas, evitando lagunas jurídicas y la posibilidad de captación regulatoria.
El debate sobre la regulación de la inteligencia artificial ha cobrado fuerza en los últimos meses, y países como Estados Unidos han comenzado a tomar medidas. El Departamento de Seguridad Nacional anunció en abril la creación de una "Junta de Seguridad y Protección de la Inteligencia Artificial", un órgano consultivo que emitirá recomendaciones para un desarrollo y despliegue seguros de la IA en las infraestructuras críticas del país. Sin embargo, la presencia mayoritaria de representantes de grandes tecnológicas en esta junta ha generado preocupación entre los expertos en ética de la IA, quienes temen que se prioricen los intereses de la industria por encima de la seguridad humana.
Te puede interesar
¿El Fin del Monopolio de Google? La Distribución, no la Tecnología, Define el Futuro de las Búsquedas
El Departamento de Justicia de Estados Unidos (DOJ) ha sacudido los cimientos del imperio tecnológico de Google al proponer medidas que podrían desmantelar su dominio en el mercado de búsquedas en línea
Trump y la Nueva Carrera Armamentística de la IA: EEUU Prepara su 'Proyecto Manhattan' Digital contra China
En un momento crucial para la hegemonía tecnológica global, Estados Unidos está considerando lanzar un ambicioso programa comparable al histórico Proyecto Manhattan, esta vez enfocado en el desarrollo de la Inteligencia Artificial General (AGI)
xAI Supera el Valor de Twitter: La Nueva Apuesta de Musk en IA Alcanza los 47.500 Millones de Euros
La empresa está próxima a cerrar una nueva ronda de financiación que ha atraído a prominentes firmas de capital riesgo, incluyendo Sequoia Capital y Andreessen Horowitz
La Era de la IA Agentica: Nvidia Rompe Récords y Revoluciona el Futuro de la Computación
En medio de una transformación tecnológica sin precedentes, Nvidia ha reportado resultados financieros extraordinarios que confirman el dominio de la compañía en la revolución de la inteligencia artificial
Carrera Armamentista Digital: EE.UU. Propone un "Plan Manhattan de la IA" para Enfrentar a China
La batalla por la supremacía tecnológica entre Estados Unidos y China alcanza un nuevo nivel con la propuesta de una comisión bipartidista del Congreso estadounidense de lanzar un programa similar al histórico Proyecto Manhattan, esta vez enfocado en el desarrollo de inteligencia artificial general (AGI)
Ceo de Nvidia, Jensen Huang, predice un salto "de un millón" en potencia computacional para 2034
El CEO de Nvidia, Jensen Huang, ha lanzado una de las predicciones más audaces en la historia de la computación: la potencia de cálculo se multiplicará por un millón en los próximos diez años
Crisis en el gigante de la IA: El nuevo superchip de Nvidia enfrenta problemas críticos de sobrecalentamiento
El futuro de la inteligencia artificial podría retrasarse debido a un inesperado obstáculo técnico. Blackwell, el revolucionario chip de Nvidia que promete duplicar la velocidad de procesamiento en IA, enfrenta serios problemas de sobrecalentamiento que han obligado a la compañía a rediseñar sus sistemas de refrigeración
El Secreto detrás del Éxito de Nvidia: Cómo la Computación Paralela Revoluciona la Era de la IA
La reciente coronación de Nvidia como la empresa más valiosa del mundo no es producto del azar. Un concepto aparentemente simple, la computación paralela, combinado con una visión estratégica del futuro tecnológico, ha catapultado a la compañía hacia la cima del mercado global, transformando radicalmente el panorama de la inteligencia artificial
Brasil Reinventa su Futuro Digital: La IA se Convierte en Aliada Ambiental
Brasil está escribiendo un nuevo capítulo en la historia de la innovación empresarial, donde la inteligencia artificial emerge como protagonista en la lucha contra el cambio climático