Helen Toner y Tasha McCauley, exmiembros de la junta directiva de OpenAI, la empresa desarrolladora de ChatGPT, han expresado su preocupación por la falta de regulación externa en el sector de la inteligencia artificial. En un artículo de opinión publicado en The Economist, las antiguas consejeras han defendido la necesidad de que los organismos reguladores intervengan y establezcan marcos eficaces para garantizar que las compañías de IA rindan cuentas.

Toner y McCauley abandonaron sus puestos en el consejo de administración de OpenAI en noviembre de 2023, tras apoyar la destitución de Sam Altman como CEO. Aunque Altman fue restituido poco después, las exmiembros mantienen su postura y sostienen que el cofundador había creado una "cultura tóxica de la mentira" y había incurrido en un "comportamiento [que] puede caracterizarse como maltrato psicológico".

xAI, la startup de IA de Elon Musk, recauda 6.000 millones de dólares para competir con OpenAI y ChatGPT

Desde el regreso de Altman a la junta directiva en marzo de 2024, OpenAI ha sido cuestionada por su compromiso con la seguridad y criticada por el uso de una voz similar a la de la actriz Scarlett Johansson en su nuevo modelo de IA, el GPT-4o. Ante esta situación, Toner y McCauley afirman que no se puede confiar en que la empresa se haga responsable de sus actos y abogan por la intervención gubernamental.

Las antiguas consejeras admiten que en algún momento creyeron que OpenAI podía autorregularse, pero su experiencia les ha demostrado que "el autogobierno no puede resistir de forma fiable la presión de los incentivos económicos". Sin embargo, también advierten que una legislación mal diseñada podría obstaculizar la competencia y la innovación, perjudicando especialmente a las compañías más pequeñas.

Reservas internacionales en riesgo: el Banco Central enfrenta el desafío de evitar pérdidas en el segundo semestre

En este sentido, Toner y McCauley hacen hincapié en la importancia de que los responsables políticos actúen con independencia de las principales empresas de IA a la hora de desarrollar nuevas normas, evitando lagunas jurídicas y la posibilidad de captación regulatoria.

El debate sobre la regulación de la inteligencia artificial ha cobrado fuerza en los últimos meses, y países como Estados Unidos han comenzado a tomar medidas. El Departamento de Seguridad Nacional anunció en abril la creación de una "Junta de Seguridad y Protección de la Inteligencia Artificial", un órgano consultivo que emitirá recomendaciones para un desarrollo y despliegue seguros de la IA en las infraestructuras críticas del país. Sin embargo, la presencia mayoritaria de representantes de grandes tecnológicas en esta junta ha generado preocupación entre los expertos en ética de la IA, quienes temen que se prioricen los intereses de la industria por encima de la seguridad humana.