OCDE actualiza los Principios sobre inteligencia artificial para abordar los riesgos de la IA generativa en seguridad y desinformación

La Organización para la Cooperación y el Desarrollo Económico (OCDE) ha actualizado sus Principios sobre la inteligencia artificial (IA) para adaptarse a las rápidas evoluciones tecnológicas, especialmente a la irrupción de la IA generativa y sus riesgos asociados en términos de seguridad y desinformación.

Los nuevos Principios, aprobados formalmente durante la reunión ministerial anual de la OCDE en París, han sido adoptados por 46 países, incluyendo los 38 miembros de la organización, así como por la Unión Europea. Estos estándares revisados tienen como objetivo servir de referencia para la elaboración de marcos de acción a nivel nacional e internacional.

Una de las principales modificaciones en los nuevos Principios es la mención de "la importancia creciente de luchar contra la desinformación y de preservar la integridad de la información" ante la IA generativa, responsable de la creación de los conocidos como ultrafalsos o 'deepfakes'. La OCDE destaca que, con la IA generativa, la producción de contenidos falsos y difícilmente detectables alcanza una dimensión superior, con consecuencias directas sobre los fenómenos y las campañas de desinformación.

Otro cambio significativo es el énfasis en la seguridad, con la puesta en marcha de "mecanismos y garantías sólidas" para neutralizar, reparar y poner fuera de servicio los sistemas de IA que puedan causar perjuicios injustificados o presentar un comportamiento indeseable.

Asimismo, se hace hincapié en el comportamiento "responsable" de las empresas del sector "todo a lo largo del ciclo de vida de los sistemas de IA", fomentando la cooperación con los proveedores de conocimientos y recursos, así como con los usuarios.

La transparencia también se erige como una regla clave en esta edición revisada, imponiendo la transmisión de informaciones sobre los sistemas de IA que garantice una "divulgación responsable".

La OCDE subraya la necesidad de que los países trabajen de manera conjunta para promover la creación de "marcos de gobernanza y de acción interoperables". Mathias Cormann, secretario general de la organización, destacó que estos nuevos Principios "constituyen una referencia mundial para la elaboración de políticas en este campo; favorecen que los marcos de acción sean interoperativos a escala mundial y alientan la innovación centrada en las personas".

La actualización de los Principios sobre la IA por parte de la OCDE refleja la creciente preocupación por los riesgos asociados a la IA generativa, especialmente en términos de seguridad y desinformación. A medida que esta tecnología continúa evolucionando rápidamente, se hace evidente la necesidad de establecer marcos de gobernanza y acción interoperables a nivel global para garantizar un desarrollo responsable y centrado en las personas.

Los nuevos estándares adoptados por la OCDE y sus países miembros marcan un paso importante en la búsqueda de un equilibrio entre la innovación y la gestión de los riesgos asociados a la IA generativa. Sin embargo, queda por ver cómo estos Principios se traducirán en políticas y acciones concretas a nivel nacional e internacional para abordar los desafíos planteados por esta tecnología en constante evolución.