La Realidad, lo más increíble que tenemos

OCDE actualiza los Principios sobre inteligencia artificial para abordar los riesgos de la IA generativa en seguridad y desinformación

La Organización para la Cooperación y el Desarrollo Económico (OCDE) ha actualizado sus Principios sobre la inteligencia artificial (IA) para adaptarse a las rápidas evoluciones tecnológicas, especialmente a la irrupción de la IA generativa y sus riesgos asociados en términos de seguridad y desinformación

Tecnología04/05/2024 13News-Tecnología

La Organización para la Cooperación y el Desarrollo Económico (OCDE) ha actualizado sus Principios sobre la inteligencia artificial (IA) para adaptarse a las rápidas evoluciones tecnológicas, especialmente a la irrupción de la IA generativa y sus riesgos asociados en términos de seguridad y desinformación.

Los nuevos Principios, aprobados formalmente durante la reunión ministerial anual de la OCDE en París, han sido adoptados por 46 países, incluyendo los 38 miembros de la organización, así como por la Unión Europea. Estos estándares revisados tienen como objetivo servir de referencia para la elaboración de marcos de acción a nivel nacional e internacional.

22123595-647b-4f28-9a71-0b88acfc127f_1600x1200Worldcoin en Argentina: Polémica por escaneo de iris a cambio de criptomonedas y preocupaciones sobre privacidad y seguridad

Una de las principales modificaciones en los nuevos Principios es la mención de "la importancia creciente de luchar contra la desinformación y de preservar la integridad de la información" ante la IA generativa, responsable de la creación de los conocidos como ultrafalsos o 'deepfakes'. La OCDE destaca que, con la IA generativa, la producción de contenidos falsos y difícilmente detectables alcanza una dimensión superior, con consecuencias directas sobre los fenómenos y las campañas de desinformación.

Otro cambio significativo es el énfasis en la seguridad, con la puesta en marcha de "mecanismos y garantías sólidas" para neutralizar, reparar y poner fuera de servicio los sistemas de IA que puedan causar perjuicios injustificados o presentar un comportamiento indeseable.

potencia-supercargadores-v4-tesla-paises-bajos-portadaTesla despide a su equipo de Supercargadores: incertidumbre sobre el futuro de la red de carga para vehículos eléctricos

Asimismo, se hace hincapié en el comportamiento "responsable" de las empresas del sector "todo a lo largo del ciclo de vida de los sistemas de IA", fomentando la cooperación con los proveedores de conocimientos y recursos, así como con los usuarios.

La transparencia también se erige como una regla clave en esta edición revisada, imponiendo la transmisión de informaciones sobre los sistemas de IA que garantice una "divulgación responsable".

fuentes-de-energia-renovable-2356x1178G7 se compromete a eliminar centrales de carbón antes de 2035 en un acuerdo histórico

La OCDE subraya la necesidad de que los países trabajen de manera conjunta para promover la creación de "marcos de gobernanza y de acción interoperables". Mathias Cormann, secretario general de la organización, destacó que estos nuevos Principios "constituyen una referencia mundial para la elaboración de políticas en este campo; favorecen que los marcos de acción sean interoperativos a escala mundial y alientan la innovación centrada en las personas".

La actualización de los Principios sobre la IA por parte de la OCDE refleja la creciente preocupación por los riesgos asociados a la IA generativa, especialmente en términos de seguridad y desinformación. A medida que esta tecnología continúa evolucionando rápidamente, se hace evidente la necesidad de establecer marcos de gobernanza y acción interoperables a nivel global para garantizar un desarrollo responsable y centrado en las personas.

d28a1fd92__1650x450__q85_099044322199Amazon desarrolla en secreto "Proyecto Theia", una IA generadora de imágenes para impulsar las compras online

Los nuevos estándares adoptados por la OCDE y sus países miembros marcan un paso importante en la búsqueda de un equilibrio entre la innovación y la gestión de los riesgos asociados a la IA generativa. Sin embargo, queda por ver cómo estos Principios se traducirán en políticas y acciones concretas a nivel nacional e internacional para abordar los desafíos planteados por esta tecnología en constante evolución.

Te puede interesar
Lo más visto

Suscríbete al newsletter para recibir periódicamente las novedades en tu email