Tecnología 13News-Tecnología 20/06/2024

La lucha contra la desinformación de IA: Startups innovadoras y desafíos en la era de los deepfakes

En la era digital actual, la proliferación de contenido generado por inteligencia artificial (IA) ha dado lugar a un problema creciente: la desinformación

En la era digital actual, la proliferación de contenido generado por inteligencia artificial (IA) ha dado lugar a un problema creciente: la desinformación. Con la capacidad de crear imágenes, videos y audios hiperrealistas, los deepfakes se han convertido en una herramienta poderosa para quienes buscan manipular la opinión pública, especialmente en el ámbito político. Frente a este desafío, un grupo de startups innovadoras está desarrollando tecnologías para combatir la desinformación basada en IA, ofreciendo esperanza en la lucha contra este fenómeno en constante evolución.

Guillermo Francos a los Ministros: "Pongan la firma y háganse cargo de la gestión"

El auge de los deepfakes y su impacto

El caso de la foto manipulada del expresidente estadounidense Donald Trump abrazando a votantes negros es solo un ejemplo de cómo los deepfakes pueden engañar al público. Según la plataforma de verificación Sumsub, el número de deepfakes se ha multiplicado por diez entre 2022 y 2023, lo que subraya la magnitud del problema.

La facilidad con la que se pueden crear contenidos falsos utilizando plataformas como ElevenLabs y Sora de OpenAI ha llevado a un aumento de las campañas de desinformación, especialmente en el contexto de las elecciones globales de 2024. Además, los estafadores están aprovechando esta tecnología para perpetrar fraudes financieros, como lo demuestra el caso de Arup, que perdió 25 millones de dólares debido a un video deepfake.

La brecha de género en startups españolas: Desafíos y oportunidades para emprendedoras en tecnología

Startups en la vanguardia de la lucha contra la desinformación

Ante este panorama, varias startups están desarrollando soluciones innovadoras para combatir la desinformación:

1. Checkstep: Fundada por Guillaume Bouchard en 2020, esta plataforma de moderación de contenidos utiliza IA para identificar desinformación, suplantación de identidad y contenido nocivo en grandes plataformas como Twitter y Facebook. Colabora con NewsGuard y Logically para verificar afirmaciones en línea.

2. ElevenLabs: Después de enfrentar controversias por el mal uso de su tecnología de voz sintética, la startup lanzó una herramienta de detección de audio que puede identificar si un contenido ha sido generado utilizando su tecnología.

3. Reality Defender: Esta startup con sede en Nueva York ofrece una API y una aplicación web que permite a los usuarios empresariales analizar contenidos y determinar si han sido modificados por IA.

4. Factmata: Aunque fue adquirida por Cision en 2022, esta startup inicialmente se enfocaba en moderar la propagación de información errónea y noticias falsas en internet.

Milei convoca al Pacto de Mayo en Tucumán mientras el gobernador de Santa Fe reclama obras de infraestructura

Desafíos en la detección y prevención de deepfakes

A pesar de los avances tecnológicos, la lucha contra la desinformación basada en IA enfrenta varios desafíos:

1. Adaptabilidad: Las herramientas de moderación deben adaptarse a las diferentes necesidades de las plataformas, como señala Guillaume Bouchard de Checkstep.

2. Financiación: Algunas startups enfrentan dificultades para obtener financiación, ya que los inversores pueden ver la confianza y la seguridad como temas difíciles de vender.

3. Responsabilidad: Existe un debate sobre quién debe ser responsable de garantizar que no se difunda la desinformación: las plataformas o los usuarios.

4. Escala del problema: La cantidad y variedad de contenido generado por IA hace que sea un desafío constante mantenerse al día con las nuevas formas de desinformación.

El FMI descarta la dolarización completa en Argentina y respalda una competencia de monedas con límites

El papel de la regulación y las grandes empresas tecnológicas

Expertos como Bruna de Castro e Silva, de la startup de seguridad de IA Saidot, argumentan que se necesita un enfoque colectivo que incluya a fundadores, responsables políticos y conglomerados tecnológicos para abordar eficazmente el problema de la desinformación.

Algunas grandes empresas tecnológicas están tomando medidas. Por ejemplo, Meta está en conversaciones para crear un equipo dedicado a abordar la desinformación y el abuso de la IA generativa. Sin embargo, muchos argumentan que se necesita una regulación más estricta para obligar a los desarrolladores de tecnología de IA generativa a permitir a los usuarios identificar y etiquetar cualquier contenido sintético.

El factor humano en la propagación de la desinformación

Los fundadores de estas startups reconocen que la psique humana juega un papel crucial en la difusión de la desinformación. La parcialidad y la tendencia de las personas a creer lo que quieren creer, incluso cuando se les dice que no es verdad, son factores importantes que contribuyen al problema.

Guillaume Bouchard de Checkstep señala que la desinformación no es exclusiva de un solo lado del espectro político, lo que complica aún más los esfuerzos para combatirla.

OpenAI y ChatGPT: La IA que está revolucionando a gigantes como Microsoft, Apple y Google

El futuro de la lucha contra la desinformación de IA

A medida que la tecnología de IA continúa avanzando, es probable que veamos una carrera constante entre quienes crean deepfakes y quienes desarrollan herramientas para detectarlos. Las startups que trabajan en este campo deberán mantenerse ágiles y adaptarse rápidamente a las nuevas formas de desinformación que surjan.

La educación del público también jugará un papel crucial. Enseñar a las personas a identificar contenido potencialmente falso y a pensar críticamente sobre la información que consumen en línea será tan importante como las soluciones tecnológicas.

La lucha contra la desinformación basada en IA es un desafío complejo que requiere un enfoque multifacético. Las startups innovadoras están a la vanguardia de este esfuerzo, desarrollando herramientas sofisticadas para detectar y prevenir la propagación de deepfakes y otros contenidos manipulados.

Sin embargo, la tecnología por sí sola no es suficiente. Se necesita una combinación de soluciones tecnológicas, regulación efectiva, educación pública y colaboración entre todos los actores involucrados para abordar eficazmente este problema.

A medida que avanzamos hacia un futuro donde la IA será cada vez más omnipresente, es crucial que continuemos invirtiendo en investigación y desarrollo de soluciones para combatir la desinformación. Solo a través de un esfuerzo sostenido y colaborativo podremos esperar mantener la integridad de nuestra información en la era digital.

Te puede interesar

OpenAI revoluciona el panorama tecnológico con millonaria inversión y nuevo modelo de código semiabierto

OpenAI marcó un hito histórico en el ecosistema tecnológico al anunciar simultáneamente una ronda de financiación sin precedentes de 40.000 millones de dólares y el desarrollo de su primer modelo de inteligencia artificial con pesos abiertos desde 2019

Musk integra X a su imperio de IA: venta interna por u$d 33 mil millones restructura su ecosistema tecnológico

Elon Musk ha orquestado una reorganización estratégica de sus empresas mediante una transacción interna que implica la venta de la plataforma X (anteriormente Twitter) a xAI, su compañía de inteligencia artificial

Scale AI se adjudica contrato con el Pentágono para llevar agentes de IA al campo militar

La incorporación de sistemas de inteligencia artificial en la toma de decisiones militares acaba de dar un salto cualitativo sin precedentes

Las 5 IA chinas que superan a ChatGPT: Manus y DeepSeek revolucionan el mercado global en 2025

Los avances en inteligencia artificial de compañías chinas están redibujando el panorama tecnológico internacional, con innovaciones que no solo compiten con los gigantes estadounidenses sino que en algunos casos los superan, provocando reacciones significativas en los mercados financieros globales

Las empresas que no adopten IA en sus procesos enfrentarán obsolescencia para 2030

Un reciente análisis efectuado por Elev8 Digital Skills señala que el 91% de los directivos y responsables de equipos digitales corporativos consideran la transformación digital como elemento fundamental para garantizar la supervivencia empresarial durante la próxima década.

Estudio revela riesgos de dependencia emocional y cognitiva por uso excesivo de ChatGPT

Una reciente investigación científica ha encendido alarmas sobre posibles consecuencias psicológicas derivadas del uso intensivo de sistemas de inteligencia artificial conversacional

Jensen Huang mantiene la confianza en Nvidia pese a las preocupaciones sobre demanda de chips de IA

Durante la reciente conferencia GTC en San José, California —considerada por muchos como la "Super Bowl de la inteligencia artificial"— el consejero delegado Jensen Huang demostró una inquebrantable confianza en el futuro de su compañía, a pesar de las crecientes inquietudes entre inversores

Blockchain: La tecnología que redefine nuestro futuro digital entre promesas y desafíos regulatorios

La revolución de la tecnología blockchain continúa expandiéndose más allá de las criptomonedas, transformando sectores tradicionales mientras navega un complejo panorama regulatorio global

Agentes de IA: La revolución silenciosa que está transformando la economía global

La inteligencia artificial ha dejado de ser un concepto abstracto para convertirse en una fuerza transformadora que reconfigura industrias enteras a través de los llamados "agentes de IA"