En la era digital actual, la proliferación de contenido generado por inteligencia artificial (IA) ha dado lugar a un problema creciente: la desinformación
Tecnología20/06/2024 13News-TecnologíaEn la era digital actual, la proliferación de contenido generado por inteligencia artificial (IA) ha dado lugar a un problema creciente: la desinformación. Con la capacidad de crear imágenes, videos y audios hiperrealistas, los deepfakes se han convertido en una herramienta poderosa para quienes buscan manipular la opinión pública, especialmente en el ámbito político. Frente a este desafío, un grupo de startups innovadoras está desarrollando tecnologías para combatir la desinformación basada en IA, ofreciendo esperanza en la lucha contra este fenómeno en constante evolución.
El auge de los deepfakes y su impacto
El caso de la foto manipulada del expresidente estadounidense Donald Trump abrazando a votantes negros es solo un ejemplo de cómo los deepfakes pueden engañar al público. Según la plataforma de verificación Sumsub, el número de deepfakes se ha multiplicado por diez entre 2022 y 2023, lo que subraya la magnitud del problema.
La facilidad con la que se pueden crear contenidos falsos utilizando plataformas como ElevenLabs y Sora de OpenAI ha llevado a un aumento de las campañas de desinformación, especialmente en el contexto de las elecciones globales de 2024. Además, los estafadores están aprovechando esta tecnología para perpetrar fraudes financieros, como lo demuestra el caso de Arup, que perdió 25 millones de dólares debido a un video deepfake.
La brecha de género en startups españolas: Desafíos y oportunidades para emprendedoras en tecnologíaStartups en la vanguardia de la lucha contra la desinformación
Ante este panorama, varias startups están desarrollando soluciones innovadoras para combatir la desinformación:
1. Checkstep: Fundada por Guillaume Bouchard en 2020, esta plataforma de moderación de contenidos utiliza IA para identificar desinformación, suplantación de identidad y contenido nocivo en grandes plataformas como Twitter y Facebook. Colabora con NewsGuard y Logically para verificar afirmaciones en línea.
2. ElevenLabs: Después de enfrentar controversias por el mal uso de su tecnología de voz sintética, la startup lanzó una herramienta de detección de audio que puede identificar si un contenido ha sido generado utilizando su tecnología.
3. Reality Defender: Esta startup con sede en Nueva York ofrece una API y una aplicación web que permite a los usuarios empresariales analizar contenidos y determinar si han sido modificados por IA.
4. Factmata: Aunque fue adquirida por Cision en 2022, esta startup inicialmente se enfocaba en moderar la propagación de información errónea y noticias falsas en internet.
Desafíos en la detección y prevención de deepfakes
A pesar de los avances tecnológicos, la lucha contra la desinformación basada en IA enfrenta varios desafíos:
1. Adaptabilidad: Las herramientas de moderación deben adaptarse a las diferentes necesidades de las plataformas, como señala Guillaume Bouchard de Checkstep.
2. Financiación: Algunas startups enfrentan dificultades para obtener financiación, ya que los inversores pueden ver la confianza y la seguridad como temas difíciles de vender.
3. Responsabilidad: Existe un debate sobre quién debe ser responsable de garantizar que no se difunda la desinformación: las plataformas o los usuarios.
4. Escala del problema: La cantidad y variedad de contenido generado por IA hace que sea un desafío constante mantenerse al día con las nuevas formas de desinformación.
El papel de la regulación y las grandes empresas tecnológicas
Expertos como Bruna de Castro e Silva, de la startup de seguridad de IA Saidot, argumentan que se necesita un enfoque colectivo que incluya a fundadores, responsables políticos y conglomerados tecnológicos para abordar eficazmente el problema de la desinformación.
Algunas grandes empresas tecnológicas están tomando medidas. Por ejemplo, Meta está en conversaciones para crear un equipo dedicado a abordar la desinformación y el abuso de la IA generativa. Sin embargo, muchos argumentan que se necesita una regulación más estricta para obligar a los desarrolladores de tecnología de IA generativa a permitir a los usuarios identificar y etiquetar cualquier contenido sintético.
El factor humano en la propagación de la desinformación
Los fundadores de estas startups reconocen que la psique humana juega un papel crucial en la difusión de la desinformación. La parcialidad y la tendencia de las personas a creer lo que quieren creer, incluso cuando se les dice que no es verdad, son factores importantes que contribuyen al problema.
Guillaume Bouchard de Checkstep señala que la desinformación no es exclusiva de un solo lado del espectro político, lo que complica aún más los esfuerzos para combatirla.
El futuro de la lucha contra la desinformación de IA
A medida que la tecnología de IA continúa avanzando, es probable que veamos una carrera constante entre quienes crean deepfakes y quienes desarrollan herramientas para detectarlos. Las startups que trabajan en este campo deberán mantenerse ágiles y adaptarse rápidamente a las nuevas formas de desinformación que surjan.
La educación del público también jugará un papel crucial. Enseñar a las personas a identificar contenido potencialmente falso y a pensar críticamente sobre la información que consumen en línea será tan importante como las soluciones tecnológicas.
La lucha contra la desinformación basada en IA es un desafío complejo que requiere un enfoque multifacético. Las startups innovadoras están a la vanguardia de este esfuerzo, desarrollando herramientas sofisticadas para detectar y prevenir la propagación de deepfakes y otros contenidos manipulados.
Sin embargo, la tecnología por sí sola no es suficiente. Se necesita una combinación de soluciones tecnológicas, regulación efectiva, educación pública y colaboración entre todos los actores involucrados para abordar eficazmente este problema.
A medida que avanzamos hacia un futuro donde la IA será cada vez más omnipresente, es crucial que continuemos invirtiendo en investigación y desarrollo de soluciones para combatir la desinformación. Solo a través de un esfuerzo sostenido y colaborativo podremos esperar mantener la integridad de nuestra información en la era digital.
Luis Caputo confirmó que USD 20.085 millones corresponden a efectivo, mientras que USD 2.432 millones provienen de otros conceptos como cuentas bancarias y bienes registrables
El Ministerio de Capital Humano enfrenta una nueva reorganización tras la salida de Yanina Nano Lembo de la Secretaría de Niñez, Adolescencia y Familia, en medio de controversias por gastos cuestionados y como parte de una reestructuración más amplia impulsada por la ministra Sandra Pettovello
Esta movida estratégica marca un punto de inflexión en la trayectoria de una organización que nació en 2015 con la misión benévola de desarrollar inteligencia artificial segura y beneficiosa para la humanidad
El multimillonario Elon Musk ha apostado fuertemente por Donald Trump en las elecciones presidenciales estadounidenses, invirtiendo recursos significativos y capital político en la campaña republicana
La plataforma profesional implementa nuevas herramientas tecnológicas para enfrentar un sistema de reclutamiento que, según Rohan Rajiv, responsable de productos profesionales de la compañía, "parece roto"
La revolución de la realidad aumentada accesible tendrá que esperar. Apple ha confirmado que la versión económica de sus Vision Pro no llegará al mercado hasta, al menos, 2027, manteniendo su estrategia premium en el segmento de la realidad mixta
En su informe trimestral correspondiente al último periodo de 2024, la entidad destaca las ventajas operativas y económicas que esta tecnología podría aportar al sistema actual
David Reger, CEO de la innovadora empresa de robótica Neura Robotics, ha salido en defensa del proyecto de Elon Musk, ofreciendo una perspectiva única desde dentro de la industria que desafía las críticas iniciales
Este desarrollo representa un avance sustancial sobre las limitaciones actuales de Bitcoin y otros sistemas blockchain, combinando la eficiencia energética con niveles sin precedentes de privacidad
La introducción de ChatGPT Search, anunciada el 31 de octubre, representa más que una simple actualización: es una declaración de intenciones en la guerra por el dominio de las búsquedas online Esta nueva funcionalidad promete transformar la experiencia de búsqueda tradi
El duelo tecnológico del siglo alcanza nuevas dimensiones. Microsoft y Google, gigantes que superaron las expectativas de Wall Street esta semana, libran una guerra sin cuartel por el dominio de la inteligencia artificial, invirtiendo cifras astronómicas que mantienen en vilo a inversores y analistas
La medida incluye la desregulación completa de los servicios de rampa y habilita la participación de empresas privadas, marcando "el fin de Intercargo tal como lo conocemos", según anunció el vocero presidencial Manuel Adorni
El gobierno estableció un plazo hasta el viernes para que los gremios presenten una propuesta viable, caso contrario implementará un Procedimiento Preventivo de Crisis
Un grave incidente con tintes antisemitas en Ámsterdam desencadenó una crisis diplomática entre Israel y Países Bajos, tras los ataques sufridos por aficionados del Maccabi Tel Aviv después de su partido contra el Ajax
Bitcoin alcanza nuevo récord post Fed: Mercado debate riesgos de apalancamiento en máximos históricos. Sin embargo, analistas advierten sobre riesgos de una potencial compresión de posiciones largas ante la acumulación de "liquidez de alto apalancamiento" alrededor del precio actual
El presidente argentino Javier Milei realizará una visita relámpago a Mar-a-Lago el 14 de noviembre, convirtiéndose en el único mandatario latinoamericano invitado a reunirse con Donald Trump tras su victoria electoral
La reforma aerocomercial, diseñada por el ministro Federico Sturzenegger junto al secretario Franco Mogetta y el subsecretario Hernán Gómez, contempla una apertura sin precedentes del mercado
La tensión entre descentralización y regulación en el mundo de las finanzas descentralizadas (DeFi) alcanza un punto crítico, según revelan las declaraciones de Agne Linge, experta en Web3 y exdirectora de Binance Lituania
El Kremlin ha puesto en duda las ambiciosas promesas de Donald Trump de resolver el conflicto ucraniano en 24 horas, calificándolas como "exageradas", en lo que representa el primer intercambio diplomático indirecto entre Moscú y el presidente electo estadounidense
La victoria electoral de Donald Trump podría marcar un punto de inflexión histórico para la industria de las criptomonedas, con perspectivas de una reforma radical en la regulación del sector y posibles cambios en el liderazgo de la SEC
