Eric Schmidt, ex-CEO de Google, advierte sobre los riesgos de la IA y propone una solución
Eric Schmidt, antiguo director ejecutivo de Google, ha compartido algunas predicciones inquietantes sobre los riesgos de la inteligencia artificial durante su intervención en la conferencia tecnológica VivaTech 2024 en París
Eric Schmidt, antiguo director ejecutivo de Google, ha compartido algunas predicciones inquietantes sobre los riesgos de la inteligencia artificial durante su intervención en la conferencia tecnológica VivaTech 2024 en París. Schmidt, quien ha invertido en varias empresas de IA desde que dejó su puesto en Google, ha afirmado que si los ordenadores desarrollan libre albedrío, la solución podría ser tan simple como desenchufarlos.
La amenaza del libre albedrío de los ordenadores
Durante su participación en VivaTech 2024, Schmidt planteó la cuestión: "Por cierto, ¿sabéis qué vamos a hacer cuando los ordenadores tengan libre albedrío? Vamos a desenchufarlos". Esta declaración ha generado un debate sobre la posibilidad de que los sistemas de IA tomen consciencia y la capacidad de la humanidad para enfrentarse a este escenario. Yoav Shoham, cofundador y codirector ejecutivo de AI21 Labs, le replicó: "A ver quién desenchufa a quién".
Inversiones en la lucha contra los riesgos de la IA
A pesar de sus advertencias, Schmidt ha invertido en esfuerzos para combatir los riesgos de la IA. El ex-CEO de Google se asoció con OpenAI para lanzar un programa de subvenciones de 10 millones de dólares destinado a apoyar la investigación técnica con el equipo Superalineación, que se dedicaba a gestionar los riesgos asociados a la inteligencia artificial. Aunque este equipo se disolvió recientemente, OpenAI planea seguir adelante con el programa de subvenciones.
La desinformación y los deepfakes
Schmidt ha señalado que, actualmente, la forma que tiene la IA no es tan peligrosa, a excepción de la desinformación, que considera "fuera de control" y un "verdadero problema para las democracias". La aparición de la inteligencia artificial en los últimos dos años ha agravado el problema de la desinformación, con estudios que demuestran que varios sistemas de IA han aprendido a inducir "falsas creencias para lograr algún resultado distinto de la verdad". Además, los deepfakes, especialmente en el ámbito de la pornografía generada por IA, se han convertido en una preocupación creciente.
Los verdaderos peligros: ataques cibernéticos y biológicos
Según Schmidt, los verdaderos peligros de los grandes modelos lingüísticos que impulsan la inteligencia artificial son los ataques cibernéticos y biológicos, que todavía no han llegado, pero que podrían hacerlo en tres o cinco años. Estas amenazas, advierte el ex-CEO de Google, son las que realmente deberían preocuparnos.
Las advertencias de Eric Schmidt sobre los riesgos de la inteligencia artificial, especialmente en lo que respecta al libre albedrío de los ordenadores y la posibilidad de ataques cibernéticos y biológicos, ponen de manifiesto la necesidad de encontrar un equilibrio en la regulación de la IA para garantizar que no se estrangule la innovación al tiempo que se abordan los peligros potenciales. Aunque la solución propuesta por Schmidt de desenchufar los sistemas de IA puede parecer simplista, subraya la importancia de estar preparados para enfrentar estos desafíos en un futuro cercano.
Te puede interesar
Microsoft recorta 9000 empleos por cambios organizativos
La tecnológica estadounidense Microsoft anunció la eliminación de aproximadamente 9000 puestos laborales, convirtiéndose en la tercera iniciativa de reducción de personal que implementa la compañía durante 2025
¿Qué son los Modelos mundo?: la apuesta tecnológica para superar nuevos límites en desarrollo de Inteligencia Artificial
La carrera por dominar la inteligencia artificial ha tomado un giro inesperado. Mientras OpenAI y Anthropic continúan perfeccionando sus sistemas conversacionales, un selecto grupo de investigadores ha puesto sus miras en una tecnología radicalmente diferente que promete revolucionar nuestra comprensión de la IA
SoftBank y TSMC negocian megaproyecto de IA en EEUU por 1 billón de dólares
La industria tecnológica global presencia una de las propuestas más ambiciosas de la década cuando el magnate japonés Masayoshi Son presenta su visión para revolucionar la manufactura estadounidense de inteligencia artificial
¿Por qué WhatsApp es el campo batalla IA entre Meta y sus rivales?
La plataforma de mensajería instantánea más utilizada globalmente experimenta una transformación inesperada al convertirse en el escenario principal donde asistentes virtuales de inteligencia artificial compiten por la atención de usuarios, creando una paradoja estratégica para Meta que debe enfrentar la presencia de competidores directos dentro de su propio ecosistema
El Juego de Tronos de la Inteligencia Artificial: Génesis de una nueva era
Dentro de unas décadas, los libros de historia contarán esta gesta como una de las más determinantes de nuestro tiempo
Microsoft evalúa romper acuerdo con OpenAI por conflicto accionario
La corporación de Redmond considera mantener el contrato vigente si las negociaciones sobre la transformación empresarial de la creadora de ChatGPT no prosperan según sus expectativas
¿Qué relación hay entre la IA y la Paternidad? CEO tecnológico decide retrasar su paternidad hasta que Neuralink esté listo
El joven ejecutivo tecnológico Alexandr Wang ha tomado una decisión que refleja el nivel de confianza depositado por la nueva generación de empresarios en las interfaces cerebro-computador
Fabricante autos eléctricos BYD desestabiliza mercado chino con guerra de precios
Las autoridades chinas enfrentan un escenario sin precedentes en su sector automotriz tras las agresivas estrategias comerciales implementadas por BYD, el fabricante de vehículos eléctricos que ha desencadenado una espiral deflacionaria que amenaza la estabilidad de toda la industria
Google invierte 25 años en IA mientras Apple busca alianzas
La carrera tecnológica por dominar la inteligencia artificial revela disparidades fundamentales entre los gigantes de Silicon Valley