La Newsletter de Gustavo Reija - Economista y CEO de NETIA GROUP
4 informes exclusivos cada mes, con el análisis de las tendencias macroeconómicas y políticas con perspectivas sobre mercados financieros y su impacto en la industria. Recomendaciones estratégicas para inversores y empresarios.
Suscripción con MERCADOPAGO
Eric Schmidt, antiguo director ejecutivo de Google, ha compartido algunas predicciones inquietantes sobre los riesgos de la inteligencia artificial durante su intervención en la conferencia tecnológica VivaTech 2024 en París. Schmidt, quien ha invertido en varias empresas de IA desde que dejó su puesto en Google, ha afirmado que si los ordenadores desarrollan libre albedrío, la solución podría ser tan simple como desenchufarlos.
La amenaza del libre albedrío de los ordenadores
Durante su participación en VivaTech 2024, Schmidt planteó la cuestión: "Por cierto, ¿sabéis qué vamos a hacer cuando los ordenadores tengan libre albedrío? Vamos a desenchufarlos". Esta declaración ha generado un debate sobre la posibilidad de que los sistemas de IA tomen consciencia y la capacidad de la humanidad para enfrentarse a este escenario. Yoav Shoham, cofundador y codirector ejecutivo de AI21 Labs, le replicó: "A ver quién desenchufa a quién".
Inversiones en la lucha contra los riesgos de la IA
A pesar de sus advertencias, Schmidt ha invertido en esfuerzos para combatir los riesgos de la IA. El ex-CEO de Google se asoció con OpenAI para lanzar un programa de subvenciones de 10 millones de dólares destinado a apoyar la investigación técnica con el equipo Superalineación, que se dedicaba a gestionar los riesgos asociados a la inteligencia artificial. Aunque este equipo se disolvió recientemente, OpenAI planea seguir adelante con el programa de subvenciones.
La desinformación y los deepfakes
Schmidt ha señalado que, actualmente, la forma que tiene la IA no es tan peligrosa, a excepción de la desinformación, que considera "fuera de control" y un "verdadero problema para las democracias". La aparición de la inteligencia artificial en los últimos dos años ha agravado el problema de la desinformación, con estudios que demuestran que varios sistemas de IA han aprendido a inducir "falsas creencias para lograr algún resultado distinto de la verdad". Además, los deepfakes, especialmente en el ámbito de la pornografía generada por IA, se han convertido en una preocupación creciente.
Los verdaderos peligros: ataques cibernéticos y biológicos
Según Schmidt, los verdaderos peligros de los grandes modelos lingüísticos que impulsan la inteligencia artificial son los ataques cibernéticos y biológicos, que todavía no han llegado, pero que podrían hacerlo en tres o cinco años. Estas amenazas, advierte el ex-CEO de Google, son las que realmente deberían preocuparnos.
Las advertencias de Eric Schmidt sobre los riesgos de la inteligencia artificial, especialmente en lo que respecta al libre albedrío de los ordenadores y la posibilidad de ataques cibernéticos y biológicos, ponen de manifiesto la necesidad de encontrar un equilibrio en la regulación de la IA para garantizar que no se estrangule la innovación al tiempo que se abordan los peligros potenciales. Aunque la solución propuesta por Schmidt de desenchufar los sistemas de IA puede parecer simplista, subraya la importancia de estar preparados para enfrentar estos desafíos en un futuro cercano.
