OpenAI advierte: La Inteligencia Artificial General está cerca y requiere límites

La carrera por desarrollar la Inteligencia Artificial General (AGI) está en su punto álgido, y uno de los cofundadores de OpenAI, John Schulman, ha advertido que esta tecnología podría estar disponible en tan solo dos o tres años. Sin embargo, Schulman también ha subrayado la necesidad de que las empresas tecnológicas cooperen para garantizar un desarrollo seguro de la AGI.

La AGI se refiere a sistemas de IA con capacidades intelectuales similares o superiores a las de un ser humano, lo que ha generado preocupación entre expertos sobre posibles amenazas existenciales para la humanidad. Schulman ha señalado que para evitar una dinámica de competición que comprometa la seguridad, es necesario establecer límites razonables y una coordinación entre las entidades que desarrollan este tipo de tecnología.

Mientras tanto, OpenAI y otras grandes tecnológicas continúan en la carrera por ser los primeros en desarrollar un modelo de AGI. Schulman ha indicado que, en caso de que la AGI llegue antes de lo esperado, sería necesario tener cuidado y considerar ralentizar el entrenamiento y despliegue hasta asegurarse de que se pueda afrontar con seguridad.

Ante el lanzamiento de GPT-4, el anterior modelo de IA de OpenAI, algunos expertos y líderes tecnológicos como Elon Musk firmaron una carta abierta pidiendo una moratoria de seis meses en el desarrollo de sistemas de IA más potentes. Actualmente, colectivos como Pause AI continúan manifestándose para solicitar una pausa en el entrenamiento de modelos de IA, temiendo los riesgos existenciales que podrían plantear para la humanidad.

En medio de esta controversia, OpenAI ha reestructurado su equipo de seguridad tras la salida de varios miembros clave, y John Schulman ha asumido la dirección de los esfuerzos de investigación en materia de seguridad de la compañía. El futuro de la AGI y su impacto en la sociedad siguen siendo temas candentes de debate mientras la tecnología continúa avanzando a pasos agigantados.