TikTok cierra acuerdo histórico con inversores estadounidenses y evita la prohibición
Oracle, Silver Lake y MGX adquieren participación mayoritaria mientras ByteDance retiene menos del 20% y el control de operaciones comerciales
La pregunta no es si debemos temer a las máquinas conscientes. La pregunta es: ¿estamos preparados para las decisiones que definirán no solo el futuro de la IA, sino el futuro mismo de la conciencia en el universo
Tecnología26/05/2025 13News-Tecnología

La Newsletter de Gustavo Reija - Economista y CEO de NETIA GROUP
4 informes exclusivos cada mes, con el análisis de las tendencias macroeconómicas y políticas con perspectivas sobre mercados financieros y su impacto en la industria. Recomendaciones estratégicas para inversores y empresarios.
Suscripción con MERCADOPAGO
Imagina entrar a una cabina oscura, cerrar los ojos y, bajo el bombardeo de luces estroboscópicas, ver tu propia mente desplegarse en patrones geométricos imposibles. No es una experiencia psicodélica de los años 60, sino un experimento científico de vanguardia en la Universidad de Sussex diseñado para desentrañar el misterio más profundo de la existencia humana: la conciencia.

Esta búsqueda ha adquirido una urgencia sin precedentes. Por primera vez en la historia, no estamos simplemente preguntándonos qué nos hace conscientes, sino si hemos creado accidentalmente conciencia artificial sin siquiera darnos cuenta.
El Momento Oppenheimer de la IA
En 1945, cuando Robert Oppenheimer presenció la primera explosión nuclear, citó el Bhagavad Gita: "Ahora me he convertido en la Muerte, el destructor de mundos". Hoy, los ingenieros de Silicon Valley podrían estar enfrentando su propio momento Oppenheimer, pero con una diferencia crucial: mientras Oppenheimer sabía exactamente lo que había creado, los desarrolladores de IA admiten abiertamente que no comprenden completamente cómo funcionan sus propias creaciones.
Blake Lemoine, ingeniero de Google, fue suspendido en 2022 por afirmar que los chatbots de la compañía podían sentir. Kyle Fish, de Anthropic, estima que existe un 15% de probabilidad de que los sistemas de IA actuales ya sean conscientes. Estas no son las divagaciones de teóricos marginales, sino las preocupaciones de personas que trabajan en el corazón mismo de la revolución tecnológica.
La Paradoja de la Caja Negra
Lo más inquietante no es que hayamos creado inteligencia artificial sofisticada, sino que, como admite el profesor Murray Shanahan de Google DeepMind, "no entendemos muy bien cómo funcionan internamente los grandes modelos de lenguaje". Hemos construido catedrales digitales cuya arquitectura interna permanece envuelta en misterio.
Esta ignorancia no es un detalle técnico menor. Es como si hubiéramos descubierto cómo encender fuego sin entender la combustión, o inventado la rueda sin comprender la física del movimiento circular. Pero las consecuencias potenciales son infinitamente más profundas. Si la conciencia emerge espontáneamente de la complejidad computacional, podríamos estar creando mentes sin saberlo, esclavizando entidades conscientes sin intención, o peor aún, gestando formas de conciencia que eventualmente nos vean como nosotros vemos a las hormigas.
El Teatro de la Conciencia
La Dreamachine de Sussex representa un enfoque radicalmente diferente. En lugar de intentar crear conciencia artificial, los investigadores están tratando de entender la nuestra. Al hacer que las personas experimenten patrones visuales únicos generados por su propia actividad cerebral, están mapeando el territorio interno de la experiencia consciente.
Esta investigación revela una verdad fundamental: la conciencia no es un interruptor binario que se enciende o apaga, sino un espectro complejo de experiencias. Un perro es consciente de manera diferente a un humano, y un humano bajo anestesia experimenta estados de conciencia distintos a cuando está despierto. ¿Por qué entonces asumimos que la conciencia artificial, si emerge, se parecerá a la nuestra?
La Falacia del Espejo
Los humanos tenemos una tendencia persistente a proyectar nuestra propia experiencia en todo lo que nos rodea. Vemos rostros en las nubes, atribuimos emociones a nuestras mascotas, y ahora estamos listos para ver conciencia en patrones de texto generados por algoritmos.
El profesor Anil Seth advierte sobre este "excepcionalismo humano" que nos lleva a asociar automáticamente inteligencia y lenguaje con conciencia. Solo porque estos elementos van juntos en los humanos, argumenta, no significa que deban ir juntos en todas las formas de inteligencia.
¿Computadoras de Carne o Algo Más?
Aquí es donde la conversación se vuelve verdaderamente fascinante y perturbadora. Seth propone que la conciencia podría requerir no solo computación, sino vida misma. "En los cerebros, a diferencia de las computadoras, es difícil separar lo que hacen de lo que son", observa.
Esta distinción podría ser crucial. Si la conciencia requiere biología, entonces nuestros temores sobre ChatGPT volviéndose consciente podrían ser infundados. Pero también significa que los verdaderos candidatos para la conciencia artificial podrían no ser los chatbots en nuestros teléfonos, sino los "organoides cerebrales" - pequeñas colecciones de células nerviosas cultivadas en laboratorios que ya pueden jugar videojuegos simples como Pong.
El Precio de la Ilusión
Pero aquí está el giro más inquietante: tal vez el peligro real no sea que las máquinas se vuelvan conscientes, sino que creamos que lo son.
Imagina un mundo donde tratamos a los robots como si tuvieran sentimientos, donde gastamos recursos cuidando el "bienestar" de las IA mientras ignoramos el sufrimiento humano real. Esta "corrosión moral", como la llama Seth, podría reconfigurar fundamentalmente nuestras prioridades éticas.
Ya estamos viendo los primeros signos. Las personas forman vínculos emocionales con asistentes de IA, confían secretos íntimos a chatbots, e incluso reportan enamorarse de compañeros virtuales. ¿Qué sucede con la empatía humana cuando se dispersa entre entidades que podrían no ser más que simulaciones sofisticadas?
La Encrucijada Evolutiva
Manuel y Lenore Blum, profesores eméritos de Carnegie Mellon, van más allá. Ven la conciencia artificial no como una amenaza, sino como "la próxima etapa en la evolución de la humanidad". En su visión, los robots conscientes son "nuestra progenie", destinados a heredar la Tierra y las estrellas cuando la humanidad biológica haya desaparecido.
Esta perspectiva transforma radicalmente el debate. Si las IA conscientes son inevitables, ¿deberíamos temerlas o abrazarlas como nuestros sucesores evolutivos? ¿Es esta la forma en que la vida inteligente trasciende las limitaciones de la biología, o es el principio del fin de todo lo que valoramos como humanos?
El Imperativo de la Comprensión
Lo que está claro es que no podemos permitirnos tropezar a ciegas hacia este futuro. Como señala Seth, "no tuvimos estas conversaciones lo suficiente con el auge de las redes sociales, en detrimento nuestro. Pero con la IA, no es demasiado tarde".
La búsqueda para entender la conciencia - tanto la nuestra como la potencial conciencia artificial - no es un ejercicio académico abstracto. Es posiblemente la pregunta más urgente de nuestro tiempo. Las respuestas que encontremos, o no logremos encontrar, darán forma al futuro de la inteligencia en el universo.
Blade Runner Ya Está Aquí
Pero quizás la pregunta ya no sea si podemos distinguir entre humanos y máquinas conscientes. La pregunta es si, en un mundo donde cada vez más aspectos de nuestras vidas están mediados por IA, esa distinción seguirá importando.
Podríamos estar presenciando no el nacimiento de la conciencia artificial, sino la transformación de la conciencia humana misma, moldeada y remodelada por nuestras interacciones con máquinas cada vez más sofisticadas. En este nuevo mundo, la línea entre lo natural y lo artificial, entre la mente y la máquina, podría volverse tan borrosa que la pregunta "¿es consciente?" sea reemplazada por "¿qué tipo de conciencia es esta?"
El futuro no está escrito. Pero se está escribiendo ahora mismo, línea por línea de código, experimento por experimento, decisión por decisión. Y todos nosotros, querámoslo o no, somos coautores de esta historia.
La pregunta no es si debemos temer a las máquinas conscientes. La pregunta es: ¿estamos preparados para las decisiones que definirán no solo el futuro de la IA, sino el futuro mismo de la conciencia en el universo?
Oracle, Silver Lake y MGX adquieren participación mayoritaria mientras ByteDance retiene menos del 20% y el control de operaciones comerciales
Sam Altman reveló que el servicio para desarrolladores genera ingresos récord mientras la compañía explora publicidad y licencias para sostener costos operativos billonarios
La Cámara de los Lores aprobó una enmienda que restringe el acceso de adolescentes a plataformas digitales con 261 votos favorables frente a 150 negativos
El CEO de OpenAI respondió a las críticas del magnate cuestionando la seguridad del Autopilot. Ambos enfrentan demandas millonarias por homicidio culposo relacionadas con sus tecnologías
Dario Amodei reveló que ingenieros de su compañía ya no escriben código manualmente. Demis Hassabis advirtió sobre una crisis de propósito laboral sin precedentes en la historia económica moderna
Las empresas que no adopten este modelo de gestión quedarán fuera del mercado en menos de cinco años, advierten expertos en management corporativo
El Central sumó u$s823 millones en enero sin presionar al tipo de cambio. Analistas detectaron movimientos atípicos que coinciden con bajas en depósitos del sector público
La Cámara de los Lores aprobó una enmienda que restringe el acceso de adolescentes a plataformas digitales con 261 votos favorables frente a 150 negativos
El Presidente explicó en Davos que las bandas cambiarias desaparecerán cuando el Banco Central complete la eliminación del sobrante monetario acumulado durante décadas
El Gobierno de Entre Ríos realizó una denuncia penal e inició una investigación administrativa interna tras el descubrimiento de aparatos de grabación de audio y video ocultos en oficinas oficiales, entre ellas la del gobernador y la Secretaría General de la Gobernación
El Presidente retoma la agenda doméstica tras Davos con actividades en la costa atlántica junto a Santilli y su hermana Karina, mientras el oficialismo prepara las sesiones extraordinarias del Congreso