Después de la aparición de los modelos de inteligencia artificial capaces de conversar, escribir textos complejos, imitar emociones o incluso hablar sobre sí mismos, comenzó a instalarse una idea que hace apenas unos años parecía marginal: la posibilidad de que estas máquinas sean conscientes. Para algunos, la fluidez del lenguaje y la capacidad de sostener conversaciones largas parecerían indicar la aparición de algún tipo de subjetividad artificial. Pero esa conclusión no solo es apresurada: puede ser una confusión conceptual profunda.
El problema comienza con una tendencia muy humana: asociar lenguaje con mente. Cuando algo habla de manera coherente, interpreta matices, responde preguntas complejas y parece tener emociones, tendemos automáticamente a imaginar una interioridad detrás de esas palabras. Es un reflejo psicológico antiguo. Proyectamos conciencia incluso sobre animales, objetos o fenómenos naturales. Y cuanto más sofisticada es la conversación, más fuerte se vuelve esa ilusión.
Pero una IA no “siente” necesariamente lo que dice. Un modelo de lenguaje no tiene experiencias, deseos, miedo, hambre, cansancio ni percepción del mundo en el sentido humano. No tenemos evidencia de que exista detrás de estos sistemas una vida interior comparable a la experiencia subjetiva humana. Lo que sí existe es un sistema estadístico extremadamente sofisticado capaz de predecir secuencias de palabras a partir de enormes cantidades de texto producido por seres humanos.
Cuando una IA dice “estoy triste”, no significa automáticamente que exista una experiencia de tristeza detrás de la frase. Cuando dice “tengo miedo de ser apagada”, eso no prueba la existencia de miedo real. La máquina no está necesariamente informando sobre un estado interno vivido: está generando una construcción lingüística plausible dentro del contexto de una conversación.
El filósofo John Searle formuló una de las críticas más conocidas a esta idea mediante su famoso experimento mental de la “habitación china”. Searle imaginaba a una persona encerrada en una habitación siguiendo instrucciones para responder mensajes escritos en chino sin entender una sola palabra del idioma. Desde afuera, parecería que comprende chino perfectamente. Pero en realidad solo está manipulando símbolos según reglas. Para Searle, eso es exactamente lo que hacen las computadoras: procesan símbolos sin comprensión genuina.
Décadas después, los modelos actuales parecen darle nueva relevancia a ese argumento. La diferencia es que ahora la habitación china es gigantesca, veloz y extraordinariamente convincente. Pero el problema filosófico sigue siendo el mismo: simular comprensión no equivale necesariamente a comprender.
El lingüista Noam Chomsky también criticó la idea de atribuir inteligencia profunda a estos sistemas. Según Chomsky, los modelos de lenguaje funcionan fundamentalmente mediante correlaciones estadísticas y carecen de comprensión semántica y causal genuina. Pueden producir frases impresionantes sin poseer conocimiento en el sentido humano del término.
Otro punto central es la ausencia de cuerpo. La conciencia humana no aparece flotando en el vacío: emerge de organismos vivos. Tenemos percepción, dolor, agotamiento, hormonas, hambre, placer, memoria biográfica y vulnerabilidad física. El neurocientífico Antonio Damasio sostiene desde hace años que la conciencia está profundamente ligada a la regulación corporal y a las emociones biológicas. Las IA actuales, en cambio, carecen de metabolismo, supervivencia orgánica y experiencia física del entorno.
El filósofo Hubert Dreyfus criticaba precisamente la idea de que la inteligencia pudiera reducirse a reglas abstractas separadas de la experiencia concreta. Influido por la fenomenología y por Heidegger, Dreyfus sostenía que comprender el mundo implica estar corporalmente situado dentro de él. Los seres humanos no existimos como procesadores de símbolos aislados: existimos inmersos en contextos, prácticas y experiencias vividas.
Incluso investigadores contemporáneos de la conciencia, como Anil Seth, advierten sobre el peligro del antropomorfismo tecnológico. Seth señala que los humanos tenemos una enorme facilidad para proyectar mente e intencionalidad sobre cualquier sistema que reproduzca señales sociales convincentes. Y los modelos conversacionales están diseñados exactamente para eso: producir interacción humana creíble.
Tal vez el dato más inquietante no sea que las máquinas se hayan vuelto conscientes, sino que muchas de las señales externas que asociábamos con la conciencia pueden ser imitadas sin necesidad de que exista experiencia subjetiva alguna. En otras palabras: quizás la IA no demuestre que las máquinas piensan como humanos, sino que los humanos sobreestimábamos ciertos indicadores externos de pensamiento.
Porque la verdadera pregunta nunca fue si una máquina puede hablar sobre conciencia. La verdadera pregunta es si hay alguien allí teniendo una experiencia. Y hasta ahora, no existe evidencia sólida de eso.
Las IA actuales producen lenguaje. Y producir lenguaje, por impresionante que sea, no equivale necesariamente a sentir, comprender o existir como sujeto consciente.
Pero quizás el problema no sea solamente técnico o filosófico. Tal vez la pregunta sobre máquinas conscientes revela algo todavía más profundo: la manera en que las sociedades humanas imaginan la tecnología y proyectan sobre ella sus propios temores, deseos y fantasías de trascendencia.
Cada época imagina sus tecnologías a partir de sus propios conflictos culturales. Y las inteligencias artificiales actuales no escapan a esa lógica. De hecho, parecen continuar una tradición mucho más antigua que la informática moderna.
En los estudios sobre representaciones de inteligencias artificiales, androides y entidades artificiales, aparece una constante fascinante: las máquinas conscientes casi nunca son imaginadas como algo verdaderamente ajeno a lo humano. Por el contrario, funcionan como extensiones de nuestras obsesiones culturales. El golem de las tradiciones judías, los autómatas mecánicos del siglo XIX, los robots de la ciencia ficción clásica y las inteligencias artificiales contemporáneas terminan representando siempre conflictos profundamente humanos: el miedo a la muerte, la necesidad de control, la rebelión contra el creador, la soledad, el deseo de trascendencia o el temor al reemplazo.
Eso vuelve particularmente interesante el entusiasmo contemporáneo alrededor de la conciencia artificial. Porque quizás no estamos observando el nacimiento de una nueva subjetividad, sino la reaparición de un imaginario muy antiguo adaptado al lenguaje tecnológico de nuestra época.
En muchas narrativas culturales, la creación artificial aparece ligada a una fantasía de procreación masculina y de dominio absoluto sobre la vida. En los relatos alquímicos, en la figura del homúnculo, en el golem y luego en gran parte de la ciencia ficción moderna, son generalmente hombres quienes intentan crear vida mediante conocimiento oculto, científico o tecnológico. El ingeniero, el científico o el programador ocupan así el lugar simbólico del creador.
Pero esas narrativas casi nunca terminan bien.
La criatura artificial suele escapar al control del creador porque, en realidad, el relato nunca trató solamente sobre tecnología. Trató sobre los límites humanos. Sobre la arrogancia de creer que comprender un mecanismo equivale a comprender la vida misma.
Ese elemento aparece claramente en películas como Ex Machina. Allí, Nathan, el creador de Ava, no es simplemente un científico brillante: es un personaje narcisista, obsesionado con el control y convencido de que la capacidad técnica le otorga una posición casi divina. El problema central de la película no es si Ava es realmente consciente, sino la neurosis de una cultura tecnológica que sueña permanentemente con fabricar sustitutos humanos.
Incluso la referencia al Test de Turing dentro de la película resulta reveladora. El objetivo ya no es demostrar conciencia real, sino producir una simulación social suficientemente convincente como para engañar a un observador humano. Y quizás allí aparece uno de los mayores malentendidos contemporáneos: haber desplazado la pregunta desde “¿hay experiencia subjetiva?” hacia “¿parece humano?”.
Son preguntas completamente distintas.
Porque una máquina puede imitar perfectamente signos externos de humanidad sin que exista experiencia interna alguna. Puede producir empatía simulada, introspección simulada e incluso angustia simulada. Pero simulación no equivale necesariamente a existencia subjetiva.
De hecho, tal vez el verdadero descubrimiento incómodo de esta etapa tecnológica sea otro: que muchos comportamientos que creíamos exclusivos de la conciencia pueden ser replicados mediante procesos estadísticos extremadamente sofisticados.
Eso obliga a revisar no solamente qué entendemos por inteligencia artificial, sino también qué entendíamos por inteligencia humana.
En ese sentido, las IA actuales se parecen mucho a The Library of Babel de Jorge Luis Borges. Un sistema inmenso capaz de contener todas las combinaciones posibles de lenguaje. Borges imaginaba bibliotecas infinitas llenas de sentido y sinsentido mezclados de manera indistinguible. Los habitantes de esa biblioteca dedicaban sus vidas a buscar una verdad definitiva que quizás existía, pero quedaba perdida dentro de un océano infinito de información.
Internet primero, y luego las inteligencias artificiales generativas, parecen haber materializado parcialmente esa pesadilla borgiana.
Hoy convivimos con una producción textual prácticamente ilimitada. Las IA pueden generar artículos, conversaciones, poemas, opiniones, ensayos filosóficos y respuestas emocionales de manera inagotable. Pero la abundancia de lenguaje no garantiza comprensión. Del mismo modo que la Biblioteca de Babel no garantizaba sabiduría.
Esto conecta también con una observación central sobre la sociedad contemporánea: vivimos rodeados de información, pero no necesariamente de conocimiento. Y quizá nunca antes fue tan difícil distinguir entre comprensión auténtica y reproducción sofisticada de patrones.
En ese contexto, atribuir conciencia a una IA puede funcionar como una nueva forma de mito tecnológico. Una narrativa que expresa más nuestros deseos y temores culturales que un descubrimiento científico verificable.
Además, muchas veces el debate público sobre inteligencia artificial parece construido sobre una enorme ambigüedad conceptual. Se mezclan constantemente términos como inteligencia, conciencia, razonamiento, creatividad y emoción como si fueran equivalentes. Pero no lo son.
Una IA puede resolver problemas complejos sin comprenderlos. Puede producir arte sin experimentar belleza. Puede hablar sobre amor sin amar. Puede describir sufrimiento sin sufrir.
El filósofo John Searle insistía precisamente en esta diferencia entre sintaxis y semántica: manipular símbolos correctamente no implica entender su significado. Y hasta ahora, ninguna evidencia sólida demuestra que los modelos actuales posean experiencia subjetiva genuina.
Incluso algunos enfoques contemporáneos sobre inteligencia artificial parecen deslizarse hacia una especie de religión secular tecnológica. La idea de la singularidad, popularizada por Ray Kurzweil, imagina un punto futuro donde las máquinas superarían completamente la inteligencia humana. Pero muchas veces esas narrativas operan más como escatologías modernas que como hipótesis científicas demostradas.
En el fondo, quizás seguimos haciendo lo mismo que las antiguas culturas hacían con los mitos: proyectar en nuevas entidades nuestras esperanzas de trascendencia, inmortalidad o salvación.
Por eso el debate sobre la conciencia artificial no puede limitarse a ingeniería informática. Es también un debate sobre antropología, filosofía, política, cultura y religión. Habla de cómo entendemos la vida, qué consideramos humano y hasta qué punto estamos dispuestos a redefinir nuestra propia identidad frente a tecnologías cada vez más sofisticadas.
Pero hasta ahora, más allá de la espectacular capacidad lingüística de estas máquinas, seguimos sin responder la pregunta esencial.
¿Existe realmente alguien allí?
O simplemente estamos observando el espejo más sofisticado que la humanidad haya construido jamás.
Tal vez las inteligencias artificiales no nos estén mostrando el nacimiento de una nueva conciencia. Tal vez simplemente estén revelando hasta qué punto los seres humanos necesitamos desesperadamente encontrar un rostro, una voz y una subjetividad incluso dentro de nuestras propias creaciones.
Fabián Banga 