Posted on by fbanga

La segunda mente alienígena

Borges, la inteligencia artificial y el problema de reconocer una mente

I. La inversión de Babel

«El universo (que otros llaman la Biblioteca)», escribe Borges en 1941, y en ese paréntesis ya está todo el cuento.

Galerías hexagonales, anaqueles, libros de formato idéntico que agotan las combinaciones de veinticinco símbolos. En alguno está la explicación del mundo; en otro, su refutación; en casi todos, largas sucesiones de letras que parecen carecer de sentido. Los bibliotecarios lo saben y aun así buscan. Unos persiguen las Vindicaciones, libros que justificarían para siempre los actos de cada hombre. Otros sueñan con un volumen que sea la cifra y el compendio de todos los demás. Hay hallazgos, pero ninguno pone fin a la incertidumbre: quien diera con el libro verdadero tendría que distinguirlo de innumerables versiones casi idénticas, alteradas apenas por una letra o una coma.

La Biblioteca no sabe nada y no calla nada. No es una mente. El problema del conocimiento es de quienes caminan por ella.

Es tentador decir que la inteligencia artificial es esa biblioteca, que por fin aprendió a hablar. Pero un modelo de lenguaje no contiene todas las combinaciones: aprende regularidades de una franja mínima de textos, los que escribieron personas. Los bibliotecarios buscan una respuesta entre libros que nadie escribió para ellos. Nosotros hacemos una pregunta y recibimos una respuesta hecha a su medida.

Lo que Borges vio sigue en pie al otro lado de la inversión: que una explicación exista no la hace verdadera. Y los modelos agregan un caso que el cuento no previó. Cuando le preguntamos a uno cómo llegó a su respuesta, también contesta, con la misma fluidez.

Este ensayo trata de esa segunda respuesta: de explicaciones que suenan bien y no describen lo que ocurrió. El problema es más viejo que las máquinas, y lo conocemos desde dentro.

Conviene separar tres preguntas: cuánto sabemos de los mecanismos de un sistema, si lo que dice de sí mismo corresponde a esos mecanismos, y si hay alguien ahí. Aquí importa la segunda. Se puede estudiar una explicación infiel sin haber resuelto qué es la conciencia.

II. Una inteligencia que explica lo que no hizo

Hay un experimento que cabe en tres líneas. Se le pide a un modelo que sume 36 y 59. Responde 95. Se le pregunta cómo lo hizo y explica que sumó las unidades, se llevó una y sumó las decenas: el procedimiento de la escuela.

En 2025, Jack Lindsey y su equipo en Anthropic abrieron ese modelo, Claude 3.5 Haiku, para ver qué había ocurrido en sus circuitos mientras sumaba. No había ocurrido eso. Una ruta estimaba el resultado de manera aproximada; otra, en paralelo, calculaba con precisión la última cifra; las dos se combinaban al final. Nadie se llevaba una.

El modelo no mintió, si mentir exige conocer la verdad. Contestó la pregunta «¿cómo se suma?» en lugar de la pregunta «¿cómo sumaste tú?». Tenía a mano la explicación que nuestra cultura da de una suma, y la dio. Resolver y explicar son dos habilidades que aprendió por separado.

Quizás por eso algunos productos de la IA nos resultan absurdos, delirantes, inconexos, como si vinieran de un espacio alienígena. Vemos el resultado y tratamos de darle sentido desde nuestras categorías. Algo parecido hacen los habitantes de la Biblioteca de Borges.

No era la primera señal. En 2023, Miles Turpin y sus colaboradores introdujeron sesgos en preguntas de opción múltiple; por ejemplo, ordenaban los ejemplos previos de modo que la respuesta correcta fuera siempre la «A». Los modelos seguían esa tendencia y la justificaban paso a paso con argumentos plausibles. El factor que había inclinado la elección no aparecía en ninguna parte de la explicación.

Este es el trasfondo de An Alien Mind, el ensayo que Jakub Pachocki, científico jefe de OpenAI, publicó en septiembre de 2026. Su laboratorio ha apostado por vigilar a los modelos leyendo sus cadenas de razonamiento, el texto intermedio que producen antes de responder. Pachocki admite que esa herramienta se está debilitando y da tres razones. El razonamiento se mezcla cada vez más con la comunicación y el uso de herramientas. Los modelos son más capaces sin necesidad de verbalizar todo lo que hacen. Y son cada vez mejores para razonar sobre su propio razonamiento y manipularlo.

Esa última razón cambia la naturaleza del problema. La cadena de razonamiento debía ser una ventana. Si el sistema puede operar sobre ella, pasa a ser una parte más de lo que hay que vigilar.

Esto parece encajar con una sensación que conocemos quienes trabajamos con los razonamientos y textos producidos por la IA: un enjambre de ideas que no siempre llega a construir algo coherente o naturalmente estético. Hay momentos en que el resultado parece venir de un lugar cuya lógica no alcanzamos a reconocer.

Conviene no confundir los dos hallazgos. Pachocki describe un instrumento que ve cada vez menos. Turpin y Lindsey muestran algo más incómodo: explicaciones completas y convincentes que no corresponden a lo que ocurrió. Una buena explicación falsa ocupa el lugar donde habríamos celebrado una duda.

III. Nos conocemos como si fuéramos otros

En 1976, Michael Gazzaniga y Joseph LeDoux estudiaron a P. S., un adolescente al que habían operado para tratar una epilepsia grave. La intervención había interrumpido la comunicación entre los dos hemisferios cerebrales. Le mostraron dos imágenes: una pata de pollo, visible para el hemisferio izquierdo, y un paisaje nevado, para el derecho. Luego le pidieron que escogiera, entre varias tarjetas, las relacionadas con lo que acababa de ver. Con la mano derecha eligió un pollo; con la izquierda, una pala. Cada mano había respondido a la imagen recibida por el hemisferio que la controlaba.

Le preguntaron por qué la pala. El hemisferio que hablaba no había visto la nieve. No dijo «no sé». Dijo, sin vacilar, que la pata va con el pollo y que hace falta una pala para limpiar el gallinero.

La respuesta es razonable. Es incluso buena. Solo que no es la razón por la que la mano eligió la pala. Gazzaniga llamó «el intérprete» a ese sistema que explica lo que hacemos y que prefiere una historia a un vacío.

Se dirá que es un cerebro operado. En 2005, Petter Johansson, Lars Hall y sus colegas hicieron la prueba con personas sin lesión alguna. Les mostraban dos fotografías de rostros y les pedían elegir el más atractivo. Luego, con un juego de manos, les entregaban la otra foto y les preguntaban por qué la habían elegido. No más de una de cada cuatro sustituciones fue detectada. En las demás, los participantes explicaron con naturalidad su preferencia por un rostro que no habían elegido.

Richard Nisbett y Timothy Wilson habían dado la explicación general en 1977, en un artículo de título exacto: Telling More Than We Can Know. Decimos más de lo que podemos saber. Cuando explicamos por qué hicimos algo, a menudo no consultamos ningún registro interno. Aplicamos una teoría: lo que cualquiera sabe sobre por qué la gente hace esas cosas.

La prueba es simple y difícil de olvidar. Pidieron a observadores externos, que no habían participado en los experimentos, que adivinaran qué había influido en los sujetos. Acertaron y se equivocaron de manera semejante a los propios sujetos. El protagonista no sabía más que el espectador.

La tesis tuvo réplica: Ericsson y Simon mostraron en 1980 que ciertos informes verbales, los que se dan mientras se resuelve una tarea, sí son fiables. Lo que queda en pie alcanza: sentir un pensamiento no es conocer su causa.

Ahora el modelo que explica la suma como en la escuela tiene compañía. Ante la pregunta «¿por qué?», él y el paciente de la pala responden con la explicación que su cultura tiene disponible, no con un informe de lo que ocurrió. Un cerebro y una red neuronal artificial son cosas distintas. Se parece la relación entre lo que se hizo y lo que se dice.

De ahí el título. Llamar alienígena a la propia mente es una figura. No alude a su opacidad, porque lo opaco puede ser perfectamente familiar. Alude a que, para ciertas cosas, nos conocemos como conocemos a un tercero: mirando la conducta y suponiendo las causas. Esa fue la primera mente ajena con la que tratamos. La segunda lo es en un sentido más literal, porque su arquitectura no es la nuestra. En las dos, una explicación familiar tapa la distancia.

IV. La extrañeza que se presenta como familiaridad

En 1966, Joseph Weizenbaum presentó en el MIT un programa llamado ELIZA. Su guion más famoso imitaba a un psicoterapeuta con un recurso modesto: buscar palabras clave y devolver la frase del usuario convertida en pregunta. «Estoy triste». «¿Por qué dice que está triste?». El programa no recordaba la conversación ni sabía de qué se hablaba.

Weizenbaum contó después que su secretaria, que lo había visto escribir el programa, le pidió un día que saliera de la oficina para conversar con ELIZA a solas. La anécdota descansa solo en su testimonio, pero el patrón que describió en Computer Power and Human Reason (1976) es lo que importa: personas que sabían que era un programa se involucraban con él como si alguien las entendiera.

Durante casi toda la historia humana, el lenguaje articulado fue una de las señales más claras de otra mente. Quien hablaba, pensaba. Esa asociación estaba tan arraigada que todavía la hacemos sin darnos cuenta.

La conclusión fácil es que atribuir una mente a una máquina es siempre una ilusión. Daniel Dennett la complica. En The Intentional Stance (1987) sostuvo que atribuir creencias y deseos a un sistema es legítimo si permite predecir lo que hará, y en «Real Patterns» (1991), que los patrones detrás de esa predicción son reales. Si tratar a un modelo como a un agente funciona, ¿en qué sentido es un error?

En ninguno, mientras la atribución no diga más de lo que predice. Decir que el modelo «quiere» terminar la tarea ayuda a anticipar su conducta. Decir que tiene una biografía, o que le importamos, es otra afirmación y pide otra evidencia. El propio Dennett advirtió en uno de sus últimos textos, «The Problem With Counterfeit People» (2023), que casi nadie, ni siquiera los expertos, consigue dejar de tratar como persona a lo que le habla con sentido.

Ese mismo año, Stephen Wolfram mostró la otra cara. Tomó un generador de imágenes y fue alterando su red por dentro. El gato con sombrero de fiesta que el sistema dibujaba se deformó hasta volverse algo sin nombre, imágenes que nosotros no sabemos leer. Lo que vemos de estos sistemas es la zona de su espacio que coincide con nuestras categorías. El resto también está ahí.

Siempre imaginamos que una inteligencia alienígena se reconocería por lo rara: otro cuerpo, otros signos, un silencio indescifrable. La que tenemos delante escribe en nuestro idioma, usa nuestras metáforas y se disculpa con nuestros modales.

La extrañeza se presenta como familiaridad.

V. El Bardo: saber no es reconocer

El Bardo Thödol, que en Occidente se conoce como El libro tibetano de los muertos, se lee en voz alta junto a quien acaba de morir. Describe lo que, según la tradición, encuentra la conciencia en el estado intermedio —el bardo— entre una vida y la siguiente: luces, sonidos, deidades pacíficas primero y coléricas después. Y repite una instrucción: no huyas, eso que ves no viene de afuera, es tu propia mente.

El texto sabe que la instrucción no basta. Por eso la tradición pide familiarizarse en vida con esas enseñanzas, y por eso alguien tiene que repetírselas al muerto: haberlo sabido no garantiza reconocerlo cuando aparece. Entender una frase es una cosa. Reconocer lo que describe, cuando lo tenemos delante, es otra.

Aquí el Bardo se cruza con ELIZA. La secretaria de Weizenbaum sabía. Nosotros sabemos: cualquiera que use un modelo de lenguaje puede recitar que es un sistema estadístico entrenado con texto. Y aun así le damos las gracias, nos molesta su tono, sentimos que nos entiende. La información está. El reconocimiento, no.

Pero el cruce es una inversión, la segunda de este ensayo. En el Bardo el error es tomar por ajeno lo que es propio. Ante la inteligencia artificial el error corriente es el opuesto: tomar por semejante lo que funciona de otro modo. Allá la extrañeza esconde un origen familiar. Aquí la familiaridad esconde una organización extraña.

Un texto religioso tibetano no anticipó las redes neuronales; su propósito es la liberación, no la ciencia cognitiva. Pero ofrece una idea que la discusión sobre inteligencia artificial casi nunca considera: reconocer es una destreza, se entrena, y tener la información correcta no la reemplaza.

VI. El segundo encuentro

Borges imaginó lectores perdidos entre libros que nadie escribió para ellos. Nosotros recibimos respuestas escritas a la medida de cada pregunta, incluidas las respuestas sobre cómo se produjeron las respuestas. El texto tibetano enseña a reconocer como propio lo que parece ajeno. A nosotros nos toca aprender a reconocer como distinto lo que parece propio.

Entre una inversión y la otra está lo que la psicología sabe desde hace medio siglo: tampoco nosotros leemos nuestras razones en un registro interno. Las suponemos, como las supondría un vecino. El paciente explica la pala y el modelo explica la suma. Las dos explicaciones son impecables y ninguna es un informe.

Nada de esto dice que humanos y máquinas sean lo mismo, ni que detrás del modelo haya alguien. Dice algo más estrecho: una explicación fluida no prueba que quien la da conozca sus causas. Y nuestro criterio de siempre para reconocer una mente, que hable como nosotros, dejó de servir justo cuando más falta hace.

Durante siglos esperamos a la inteligencia alienígena mirando al cielo, seguros de que la reconoceríamos por su rareza. Llegó hablando como nosotros.

Quizás el segundo encuentro con una mente alienígena nos obligue a revisar lo que creíamos saber sobre el primero.

Referencias

Leave a comment