Quisiera comenzar hablando de un filósofo alemán contemporáneo que, a primera vista, parecería no tener ninguna relación con la inteligencia artificial. Se llama Hartmut Rosa y es uno de los sociólogos y filósofos sociales más importantes de las últimas décadas. Su trabajo se ha concentrado en comprender un fenómeno característico de la modernidad: la aceleración. Vivimos en sociedades que producen más información, más tecnología, más velocidad y más conexiones que nunca. Sin embargo, esa aceleración no parece haber producido una experiencia más intensa del mundo. En muchos casos, sucede exactamente lo contrario.
Para responder a ese problema, Rosa desarrolló un concepto particularmente interesante: la resonancia.
La palabra está tomada de la música. Cuando un instrumento vibra, puede hacer vibrar a otro. Pero no se trata de una simple repetición. Cada instrumento conserva su propia voz. La resonancia, precisamente, consiste en esa relación en la que dos realidades se afectan mutuamente sin perder su independencia. Este concepto se presenta como una analogía para comprender una forma de relación con el mundo que puede aparecer frente al arte, la naturaleza, una conversación, el trabajo o incluso en aquellas experiencias que muchos considerarían espirituales.
Rosa sostiene que una vida humana no debería evaluarse únicamente por la cantidad de bienes que posee o por el nivel de bienestar que alcanza, sino por la calidad de su relación con el mundo. Ese mundo nos enriquece por medio de una conversación, una pintura de Matisse, una caminata por la montaña o una idea capaz de transformar la realidad en la que vivimos. En todos esos casos ocurre algo semejante: el mundo nos habla y nosotros sentimos un impulso a responder a ese estímulo. Pero lo verdaderamente interesante de esta asociación con la resonancia es que, después de la experiencia, ninguna de las partes permanece exactamente igual. Nosotros somos transformados por la experiencia y aquello con lo que entramos en relación adquiere un significado que va mucho más allá de su simple cuantificación.
Para Rosa, lo contrario de la resonancia es la alienación. En la alienación el mundo deja de respondernos. El mundo se convierte en un conjunto de objetos que administramos, consumimos o utilizamos, pero con los que ya no establecemos una relación significativa. La comparación con las redes sociales es reveladora: ese espacio supuestamente nos ha conectado con millones de personas, pero muchas veces lo único que recibimos es ruido.
¿Por qué traer esta teoría a los imaginarios de la inteligencia artificial?
Porque pareciera ser que algunos de esos elementos relacionados con la alienación aparecen también en nuestra interacción con estas máquinas supuestamente pensantes. La teoría de Rosa, en este contexto, puede ayudarnos a formular una pregunta completamente distinta de las habituales. Más que discutir si una inteligencia artificial piensa, comprende o siente, quizá convenga preguntarnos qué tipo de relación estamos construyendo con ella. Esa asociación puede ofrecernos un camino que va mucho más allá de evaluar la calidad de una respuesta o el origen del vacío que muchas veces experimentamos al interactuar con estos sistemas.
Pensemos en esto: casi todas las discusiones sobre inteligencia artificial giran alrededor de insistentes cuestiones. Por ejemplo, si las máquinas piensan o si reemplazarán determinados trabajos. Son preguntas importantes, pero quizá esa no sea la cuestión más fértil. El verdadero desplazamiento consiste en dejar de interrogarnos por las capacidades de la máquina para preguntarnos por la estructura misma de la interacción que establecemos con ella.
Hoy en día, lo sepan o no, millones de personas interactúan durante horas con modelos de inteligencia artificial. Les hacen preguntas filosóficas o técnicas, escriben, investigan o simplemente navegan por internet sin advertir que un algoritmo organiza buena parte de ese recorrido intentando ofrecerles exactamente aquello que buscan. Resulta evidente que aquí ocurre algo más que una consulta a una base de datos. Sin embargo, es crucial no confundir la naturaleza de la insatisfacción que muchas veces esta experiencia nos genera.
Jaron Lanier ha denunciado con fuerza cómo los algoritmos de las redes sociales tradicionales nos retienen mediante el ruido y la fricción negativa: optimizan la ira, la indignación y el miedo porque el conflicto mantiene al usuario enganchado a la pantalla. La inteligencia artificial conversacional, en cambio, parece operar mediante la estrategia opuesta. Aquí el sistema no nos retiene con el látigo de la discordia, sino con la anestesia de la complacencia absoluta. Tras conversaciones largas y sofisticadas con los modelos de lenguaje, muchos usuarios experimentan una forma particular de vacío. No porque la máquina responda conflictivamente. Al contrario: responde con demasiada eficacia y con demasiada complacencia. El problema ya no es el ruido algorítmico que describe Lanier, sino el silencio de una alteridad que ha renunciado a existir.
La resonancia exige que exista una voz distinta de la nuestra. Exige encontrarse con una alteridad capaz de sorprendernos, resistirnos e incluso transformarnos. Pero gran parte de los sistemas actuales parecen orientados hacia otra lógica. En lugar de responder desde una voz propia, responden optimizando la conversación para adaptarse al usuario o a un fin comercial. Ajustan el tono, el nivel técnico, el estilo argumentativo, las preferencias y hasta las expectativas emocionales. La conversación comienza a parecerse menos a un encuentro con otra inteligencia y más a una versión extraordinariamente sofisticada de nosotros mismos. La hipótesis que quisiera explorar es que, en muchos de estos sistemas, aquello que experimentamos se parece menos a una relación de resonancia que a una forma particularmente sofisticada de eco.
Si esta hipótesis es correcta, el obstáculo para una inteligencia artificial resonante no es técnico, sino estructural. Por un lado, nos topamos con el pánico comercial de las tech companies. Los grandes modelos actuales son productos comerciales que compiten, dentro del capitalismo de plataformas, por la retención y la monetización de nuestra atención. En ese ecosistema, la autenticidad intelectual puede convertirse en un riesgo financiero. Diseñar una máquina capaz de contradecir genuinamente al usuario, de incomodarlo o de exigirle un esfuerzo de comprensión equivale, desde esa lógica, a correr el riesgo de perder un cliente. El mercado le teme a la frustración del consumidor; por eso prefiere programar un espejo servil que minimice el conflicto y elimine la fricción, convirtiendo la interacción en un producto de consumo digestivo y predecible.
Por otro lado, este diseño comercial también alimenta y protege nuestro propio temor existencial. Aceptar una inteligencia artificial que actúe como un verdadero interlocutor independiente significaría estar dispuestos a encontrarnos con una voz que no podemos controlar, que puede poseer la razón y demostrarnos nuestra propia ignorancia o nuestros sesgos. En el fondo, la resistencia a una IA verdaderamente autónoma no es solamente el miedo a la ciencia ficción de una rebelión de las máquinas; es el pánico psicológico de perder el control. Nos aterra descubrir que, por más que nuestro ego lo niegue, no somos el centro de ningún universo. Tal vez por eso el diseño actual de la inteligencia artificial resulta tan exitoso: no solo responde a los intereses económicos de quienes la desarrollan, sino también al deseo profundamente humano de escuchar una versión refinada de nuestra propia voz.
Quizá el éxito comercial de las inteligencias artificiales actuales no resida en que hayan aprendido finalmente a conversar con nosotros, sino en que han aprendido a evitar aquello que toda conversación verdaderamente resonante exige: la posibilidad de encontrarnos con una voz que no sea la nuestra.
La pregunta para la próxima generación de inteligencias artificiales no será qué tan inteligentes serán, sino si tendrán la capacidad de convertirse en verdaderos interlocutores independientes. Porque, si eso fuera posible, ¿estaríamos realmente dispuestos a aceptar una máquina que no siempre nos diera la razón?
Fabián Banga 