Durante los últimos años, en el campo de los imaginarios de la inteligencia artificial, especialmente en los análisis mediáticos, surge un fenómeno curioso. Las mismas empresas que desarrollan los modelos más avanzados son también quienes con mayor frecuencia nos advierten sobre los peligros extraordinarios que esos modelos podrían representar para la humanidad. No es un caso universal, pero hay muchos ejemplos de CEOs o investigadores de vanguardia con discursos hasta mesiánicos, en los que se pronostican escenarios apocalípticos que, más allá de lo válidos que puedan ser, llaman la atención mediática por su sensacionalismo.
El debate sobre inteligencia artificial queda siempre rápidamente envuelto en una combinación de entusiasmo y pánico. Un ejemplo son las declaraciones sobre la posible desaparición de millones de empleos, el colapso de instituciones democráticas, inteligencias artificiales conscientes, riesgos existenciales e incluso la eventual extinción de la especie humana. Se trata, en muchos casos, de afirmaciones poco sustentadas, pero con una llave indiscutible hacia aquello que mejor funciona a la hora de volverse popular en las redes.
Es precisamente esa situación la que Cal Newport denomina doom trolling: una estrategia comunicacional en la que una empresa comercializa activamente un producto mientras alimenta, al mismo tiempo, escenarios extremadamente alarmistas acerca de las consecuencias futuras de ese mismo producto. No se trata simplemente de advertir sobre riesgos tecnológicos. Lo que Newport considera problemático es la convivencia entre el acto de vender una tecnología y el acto de presentar públicamente esa tecnología como una posible amenaza civilizatoria. Newport cuenta con el conocimiento para hablar del tema: es profesor de ciencia de la computación en la Universidad de Georgetown y un reconocido ensayista que escribe sobre el impacto de la tecnología en la cultura y el trabajo.
Muchos y muchas analistas proponen la posible dinámica de generar atención sobre la tecnología que se desarrolla para producir un efecto de sinergia económica. Y esta hipótesis, interesantemente, se asemeja mucho a los miedos que la humanidad ha proyectado sobre las nuevas tecnologías desde hace milenios. No se enfatiza en los problemas reales; el foco termina desplazándose hacia ideas mediáticas, casi mesiánicas, que parecen foráneas al ámbito concreto que estas tecnologías efectivamente dominan.
Es ahí cuando aparece una paradoja interesante. Mientras el debate público gira alrededor de escenarios extremos —la superinteligencia, el reemplazo absoluto del trabajo humano o la extinción de nuestra especie— muchas de las transformaciones que ya están ocurriendo reciben una atención considerablemente menor. Son problemas mucho menos espectaculares, pero precisamente por eso resultan mucho más difíciles de convertir en titulares. En otras palabras, mientras el doom trolling concentra nuestra atención sobre futuros hipotéticos, numerosos problemas presentes y perfectamente observables quedan desplazados a un segundo plano.
Por ejemplo, el progresivo deterioro de las redes sociales como espacios de intercambio humano. Si bien el deterioro no es un problema exclusivo de estas tecnologías, la inteligencia artificial acelera una tendencia previa: la producción masiva de contenido automático, la proliferación de perfiles artificiales y una creciente dificultad para distinguir cuándo interactuamos con personas y cuándo con sistemas automatizados. El problema ya no consiste únicamente en que una imagen o un texto puedan ser falsos; el problema es que la propia experiencia social comienza a poblarse de relaciones cuya autenticidad resulta cada vez más incierta.
Algo similar ocurre en la educación y en la producción cultural. Nunca fue tan sencillo producir enormes cantidades de textos, imágenes, videos o música. Estudiantes, empresas y creadores pueden generar en pocos minutos un volumen de contenido que antes requería semanas de trabajo. Sin embargo, el verdadero desafío ya no parece ser la capacidad de producir, sino la capacidad de discriminar, seleccionar y otorgar valor dentro de una abundancia prácticamente ilimitada. Pero, como educadores, sabemos que lo que los estudiantes producen, en algunos casos, no representa en lo más mínimo un logro de aprendizaje. Textos impecables que proyectan una imagen sofisticada —inclusive desde el análisis crítico— se desmoronan apenas comenzamos una conversación con el estudiante. El problema no consiste en que la inteligencia artificial participe del proceso educativo; por el contrario, el buen uso de esta tecnología puede convertirse en un tutor extraordinario. Lo mismo ocurre cuando una idea es mejorada por la herramienta. El problema aparece, en cambio, cuando permite simular el resultado del aprendizaje sin haber atravesado el proceso intelectual que normalmente conduce a ese resultado. Para quienes buscan el atajo, la herramienta termina reemplazando el camino. Los logros a corto plazo se vuelven una avalancha incontenible con el tiempo. No es algo nuevo; ya lo habíamos visto mediante las trampas habituales. La diferencia es que estas nuevas tecnologías han facilitado enormemente ese camino.
Es ahí cuando aparece una cuestión todavía más profunda en el proceso creativo, que ya está siendo rechazada. Buena parte de esa producción posee una notable corrección técnica, pero al mismo tiempo transmite una sensación de homogeneidad insípida que, desde lo estético, produce una impresión de monotonía. Encontramos textos bien construidos, imágenes impecables y videos correctamente editados que, sin embargo, suelen compartir una misma estética y una misma estructura discursiva. Una producción abundante, eficiente y funcional, pero muchas veces diluida, que termina produciendo rechazo; una cultura capaz de multiplicar infinitamente las formas sin que necesariamente aumente la densidad de sus contenidos. Terminamos insatisfechos frente al paradigma, del mismo modo que pasamos horas desplazándonos por las redes sociales sin sentir que hemos encontrado algo verdaderamente significativo. La producción aumenta; la experiencia, en cambio, parece volverse cada vez más uniforme.
Por eso, quizás convenga volver a traer la inteligencia artificial al campo en el que realmente existe: el de una herramienta tecnológica. Extraordinariamente sofisticada, sin duda, pero herramienta al fin. Las fantasías sobre una futura Inteligencia Artificial General, repetidas una y otra vez en el debate público, terminan muchas veces perjudicando estas tecnologías al desplazar la atención de aquello para lo que ya resultan realmente valiosas. Su fortaleza no reside en reemplazar el pensamiento humano, sino en asistirlo dentro de dominios muy concretos y limitados.
En mi propio trabajo utilizo con frecuencia herramientas como ChatGPT o Gemini. Suelen ser excelentes para detectar errores gramaticales, responder correos electrónicos mecánicos y burocráticos, encontrar material en las redes, señalar frases inconexas o sugerir posibles desarrollos para un texto. Muchas veces descubren problemas que habían pasado completamente inadvertidos. Sin embargo, también ocurre que una parte importante de sus sugerencias no mejora el ensayo; en ocasiones, incluso lo empeora. Proponen relaciones demasiado evidentes, desarrollos previsibles o ideas que desvían lentamente el texto de aquello que uno intenta construir.
Paradójicamente, esta misma observación constituye un buen ejemplo de esas limitaciones. Hace apenas un momento, mientras corregía este mismo ensayo, la inteligencia artificial me sugirió escribir que un texto “pierde espesor, pierde voz y pierde precisamente aquello que hacía interesante al argumento original”. La frase es correcta. El problema es que también es exactamente el tipo de construcción que estos modelos producen con frecuencia: una sucesión de ejemplos o de ideas que parecen reforzar el argumento, pero que muchas veces terminan diluyéndolo. Quien escribe termina aceptando formulaciones estadísticamente probables en lugar de construir una voz propia. Ese es precisamente el tipo de sugerencia que conviene aprender a reconocer y, muchas veces, descartar. Sobre todo para encontrar un equilibrio entre lo que resulta práctico y útil y aquello que conserva riqueza y originalidad.
No cabe duda de que siempre existe un compromiso cuando utilizamos cualquier tecnología. El automóvil me acerca a enormes distancias en muy poco tiempo, pero ese beneficio lo pago con la falta de ejercicio y con el mantenimiento económico de la propia herramienta que a su vez debo compensar trabajando más horas para generar los recursos que la mantengan. La lectura de mis textos mediante una voz clonada no es perfecta, pero se realiza mucho más rápidamente que si tuviera que leerlos yo mismo, silenciar mi oficina, preparar el estudio y activar micrófonos de alta calidad. Toda tecnología implica una cadena de causas y efectos. Como decía el Merovingio en The Matrix Reloaded: «Como ven, solo hay una constante. Una universal. Es la única verdad real: la causalidad. Acción. Reacción. Causa y efecto».
Y es precisamente por eso que aprender a utilizar y entender estas herramientas resulta mucho más importante que atribuirles capacidades casi míticas o aterradoras. No se trata de delegar el pensamiento, sino de saber en qué momentos conviene aceptar una sugerencia y en cuáles descartarla. Como ocurre con cualquier tecnología madura, su verdadero valor no aparece cuando imaginamos todo lo que podría hacer, sino cuando comprendemos con precisión aquello que hace bien y aquello que, sencillamente, no sabe hacer.
Fabián Banga 