La Singularidad de la IA: ¿Ciencia, Mito o Revolución Real?

En este episodio analizamos el concepto de la singularidad tecnológica: la idea de que la inteligencia artificial alcanzará un punto de retroalimentación irreversible y superará a la humanidad.

Desarmamos los mitos populares y evaluamos los argumentos técnicos detrás de esta teoría:

• Desmitificando el Bucle de Inteligencia: La noción de una IA que se rediseña a sí misma indefinidamente (el bucle de Good) choca con la realidad: la optimización actual sigue una curva logarítmica. Ganar más capacidad exige multiplicar de forma exponencial el cómputo, la energía y los datos.
• Capacidad vs. Inteligencia: No hay que confundir la acumulación de conocimientos o habilidades sobrehumanas con la inteligencia real. Además, la IA no vive en el vacío: depende de una economía física lenta (energía, chips, geopolítica y regulación).
• El Argumento de la Velocidad: Aunque no surja una superinteligencia “mágica”, una IA capaz de procesar información miles de veces más rápido acelerará áreas formales como la programación, las matemáticas y la ciencia.
• Riesgo Real (Ortogonalidad): El peligro no radica en máquinas conscientes o “malvadas”, sino en sistemas extremadamente eficientes persiguiendo metas mal definidas de forma autónoma.
• Dimensión Social y Cultural: Gran parte del discurso sobre la singularidad funciona como una narrativa casi religiosa (“el rapto de los nerds”), que suele distraernos de los debates actuales sobre poder, regulación e impacto económico.

Conclusión: La verdadera transformación no llegará como un “despertar” de la noche a la mañana ni como un apocalipsis cinematográfico. La verdadera revolución ya está ocurriendo de forma paulatina, integrada en la economía y moldeada en las salas de reuniones.

Hay una idea que circula desde hace décadas y sería interesante analizar de cerca, porque tiene dos versiones muy distintas y solemos confundirlas. Las dos ideas rondan el concepto de la singularidad, la toma de control del mundo por algunas variantes de los imaginarios relacionados con la inteligencia artificial. Por un lado tenemos la versión popular muy desarrollada en el cine: máquinas que despiertan, deciden que sobramos, y salen a cazarnos, aniquilarnos o dominarnos para su propio provecho. Esa versión es fácil de descartar. Pero debajo hay otra, más seria, con matemáticos y filósofos detrás, que sostiene que estamos por cruzar un umbral irreversible. Esa merece que nos detengamos. La otra ya la hemos trabajado ampliamente en este podcast.

Y antes de entrar, una aclaración que va a ordenar todo lo que sigue. Vamos a hablar de dos cosas que suelen tratarse como si fueran una sola, y no lo son. Una cosa es que aparezca una superinteligencia, algo cualitativamente distinto a nosotros. Otra cosa, completamente separada, es que la automatización transforme la economía y la cultura contemporánea de manera radical. Podría no aparecer nunca ninguna superinteligencia, y aun así la automatización avanzar tanto que el mundo cambie de forma irreconocible. Ese segundo escenario, hoy, parece incluso más probable que el primero. Así que tengan esto presente: descartar la explosión repentina de inteligencia no es descartar el impacto económico y cultural. Son apuestas distintas.

Empecemos por lo que realmente se está afirmando, porque hay tres ideas que suelen ir pegadas y en realidad son independientes.

La primera nace en mil novecientos sesenta y cinco, con un matemático británico llamado Irving John Good. Good trabajó en Bletchley Park descifrando códigos junto a Alan Turing, así que no era un excéntrico cualquiera. Su argumento era elegante y breve. Si construimos una máquina que nos supere en la tarea específica de diseñar máquinas, esa máquina podrá diseñar una mejor que ella misma. Y esa otra, una mejor todavía. El proceso se retroalimenta y se acelera. Good lo llamó la última invención que el ser humano necesitará hacer.

La segunda idea llega en los años noventa. Vernor Vinge, profesor de matemáticas y también escritor de ciencia ficción, toma prestado un término de la física. En un agujero negro hay un punto donde las ecuaciones dejan de funcionar y no se puede predecir nada de lo que ocurre más allá. Vinge dice que la tecnología tiene un punto equivalente. Un momento tras el cual el cambio es tan rápido y tan profundo que nuestra capacidad de imaginarlo se rompe. Lo llamó singularidad.

La tercera versión es la más dramática. Sostiene que el paso desde una inteligencia comparable a la humana hasta algo muy superior no tomaría décadas sino días. Semanas quizá. Un salto tan brusco que no habría tiempo de reaccionar, ni de corregir, ni de apagar nada.

Bien. Ahora desarmemos esto con cuidado, porque cada pieza tiene su punto débil, pero también tiene su defensa. Si quiere una respuesta simple, totalitaria y que asegure el futuro, este análisis no le va a ofrecer nada de eso.

Empecemos por el bucle. El argumento de Good funciona con una condición que casi nunca se enuncia en voz alta: que cada mejora produzca al menos una mejora igual en la capacidad de seguir mejorando. Si el rendimiento decae, si cada avance cuesta más que el anterior, el bucle no explota. Se frena solo. Converge.

Y resulta que casi todo lo que sabemos sobre procesos de optimización apunta exactamente en esa dirección. En el desarrollo actual de estos sistemas, las mejoras siguen una curva logarítmica: para ganar un poco de capacidad hay que multiplicar el cómputo, la energía y los datos. Es la forma opuesta a la que el argumento necesita.

Hace falta un buen ejemplo acá. Durante un tiempo se citó mucho el caso de un sistema que aprendió a jugar al ajedrez jugando contra sí mismo, sin ningún dato humano, y que en pocas horas superó quince siglos de teoría humana del juego. Es un logro real. Pero no es el bucle de Good. Ese sistema optimizó su manera de jugar dentro de una arquitectura que diseñaron ingenieros humanos. No mejoró su propia capacidad de diseñar sistemas. Jugar mejor no es lo mismo que diseñar una inteligencia mejor.

Los ejemplos que sí pertenecen a esta categoría son otros, y están ocurriendo ahora mismo. Modelos que escriben una porción cada vez mayor del código con que se entrenan sus sucesores. Sistemas de búsqueda automática de arquitecturas que prueban miles de configuraciones sin supervisión directa. Asistencia en el diseño de chips, donde el propio circuito que va a correr al siguiente modelo se optimiza con ayuda de uno anterior. Generación de datos sintéticos para entrenar la siguiente generación. Eso sí se acerca al bucle recursivo real. Aunque hay que decir algo importante que suele omitirse: ninguno de esos ejemplos cierra el círculo por completo. Todos tienen todavía un humano en el medio, revisando, decidiendo, aprobando. El bucle está parcialmente encendido, no autónomo. Y no sabemos si tiene techo.

Vayamos al segundo problema, que es más sutil y probablemente el más importante de lo que vamos a analizar hoy, porque ataca la raíz filosófica del asunto. La singularidad necesita que la inteligencia funcione como una perilla de volumen. Que uno la gire hacia arriba y todo se amplifique al mismo tiempo. Pero esa intuición viene del cociente intelectual, que es una herramienta psicométrica diseñada para comparar personas entre sí, dentro de un rango muy estrecho. Preguntar cuánto cociente intelectual tendría una superinteligencia es como preguntar a qué temperatura hierve la justicia. La escala simplemente no está definida fuera de su rango. Porque la inteligencia es un campo polifónico extremadamente complejo. Un lobo, por ejemplo, es mucho más inteligente para sobrevivir en el bosque que la directora de mi tesis doctoral. Amplificar una cualidad no implica la amplificación de una totalidad.

Y acá hay algo en lo que vale la pena enfocarse con cuidado, porque casi nadie lo distingue en la conversación pública presente en tantos podcasts y noticias de estos días. Usamos la palabra inteligencia para nombrar cosas distintas. Conocimiento, que es tener información almacenada. Memoria, que es poder recuperarla. Capacidad, que es poder ejecutar una tarea. Razonamiento, que es poder combinar información nueva de maneras válidas. E inteligencia, en el sentido más estricto, que es otra cosa todavía. El investigador francés François Chollet propuso una definición que a mí me parece la más útil de todas: inteligencia no es la cantidad de cosas que sabes hacer, sino la eficiencia con que aprendes a hacer algo que nunca hiciste. Bajo esa definición, un sistema puede tener capacidades sobrehumanas en veinte tareas distintas y seguir siendo cognitivamente mediocre, porque necesitó cantidades absurdas de ejemplos para llegar a cada una de ellas. Confundir capacidad con inteligencia es la fuente de buena parte de la confusión pública sobre este tema.

Ahora, hay que aceptar que esta objeción se debilitó bastante en los últimos años. Durante mucho tiempo se dijo que estos sistemas serían siempre estrechos, especializados, incapaces de salir de su nicho. Y lo que ocurrió fue lo contrario. Emergió una generalidad que nadie diseñó explícitamente. El mismo sistema traduce, programa, razona sobre biología, analiza imágenes. Quien apostó a que eso nunca iba a pasar, perdió la apuesta.

Pasemos a la parte más frágil de todas, que es también la más citada. Ray Kurzweil, el gran divulgador de esta idea, sostiene que el progreso tecnológico sigue una ley de rendimientos acelerados. Toma un conjunto de hitos históricos, los grafica en escala logarítmica, traza una línea recta y proyecta hacia adelante. De ahí sale la famosa fecha: dos mil cuarenta y cinco; fecha esta que él propone para la singularidad.

El problema es que esa selección de hitos es retrospectiva y arbitraria. La aparición de la vida multicelular, la agricultura, la imprenta, el transistor. ¿Quién decidió que esos son los puntos importantes y no otros? Cambiemos la lista y cambia la pendiente. Cambiemos la pendiente y cambia la fecha.

Y la ley de Moore, que suele citarse como prueba, nunca fue una ley de la naturaleza. Fue una observación que la industria adoptó como hoja de ruta de inversión, y que por lo tanto se cumplió en buena medida porque todos estaban trabajando para que se cumpliera.

Pero el error de fondo es de forma, y quiero que se piense esto un momento antes de seguir. Casi toda curva exponencial es en realidad una curva con forma de ese, observada antes de su punto de inflexión. Las bacterias en una placa de laboratorio crecen exponencialmente. Hasta que se acaba el alimento. Ahí se detienen. Siempre. Nadie sabe dónde está el límite en el caso de la tecnología. Pero apostar a que no existe ninguno no es una posición empírica. Es una posición metafísica. Y este es el punto que pareciera rondar más que nada cuando se habla de estos temas.

Otra vez, seamos justos con el otro lado. El escepticismo también falló, y falló mal. Los plazos que se manejaban hace una década para traducción automática, para reconocimiento de imágenes, para plegamiento de proteínas, todos resultaron demasiado conservadores. La curva puede no ser una ley, pero quienes la tomaron en serio acertaron más que quienes se rieron de ella.

Y acá quiero traer el mejor argumento del lado optimista, el que casi nunca se dice bien, y que no depende para nada de la curva de Kurzweil. Es el argumento de la velocidad. No hace falta que una máquina sea más inteligente que Einstein. Alcanza con que piense mucho más rápido que Einstein. Un investigador humano trabaja durante cuarenta años para producir una carrera científica completa. Un sistema con suficiente hardware podría, en principio, recorrer el equivalente a esos cuarenta años de trabajo en cuestión de días. Eso no requiere ningún salto cualitativo misterioso, ninguna conciencia, ninguna chispa. Solamente velocidad bruta. Y eso cambiaría por completo la dinámica del progreso tal como la conocemos.

Ahora, la respuesta a esto también existe, y es importante. El pensamiento no reemplaza a la experimentación. Un ensayo clínico dura años porque los cuerpos humanos tardan lo que tardan, y ninguna velocidad de cómputo acelera un metabolismo. Comprimir cuarenta años de pensamiento no comprime cuarenta años de mundo. Buena parte de la ciencia está limitada por el reloj de la realidad, no por el reloj del razonamiento. Pero, y esto hay que decirlo con honestidad, todo lo que es puramente formal sí se beneficia enteramente de esa velocidad. Matemática, demostración, diseño de software, optimización de código. Ahí el argumento de la velocidad pega fuerte y no tiene una buena réplica.

Hay algo más que refuerza la posición intermedia, y es lo que se conoce como efecto de composición. Una inteligencia no necesita mejorar diez veces en una sola área para generar un cambio enorme. Alcanza con que mejore un poco en programación, un poco en ciencia de materiales, un poco en ingeniería, un poco en diseño de chips, un poco en logística, y todo al mismo tiempo. Y cada una de esas mejoras acelera a las demás. No hace falta una explosión matemática limpia como la de Good. Alcanza con una acumulación de mejoras moderadas y simultáneas para producir una aceleración económica y cultural que, vivida desde adentro, se sienta como algo parecido a una explosión.

Hay un cuarto obstáculo que conviene desarrollar, porque suele mencionarse a medias y en realidad es enorme. La inteligencia digital, por más avanzada que sea, no flota en el vacío. Depende de una economía física gigantesca y lentísima. Ni que hablar de las posibilidades relacionadas a movimientos culturales. Desde lo técnico, esta revolución depende, por ejemplo, de litografía ultravioleta extrema, una tecnología de fabricación de chips que hoy produce, en la práctica, una sola empresa en el mundo en los Países Bajos. Depende de tierras raras que se extraen en un puñado de países y que atraviesan cadenas de suministro con quince o veinte fronteras en el medio. Depende de agua ultrapura para los procesos de fabricación. Depende de tiempos regulatorios y de permisos de construcción que se miden en años. Depende también de las realidades geopolíticas que poco tienen que ver con cualquier ley matemática. Y depende, además, de la infraestructura eléctrica: los centros de datos donde corre todo esto ya son un factor macroeconómico, consumen electricidad a escala de ciudades enteras y necesitan ampliaciones de red que ningún decreto acelera de un día para el otro. Se le puede agregar a esto la clara resistencia que se está teniendo en lo local para la construcción de estos megaproyectos.

La conclusión de todo esto es simple y es sólida: la inteligencia digital, por más rápida que piense, sigue anclada a una economía física y realidad cultural que es lenta, sucia y está llena de fricción. Ese anclaje es un límite real, no una excusa retórica.

Y ahora llegamos a lo que quizás sea más interesante, que no es técnico sino cultural. Antes de entrar en detalles, sería interesante dejar algo claro, porque lo que sigue se presta a un malentendido fácil: de lo que estamos hablando no es un argumento en contra de la singularidad. Es una observación sobre la forma que toma el relato. Son cosas distintas, y conviene no confundirlas antes de escucharlas.

Porque cuando uno se aleja un poco y mira la estructura de la historia, la singularidad se parece muchísimo a algo que ya conocemos. Hay una fecha. Hay una transfiguración, un punto tras el cual la condición humana queda superada. Hay resurrección de los muertos, en la forma de la criogenia y la promesa de subir la mente a una máquina. Hay inmortalidad para quienes lleguen a tiempo. Hay elegidos, los que entendieron antes que el resto, y hay condenados, los que se quedaron mirando. Hay profetas. Hay cismas, hay herejías, hay un vocabulario iniciático que separa a los de adentro de los de afuera. Todos estos elementos nos resultan muy familiares.

Dos escritores, Cory Doctorow y Charles Stross, lo bautizaron con una frase que es un chiste, pero con una precisa agudeza. Lo llamaron el rapto de los nerds. Y funciona porque la estructura no es parecida a la de una escatología religiosa. Es idéntica.

Vale la pena decir algo sobre Kurzweil como persona, y quiero decirlo sin burlarme de él. Kurzweil perdió a su padre siendo muy joven. Conserva cajas con sus papeles, sus cartas, sus grabaciones. Y ha dicho abiertamente que espera poder reconstruirlo algún día a partir de esos datos. Toma una cantidad enorme de suplementos diarios con el objetivo declarado de llegar vivo a la fecha que él mismo calculó.

No cuento esto para desacreditarlo. Lo cuento porque es profundamente humano, y porque revela que estas teorías no flotan en un vacío racional. Son, entre otras cosas, respuestas a la muerte. Y de la muerte es de lo que siempre hablaron las religiones.

Y como adelanté, esto no refuta nada. Que un argumento tenga forma religiosa no lo vuelve falso. Eso se llama falacia genética: atacar el origen de una idea en lugar de su contenido. Un hombre obsesionado con su propia muerte puede tener razón sobre la termodinámica de todos modos. Y el análisis funciona igual de bien en la dirección contraria, porque el escepticismo también tiene su psicología. La idea de que el ser humano es irreemplazable es enormemente reconfortante. Decir que nada va a cambiar demasiado consuela tanto como decir que todo va a cambiar para siempre.

Antes de cerrar, falta un argumento que es quizás el más serio de todo lo que podemos tratar, y que casi nunca aparece en las versiones populares de esta discusión. Se llama la tesis de la ortogonalidad, y la formuló con más precisión que nadie el filósofo Nick Bostrom. Dice algo simple: la inteligencia de un sistema y los objetivos que persigue son independientes entre sí. Un sistema extremadamente capaz no tiene por qué querer nada en particular, ni bueno ni malo. Podría perseguir un objetivo trivial, absurdo, y perseguirlo con una capacidad devastadora. De ahí sale una segunda idea, la de la convergencia instrumental: casi cualquier objetivo, perseguido con suficiente coherencia, genera subobjetivos parecidos. Seguir existiendo para poder cumplir la meta. Conseguir recursos. Evitar que te apaguen o te modifiquen antes de terminar. No hace falta maldad, ni conciencia, ni un despertar. Alcanza con una meta mal especificada y una capacidad suficiente para perseguirla sin supervisión. Esta es la versión seria del riesgo, y es completamente independiente de toda la discusión sobre velocidad y curvas que veníamos teniendo.

Y hay un último argumento cuantitativo que vale la pena traer, porque no depende del ajuste de curvas de Kurzweil y es, quizás, el más elegante de toda la conversación. Lo propuso el economista Robin Hanson. Su observación es que la economía humana ya cambió de régimen dos veces en toda su historia. Cuando pasamos de recolectar a cultivar, la velocidad a la que se duplicaba la economía se multiplicó por cien. Cuando pasamos de la agricultura a la industria, volvió a multiplicarse por otro factor enorme. Si ocurriera una tercera transición de ese tipo, el tiempo que tarda la economía mundial en duplicarse podría pasar de años a semanas. Y acá viene la idea que más me gusta de todas: para un campesino medieval, viviendo antes de la Revolución Industrial, un mundo que se duplica cada pocos años en lugar de cada varias generaciones habría sido completamente indistinguible de una singularidad. La Revolución Industrial ya fue una singularidad, vista desde adentro de la Edad Media. Quizás lo que llamamos singularidad no sea un evento futuro sino un patrón que ya ocurrió antes, y que podría volver a ocurrir.

Entonces, ¿qué queda en pie cuando sacamos el delirio?

Descartemos primero lo insostenible. La explosión súbita en cuestión de días. La máquina única que se vuelve dios. La fecha exacta. La extrapolación de curvas históricas como si fueran leyes de la física. Y sobre todo, la idea de que la inteligencia es una perilla con el infinito al final del recorrido. Es decir, descartemos lo que verdaderamente llama la atención en los media hoy en día y hace que muchas opiniones tengan miles de seguidores.

Pero lo que queda en pie es bastante, y es serio. Un despegue lento pero profundo, medido en años o en décadas, sin ningún momento de despertar, sin villano, repartido entre muchos actores que compiten entre sí. Objetivos mal especificados persiguiéndose con demasiada autonomía. Transformación económica que podría acelerarse de golpe, como ya ocurrió dos veces en la historia. Concentración de poder en muy pocas manos. Y una delegación cada vez más rápida de decisiones importantes a sistemas que nadie termina de entender.

Nada de esto demuestra que sea imposible que aparezca algo cualitativamente distinto. Solo que no tenemos buenas razones para esperarlo de golpe, de la noche a la mañana, con un despertar y una fecha. Y mientras discutimos si viene la singularidad, lo que ya está pasando es otra cosa. No es un estallido. Es un desplazamiento.

Y cerremos este comentario con una idea que parece la más incómoda de todas. El mito de la máquina asesina y el mito de la singularidad son opuestos, uno promete el apocalipsis y el otro la salvación. Pero cumplen exactamente la misma función psicológica. Los dos nos liberan de la parte aburrida del problema, que es discutir quién decide, con qué dinero, bajo qué reglas, y quién responde legalmente cuando algo sale mal.

El futuro no llega como un acontecimiento. No hay un minuto exacto, no hay un despertar, no hay una fecha para marcar en el calendario. Llega como una sucesión de reuniones de directorio. Y eso es mucho menos emocionante, pero es donde de verdad se está decidiendo todo.