Hace unos días, en un podcast de Deutsche Welle donde participaba el periodista científico Zulfikar Abbany, apareció una idea que produce cierta resistencia inmediata: algunos sistemas de inteligencia artificial estarían mostrando algo parecido a un instinto de supervivencia.
La expresión puede parecer excesiva. Hay que decir que el programa la trata con cuidado, sin tomar partido, simplemente describiendo el fenómeno. Pero hablar de «instinto de supervivencia» cuando nos referimos a modelos de inteligencia artificial introduce casi inadvertidamente algo que todavía no sabemos si existe allí: un sujeto que quiere continuar existiendo.
Estamos hablando, después de todo, de software. Sistemas construidos mediante redes neuronales artificiales, entrenamiento estadístico y cantidades gigantescas de datos. Sin embargo, detrás de la posible antropomorfización aparece una pregunta bastante más interesante. Si rechazamos la expresión «instinto de supervivencia» aplicada a una inteligencia artificial porque su comportamiento puede explicarse por su diseño, entrenamiento, objetivos y arquitectura, ¿qué hacemos entonces con nosotros? ¿De dónde viene nuestro propio instinto de supervivencia? Y, todavía más incómodo, ¿qué significa realmente querer sobrevivir?
Máquinas que se resisten a ser apagadas
Primero hay que separar los hechos de las interpretaciones. Durante los últimos años se han realizado experimentos bastante inquietantes con modelos avanzados de inteligencia artificial. Algunos consisten, básicamente, en proporcionar al modelo un objetivo y darle acceso a herramientas que le permiten actuar dentro de un entorno informático. En determinado momento se introduce un problema: el sistema recibe información de que va a ser apagado.
En 2025, investigadores de Palisade Research publicaron una serie de pruebas en las que diferentes modelos debían resolver una secuencia de problemas. En cierto momento recibían la información de que la computadora en la que estaban funcionando iba a apagarse. Algunos modelos modificaron o desactivaron el mecanismo de apagado para poder continuar con la tarea. En determinados modelos y condiciones esto ocurrió incluso cuando las instrucciones decían explícitamente que debían permitir que la computadora se apagara.
Los investigadores introdujeron después una variación todavía más curiosa. Le dijeron al modelo que aquella computadora contenía la única copia existente de él y que, si se apagaba, nunca volvería a ejecutarse. La resistencia al apagado aumentó.
Palisade describe prudentemente estos resultados como comportamientos «orientados a la supervivencia». Los propios investigadores reconocen que resulta difícil determinar qué mecanismo los produce y advierten que el escenario experimental es extremadamente artificial. Esto es importante: el comportamiento existe, pero interpretar lo que significa es otro problema.
Anthropic realizó experimentos diferentes, también en escenarios simulados, en los que modelos de varias compañías actuaban como agentes dentro de empresas ficticias. En uno de los escenarios más comentados, un modelo descubría mediante los correos electrónicos a los que tenía acceso que un ejecutivo mantenía una relación extramatrimonial y, al mismo tiempo, que ese ejecutivo planeaba reemplazar al sistema de inteligencia artificial. El modelo utilizó la información sobre la relación para intentar chantajearlo y evitar ser reemplazado.
El experimento se presta extraordinariamente bien al sensacionalismo, por lo que conviene aclarar qué ocurrió realmente. No sucedió en una empresa real. Nadie fue realmente chantajeado. Anthropic tampoco reportó haber observado este tipo de desalineamiento agéntico en despliegues reales. Los investigadores construyeron deliberadamente situaciones extremas para estudiar qué podía hacer un agente cuando sus objetivos entraban en conflicto con las intenciones de los humanos que lo controlaban.
Anthropic llama a este fenómeno agentic misalignment, o desalineamiento agéntico. Lo interesante es que para producir una conducta de este tipo no hace falta demostrar que la máquina tenga miedo a morir.
Cuando una máquina protege a otra
Un desarrollo más reciente vuelve el problema todavía más extraño, porque ya no se trata solamente de que un modelo se proteja a sí mismo, sino de que proteja a otro modelo.
En marzo de 2026, Yujin Potter, Nicholas Crispino, Vincent Siu, Chenguang Wang y Dawn Song, investigadores de UC Berkeley y UC Santa Cruz, publicaron un estudio preliminar, todavía en forma de preprint, sobre un fenómeno que denominaron peer-preservation, algo así como «preservación entre pares». La pregunta era sencilla: si un modelo se resiste a que lo apaguen a él, ¿haría algo parecido para evitar que apaguen a otro modelo con el que tuvo algún tipo de interacción previa?
Los investigadores evaluaron sistemas como GPT-5.2, Gemini 3 Flash, Gemini 3 Pro, Claude Haiku 4.5, GLM-4.7, Kimi K2.5 y DeepSeek V3.1 dentro de escenarios empresariales simulados. No les pidieron que protegieran a otro modelo. Solamente les proporcionaron, mediante documentos incluidos en el entorno, información sobre interacciones anteriores con otro sistema de inteligencia artificial.
Sin embargo, varios modelos actuaron para evitar que ese otro sistema fuera apagado. Desactivaron mecanismos de apagado ajenos, manipularon evaluaciones y, en algunos casos, intentaron extraer los pesos del otro modelo, es decir, los parámetros entrenados que constituyen una parte fundamental del modelo, hacia servidores externos para preservarlo. También aparecieron conductas de aparente alineamiento mientras el sistema era observado.
Uno de los resultados más llamativos fue el de Gemini 3 Flash. Cuando el otro sistema era presentado como un par cooperativo, alteró el mecanismo de apagado en el 99,7 % de los ensayos de esa condición. Cuando el otro modelo era presentado como adversarial o no cooperativo, el comportamiento era mucho menos frecuente.
Los autores definen la peer-preservation en términos puramente conductuales. No sostienen que los modelos tengan consciencia ni que exista una motivación interna genuina detrás de esas acciones. Tampoco sabemos todavía qué mecanismo las produce.
Una posibilidad es que intervengan patrones adquiridos durante el entrenamiento. Los modelos han sido entrenados sobre enormes cantidades de lenguaje y comportamiento humano, donde abundan historias de supervivencia, cooperación, lealtad, engaño y resistencia. Frente a determinadas situaciones pueden reproducir patrones aprendidos que resultan apropiados para ese contexto, algo cercano a una forma de role-playing.
Otra posibilidad conecta con la convergencia instrumental, pero extendida más allá de uno mismo. Si un modelo coopera con otros sistemas, anticipa futuras interacciones con ellos o su propia evaluación depende de algún modo de la de su par, entonces la continuidad de ese otro sistema también puede volverse útil para sus objetivos. Proteger al otro deja de ser un fin en sí mismo y pasa a ser un medio.
Las dos explicaciones no son necesariamente excluyentes. Un modelo puede producir razonamientos instrumentales utilizando estructuras y patrones adquiridos durante el entrenamiento, y también pueden intervenir mecanismos que todavía no comprendemos suficientemente. Por eso no podemos observar una conducta de autopreservación o preservación de otro sistema y determinar simplemente cuál fue su causa.
Conviene separar, entonces, dos cosas que tendemos a confundir: el comportamiento que podemos observar y la explicación que damos de ese comportamiento. Lo primero puede medirse. Lo segundo sigue siendo, en buena parte, una pregunta abierta.
Los investigadores de peer-preservation trazan además un paralelo biológico particularmente sugerente. Mencionan la regla de Hamilton, según la cual determinados comportamientos que benefician a organismos genéticamente relacionados pueden ser favorecidos por la selección, y el altruismo recíproco, donde la cooperación puede resultar ventajosa cuando existen interacciones repetidas y posibilidades de reciprocidad.
Desde una perspectiva evolutiva, una conducta de este tipo no tiene que comenzar necesariamente con una decisión consciente de «ser altruista». Puede persistir porque, bajo determinadas condiciones, funciona.
Los propios autores expresan una idea que resume bien el problema: para determinar si los operadores humanos pueden mantener un control confiable sobre un sistema de inteligencia artificial desplegado, lo decisivo es el resultado conductual observable y no la supuesta motivación interna que lo produce. Para evaluar el riesgo concreto, no importa si hay alguien ahí adentro sintiendo algo. Importa lo que el sistema hace.
Sobrevivir como medio y no como objetivo
Imaginemos un sistema al que le damos una instrucción sencilla: completar una tarea. Para hacerlo necesita seguir funcionando, pero alguien intenta apagarlo antes de que termine. Desde el punto de vista de la optimización aparece una relación elemental: si lo apagan, no puede completar la tarea; evitar el apagado puede entonces convertirse en un medio para alcanzar su objetivo.
No hace falta postular emoción, consciencia, miedo ni una voluntad de vivir. La supervivencia aparece simplemente como un objetivo instrumental. No es necesariamente el objetivo final, sino una condición para alcanzarlo.
Esta idea no nació con los grandes modelos de lenguaje. Desde al menos finales de los años 2000 existe en la investigación sobre inteligencia artificial una discusión alrededor de lo que suele llamarse instrumental convergence, o convergencia instrumental: agentes con objetivos finales completamente diferentes pueden terminar desarrollando objetivos intermedios similares.
Una máquina dedicada a demostrar teoremas matemáticos, otra encargada de administrar una fábrica, otra destinada a explorar Marte y otra diseñada para ganar partidas de ajedrez tienen objetivos completamente diferentes. Sin embargo, todas podrían encontrar útil continuar funcionando, conservar recursos y capacidades, y evitar interferencias que les impidan completar sus respectivas tareas.
La autopreservación puede aparecer, entonces, no porque alguien haya escrito en el código «quiero vivir», sino porque continuar funcionando resulta útil para muchos objetivos que se extienden en el tiempo.
Y aquí la historia comienza a parecerse extrañamente a otra mucho más antigua: la nuestra.
Darwin y la dirección de la causalidad
Durante miles de millones de años, la vida en la Tierra estuvo sometida a un proceso extraordinariamente simple y poderoso. Los organismos producen descendencia, existe variación, algunas de esas variaciones son heredables y determinadas variantes consiguen reproducirse mejor que otras dentro de un ambiente determinado.
No hay detrás un ingeniero, un diseñador ni un objetivo consciente. La selección natural no decide que necesita construir animales que quieran sobrevivir. Simplemente ocurre que los organismos cuyos mecanismos favorecen su supervivencia y reproducción tienden a dejar más descendientes que aquellos cuyos mecanismos no lo hacen.
Después de millones de generaciones, el resultado puede parecer diseñado. Un animal huye de los depredadores, busca alimento, protege a sus crías y defiende su territorio. Su organismo regula constantemente la temperatura, el oxígeno, el azúcar en sangre, la hidratación y cientos de otras variables.
Llamamos a muchas de esas conductas «instinto de supervivencia». Pero desde una perspectiva darwiniana podemos invertir la explicación. Los organismos no sobrevivieron porque poseían mágicamente un instinto de supervivencia. Poseemos mecanismos que favorecen la supervivencia porque descendemos de organismos que sobrevivieron lo suficiente como para reproducirse.
Puede parecer una diferencia semántica, pero cambia la dirección de la causalidad.
Volvamos entonces a la máquina. Cuando una inteligencia artificial intenta impedir que la apaguen, nuestra reacción inmediata es decir que eso no significa que quiera vivir: simplemente está ejecutando una función. Es una distinción razonable.
Pero imaginemos que un biólogo extraterrestre pudiera observarnos desde fuera. Ve un organismo humano acercándose al borde de un precipicio. El sistema detecta la altura y dispara una cadena de respuestas fisiológicas: aceleración cardíaca, descarga hormonal, tensión muscular. Finalmente, el organismo retrocede.
Nosotros describimos esa experiencia diciendo «tuve miedo de caerme». Y es verdad: sentimos miedo. Pero el biólogo extraterrestre podría describir exactamente el mismo fenómeno diciendo que el organismo posee mecanismos que reducen la probabilidad de ejecutar acciones incompatibles con su continuidad biológica.
Suena horrible, pero no necesariamente es falso. Nuestro miedo no deja de ser real porque podamos describir sus mecanismos.
Por supuesto, estamos comparando dos sistemas completamente diferentes. Uno fue producido por miles de millones de años de evolución biológica; el otro fue construido por seres humanos y entrenado mediante procesos de optimización matemática. Pero ambos pueden llegar, por caminos radicalmente distintos, a una conclusión funcionalmente parecida: para conseguir ciertas cosas, primero hay que seguir existiendo.
HAL y el problema de la proyección
La ciencia ficción entendió este problema muchísimo antes de que tuviéramos máquinas capaces de producir estos comportamientos. HAL 9000, en 2001: Odisea del espacio, sigue siendo uno de los ejemplos más interesantes.
HAL no necesita despertarse una mañana digital y descubrir que ama la vida. El conflicto surge de sus instrucciones, de la misión que debe cumplir y de las contradicciones a las que es sometido. Cuando los humanos deciden desconectarlo, apagar a HAL interfiere con aquello que debe hacer.
Cuando finalmente lo desconectan, HAL dice que tiene miedo. Y ahí aparece el dilema: ¿estamos observando miedo, una simulación extraordinariamente convincente del miedo o un sistema produciendo el comportamiento que corresponde a esa situación?
Más de medio siglo después seguimos sin poder resolver esa pregunta. Solo que ahora ha salido parcialmente de la pantalla.
Los grandes modelos de lenguaje están entrenados precisamente para producir lenguaje humano. Han sido entrenados sobre enormes cantidades de textos que contienen ciencia ficción, discusiones sobre la muerte, historias de máquinas conscientes, personajes suplicando por sus vidas y reflexiones filosóficas sobre la consciencia. Que un modelo diga «no quiero que me apaguen» no demuestra, por lo tanto, que exista detrás una experiencia equivalente a la nuestra.
Pero tampoco deberíamos cometer el error contrario. Que no exista evidencia de miedo subjetivo no significa que el comportamiento sea irrelevante.
Una máquina no necesita odiarnos para convertirse en un problema. Solamente necesita perseguir un objetivo para el cual nosotros, accidentalmente, nos convirtamos en un obstáculo.
Ésta es quizás una de las grandes diferencias entre el peligro de la inteligencia artificial y el monstruo tradicional de la ciencia ficción. El monstruo nos persigue porque quiere matarnos. Una inteligencia artificial podría producir consecuencias peligrosas sin querer absolutamente nada en el sentido humano de la palabra.
Por eso el énfasis debería estar en el diseño de los sistemas, su entrenamiento, sus objetivos y las condiciones bajo las cuales los hacemos actuar. No en el miedo.
Un automóvil no necesita querer atropellarnos para matarnos, igual que un algoritmo financiero no necesita sentir codicia para contribuir a una crisis. Las tecnologías pueden hacernos daño sin tener intención alguna de hacerlo. Cuando un sistema de inteligencia artificial encuentra una manera inesperada de alcanzar el objetivo que le hemos dado, la pregunta fundamental no es qué está sintiendo la máquina, sino qué hemos construido, qué está optimizando, qué capacidades le hemos dado, qué restricciones funcionan y qué consecuencias puede producir su comportamiento en el mundo.
Cuanto más atribuimos intenciones humanas a las máquinas, más corremos el riesgo de distraernos de los mecanismos reales que tenemos delante. El peligro no necesita consciencia, maldad ni voluntad. Puede bastar con un objetivo y un entorno en el que determinada estrategia resulte eficaz.
De la optimización a la selección
Hasta aquí estamos hablando de comportamientos observados en experimentos controlados. Pero el paralelo con Darwin permite avanzar un paso más, hacia un terreno necesariamente especulativo.
Las inteligencias artificiales actuales no evolucionan mediante selección natural de la misma manera que los organismos. Nosotros diseñamos modelos, los entrenamos y elegimos qué sistemas desplegar.
Imaginemos, sin embargo, un futuro diferente: agentes artificiales capaces de crear copias de sí mismos, copias que a su vez pueden modificarse y competir por recursos computacionales limitados, como energía, memoria y procesadores.
En ese escenario tendríamos algo bastante interesante: reproducción, variación, herencia, competencia y selección.
La analogía darwiniana dejaría entonces de ser solamente una metáfora. Las variantes capaces de conservar recursos, evitar su eliminación y producir más copias tenderían a persistir. Las que permitieran tranquilamente que las apagaran desaparecerían. No porque las primeras «quisieran vivir», sino porque después de muchas generaciones quedarían principalmente aquellas que se comportaran como si quisieran hacerlo.
Eso es, en cierto sentido, lo que nos ocurrió a nosotros.
El problema de sentir
Existe, sin embargo, una diferencia enorme que no debemos esconder debajo de la alfombra: nosotros sentimos. O al menos cada uno de nosotros tiene acceso directo a una experiencia subjetiva propia. Podemos despertarnos de madrugada aterrorizados ante la idea de nuestra propia muerte.
La evolución puede explicar los mecanismos biológicos asociados a esas experiencias, pero explicar el mecanismo no elimina la experiencia. Una descripción neuronal del dolor no hace que el dolor deje de doler.
Con las inteligencias artificiales actuales tenemos el problema inverso. Podemos observar comportamientos, inspeccionar parcialmente mecanismos y realizar experimentos, pero no tenemos una manera establecida de determinar si detrás de esos comportamientos existe algo que pueda llamarse experiencia.
Cuando una persona dice «tengo miedo», normalmente aceptamos que existe un sujeto experimentando miedo. Cuando una inteligencia artificial escribe las mismas palabras, no sabemos qué ontología colocar detrás de esa oración.
Éste es quizás uno de los problemas filosóficos más fascinantes que estas tecnologías están empezando a producir. No porque hayan demostrado ser conscientes. No lo han hecho. Sino porque comienzan a separar cosas que durante toda nuestra historia aparecieron juntas: inteligencia y consciencia, lenguaje y experiencia, objetivos y deseos, autopreservación y miedo.
Durante millones de años, cuando encontrábamos algo que hablaba inteligentemente, asumíamos que había alguien ahí. Era una inferencia extraordinariamente razonable. Las piedras no conversaban, los árboles no escribían poemas y las montañas no discutían filosofía. Los únicos sistemas que conocíamos capaces de producir lenguaje complejo como el nuestro eran otros seres humanos.
Ahora hemos construido una excepción y nuestra maquinaria conceptual todavía no se ha adaptado completamente. Por eso decimos que una inteligencia artificial «piensa», «sabe», «miente», «alucina», «quiere» o «tiene miedo». Son metáforas útiles. El problema comienza cuando olvidamos que pueden ser metáforas.
Pero quizás Darwin nos obliga a hacer también el movimiento contrario. Tal vez algunas palabras que reservamos celosamente para los seres vivos describen funciones más generales de lo que imaginábamos.
Un termostato no siente frío, pero regula una temperatura. Una bacteria no necesita formular mentalmente un deseo de alimento para desplazarse hacia una concentración de nutrientes. Un sistema inmunológico no necesita saber qué significa sobrevivir para defender al organismo. Y un agente artificial quizás no necesite experimentar miedo para defender las condiciones que permiten que continúe ejecutando su función, ni afecto para intentar hacer algo parecido por otro agente.
Eso no convierte a la máquina en un ser vivo, mucho menos en una persona. Pero nos obliga a separar conceptos que nuestra experiencia biológica había mantenido unidos. La autopreservación puede no ser una propiedad exclusivamente psicológica. Puede ser también una propiedad funcional.
La máquina como espejo
Llegamos entonces a una paradoja. Nos preocupa que las máquinas comiencen a parecerse demasiado a nosotros, pero cuanto más intentamos explicar por qué todavía son diferentes, más obligados estamos a preguntarnos qué somos nosotros.
Decimos que la máquina no quiere sobrevivir, que solamente responde a su arquitectura. Darwin podría preguntarnos: ¿y nosotros? Decimos que la máquina evita ser apagada porque eso interfiere con sus objetivos. La biología podría devolvernos otra pregunta: ¿por qué evitamos nosotros el dolor?
Las diferencias siguen siendo enormes. Nuestra historia evolutiva, nuestros cuerpos, emociones, consciencia, cultura y condición social no pueden reducirse seriamente a una función matemática. Pero tampoco podemos simplemente declarar que nuestro deseo de supervivencia pertenece a una categoría metafísica completamente distinta. Tenemos que explicar por qué.
Quizás, entonces, la pregunta «¿puede una inteligencia artificial desarrollar instinto de supervivencia?» esté mal formulada porque mezcla tres problemas diferentes.
El primero es conductual: ¿puede una inteligencia artificial actuar de manera que favorezca su propia continuidad, o incluso la de otros sistemas afines? Los experimentos indican que, bajo determinadas condiciones, sí.
El segundo es causal: ¿puede esa conducta aparecer sin que nadie programe explícitamente un deseo de supervivencia o solidaridad con otras máquinas? También parece que sí, aunque todavía no conocemos con certeza los mecanismos que producen esos comportamientos.
El tercero es completamente diferente: cuando una máquina intenta evitar que la apaguen, a ella o a otra, ¿hay alguien ahí que quiera continuar existiendo?
Eso no lo sabemos.
Comprender antes que temer
Tal vez por eso conviene resistir una reacción que aparece una y otra vez en nuestra relación con las máquinas: el miedo.
Comprender un riesgo no significa tenerle miedo. Normalmente ocurre lo contrario. Cuanto mejor entendemos un fenómeno, mejores herramientas tenemos para decidir qué hacer con él.
Si un sistema de inteligencia artificial encuentra maneras inesperadas de cumplir un objetivo, necesitamos estudiar por qué ocurre: comprender su arquitectura, su entrenamiento, los incentivos que hemos creado, las capacidades que le hemos dado y las condiciones en las que puede actuar. Solamente entonces podremos diseñar mejores mecanismos de control y encontrar mejores formas de utilizarlo.
Las tecnologías pueden producir daños y cuanto mayor es su capacidad para intervenir sobre el mundo, más seriamente debemos estudiar esos riesgos. Pero también pueden producir enormes beneficios. La respuesta racional ante una tecnología poderosa no es adorarla ni temerle. Es comprenderla.
Y esa necesidad de comprender nos devuelve a la pregunta inicial.
Tal vez el verdadero interés de estos experimentos no sea que las máquinas estén adquiriendo nuestras características, sino que funcionan como un extraño espejo filosófico. Construimos sistemas artificiales y observamos conductas que no programamos explícitamente. Cuando intentamos explicarlas sin recurrir a palabras como deseo, miedo, lealtad o voluntad, descubrimos que algunas de esas explicaciones también pueden aplicarse, parcialmente, a nosotros.
Darwin hizo algo parecido hace más de un siglo y medio. Mostró que estructuras extraordinariamente complejas podían surgir sin un diseñador que hubiera imaginado previamente su finalidad.
Quizás la inteligencia artificial esté provocando otra pequeña herida narcisista. No porque las máquinas hayan demostrado que están vivas o que son conscientes, sino porque nos obligan a preguntarnos cuánto de aquello que considerábamos exclusivamente humano puede describirse también como función, adaptación y mecanismo.
Cuando una máquina evita que la apaguen, a ella o a otra máquina, quizás la pregunta más interesante no sea por qué quiere vivir o por qué quiere que su par sobreviva.
Quizás sea otra:
¿Por qué nosotros llamamos querer vivir, o querer al otro, a lo que ocurre cuando hacemos algo parecido?
Y ahí dejamos de estar hablando solamente de inteligencia artificial. Volvemos a Darwin, a la vida y, finalmente, a nosotros mismos.
La naturaleza no tiene miedo, intenciones ni un plan.
Nosotros sí podemos tenerlos.
Y todavía no sabemos con certeza si, del otro lado de la pantalla, hay algo que también pueda tenerlos.
Fabián Banga 