Guerra cognitiva, autonomía y tiempo de decisión

El aumento de la información no viene acompañado de un aumento equivalente del tiempo para interpretarla. Esa compresión es el punto de partida del problema estratégico. Casi toda la historia militar moderna podría releerse a la luz de esa tensión. El telégrafo había acelerado la transmisión de órdenes. La radio había acortado todavía más el plazo entre la observación y la orden. El radar había proporcionado unos minutos adicionales ante una amenaza aérea. Los satélites habían ampliado el alcance de la mirada. Después, las redes digitales casi suprimieron ciertas distancias.

La inteligencia artificial introduce ahora una mutación distinta:

ya no se limita a acelerar la transmisión de la señal.

Acelera su interpretación. Ahí empieza, a mi juicio, el verdadero cambio. Cuando la máquina puede detectar, clasificar, comparar, establecer prioridades y proponer una acción antes siquiera de que un operador humano haya examinado todos los datos, el problema estratégico se desplaza al tiempo de decisión mismo. Precisamente ahí empieza la guerra cognitiva. Abarca la manipulación de las mentes mediante la propaganda o la desinformación, desde luego, pero va más allá. Designa la lucha por controlar la percepción, la atención, la interpretación y el ritmo con el que el adversario toma sus decisiones.

Hacer que vea algo.

Impedir que vea otra cosa.

Saturar el sistema de informaciones contradictorias.

La guerra cognitiva también actúa sobre el tiempo.

Crear una falsa urgencia.

Retrasar una decisión.

Acelerar otra.

Así, la guerra cognitiva ataca el cuerpo de manera menos directa que el modelo del mundo que el adversario utiliza para actuar. Es una forma de guerra particularmente profunda, porque toda acción militar comienza con una representación.

Antes de disparar hay que haber identificado un blanco.

Antes de movilizarse hay que haber interpretado una intención.

Antes de responder hay que haber decidido que un ataque es real.

Si la representación es falsa, todo el poder disponible puede volcarse contra una ilusión. Es una idea antigua. Los estrategas siempre han recurrido al engaño, al camuflaje y a las maniobras de distracción. Lo que hoy cambia es la escala. Una inteligencia artificial puede producir, detectar y analizar señales a una velocidad que ningún equipo humano podría mantener.

Así, el engaño se convierte en una industria. Miles de cuentas falsas, millones de contenidos, imágenes sintéticas, voces clonadas y documentos verosímiles pueden producirse casi al instante. Pero sería reduccionista circunscribir la guerra cognitiva a los deepfakes. El verdadero problema es mucho más amplio:

¿cómo sabe un sistema qué debe creer? La pregunta vale tanto para una inteligencia artificial como para una sociedad. La diferencia es que la IA puede procesar cantidades ingentes de información y, por ello, absorber también cantidades ingentes de manipulaciones. Se convierte a la vez en herramienta de detección y en una nueva superficie de ataque.

Se puede intentar engañar a un operador humano. Ahora también se puede intentar engañar al modelo que asiste a ese operador. Ahí se abre una nueva dimensión del conflicto. El adversario ya no busca únicamente ocultar un vehículo. Puede tratar de producir una firma que induzca al algoritmo a clasificarlo en la categoría equivocada.

Ya no busca únicamente interferir un radar. Puede intentar perturbar la cadena de datos que alimenta la inteligencia artificial. Esa guerra contra la percepción algorítmica me parece central. Entramos en un mundo en el que los sistemas deberán aprender a preguntarse algo más que esto:

¿Qué veo?

Tendrán que preguntarse también:

¿Alguien intenta que vea esto?

El Blind Spot, el punto ciego, se extiende aquí al terreno estratégico. Toda inteligencia tiene límites de percepción. Pero, cuando un adversario los conoce, puede intentar explotarlos. Un sesgo deja entonces de ser un mero defecto. Se convierte en una vulnerabilidad estratégica. Por eso debemos examinar los sesgos algorítmicos también desde el punto de vista de la seguridad.

Un actor que haya comprendido la lógica de un modelo puede manipularlo si este da demasiado peso a ciertas señales, clasifica mal determinadas situaciones o generaliza demasiado deprisa. Surge así una dinámica casi biológica: la interacción entre adversarios que se adaptan uno al otro. En la naturaleza, el depredador y la presa coevolucionan. Uno desarrolla un camuflaje, el otro afina la percepción. Uno acelera, el otro se vuelve más rápido. Los sistemas militares de IA probablemente entren en esa coevolución permanente. Cada mejora en la detección propiciará una mejora en el camuflaje. Cada nuevo sistema de identificación dará lugar a un método para engañarlo.

La carrera, pues, nunca termina. Es exactamente la lógica del mutante. Solo los mutantes sobreviven porque el entorno también aprende. En un conflicto que evoluciona, una tecnología que permanece inmóvil pronto queda obsoleta.

Esa dinámica es especialmente inquietante cuando alcanza el circuito de decisión. La doctrina militar habla a menudo del ciclo de observación, orientación, decisión y acción. Quien antes completa el ciclo puede imponer su ritmo al adversario. La inteligencia artificial acelera cada etapa. Puede recoger observaciones de más sensores, orientar la acción comparando más escenarios, ayudar a decidir y, en ocasiones, desencadenar una acción automatizada.

La tentación, entonces, es enorme: ir eliminando los tiempos de intervención humana para ganar unos segundos. El peligro empieza en ese instante. Un segundo ganado puede suponer una ventaja táctica.

Pero recortar demasiados segundos también puede dejarnos sin tiempo para reconocer un error. La velocidad es, pues, un arma y un riesgo. Es una de las paradojas fundamentales de la era de la IA militar. Durante mucho tiempo tuvo ventaja quien era capaz de decidir más deprisa.

En adelante, la ventaja también podría ser de quien sepa en qué momento conviene frenar. Esa idea me parece esencial. La inteligencia no siempre consiste en acelerar. A veces consiste en introducir deliberadamente una pausa.

Un sistema crítico debe poder advertir: esta señal es lo bastante ambigua para que haga falta una segunda comprobación. Si solo se atiende a la competencia, esa demora puede parecer ineficaz. Pero puede impedir una escalada irreversible. Es ahí donde la ingeniería de la desescalada adquiere la forma de una verdadera arquitectura técnica.

Demasiadas veces hemos concebido la desescalada como un problema diplomático ajeno a la tecnología. Eso ya no es posible. El propio sistema debe incorporar frenos, igual que una máquina industrial incorpora dispositivos de parada de emergencia.

Nadie considera que el botón de parada sea una debilidad de la máquina. Al contrario. Es una condición de su seguridad. Habría que concebir del mismo modo los sistemas militares potenciados por la IA.

¿Cuál es el botón de parada?

¿Quién puede retomar el control?

¿En qué situaciones debe el sistema negarse a actuar de forma automática?

¿Qué señales requieren dos fuentes independientes?

¿Qué grado de incertidumbre obliga a intervenir a una persona?

Son cuestiones de arquitectura, además de cuestiones éticas. Si una doctrina de seguridad no se traduce en código, procedimientos, interfaces y cadenas de mando, se queda en una intención. Es justo lo que he aprendido en el mundo industrial.

La seguridad no se proclama. Se diseña. Al concebir un dispositivo peligroso hay que pensar en sus posibles fallos.

¿Qué ocurre si este sensor se avería?

¿Si este dato es falso?

¿Si el operador interpreta mal la alerta?

¿Si dos sistemas dan respuestas contradictorias?

La IA militar debe someterse al mismo rigor. No basta con que un modelo obtenga un rendimiento medio excelente para considerarlo fiable. En un sistema estratégico, la media no basta. Importa también la naturaleza del error extremo. Un modelo puede acertar en el 99,9 % de los casos y tener consecuencias catastróficas en el caso entre mil que queda, si ese caso desencadena una respuesta irreversible.

Ahí está la diferencia entre la optimización comercial y la seguridad de un sistema crítico. Una recomendación publicitaria errónea cuesta poco. Un error de clasificación en una cadena de defensa puede causar muertes o una guerra. Tenemos, pues, que cambiar nuestra manera de medir.

Los ingenieros tendrán que aprender a medir, además de la precisión, la gravedad de los falsos positivos y de los falsos negativos, la incertidumbre y la capacidad de resistir un ataque. Antes que una ciencia del rendimiento, es una ciencia del error. La expresión me parece acertada. La seguridad consiste, ante todo, en comprender de qué manera puede equivocarse el sistema.

Lo mismo vale para el ser humano. La gran virtud de quien tiene experiencia en la toma de decisiones no consiste en no equivocarse nunca. Consiste en conocer algunas formas que adoptan sus propios errores. De nuevo, el punto ciego.

Si la inteligencia artificial ha de adquirir una verdadera dimensión estratégica, tendrá que ser capaz de cartografiar sus zonas de incertidumbre. Sería un cambio considerable respecto al sueño del ordenador infalible. Una IA verdaderamente útil, además de responder, debería trazar un mapa de los grados de confianza.

Esto es lo que considero muy probable.

Esto otro lo es menos.

Estos son los datos que faltan.

Estas son las hipótesis alternativas.

Y esto es lo que, de ser cierto, invalidaría mi escenario.

Esta última capacidad me parece esencial: Saber qué podría invalidar la propia lectura. Una máquina capaz de organizar la confrontación de argumentos sería mucho más valiosa que otra dedicada únicamente a acumular confirmaciones. Y esto tiene que ver con una cuestión militar muy concreta. En una situación de crisis, la organización tiende de forma natural a buscar señales compatibles con la amenaza que teme.

Es un sesgo humano bien conocido. La IA puede corregirlo o amplificarlo. Si se la entrena para que busque solo aquello que le pide el Estado Mayor, su poder para confirmar una hipótesis puede ser gigantesco. Cada nueva señal se interpreta entonces a favor del escenario dominante. El sistema se cierra sobre sí mismo.

Es casi una paranoia algorítmica. Todo se convierte en prueba. Ahí reside un gran peligro. Una arquitectura sana debería obligar al sistema a preparar también un expediente con los argumentos en contra.

Si el escenario principal es un ataque, ¿qué datos respaldan la posibilidad de que se trate de unas maniobras, de un error o de una distracción?

Si aumenta la probabilidad de una acción hostil, ¿qué indicios apuntan en sentido contrario?

Ese análisis de contraste podría automatizarse. Casi cabe imaginar dos modelos enfrentados: uno encargado de construir la hipótesis principal y otro de intentar refutarla. Una especie de procedimiento contradictorio algorítmico. Concuerda profundamente con mi concepción del derecho. El debate contradictorio no es un obstáculo para la verdad.

Es un método para reducir el error. Una decisión importante debe ser capaz de resistir el embate del argumento contrario. Aplicar esta filosofía a la IA militar me parece especialmente fecundo. Evitaríamos así que un solo modelo se convirtiera en una autoridad cognitiva absoluta.

Volvemos a la noción de pluralismo de los modelos. En un sistema crítico, depender de una sola arquitectura de inteligencia crea un punto único de fallo. Dos sistemas entrenados de distinta manera pueden ver cosas distintas. Su desacuerdo aporta información.

Es un principio de enorme importancia. Solemos ver en el desacuerdo un problema que hay que resolver. Puede convertirse en un sensor. Si varios modelos verdaderamente independientes llegan a la misma conclusión, aumenta la confianza.

Si divergen mucho, hay que frenar. La divergencia se convierte en una señal de incertidumbre. Es exactamente la lógica del diagnóstico médico o científico. Una medición aislada puede ser errónea.

Varias mediciones independientes reducen el riesgo. Pero la independencia es esencial. Tres modelos entrenados con los mismos datos y construidos según la misma lógica pueden reproducir el mismo sesgo. Por eso la redundancia no consiste simplemente en duplicar.

Requiere diversidad. Volvemos a una lección de la biología. Los monocultivos son frágiles. Un parásito adaptado a ellos puede destruirlos por entero.

La diversidad genera resiliencia. El mismo principio podría ocupar un lugar central en los sistemas cognitivos militares: diversidad de sensores, de modelos, de doctrinas, de equipos humanos. El sistema más homogéneo puede ser el más rápido. También puede ser el más vulnerable a un error común.

Esta tensión entre velocidad y diversidad será probablemente una de las grandes decisiones de diseño. Incluso los regímenes políticos podrían verse afectados de distinta manera. Un sistema centralizado puede dotar rápidamente a todas sus fuerzas de una arquitectura común. Así logra una coordinación excepcional. Pero si esa arquitectura tiene una vulnerabilidad profunda, la vulnerabilidad se extiende a todas partes.

Un sistema más distribuido resulta más difícil de coordinar, pero puede resistir mejor un fallo local. Las redes obedecen a la misma lógica. El mando militar del futuro tendrá, pues, que encontrar un equilibrio entre centralización y autonomía local. La inteligencia artificial podría permitir que unidades alejadas siguieran funcionando incluso cuando las comunicaciones se deterioren.

Desde el punto de vista táctico, eso tiene un potencial enorme. Un dron, un vehículo, una unidad robotizada podrían proseguir determinadas misiones sin mantener un enlace constante con el centro de mando. Pero esa autonomía también dificulta el control. ¿Hasta dónde autorizar a una máquina a actuar sin aprobación?

Aquí pasa a primer plano el debate sobre las armas autónomas. Ante todo, hay que precisar los términos. La palabra «autónomo» abarca realidades muy distintas. Un sistema puede navegar por sí solo, elegir una trayectoria, sortear un obstáculo, identificar un objeto.

También se le puede autorizar a seleccionar un blanco y emprender una acción letal. Esos niveles no deben confundirse jamás.

La autonomía para navegar no implica autonomía para decidir si se da muerte. La autonomía para identificar no implica autonomía para abrir fuego.

Cuidar ese grado de precisión en el vocabulario es una exigencia moral y estratégica. Hablar de un «arma autónoma» sin precisar qué función es autónoma arruina el análisis. La cuestión crítica surge cuando la cadena de responsabilidad humana queda demasiado lejos. Un oficial puede definir una misión, una zona y unos criterios, y luego el sistema puede actuar durante varias horas sin comunicación.

¿Quién responde entonces de un error?

¿Quien diseñó el algoritmo?

¿Quien fijó los parámetros?

¿Quien autorizó el despliegue?

La responsabilidad se reparte. Ahora bien, si se reparte en exceso, puede acabar sin corresponder claramente a nadie. Es un grave peligro jurídico. La máquina no puede convertirse en un agujero negro que se trague la responsabilidad. Habrá que conservar, pues, un registro preciso que permita seguir el rastro de las decisiones.

¿Qué parámetros se utilizaron?

¿Qué versión del modelo?

¿De qué datos se disponía?

¿Qué umbral de confianza se aplicó?

¿Quién validó qué?

Esos registros deberán conservarse como las cajas negras de los aviones. La analogía con la aviación me parece muy reveladora. La aviación construyó una cultura de seguridad analizando cada accidente, cada incidente, cada cadena causal. Comprendió que el error rara vez es producto de una sola equivocación. A menudo se debe a una sucesión de pequeñas anomalías que acaban por coincidir.

La IA militar tendrá que desarrollar esa misma cultura. No limitarse a buscar al culpable. Comprender la arquitectura que hizo posible el error. Este enfoque es mucho más difícil en el terreno político, porque las organizaciones suelen preferir atribuir la culpa a una persona.

Pero una cultura de seguridad madura busca la causa en el propio sistema. Eso es precisamente lo que debería poder hacer la propia inteligencia artificial: además de explicar lo ocurrido, reconstruir la cadena de decisiones. Será esencial disponer de esa capacidad para reconstruir las causas a posteriori. Ya hemos entrado en una época en la que muchos sistemas complejos escapan en parte a la comprensión de una sola persona.

Una red militar potenciada por la IA puede combinar satélites, drones, sensores terrestres, ciberinteligencia e información obtenida de fuentes humanas. Una decisión puede ser fruto de la interacción de decenas de sistemas. ¿Quién entiende entonces de verdad el conjunto? Quizá nadie.

Ahí aumenta el riesgo sistémico. Podemos construir arquitecturas de las que ningún ser humano tiene una representación completa. Ya ocurre en las finanzas y en Internet. Pero la guerra añade la irreversibilidad.

Un mercado se puede cerrar.

Una transacción a veces se puede anular.

Un ataque no se puede revocar una vez que ha alcanzado su objetivo.

La irreversibilidad debe convertirse, por tanto, en una variable central del control humano. A mi juicio, cuanto más irreversible y peligrosa sea una acción, más exigentes deben ser los requisitos para autorizar su ejecución autónoma. Permitir que una IA ajuste la temperatura de un edificio es muy distinto de permitirle identificar un blanco. La autonomía debería concebirse en función de la reversibilidad.

Esta formulación me parece fundamental. El derecho podría inspirarse en ella. Cuanto más pueda una decisión poner en peligro una vida, una libertad o un equilibrio estratégico, mayores deberían ser las exigencias de control, de trazabilidad y de posibilidades de impugnarla. Eso no elimina la IA.

Define su función. Pero el problema militar es precisamente que el adversario puede prescindir de esa prudencia. Si un bando construye sistemas ultrarrápidos y acepta un mayor grado de autonomía, el otro puede temer quedarse atrás. La prudencia empieza entonces a verse como una desventaja.

Es el mecanismo clásico de la carrera armamentística. Cada cual adopta una tecnología porque teme que el otro la adopte, aunque no la considere ideal. Esta carrera exige una gobernanza internacional. Sin un mínimo de reglas comunes, la lógica de la competencia empuja a alcanzar la máxima velocidad.

Ahora bien, una carrera por la velocidad cognitiva puede resultar más peligrosa que otra por el número de armas. Si cada potencia cree que debe responder antes de haber hecho todas las comprobaciones, el sistema mundial se vuelve extremadamente inestable. El paralelo con los mercados financieros de alta frecuencia es esclarecedor: en ellos, los algoritmos ya reaccionan a otros algoritmos. Hemos visto cómo esas interacciones automatizadas pueden producir movimientos rapidísimos y difíciles de entender.

Trasladar esa lógica a un enfrentamiento militar daría vértigo. Dos sistemas podrían interpretar mutuamente sus acciones y acelerar la escalada sin que ningún responsable humano hubiera querido conscientemente cruzar determinados umbrales. Sería una especie de flash crash geopolítico. La imagen me parece importante.

Un flash crash financiero puede corregirse en unos minutos. No existe un flash crash nuclear. No hay vuelta a la cotización anterior. Por eso ciertas categorías de armas deben seguir sometidas a plazos y a controles humanos especialmente rigurosos.

Así pues, puede que el principal riesgo de la IA estratégica sea el acortamiento del tiempo para decidir. Se habla mucho de la superinteligencia como de un futuro abstracto. Pero el peligro inmediato puede ser mucho más sencillo:

Una inteligencia lo bastante rápida para empujar a los seres humanos a actuar demasiado deprisa.

La velocidad que atribuimos al adversario modifica nuestro comportamiento. Si creo que puede detectar y atacar en cuestión de segundos, tal vez me sienta tentado de delegar más en mis propios sistemas. Entramos entonces en un círculo en el que cada automatización justifica la del adversario. Es el clásico dilema de seguridad.

La defensa de uno se convierte en amenaza para el otro. Un sistema de decisión más rápido puede presentarse como defensivo y, sin embargo, el adversario puede percibirlo como una capacidad de primer ataque. Aumenta la ambigüedad. Hay que pensar, pues, tanto en lo que hace la tecnología como en la manera en que el otro bando interpreta lo que hace.

La estabilidad estratégica depende en gran medida de la percepción. Una capacidad concebida con fines defensivos puede resultar desestabilizadora si altera el equilibrio de la disuasión. Aquí cobran importancia la transparencia y las doctrinas declaratorias. Los Estados probablemente tendrán que explicar algunos de los límites que imponen a sus propios sistemas.

Sin necesidad de revelar sus secretos operativos. Pero sí creando un mínimo de confianza. Por ejemplo, declarar que cierto tipo de decisión seguirá bajo control humano. Ahora bien, la declaración tiene que ser creíble.

La credibilidad exige procedimientos y quizá mecanismos de verificación. Volvemos al viejo problema del control de armamentos, esta vez aplicado al software. ¿Cómo comprobar que un sistema de IA carece de ciertas capacidades? Es infinitamente más difícil que contar misiles.

Un misil está a la vista. El software se puede modificar con rapidez. Por eso el control de las armas algorítmicas será probablemente uno de los problemas diplomáticos más complejos del siglo. No bastará con inspeccionar un almacén.

Tal vez haya que certificar arquitecturas, examinar registros, controlar determinados usos. Y esto plantea, naturalmente, problemas de soberanía y de secreto. Nos encontramos en un terreno casi virgen. Pero eso no significa que sea imposible crear normas.

Los Estados pueden empezar por fijar reglas de uso sin llegar a prohibir por completo determinadas tecnologías. Pueden acordar que ciertas decisiones seguirán en manos humanas. Pueden mantener abiertos canales de comunicación para los incidentes en los que intervengan sistemas autónomos. Pueden intercambiar información tras determinadas anomalías para evitar interpretaciones erróneas.

La distensión suele empezar con procedimientos modestos. Ahí se equivocan precisamente quienes esperan un gran tratado perfecto. La arquitectura de la confianza puede construirse por capas.

Un protocolo de notificación.

Una línea directa.

Un mecanismo de investigación conjunta.

Una terminología compartida.

Todo eso parece puro trámite hasta el día en que evita una guerra. Los detalles a veces salvan al mundo. Me gusta esta idea porque entronca con mi obsesión por las infraestructuras invisibles. El gran relato histórico celebra a los dirigentes y las batallas. Pero la estabilidad depende a menudo de funcionarios, ingenieros, procedimientos y tablas que nadie fotografiará jamás.

Bajo el caos aparente se encuentra a veces un orden sumamente riguroso. Es precisamente lo que demostró Nicolas Detry a propósito de la Demeure du Chaos: la apariencia de desorden no implica ausencia de estructura. La geopolítica funciona a veces del mismo modo. El mundo parece caótico porque nuestra mirada se dirige a los acontecimientos visibles.

Por debajo existen miles de protocolos, convenios y procedimientos que hacen posibles las interacciones. Cuando esas estructuras desaparecen, surge el verdadero caos. Por eso destruir los canales diplomáticos siempre es peligroso. Incluso entre enemigos hay que mantener una arquitectura mínima.

Con la IA, esa necesidad se acentúa porque el tiempo se acorta. Un incidente que antes permitía dedicar varias horas al análisis tal vez solo deje unos minutos. Por eso la comunicación debe ser más rápida y más directa. Cabe imaginar que en el futuro las propias líneas directas contarán con IA capaces de traducir, comparar señales y detectar malentendidos.

Pero habrá que extremar la prudencia. La máquina no debe convertirse en otro filtro que deforme el mensaje. También aquí el ser humano debe poder volver a la fuente. Será importante seguir el rastro de cada decisión de traducción.

Una traducción automática puede alterar sutilmente una intención. En una crisis, una palabra cuenta. Esto muestra hasta qué punto la guerra cognitiva comienza lejos del campo de batalla. Comienza en las interfaces.

¿Qué alerta ve el presidente?

¿Qué palabras utiliza el sistema?

¿Un rojo intermitente o un amarillo de cautela?

Mostrar una probabilidad del 80 % o escribir «ataque probable» no produce el mismo efecto psicológico.

El diseño de la interfaz adquiere, por tanto, una dimensión estratégica. Es un asunto inmenso y, sin embargo, a menudo infravalorado. La interfaz no es neutra. Estructura la atención. Un operador rodeado de decenas de alertas rojas deja de distinguir lo urgente.

Un sistema que disimula en exceso la incertidumbre crea una ilusión de certeza. La manera de presentar los datos puede salvar una decisión o condenarla. Volvemos a la ergonomía de los sistemas críticos. Los pilotos, los controladores aéreos y los operadores de centrales ya conocen el problema. La guerra potenciada por la IA tendrá que aprender de esos ámbitos.

¿Cómo evitar la saturación cognitiva?

¿Cómo establecer prioridades sin ocultar nada?

¿Cómo representar la incertidumbre?

¿Cómo impedir que un operador siga mecánicamente una recomendación?

Son cuestiones casi tan artísticas como técnicas, porque atañen a la percepción. La forma organiza el sentido. Una vez más, vuelvo a encontrarme con mi trabajo de artista plástico. Una imagen hace más que transmitir información.

Organiza la mirada. La posición, la escala y el contraste modifican la percepción. Una interfaz militar hace exactamente lo mismo. Es una puesta en escena de la realidad.

Y toda puesta en escena entraña una responsabilidad. Es una dimensión especialmente interesante de la IA: acerca disciplinas que habíamos separado artificialmente. Informática, psicología, diseño, derecho y estrategia pasan a formar una sola arquitectura. La guerra cognitiva obliga a pensar en la persona que interviene en el circuito de decisión como un organismo con límites propios, cuya función va más allá de estampar la firma final.

Estrés.

Fatiga.

Miedo.

Sesgos.

Un procedimiento que funciona a la perfección en frío puede fallar durante una crisis. El entrenamiento debe incluir, por tanto, situaciones en las que la IA se equivoca. Si los operadores nunca ven fallar a la máquina durante su formación, corren el riesgo de confiar demasiado en ella. Hay que aprender a desobedecer al algoritmo cuando las circunstancias lo exijan. Es una competencia nueva.

Hemos enseñado a los soldados a manejar armas. Habrá que enseñarles a cuestionar a una inteligencia artificial. La soberanía humana pasa por la capacidad de decirle que no al sistema. Pero para hacerlo hay que comprender suficientemente su funcionamiento. Eso exige una mayor cultura técnica en las instituciones.

La IA no puede ser una caja negra que se confíe a unos pocos especialistas mientras quienes toman las decisiones se limitan a utilizar sus conclusiones. El mando debe saber leer los algoritmos. No necesita programar el modelo, pero sí entender qué significan una probabilidad, un sesgo en los datos, una alucinación o un ataque adversario.

De lo contrario, no puede ejercer realmente su autoridad. La soberanía cognitiva exige, pues, formar a quienes toman las decisiones. Vale para militares, ministros, jueces y directivos de empresas. Entramos en una época en la que el analfabetismo algorítmico podría convertirse en una vulnerabilidad del poder.

Un dirigente que no entiende la tecnología de la que depende su decisión se parece a un soberano incapaz de leer sus propios mapas. Pasa a depender de quienes se los interpretan. Es la historia misma del poder:

Quien controla la información suele controlar una parte de la decisión.

La IA amplifica el fenómeno. Ingenieros, científicos de datos y proveedores de modelos pueden convertirse en actores estratégicos. Esto plantea una nueva cuestión en las relaciones entre el ámbito civil y el militar. ¿Hasta qué punto dependerán las fuerzas armadas de empresas privadas para dotarse de capacidades cognitivas?

Una plataforma privada puede llegar a ser indispensable para la defensa nacional. Se crea así una relación muy particular entre capital y soberanía. Los Estados siempre han trabajado con la industria de defensa. Pero una IA general puede utilizarse a la vez con fines civiles y militares.

La frontera se vuelve más porosa. Empresas que se consideran tecnológicas pueden verse en el centro de cuestiones estratégicas de primer orden. Tendrán entonces que definir sus propios límites éticos, mientras los Estados intentarán asegurarse el acceso. La tensión es inevitable.

La nube, los satélites y la IA están a menudo en manos privadas. El poder público ya no controla necesariamente todas las infraestructuras críticas que utiliza. Es otro rasgo del siglo XXI. El Estado sigue siendo soberano en el plano jurídico, pero una parte de su capacidad operativa descansa sobre infraestructuras privadas.

La guerra cognitiva hace aún más visible esa dependencia. En un conflicto, los blancos podrían ser, además de las bases militares, los centros de datos comerciales, las redes de comunicación o las constelaciones de satélites. La distinción entre lo civil y lo militar se complica hasta el extremo. Surgen así cuestiones de derecho internacional y también de resiliencia.

¿Debe un país poder seguir funcionando si un proveedor privado deja de prestar su servicio? Una vez más, la redundancia. Para mí, la soberanía es también el arte de evitar que todo dependa de un único interruptor que otro pueda apagar. Y la IA crea nuevos interruptores.

El acceso al modelo.

A la nube.

A los procesadores.

A las actualizaciones.

Cada dependencia puede convertirse en un instrumento de presión. Así se entiende por qué China, Estados Unidos y Europa procuran cada uno asegurar las distintas capas de su infraestructura. Pero la propia fragmentación crea otro riesgo: si los sistemas adversarios se vuelven totalmente opacos entre sí, aumentan los errores de interpretación. Nos encontramos, por tanto, con una contradicción extraordinaria.

La soberanía empuja hacia la separación. La estabilidad requiere un mínimo de comprensión mutua. Tendremos que conservar puentes entre arquitecturas separadas. Quizá sea ahí donde deban transformarse las instituciones internacionales.

Nacieron para ocuparse de armas materiales, fronteras y Estados. Tendrán que aprender a hablar de modelos, datos y sistemas autónomos. Es un vocabulario todavía muy nuevo. Pero el tiempo apremia.

Porque la tecnología avanza más deprisa que las instituciones. Casi siempre ocurre así. La ley llega después del invento. También la doctrina militar.

Y, sin embargo, algunas decisiones actuales darán lugar a arquitecturas que después costará modificar. Una vez que un ejército haya integrado a fondo los sistemas autónomos en su cadena de mando, dar marcha atrás será costoso. También en la defensa hay decisiones que cierran otras vías. De ahí la enorme importancia de las primeras elecciones.

A fuerza de acumularse, se convierten en normas. Volvemos a la infraestructura. El primer protocolo parece técnico. Diez años después se ha convertido en doctrina.

La seguridad y el control humano deben integrarse, por lo tanto, desde el diseño, no como una corrección posterior. Es precisamente el principio de security by design. Habría que hablar también de «de-escalation by design»: diseñar los sistemas de modo que una ambigüedad no desencadene automáticamente una escalada.

Por ejemplo, exigir una confirmación independiente antes de determinadas acciones, establecer plazos que varíen según la gravedad, preservar un margen de intervención humana, registrar las razones de la recomendación, permitir dar marcha atrás. Lejos de frenar la innovación, estas son las condiciones para utilizarla de manera responsable. Creo firmemente que la próxima gran innovación militar quizá vaya más allá de fabricar un arma más rápida.

Podría ser un sistema capaz de actuar deprisa cuando haga falta y despacio cuando convenga. Una inteligencia capaz de cambiar de ritmo. Parece casi una cuestión filosófica. Pero es un problema de ingeniería.

La IA puede calcular en microsegundos. Nada la obliga a actuar de inmediato. La acción puede supeditarse a determinados umbrales. Hay que separar la velocidad de cálculo de la velocidad de decisión.

Aquí es donde la memoria externa se convierte en arquitectura cognitiva. Cometemos a menudo el error de creer que un sistema capaz de calcular deprisa también debe actuar deprisa. Yo no lo creo. Puede aprovechar precisamente su velocidad para examinar más hipótesis antes de actuar.

La potencia de cálculo puede convertirse en prudencia. Esta idea es esencial. Un sistema más potente podría dar más tiempo a la decisión humana al ofrecer más perspectivas en el mismo plazo. Si antes una persona disponía de dos minutos para analizar tres escenarios, con la IA podría examinar cincuenta en esos mismos dos minutos.

La aceleración cognitiva puede producir, por tanto, una desaceleración estratégica. Esa inversión me parece de especial interés. Demuestra que la tecnología puede seguir más de un rumbo. Todo depende de la arquitectura política que construyamos a su alrededor.

La IA puede ser una máquina para precipitar las cosas o una máquina para ganar tiempo.

Una máquina para confirmar o para contradecir.

Una máquina para designar blancos o para impedir que se actúe contra un blanco dudoso.

La tecnología no impone automáticamente su uso. Somos nosotros quienes lo concebimos. Por eso la ética no puede intervenir a posteriori. Debe formar parte de las especificaciones. El jurista, el filósofo, el militar, el psicólogo y el especialista en interfaces deben trabajar con el ingeniero desde el principio.

Esto enlaza con mi concepción profundamente transdisciplinaria. Las grandes preguntas no respetan fronteras administrativas. La propia Demeure du Chaos nunca ha separado el arte, la tecnología, el derecho, la historia y la materia. Hoy la IA confirma que muchas de esas divisiones eran artificiales.

La guerra cognitiva es una guerra de datos.

Pero también de relatos.

De percepción.

De psicología.

Atraviesa el cuerpo social.

Un Estado puede seguir intacto en el plano militar y estar desorganizado en el cognitivo. Una población saturada de relatos contradictorios puede dejar de confiar en todas las fuentes. Quizá sea una de las formas de ataque más eficaces:

En lugar de inducir a creer una mentira concreta, inducir a creer que nada puede saberse.

Esta estrategia para disolver la confianza es temible. Si cualquier imagen puede ser falsa, cualquier voz clonada y cualquier documento sintético, quizá la reacción sea dejar de creer a todo el mundo. Es la crisis epistémica. La IA generativa acrecienta considerablemente el riesgo.

Pero también puede proporcionar medios de verificación. Entramos, pues, en una carrera entre generación y autenticación. Producir se vuelve fácil. Demostrar el origen se vuelve valioso.

Es de imaginar que la procedencia digital, las firmas criptográficas y las cadenas de autenticidad adquirirán una importancia gigantesca. Eso me lleva de inmediato al mercado del arte. La historia del arte siempre se ha obsesionado con la procedencia: ¿a quién ha pertenecido la obra? ¿Dónde se ha expuesto? ¿Qué documentación la acompaña? En un mundo sintético, quizá toda información deba acreditar su propia procedencia.

¿Qué cámara captó esta imagen?

¿Cuándo?

¿Ha sido modificada?

¿Quién la firma?

La verificación se convertirá en infraestructura. La experiencia de Artprice con los datos históricos, las firmas, los catálogos y las procedencias se me revela de pronto de una actualidad extraordinaria. Siempre hemos sabido que la información pierde parte de su valor cuando ignoramos de dónde procede. La IA generativa extiende este problema a todo el mundo digital.

Cualquier documento puede volverse sospechoso. Tendremos, pues, que reconstruir la confianza con medios técnicos. Y eso tendrá consecuencias militares directas. Un jefe de Estado recibe un vídeo en el que aparece un acontecimiento de primer orden.

¿Cómo sabe que es auténtico? El sistema de verificación debe ser más rápido que el ciclo de decisión. De lo contrario, gana la falsificación. Así surge una nueva infraestructura estratégica:

La prueba en tiempo real. Nunca habíamos necesitado tanto autenticar la información con rapidez. Es casi una paradoja: cuanto más contenido podemos producir, más escasa resulta la prueba. Quizá el futuro cognitivo sea una economía de la confianza.

Quien pueda probar el origen tendrá una ventaja. Esta batalla irá mucho más allá de los Estados. Afectará a medios de comunicación, universidades, empresas y ciudadanos. Una democracia no puede funcionar de manera duradera sin un mínimo de realidad compartida.

El desacuerdo político es normal. Discrepar sobre la existencia misma de los hechos resulta mucho más peligroso. Por eso la IA podría amenazar la democracia antes por saturación cognitiva que por control directo.

Demasiado contenido.

Demasiado deprisa.

Demasiado personalizado.

La capacidad humana de atención pasa a ser el recurso escaso. De ahí que hable de guerra cognitiva. El cerebro es el terreno de operaciones. Y no solo el del soldado.

También el del ciudadano. Los adversarios intentarán influir en elecciones, movilizaciones, mercados y en la confianza en las instituciones. La frontera entre la guerra y la paz se desdibuja. Una campaña de influencia puede mantenerse indefinidamente sin declaración de guerra.

Es una zona gris. Los Estados deben aprender a responder sin convertir cada desacuerdo en una operación hostil. También aquí es esencial distinguir las categorías. No toda crítica llegada del extranjero forma parte de una guerra cognitiva.

No toda información falsa obedece a una operación coordinada. Si el Estado ve al enemigo por todas partes, corre el riesgo de volverse paranoico. El remedio podría ser peor que la amenaza. Hacen falta, pues, criterios de prueba.

Atribución.

Intención.

Coordinación.

Antes de hablar de ataque cognitivo hay que poder establecer una cadena de pruebas suficientemente sólida. Aplico a la información la misma disciplina: no confundir correlación con causalidad. No confundir correlación con causalidad. Miles de cuentas pueden difundir espontáneamente el mismo relato. Hay que distinguir lo que surge por sí solo de lo que obedece a una coordinación.

La IA puede ayudar. También puede interpretar en exceso. De nuevo, el punto ciego. Una democracia debe resistir la manipulación sin sacrificar su pluralismo.

Es un equilibrio sumamente delicado. La tentación de censurar indiscriminadamente en nombre de la seguridad puede destruir precisamente aquello que se quería proteger. A mi juicio, la resiliencia cognitiva no consiste en suprimir toda información peligrosa, sino en conseguir que la sociedad sea más capaz de situarla en su contexto.

Educación.

Transparencia.

Medios de comunicación sólidos.

Herramientas de verificación.

Es menos espectacular que un gran sistema de vigilancia. Pero probablemente más robusto. Una población preparada para reconocer algunas formas de manipulación resulta más difícil de desestabilizar. Ocurre exactamente lo mismo en ciberseguridad. Es imposible bloquear todos los correos maliciosos.

También se enseña a los usuarios a reconocer el phishing. La defensa cognitiva debe funcionar del mismo modo. El ser humano sigue formando parte de la arquitectura. Pero hemos de aceptar que nuestro cerebro tiene vulnerabilidades estructurales. Nos gustan los relatos sencillos, la información que confirma nuestras creencias y los contenidos que despiertan emociones.

Los sistemas de IA pueden aprovechar esas inclinaciones con una precisión excepcional. La personalización vuelve individual la propaganda. Antes, la propaganda consistía en un mensaje para millones de personas. Mañana podrá ser distinta para cada individuo.

Es una transformación inmensa. La persuasión se vuelve algorítmica. Un sistema puede probar miles de formulaciones, aprender qué provoca una reacción en una persona, adaptar el mensaje. La frontera con el marketing apenas existe ya.

Lo que marca la diferencia es la finalidad. Por eso los datos personales se convierten en una cuestión de seguridad cognitiva. Cuanto mejor conozca alguien mis miedos, mis hábitos y mis relaciones, más eficaz será el mensaje que pueda elaborar. La protección de datos va, por tanto, más allá de un derecho individual.

Pasa a formar parte de la resiliencia nacional. Quizá no habíamos previsto suficientemente esa consecuencia.

El Headquarter había externalizado la memoria.

La red había externalizado la presencia.

El dron había externalizado el punto de vista.

La IA empezará a externalizar parte del procesamiento. Una fuga de datos puede permitir una segmentación política de enorme precisión.

Una vez más, desaparecen las fronteras entre sectores. El mundo entero se convierte en infraestructura cognitiva. Por eso, al fin y al cabo, prefiero hablar de una fuerza cognitiva transversal antes que de una «quinta fuerza». La tierra, el mar, el aire, el espacio y el ciberespacio designan medios o ámbitos de operaciones. La IA atraviesa cada uno de ellos.

La IA no es un medio en el mismo sentido. Es una fuerza que atraviesa todos los medios y actúa sobre la percepción que permite coordinarlos. Se convierte en el sistema nervioso de las fuerzas armadas. Y un sistema nervioso es a la vez fuente de poder y de vulnerabilidad.

Cortar un nervio puede neutralizar un músculo intacto. Del mismo modo, perturbar la capa cognitiva de un ejército puede inutilizar equipos que siguen en condiciones de funcionar. Así se explica la convergencia entre ciberataques, guerra electrónica, desinformación e IA. En distintos niveles, todos buscan interrumpir el flujo entre percepción y acción.

En determinadas situaciones, por tanto, el conflicto del futuro podría ganarse antes del primer disparo si el adversario ya no sabe qué sucede. La fórmula puede parecer espectacular. La lógica que describe es antigua. Sun Tzu probablemente la habría comprendido al instante: el mejor combate es aquel en el que el adversario ya actúa según la representación que nosotros hemos construido.

La IA da a esta lógica una escala industrial y la vuelve permanente. Podría transformar también la disuasión. La estabilidad de la disuasión nuclear se ha basado, entre otras cosas, en la credibilidad de la capacidad de segundo ataque: cada bando debía creer que el otro conservaría la capacidad de responder tras sufrir un primer ataque.

Había incertidumbre, pero la arquitectura seguía siendo relativamente comprensible. La IA puede introducir incertidumbres nuevas. Si un sistema mejora enormemente la detección de submarinos o misiles, puede alterar el equilibrio. Si un Estado cree que puede neutralizar con mayor rapidez las capacidades del adversario, la estabilidad puede disminuir.

Una tecnología defensiva puede entonces surtir un efecto ofensivo. Volvemos a la lógica de las consecuencias de segundo orden. Importa tanto lo que hace directamente el sistema como el cambio que produce en las creencias del adversario.

La disuasión es una psicología armada. Depende de lo que cada cual cree posible. La IA actúa precisamente sobre esas creencias. Podría llevar a algunos actores a confiar en exceso en su capacidad de predicción.

Tal vez ahí resida un riesgo inmenso:

la ilusión de conocer al adversario. Un modelo entrenado con años de datos puede calcular las probabilidades de una conducta. Pero un dirigente sigue siendo capaz de tomar una decisión inesperada.

Una revolución, una emoción, un accidente pueden alterar la trayectoria. En la guerra siempre interviene la contingencia. Una IA muy eficaz puede crear la impresión de que esa contingencia ha desaparecido. Es peligroso.

Podríamos confundir una mejor predicción con la certeza. La historia suele castigar esa arrogancia. Muchas guerras empezaron porque cada bando creía tener a la vista una victoria rápida. Si produce simulaciones demasiado convincentes, la IA podría reforzar esa ilusión.

Una simulación nunca es la realidad. Parte de unas hipótesis. Por eso hay que enseñar a quienes deciden a servirse de los modelos como instrumentos, sin atribuirles el poder de un oráculo. Es una distinción filosófica fundamental.

El oráculo tiene la autoridad del misterio. La autoridad del modelo debe quedar limitada por sus datos. En el fondo, todo este libro combate al oráculo. Ni siquiera la inteligencia artificial más avanzada debe convertirse jamás en un nuevo clero algorítmico.

Siempre debe ser posible cuestionarla. Es precisamente aquí donde vuelvo a encontrar mi frase:

La obra debe interrogar antes que imponer. También la IA debería interrogar, en lo posible, antes de imponer.

Una inteligencia a la que no se puede interrogar se convierte en un poder opaco. En el ámbito militar, esa opacidad es intolerable. Quien toma la decisión debe poder preguntar:

¿Por qué?

Ahora bien, conviene ser prudentes con esa exigencia de explicabilidad. Algunos sistemas complejos no siempre pueden ofrecer una explicación causal sencilla. Pueden aportar factores, probabilidades, ejemplos. Hay que construir, por tanto, una forma de explicación adecuada a la decisión.

El objetivo no es convertir cada red neuronal en una fórmula al alcance de todos. Es aportar información suficiente para que alguien pueda ejercer su juicio de forma responsable. De nuevo, la proporcionalidad. Una recomendación táctica inmediata no necesita un tratado.

Necesita unos elementos esenciales:

grado de confianza, fuentes, alternativas, riesgos. La interfaz debe condensar sin ocultar. Es casi un arte de la síntesis.

Y sintetizar es precisamente algo que la IA puede hacer extraordinariamente bien. Podemos emplear su potencia contra sus propios riesgos. Puede elaborar una recomendación y, al mismo tiempo, una crítica de esa recomendación. Puede señalar que los sensores se contradicen.

Puede detectar que una situación queda fuera del ámbito para el que se entrenó. Esta última capacidad será probablemente decisiva:

Reconocer lo desconocido. Un sistema resulta especialmente peligroso cuando se encuentra ante una situación radicalmente nueva y sigue respondiendo con la misma seguridad.

Precisamente en el ámbito militar, el adversario procura crear situaciones nuevas. Por eso el modelo debe disponer de una especie de alarma epistémica:

Esto no se parece lo suficiente a lo que conozco. Es una forma de humildad computacional.

Debería convertirse en una virtud estratégica. Reaparece esta idea paradójica: La mejor inteligencia no es la que responde siempre. Es también la que sabe cuándo debe callar.

Un soldado experimentado a veces sabe que algo se sale de lo habitual aunque no pueda explicarlo de inmediato. Esa intuición de la anomalía es valiosa. La IA puede llegar a detectar anomalías con una eficacia extraordinaria. Pero debe evitar atribuirles automáticamente una intención hostil.

Una anomalía no es un ataque. Ahí aparece otro punto de fricción. El algoritmo detecta una diferencia. Quien decide le añade una historia.

En ese espacio puede abrirse paso la guerra cognitiva.

El adversario puede producir anomalías para saturar el sistema. Demasiadas alertas pueden agotar la atención. Es un ataque por fatiga.

Los sistemas automatizados deberán, pues, detectar y establecer prioridades. Y las propias prioridades pueden manipularse. El conflicto adquiere una lógica recursiva. Cada defensa abre una nueva superficie de ataque.

Entramos en una complejidad casi orgánica. La idea de control total se vuelve ilusoria. Ningún Estado dominará a la perfección todos los sistemas. Hay que diseñarlos, por tanto, previendo que sus prestaciones puedan deteriorarse.

¿Qué sucede cuando la IA deja de funcionar?

¿Puede el ejército volver a operar de una forma más sencilla?

¿Conservan los operadores sus destrezas manuales?

Una tecnología que mejora enormemente la eficacia también puede crear dependencia. Si las personas pierden la capacidad de operar sin ella, una avería se vuelve catastrófica. Ya hemos visto ese fenómeno en la navegación. Muchas personas ya no saben leer un mapa como antes.

En el ámbito civil rara vez resulta dramático. En la guerra electrónica, perder el GPS sí puede serlo. La IA plantea el mismo problema a escala cognitiva. Habrá que preservar la capacidad de operar en condiciones degradadas.

Es una noción militar clásica:

funcionar en modo degradado. La soberanía cognitiva exige, pues, poder volver a poner las operaciones en manos humanas. No porque el ser humano sea siempre mejor.

Porque la resiliencia exige una alternativa. Un sistema que depende por completo de una única capa es frágil. Es exactamente lo que siempre he pensado al trabajar con las infraestructuras de Groupe Serveur:

Ninguna función crítica debe depender de una sola vía.

La redundancia puede parecer costosa hasta el día en que salva el conjunto. Los ejércitos del futuro probablemente tendrán que conservar procedimientos más lentos, más analógicos, como seguro contra el fallo digital. Hay cierta ironía histórica en ello. Cuanto más avanza la tecnología, más valor estratégico pueden adquirir algunas tecnologías antiguas, precisamente porque es difícil interferir en su funcionamiento.

Un cable.

Un papel.

Una radio sencilla.

A veces sobreviven allí donde las interferencias inutilizan el sistema sofisticado. Nunca hay que despreciar lo antiguo. Puede servir de respaldo al futuro. Es el espíritu mismo de la alquimia:

Ninguna materia está muerta para siempre.

Puede recobrar una función en una configuración nueva. Por eso la guerra cognitiva es también una guerra de resiliencia. Quien siga comprendiendo la situación cuando sus sistemas dejan de funcionar plenamente tendrá ventaja. Vale para un ejército y para una sociedad.

Una población capaz de conservar fuentes dignas de confianza, instituciones estables y una cultura crítica resiste mejor la saturación informativa. La resiliencia cognitiva se impone así como un componente de la defensa nacional. Probablemente merezca figurar en las doctrinas de seguridad al mismo nivel que la ciberseguridad. Habrá, sin embargo, que evitar militarizarla en exceso.

Una sociedad abierta debe aceptar el desorden, la crítica y el error. La resiliencia no consiste en producir unanimidad. Consiste en impedir que el desacuerdo destruya la posibilidad misma de una realidad común. Esa es la diferencia que debemos preservar. El caos aparente puede ser una forma de vitalidad.

Es lo que la Demeure du Chaos afirma desde siempre. El desorden visible no implica necesariamente ausencia de orden. Una democracia a menudo tiene aspecto de caos porque sus voces se contraponen. Pero su orden reside en los procedimientos que permiten a esas voces coexistir.

Una dictadura puede dar una impresión de orden mucho mayor y, sin embargo, tener una arquitectura cognitiva frágil si nadie se atreve a comunicar una mala noticia. Una vez más:

No hay que confundir apariencia y estructura. Esta lección va más allá del arte.

Adquiere un valor estratégico. Un ejército disciplinadísimo puede estar ciego si la información no llega bien a sus mandos. Una organización más ruidosa puede ser más inteligente si da cabida al desacuerdo. La IA amplifica esta opción institucional.

Se la puede utilizar para silenciar las voces discrepantes o para hacerlas oír. El resultado dependerá, pues, de la doctrina más que de la tecnología. Por eso rechazo cualquier visión determinista de la inteligencia artificial. No condena automáticamente la libertad.

Tampoco garantiza automáticamente el progreso. Amplifica las arquitecturas humanas existentes. Es un multiplicador. Y el multiplicador aplica su potencia a aquello que se le da.

Si el sistema es robusto, puede hacerlo más robusto. Si es paranoico, puede industrializar su paranoia. Esta frase me parece central para comprender la guerra cognitiva. Los Estados deben, pues, trabajar sobre sí mismos tanto como sobre sus modelos.

La mejor IA no compensará una cultura deficiente de toma de decisiones. Tal vez en esto consista la verdadera pugna por el poder:

en disponer de algo más que el mayor modelo, en construir la institución capaz de utilizarlo sin caer en la dependencia, la ceguera o la precipitación. Esa institución tendrá que saber alternar entre rapidez y lentitud, automatización y juicio, secreto y transparencia.

Es una arquitectura compleja. Exige una madurez que la tecnología por sí sola no puede proporcionar. Y detrás de esta cuestión militar ya se perfila otra transformación. Si los sistemas, además de analizar y recomendar, van adquiriendo la capacidad de manejar máquinas en el mundo físico, se acortará la distancia entre la inteligencia artificial y la robótica.

El modelo ya no estará solo en el centro de datos. Tendrá un cuerpo.

Dron.

Vehículo.

Robot terrestre.

Sistema marítimo.

Un error de software podrá entonces traducirse en un movimiento físico. El problema cambiará de naturaleza cuando las máquinas dejen de estar aisladas y puedan coordinar sus comportamientos.

¿Qué será del mando cuando haya más máquinas de las que un ser humano puede supervisar una por una?