Durante siglos, fabricar una prueba falsa requería esfuerzo. Había que falsificar un documento, imitar una firma, fabricar una fotografía, convencer a un testigo o corromper una cadena de custodia. La falsificación ha existido siempre, por supuesto, pero tenía un coste.

La inteligencia artificial altera bruscamente esa economía. Reduce el coste de producir lo verosímil. Se puede imitar una voz, animar un rostro, dar credibilidad a una escena que nunca existió. Se puede generar un documento que reproduzca exactamente el estilo de una institución. Se puede reconstruir una conversación con fluidez suficiente para engañar a quien no esté advertido.

Por tanto, el problema va más allá de la existencia de falsificaciones. El problema es que fabricarlas se ha vuelto un proceso industrial, personalizable y casi instantáneo.

Cuando disminuye el coste de fabricación, el valor se desplaza hacia la autenticación. Es una ley económica elemental.

La abundancia pone fin a una escasez y crea otra. En el mundo sintético, lo escaso ya no será necesariamente la imagen, el texto o la voz. Será la prueba de su origen.

La inteligencia artificial puede ayudar a examinar la prueba, pero no debe convertirse ella misma en prueba de aquello que afirma.

La transformación afecta a casi todas las instituciones de la sociedad. Los medios de comunicación se sustentan en la verificación. La justicia, en la prueba. La historia, en los archivos. El mercado del arte, en la autenticidad y la procedencia. La ciencia, en la trazabilidad de los resultados. La democracia, en un mínimo de hechos que puedan compartirse.

Si se vuelve más difícil distinguir el documento de la simulación, todas esas arquitecturas tendrán que transformarse. La cuestión rebasa, pues, el ámbito de los especialistas en tecnología digital.

Es una posible crisis epistemológica: ¿cómo sabemos que algo ha ocurrido?

La pregunta parece casi primitiva. Y, sin embargo, vuelve a ocupar el centro con una fuerza extraordinaria. Habíamos olvidado hasta qué punto la civilización se sostiene sobre acuerdos de confianza.

Cuando leo un periódico, no verifico personalmente cada fotografía. Confío en una cadena: periodista, agencia, redactor, editor. Cuando el juez examina una prueba, se pregunta de dónde viene, en qué condiciones se recogió y si ha sido alterada. Cuando el coleccionista mira una obra, se pregunta por la firma, por su historia, por los catálogos y las exposiciones.

En ninguno de esos ámbitos la confianza es absoluta. Se construye a partir de la procedencia. Esa es, precisamente, la palabra que adquiere protagonismo.

La procedencia va más allá del origen de un objeto. Es la cadena que permite reconstruir su historia.

¿Quién lo produjo?

¿Cuándo?

¿Dónde?

¿Quién lo transmitió?

¿Qué transformaciones experimentó?

Esa genealogía le confiere valor probatorio. En el mercado del arte sabemos desde siempre que un objeto puede ser muy seductor a la vista y, sin embargo, suscitar dudas si su procedencia resulta incoherente. No basta el ojo. Hace falta el expediente. Ahora la IA extiende esa verdad al conjunto del mundo de la información.

Una imagen puede parecer perfecta. Ahora la pregunta es: ¿qué aparato la produjo? ¿Existe un original? ¿Qué tratamientos se aplicaron? ¿Quién la publica?

Durante mucho tiempo se atribuyó a la fotografía un vínculo privilegiado e implícito con la realidad. Sabíamos que podía escenificarse o retocarse, pero por lo general seguía ligada a algo que había sucedido ante un objetivo. Hoy la técnica ha roto ese vínculo. Se puede producir una fotografía sin que nada haya sucedido.

La ruptura antropológica es inmensa.

La imagen ya no tiene por qué ser una huella luminosa de lo real: a veces es una pura construcción estadística. Esto, desde luego, no destruye la fotografía como medio. Lo que destruye es una presunción. Debemos aprender a mirar de otra manera.

Durante mucho tiempo la imagen decía, casi en silencio: esto estuvo delante del objetivo. Ahora quizá solo diga: esto se parece a algo que habría podido estar delante de un objetivo.

El matiz da vértigo. Y puede explotarse políticamente.

Es natural que la primera reacción sea temer que se crea en los documentos falsos. Pero hay un segundo peligro tal vez más profundo: que se niegue la autenticidad de los verdaderos. Cuando una tecnología permite fabricar casi cualquier escena, un responsable ante el que se presenta una prueba verdadera puede replicar: es un deepfake. Es lo que algunos han llamado el dividendo del mentiroso.

La posibilidad generalizada de lo falso debilita el peso de lo verdadero.

La crisis de la prueba, por tanto, va más allá de la detección de falsificaciones. Ni siquiera un detector extraordinariamente eficaz bastará si la sociedad pierde la confianza en toda huella. El peligro es que ya nada se distinga. Todo se vuelve potencialmente falso.

Y cuando una población ya no sabe qué creer, puede acabar creyendo aquello que mejor se ajusta a su identidad o a sus emociones. La verdad de los hechos retrocede ante el sentimiento de pertenencia.

Aquí el mundo sintético se encuentra directamente con la guerra cognitiva. La estrategia más eficaz no siempre consiste en hacer creíble una historia concreta. Puede consistir en destruir la idea misma de que una historia se pueda verificar. Saturar. A fuerza de contradicciones. Producir diez versiones de un mismo acontecimiento. Al final el ciudadano deja de elegir según las pruebas y lo hace según sus preferencias.

Es una forma de nihilismo epistémico.

Nada es verdad, luego todo es posible. Una democracia no puede funcionar así durante mucho tiempo. Naturalmente admite discrepancias de interpretación. No puede funcionar sin un terreno común de hechos.

Podemos debatir el significado de una manifestación. Pero debemos poder establecer que tuvo lugar, cuántas personas asistieron aproximadamente, qué hechos documentados ocurrieron. Sin esa base, el debate se disuelve.

Por eso la nueva arquitectura de la confianza debe preocuparse menos por establecer una verdad central que por hacer verificables las cadenas de prueba.

Desconfío profundamente de cualquier institución que pretenda erigirse en árbitro universal de la verdad. La historia muestra el peligro de esa concentración. Una arquitectura acertada, por tanto, no adopta la forma de un ministerio de la verdad, sino la de una pluralidad de mecanismos para verificar el origen y contrastar las fuentes.

Lo que distingue una cosa de la otra es la diferencia entre autoridad y procedencia.

Una autoridad dice: «Créanme». Una procedencia dice: «Así pueden ustedes reconstruir la cadena».

Esta segunda lógica es mucho más compatible con una sociedad abierta. Permite comprobar en qué se funda la confianza en vez de limitarse a exigirla. Es también lo que hace una gran base de datos cuando está bien construida. No se limita a mostrar un resultado. Permite volver a la fuente, a la fecha, a quien intervino.

De ahí que el dato estructurado tenga más fuerza que la mera afirmación. Contiene su propia genealogía.

Esta idea ha recorrido toda la historia de Artprice. Un resultado de venta no adquiere valor por el mero hecho de que aparezca una cifra en la pantalla. Adquiere valor porque se puede vincular a una casa de subastas, una fecha, un lote, una obra, una moneda, un catálogo. Esa cadena construye la confianza.

La era sintética extenderá esa necesidad a casi toda la información. Probablemente entremos en una economía general de la procedencia.

Los dispositivos podrán firmar criptográficamente determinados contenidos en el momento mismo de la captura. Una fotografía podría ir acompañada de información técnica que permitiera establecer que procede de un aparato identificado, que se tomó en tal fecha y que fue sometida a tal tipo de modificación.

Esa arquitectura nunca hará imposible la falsificación. Ningún sistema humano es inviolable. Pero aumentará el coste de falsificar y facilitará la verificación. Ese es el objetivo.

La seguridad no consiste en eliminar todo fraude. Consiste en hacerlo lo bastante difícil y detectable.

Es una lógica conocida. Los billetes pueden falsificarse. Se les añaden elementos de seguridad. Lo mismo ocurre con los pasaportes. El mundo digital tendrá que hacer algo parecido con los contenidos. Una especie de marca de agua que atestigüe su procedencia.

Pero conviene usar las palabras con cautela. Una marca de agua incorporada a un contenido sintético permite afirmar que lo ha generado cierto sistema, aunque puede eliminarse, eludirse o perderse en una transformación. La arquitectura más robusta será probablemente la que combine varias capas: firma en el momento de la captura, cadena de modificaciones, certificación de la plataforma y verificación independiente.

De nuevo, la redundancia.

Una prueba aislada puede falsificarse. Varias señales independientes aumentan la confianza. El mismo principio rige en los sistemas militares y científicos.

Pero toda cadena de confianza tiene un límite: empieza en alguna parte. Hay que confiar en un aparato, en una institución o en una autoridad de certificación.

Nunca podemos prescindir por completo de la confianza. Solo podemos distribuirla y hacer que sea más fácil auditar en qué se funda.

Es una lección filosófica importante. El sueño tecnológico de una verdad puramente matemática es una ilusión. Incluso una firma criptográfica lo que garantiza es que tal contenido fue firmado con tal clave. No garantiza automáticamente que la escena representada sea verdadera. Una cámara autenticada puede filmar una puesta en escena.

La procedencia, por tanto, no sustituye a la investigación. La refuerza.

El arte ofrece un caso análogo. Incluso una procedencia impecable puede no bastar para autenticar una obra si la cadena misma es fraudulenta o la atribución sigue en disputa. Hay que contrastar peritajes, ciencia y archivos.

La verdad suele nacer de un conjunto de pruebas convergentes.

La era sintética debe aprender a razonar a partir de ese conjunto en vez de hacerlo a partir de un único documento. Quizá en determinados contextos críticos ya no deba bastar un vídeo por sí solo. Se examinan los metadatos, las demás cámaras, los testimonios, los rastros que registran los satélites, la cronología.

La IA puede ser de enorme ayuda en esa triangulación. Puede comparar miles de fuentes, detectar incoherencias entre sombras, datos de geolocalización, condiciones meteorológicas o características acústicas. Se convierte así en una máquina que puede a la vez fabricar y detectar lo falso.

Reaparece la misma dualidad.

La misma tecnología produce el arma y el detector. Esto dará lugar a una carrera permanente. Avanzan los generadores, avanzan los detectores. Pero no creo que podamos construir nuestra arquitectura de la confianza basándonos únicamente en la detección automática.

Ocurre como con los antivirus: la detección suele ir a la zaga de los avances del adversario. Hace falta una capa que acredite la procedencia.

No basta con preguntar: «¿Es falso este contenido?».

Hay que preguntar también: «¿Podemos reconstruir la cadena que conduce hasta su origen?».

Es mucho más robusto. La diferencia es profunda.

La detección busca un defecto. La procedencia construye una identidad.

El pasaporte ofrece una analogía sencilla. No se identifica a una persona únicamente buscando indicios de una identidad falsa. Se le asigna un documento, con elementos biométricos y una cadena administrativa detrás. No se suprime el fraude, pero se da estructura a la confianza.

Quizá debamos hacer algo comparable con la información de gran valor democrático, jurídico o histórico.

Cuidado, sin embargo, con el riesgo inverso: construir un mundo en el que solo se considere legítimo el contenido autenticado oficialmente. Sería sumamente peligroso. La historia, el periodismo y quienes denuncian abusos se apoyan a menudo en documentos anónimos, teléfonos sin certificar y fuentes clandestinas.

Una arquitectura de la procedencia jamás debe convertirse en una arquitectura de la censura.

Debe mantenerse abierta la posibilidad de que un documento sin certificar sea verdadero. Sencillamente, el grado inicial de confianza será distinto y harán falta más comprobaciones. De nuevo, los matices.

El mundo sintético nos obliga a abandonar las categorías binarias. Autenticado no significa automáticamente verdadero. No autenticado no significa automáticamente falso. Son elementos de una evaluación más amplia.

La inteligencia consiste precisamente en saber manejar esa incertidumbre.

Aquí la cultura periodística adquiere un valor extraordinario. Un buen periodista sabe que una sola fuente no basta para dar una noticia de graves consecuencias. Busca una confirmación independiente. Conoce la diferencia entre una fuente cercana al asunto y una prueba documental.

Esa disciplina de larga tradición se convierte de pronto en una tecnología de supervivencia democrática.

El periodismo, por tanto, no desaparece en la era de la IA. Su función de verificación puede adquirir todavía más importancia. Pero el modelo económico de los medios plantea un problema. Verificar lleva tiempo. Generar contenido no cuesta casi nada.

Entramos así en una asimetría económica peligrosa: la falsedad puede producirse con rapidez mientras que la verdad sigue requiriendo investigación.

Es una batalla entre la velocidad y el método. Las plataformas digitales han acostumbrado al público a reaccionar de inmediato. Sin embargo, la verificación necesita tiempo. Volvemos a la idea de las pausas que una civilización se impone. A veces hay que aceptar que, por el momento, no sabemos.

Esta frase puede convertirse en una gran virtud de los medios: «Todavía no podemos autenticar este documento».

En la economía de la atención, tal cautela parece débil frente a una cuenta que habla con certeza. Pero es el único método serio. La democracia debe, pues, reaprender a valorar la incertidumbre que se reconoce abiertamente.

El periodista que dice «lo estamos verificando» quizá sea más fiable que el que se pronuncia de inmediato. Es un cambio cultural difícil. Las redes sociales suelen recompensar la certeza y la emoción. La prueba exige matices.

La IA puede ayudar a los medios a acelerar ciertas comprobaciones sin prescindir de esa disciplina. Puede contrastar una imagen con los archivos, analizar su geolocalización, buscar publicaciones anteriores. Pero la decisión de publicar debe seguir vinculada a una responsabilidad editorial.

Una vez más, una firma humana. La IA puede ayudar. El medio responde.

Esa responsabilidad será probablemente un activo económico cada vez más importante. En un mundo saturado de contenidos sintéticos, las cabeceras que se hayan ganado fama de verificar lo que publican pueden adquirir más valor. La confianza vuelve a ser un capital.

Es casi la revancha de las instituciones lentas.

Durante una época, Internet dio la impresión de que la intermediación desaparecería. Todo el mundo podía publicar. Fue una democratización extraordinaria. Pero cuando cualquiera puede fabricar también algo verosímil, los intermediarios de confianza recuperan una función.

No tienen por qué ser los mismos de antes. Aparecerán nuevos actores: plataformas de verificación, registros de procedencia, autoridades independientes. Pero la intermediación regresa. Es una ley casi cíclica.

Cuando la información escaseaba, el intermediario la distribuía. Cuando se vuelve sobreabundante, el intermediario filtra y autentica.

El problema entonces es evitar una concentración excesiva de ese poder. Un solo verificador universal sería peligroso. Hace falta una ecología de la confianza. Varias instituciones, varios métodos, la posibilidad de impugnar. De nuevo, el pluralismo. La confianza democrática nunca debe convertirse en monopolio.

Esta arquitectura plural me parece muy cercana al funcionamiento del mercado del arte cuando está sano. Atribuir una obra puede requerir la intervención de historiadores y expertos, la consulta de catálogos razonados, análisis científicos y un estudio de las procedencias. Ningún elemento tiene siempre la última palabra. Una atribución sólida suele surgir de la convergencia.

Este modelo de pruebas convergentes merece generalizarse.

El mundo digital se había acostumbrado a la respuesta binaria e instantánea: verdadero o falso. La realidad suele ser más compleja. Algunas imágenes son auténticas, pero están fuera de contexto. Probablemente sea una de las formas más eficaces de manipulación.

Ni siquiera hace falta fabricar nada. Se toma una fotografía auténtica de un acontecimiento antiguo y se afirma que es de hoy. Técnicamente, la imagen es auténtica. Semánticamente, el uso es falso.

Por eso la autenticación técnica nunca basta. Hace falta la historia del contenido.

¿Cuándo apareció por primera vez? ¿En qué contexto? Eso es precisamente la procedencia. Toda prueba tiene una dimensión temporal.

Y la IA puede recorrer esa historia a gran velocidad. Puede descubrir que un vídeo supuestamente grabado ayer ya circulaba hace tres años en otro país. Es una herramienta formidable. Pero hace falta que los archivos existan y sean accesibles. De nuevo volvemos a la memoria.

Una sociedad sin archivos es sumamente vulnerable a la falsificación del contexto.

Si no conservamos las huellas, no podemos comparar. Esto confiere un inmenso valor estratégico a las bibliotecas digitales, los archivos de prensa y los bancos de imágenes. La memoria se convierte en defensa.

La formulación me parece muy potente: la memoria es una infraestructura de seguridad cognitiva.

Una sociedad que conserva sus archivos puede reconocer mejor las reutilizaciones, manipulaciones y reescrituras. Esto enlaza profundamente con mi obsesión por la conservación. Siempre he pensado que un documento antiguo podía cobrar una función imprevista décadas después. La IA lo confirma.

El archivo va más allá de una mirada al pasado. Se convierte en un instrumento para verificar el presente.

Su función se transforma. Y es exactamente lo que he vivido con los archivos del mercado del arte. Un catálogo de hace cien años puede permitirnos autenticar hoy una obra. Una mención, una fotografía, una medida. El pasado se convierte en prueba del presente.

La misma estructura se generaliza. Un archivo web de hace diez años puede demostrar que una afirmación presentada como nueva ya existía. Una fotografía antigua puede confirmar la existencia de un edificio. La memoria se convierte en testigo.

Por eso habrá que proteger los archivos frente a la manipulación. Si una sociedad empieza a depender de archivos digitales para verificar contenidos, la integridad de esos archivos se vuelve crítica.

¿Quién puede modificarlos? ¿Hay varias copias? ¿Tienen las versiones un sello de tiempo?

De nuevo, la redundancia. Un archivo único controlado por un solo actor es vulnerable. Las instituciones de patrimonio, las universidades y los medios podrían conservar copias independientes. Se parece al modelo distribuido de Internet. Volvemos a encontrarnos con la lógica de la red.

La verdad documental se vuelve más robusta cuando no tiene un único guardián.

Es casi una arquitectura archivística de la democracia. Pero la cuestión reviste especial gravedad en la justicia. Una prueba digital puede decidir la suerte de una persona. Un vídeo, un mensaje, una geolocalización, una grabación de audio. Si todos estos elementos se pueden falsificar con gran perfección técnica, la cadena de custodia debe ser extraordinariamente rigurosa.

Al juez ya no le bastará con observar el documento. Deberá examinar su procedencia técnica.

¿Quién lo recabó?

¿Cuándo?

¿Qué valor hash tiene?

¿De qué copia se trata?

¿A qué tratamientos se sometió?

El proceso penal entra en la era criptográfica. Pero habrá que evitar que la complejidad técnica vuelva inaccesible la justicia a ciudadanos y abogados. Si solo unos pocos expertos son capaces de comprender la prueba, creamos una nueva asimetría.

La defensa debe poder impugnar el método. Es un principio fundamental del debate contradictorio. Una prueba algorítmica o digital que la otra parte no puede examinar plantea un problema democrático. El secreto industrial no puede convertirse en un obstáculo absoluto para la defensa.

Nos encontramos exactamente con el problema de los algoritmos públicos. La justicia exige que se pueda realizar una auditoría.

Si un sistema afirma que una voz es auténtica con un 98 % de probabilidad, debe ser posible comprender el método, la tasa de error y los datos de referencia. La puntuación por sí sola sigue sin ser un motivo. Una probabilidad no se convierte en certeza por llevar dos decimales.

Es una ilusión cientificista que la IA podría amplificar.

Un informe técnico cargado de cifras puede impresionar a un tribunal. Habrá, pues, que formar a magistrados, abogados y peritos en la valoración de estas nuevas pruebas. La cultura estadística pasa a ser un componente de la cultura jurídica. Es un cambio importante.

Hay muchos errores posibles: falsos positivos, sesgos en los datos, modelos mal adaptados al contexto. Probablemente la justicia tendrá que establecer criterios específicos para las pruebas generadas o analizadas con IA. No para rechazarlas por principio, sino para calibrar su peso.

Como el ADN, que poco a poco fue encontrando su lugar a medida que se establecían procedimientos y límites. Toda tecnología probatoria atraviesa una fase de aprendizaje institucional. La IA no será distinta.

Pero añade una particularidad: ella misma puede producir el contenido que se cuestiona. En ocasiones el juez tendrá que determinar, además de si un documento es auténtico, si fue generado artificialmente.

Ese trabajo pericial será una carrera en un terreno cambiante. Las herramientas de detección pueden quedar obsoletas. De ahí que acreditar la procedencia desde el origen siga siendo preferible siempre que se pueda. Si una cámara policial firma criptográficamente un vídeo en el instante en que lo graba, la cadena es más sólida que si meses después se intenta determinar si el archivo es sintético.

No resuelve las cuestiones de contexto ni de conducta de quien maneja la cámara. Pero despeja algunas incertidumbres.

Vemos perfilarse así un principio general: autenticar lo antes posible en la cadena.

Es casi una regla industrial. La trazabilidad es más fiable cuando comienza en el momento de la producción. En el arte, por ese mismo motivo, pueden cobrar tanta importancia el certificado de un artista vivo o el archivo de su taller. Cuanto más tarde se reconstruya la historia, mayor será la duda.

La generación sintética podría, por lo demás, transformar profundamente la noción de firma artística. Una obra producida con IA puede tener un autor humano que haya definido la intención, elegido y reelaborado. El debate sobre la autoría es complejo y no se reduce a averiguar si intervino una máquina.

Los artistas siempre han trabajado con herramientas, talleres y asistentes. Lo que cambia es el grado de autonomía del proceso.

Pero el mercado del arte tendrá que responder sobre todo a una pregunta de trazabilidad: ¿cuál es la genealogía de la obra? ¿Qué modelos, qué prompts, qué intervenciones, qué versiones?

Algunas obras podrían ir acompañadas de una procedencia computacional. Es fascinante. El certificado ya no se limita a describir el objeto físico. Puede describir su proceso generativo. Surge así una nueva forma de archivo de creación.

Para un historiador del arte será un material extraordinario. En ocasiones podremos reconstruir las etapas de producción con una precisión que antes era impensable. Pero habrá que elegir qué conservar.

¿Todos los prompts? ¿Todas las versiones? La creación ya produce cantidades gigantescas de datos. El archivo total se vuelve imposible. Habrá que seleccionar. Vuelvo aquí a un problema que conozco desde siempre: conservar mucho, pero organizarlo de modo que todavía se pueda utilizar esa memoria.

La abundancia sin orden es una forma de amnesia.

Esta frase me parece fundamental para la era sintética. Podemos llegar a registrarlo casi todo y después no encontrar nada. La memoria no se mide en cantidad. Es arquitectura. Eso es precisamente lo que puede mejorar la IA, siempre que existan los metadatos y conste la procedencia.

El archivo se convierte entonces en un espacio latente que se puede interrogar. Volvemos a la Demeure du Chaos. Sus miles de signos, retratos y acontecimientos pueden vincularse entre sí. Pero su valor proviene del hecho de que tienen una historia, una fecha, un contexto. Una imagen sin contexto es solo una superficie. La Demeure du Chaos no es una colección de superficies. Es una red de huellas.

De ahí que, a mi juicio, se adelantara a la crisis actual de la prueba.

Cada retrato está ligado a un acontecimiento, a una época, a una memoria geopolítica. El muro funciona casi como un archivo físico distribuido. Aunque lo digital desapareciera, una parte de las huellas seguiría encarnada en la materia.

Esta dimensión física cobra importancia. En un mundo donde lo digital puede modificarse casi sin dejar rastro, el objeto físico puede recobrar valor probatorio.

Un documento impreso y fechado, un negativo fotográfico, un grabado o una inscripción material ofrecen formas específicas de resistencia. Naturalmente, también pueden falsificarse. Pero la materia añade una capa. Es casi una revancha de lo analógico.

Quizá volvamos a valorar ciertos soportes físicos como puntos donde anclar la confianza. No significa volver al papel para todo. Pero puede que convenga conservar algunas huellas importantes en formatos difíciles de alterar.

Una sociedad que depende por completo de archivos modificables es vulnerable.

De nuevo, la redundancia entre lo digital y lo físico. Esta combinación me parece muy saludable. Los archivos más importantes pueden existir bajo distintas formas. El mundo digital no elimina la materia. A veces la revaloriza justamente cuando lo inmaterial se vuelve demasiado fácil de manipular.

La obra de arte física posee esa fuerza. Su envejecimiento, su materia, sus accidentes forman parte de su presencia. Una imagen sintética perfecta puede imitar visualmente una pintura, pero no adquiere por ello la historia material del objeto. Tal vez esa diferencia cobre aún más importancia.

El aura, por retomar el término de Benjamin, podría cambiar de naturaleza.

En un mundo donde la reproductibilidad se vuelve ilimitada y generativa, la singularidad histórica de un objeto puede ganar valor. La razón no es una supuesta inferioridad estética de lo digital, sino que el objeto encarna su procedencia. Estuvo allí. Envejeció. Alguien lo tocó, lo trasladó, lo conservó. Es un tiempo físico.

Vuelvo a encontrar ahí toda la materia de la Demeure du Chaos: óxido, acero, impactos, pigmentos, cicatrices. Esas texturas no se aplicaron para lograr un efecto. Son acontecimientos materiales. Actuó la lluvia. Actuó el tiempo. La materia da testimonio.

Quizá nuestra cultura vaya percibiendo cada vez con mayor nitidez la diferencia entre la simulación de una ruina y una ruina por la que el tiempo ha pasado de verdad.

Paradójicamente, el mundo sintético puede aumentar nuestro deseo de realidad.

Es una hipótesis importante. Cuando las imágenes perfectas se multiplican hasta el infinito, pueden volverse más valiosos la presencia física, el accidente, la imperfección. En algunas prácticas artísticas ya hemos observado un regreso a lo analógico. Va más allá de la nostalgia. A veces se busca algo que ofrezca resistencia.

Lo digital hace que muchas cosas sean lisas y reversibles. La materia produce irreversibilidad.

Una escultura que se ha cortado, soldado, quemado lleva inscrita una decisión. No basta con pulsar Ctrl-Z. Esa irreversibilidad le da gravedad. Tiene que ver con la responsabilidad.

En el mundo sintético se pueden generar mil versiones antes de elegir. El coste del ensayo se desploma. Es extraordinario para la creatividad. Pero también puede restar valor al gesto decisivo. Quizá el artista deba reencontrar esa decisión en otro lugar: en la selección, en dar cuerpo a la obra, en exponerla.

La creación no desaparece. Se desplaza su lugar.

Sucede lo mismo que con el trabajo. Cuando la máquina automatiza una función, la escasez migra hacia otra. En el arte sintético, producir imágenes se vuelve algo abundante. Lo escaso puede ser la visión, el contexto, la firma o la capacidad de construir una obra a lo largo del tiempo.

Una imagen no hace una obra.

Es una distinción que la historia del arte conoce bien. La obra existe en una trayectoria, un corpus, una intención, una recepción. La IA no suprime ninguna de esas dimensiones. Simplemente hace menos excepcional la producción visual.

Quizá incluso aclare que el arte nunca fue mera destreza técnica.

La fotografía ya había desplazado esa frontera. Duchamp la había hecho añicos. La inteligencia artificial prosigue esa historia. Nos obliga a preguntar, una vez más: ¿dónde está el acto artístico?

Es una cuestión apasionante, pero el núcleo de este capítulo es otro. Sigue siendo la prueba. Con todo, el arte ofrece un laboratorio extraordinario porque desde hace mucho trabaja con lo auténtico, la falsificación, la copia y la apropiación.

El mercado del arte ya cuenta con procedimientos que quizá el resto de la sociedad redescubra: catálogos razonados, certificados, peritajes comparativos, análisis científicos, cadenas de procedencia. Este saber podría resultar sorprendentemente pertinente para el mundo digital.

Una civilización sintética necesitará historiadores de la procedencia.

Es casi una nueva profesión. Harán falta tanto verificadores de hechos que examinen una afirmación como especialistas capaces de reconstruir la genealogía de un contenido.

¿De dónde viene este vídeo?

¿Qué versiones existen?

¿Quién lo publicó primero?

¿Qué cuentas le dieron difusión?

¿Qué modelo se utilizó, en su caso?

La IA puede automatizar buena parte de esa labor, pero la interpretación seguirá siendo importante. Probablemente veremos aparecer grafos de procedencia a la vista de todos. Un contenido podría tener una especie de pasaporte que mostrara su cadena de transformaciones. Para los usuarios, esa representación tendría un valor extraordinario.

En lugar de una simple etiqueta de «verdadero» o «falso», se vería: captado por tal dispositivo, modificado con tal programa, reencuadrado, publicado por tal organización. Así se hace justicia a la complejidad.

Esa es precisamente la arquitectura que prefiero. Si se puede mostrar la cadena, no hace falta imponer una conclusión única. El ciudadano puede entonces ejercer su juicio.

Esto requiere, desde luego, cierta formación. Por tanto, la educación mediática debe transformarse. Durante mucho tiempo se enseñó a verificar la fuente y a contrastar periódicos. Habrá que añadir la comprensión de los contenidos sintéticos, los metadatos y los mecanismos de recomendación.

Pero no se trata de convertir a cada ciudadano en perito judicial. La arquitectura debe poner la verificación al alcance de todos.

Un buen sistema de confianza no puede descansar únicamente en la vigilancia heroica del usuario. Pasa lo mismo que con la ciberseguridad. Se enseña a reconocer el phishing, pero también se crean filtros y protecciones. La responsabilidad es compartida.

Las plataformas tienen, por tanto, un papel inmenso. Pueden detectar algunos contenidos sintéticos, mostrar su procedencia y, en situaciones críticas, frenar la propagación de un documento que aún no se ha verificado. Pero esa intervención debe regularse para evitar la censura arbitraria.

También aquí cuentan los procedimientos.

¿Quién puede impugnar una etiqueta? ¿Hasta qué punto es transparente el método? ¿Cuánto tiempo lleva?

La cuestión del recurso vuelve siempre. Clasificar indebidamente un contenido como sintético puede causar un perjuicio enorme, en especial a un medio o a quien denuncia un abuso. Se necesita, pues, una arquitectura de apelación. De nuevo, appeal by design.

Vemos tomar forma una verdadera constitución de la confianza digital: procedencia, pluralismo, auditoría, recurso.

Los mismos principios reaparecen porque son fundamentales. Ninguna tecnología milagrosa resolverá por sí sola la crisis de la prueba. Hace falta un ecosistema. Por eso hablo de una nueva arquitectura de la confianza.

Una arquitectura tiene varias capas. En la captura, firmas y metadatos. En las plataformas, identificación de las transformaciones. En los medios, verificación editorial. En el plano jurídico, criterios de prueba. En la educación, alfabetización mediática. En la política, transparencia. Ningún nivel basta por sí solo.

La robustez viene de la combinación. De nuevo, las capas: no hay soberanía cognitiva sin la cadena material, energética, computacional y documental que la hace posible. También la confianza se vuelve vertical.

Y esa arquitectura tendrá que ser internacional. Un vídeo cruza fronteras en cuestión de segundos. Las normas de procedencia deben ser, por tanto, interoperables. De lo contrario, cada país tendrá su propio sistema y la verificación a escala mundial será difícil. Esto abre un nuevo frente geopolítico en torno a las normas.

¿Quién define los criterios de autenticidad digital?

Estados Unidos, China y Europa pueden partir de filosofías distintas. Una arquitectura demasiado centralizada puede crear una capacidad de control político. Otra demasiado abierta puede ser más vulnerable a los abusos. Habrá que encontrar protocolos comunes suficientemente neutrales.

Es exactamente lo que ocurre con Internet. Se pueden compartir las capas técnicas aunque las normas jurídicas sean distintas. Quizá una norma mundial permita declarar que un contenido ha sido modificado sin determinar quién tiene derecho a publicarlo.

Separar la información sobre la procedencia de la decisión política acerca del contenido. Sería una distinción saludable.

El protocolo dice: este archivo tiene esta historia. Después la sociedad decide qué hacer con él. Es una filosofía afín a la de los estándares abiertos. Reduce el riesgo de que la capa técnica se convierta en un instrumento de censura.

Pero ningún sistema es absolutamente neutral. Incluso la elección de los metadatos refleja prioridades. Habrá que dotar, pues, a las normas de una gobernanza plural. Deberán participar las organizaciones internacionales, la industria, los medios y la sociedad civil. Lleva tiempo. Pero, una vez más, algunas demoras son útiles.

Una norma mundial tiene consecuencias a largo plazo. Es necesario confrontar argumentos.

Volvemos a la permanencia mutante: un protocolo lo bastante estable para generar confianza y lo bastante flexible para evolucionar ante nuevos ataques. El mantenimiento será permanente. Porque la falsificación se adaptará.

Los actores malintencionados aprenderán a explotar los nuevos sistemas. Robarán claves, comprometerán dispositivos, inventarán cadenas de procedencia fraudulentas. Es inevitable. La seguridad absoluta no existe. Eso no vuelve inútil el esfuerzo.

Sucede lo mismo que con el derecho. El delito existe pese al Código Penal. No por eso se concluye que haya que abolir la ley. Se establecen procedimientos y se perfeccionan las protecciones.

La confianza será siempre probabilística. Debemos aceptarlo.

Tal vez uno de los mayores cambios culturales consista en dejar de clasificar de inmediato los contenidos como verdaderos o falsos y en aprender a distinguir grados de confianza. Eso acerca la vida cotidiana al método científico.

Una afirmación puede estar bien fundamentada, resultar plausible, seguir siendo incierta o haber sido refutada. Es un lenguaje más rico.

La IA podría precisamente ayudar a poner ese lenguaje al alcance de todos. En lugar de responder con una certeza artificial, podría indicar: esta información se apoya en varias fuentes independientes, esta otra solo la confirma una fuente, esta sigue en disputa. Sería extraordinariamente útil.

Pero exige que los sistemas se diseñen para la trazabilidad.

Una IA que responde sin mostrar las fuentes contribuye al problema de la prueba. Puede acertar, pero el ciudadano ignora por qué. De ahí que la procedencia deba incorporarse también a los asistentes de IA.

¿De dónde procede la información? ¿Hasta qué punto está actualizada? ¿Qué

fuentes discrepan?

Esta arquitectura transforma la IA: de nuevo oráculo pasa a ser una interfaz que da acceso a las pruebas. Es precisamente la dirección que me parece más sana para la democracia. La IA debería ayudarnos a explorar la fuente sin ocupar su lugar.

La distinción entronca directamente con nuestro propio diálogo. El valor de la IA va más allá de producir una frase fluida. Consiste en relacionar elementos, recuperar información y confrontarla sin quitarle al ser humano la responsabilidad de decidir. Una respuesta de origen desconocido puede ser elegante y frágil. Otra que remite a una memoria es más sólida.

Esto me lleva de nuevo a la Demeure du Chaos como prompt vivo. Su fuerza radica en que es mucho más que un flujo generado sin memoria. Tiene veinticinco años de capas, de huellas, de transformaciones. Cada gesto nuevo se inscribe en un soporte ya cargado de historia. Es exactamente lo contrario de un mundo sintético amnésico en el que cada imagen aparece sin pasado.

La Demeure du Chaos es una procedencia materializada.

Una cicatriz es mucho más que una imagen de cicatriz. Es la huella de una acción anterior. Quizá sea una de las razones por las que la obra cobra aún más relevancia en la era de la IA. Afirma que la memoria es materia.

El mundo sintético puede producir cualquier apariencia. No puede producir retroactivamente veinticinco años de causas y efectos vividos sin construir una ficción extraordinariamente compleja. La historia sigue oponiendo resistencia.

Propongo aquí otra hipótesis: la profundidad temporal es una forma de autenticidad.

Una persona, una obra, una institución acumulan huellas coherentes a lo largo de los años. Simular el conjunto resulta más difícil que simular un instante. La falsificación destaca en el fragmento. La procedencia reconstruye la duración.

El tiempo puede convertirse, pues, en uno de los mejores antídotos contra lo sintético.

No basta con preguntar: «¿Parece verdadera esta imagen?».

Hay que preguntar también: «¿Cómo encaja en una cronología? ¿Hay huellas anteriores compatibles con ella?».

Es el método mismo del historiador. Quizá la era de la IA nos convierta a todos un poco en historiadores. Tendremos que aprender a buscar la genealogía.

Hay en ello una hermosa ironía. Una tecnología futurista nos devuelve a una disciplina muy antigua: la crítica de las fuentes.

Hace siglos que los historiadores saben que un documento debe situarse en su contexto, compararse y fecharse. Lo digital no suprime ese método. Lo vuelve universal.

Probablemente sea una de las grandes lecciones de este capítulo. Ante la inteligencia artificial, no hace falta abandonar todos los métodos antiguos. Al contrario. A veces hay que reactivarlos con herramientas nuevas. Crítica de las fuentes, debate contradictorio en el derecho, procedencia en el arte, método científico. Todas esas tradiciones ya eran tecnologías de la confianza. La IA no las vuelve obsoletas. Acrecienta su importancia. Solo cambian sus instrumentos.

De nuevo, la permanencia mutante.

La civilización no parte de cero. Adapta sus instituciones al nuevo medio. Pero el mundo sintético introduce una cuestión adicional que los métodos antiguos no tenían que afrontar a esta escala: la personalización de la falsedad.

Se puede contar el mismo hecho de manera distinta a cada persona. La IA puede generar un vídeo en el que un responsable político parezca decir exactamente lo que provocará la indignación de un perfil concreto. La prueba se fragmenta. Dos ciudadanos pueden recibir dos falsificaciones distintas y creer que están hablando del mismo suceso. ¿Cómo se construye un debate público en esas condiciones?

La constancia pública de la procedencia adquiere entonces aún más importancia. Quizá los medios y las instituciones deban conservar colecciones de referencia accesibles con declaraciones auténticas, discursos y documentos oficiales. Una especie de memoria cívica verificable.

Ya existe en parte, pero la IA aumenta la necesidad. Un responsable público podría firmar criptográficamente sus declaraciones oficiales. Tampoco eso haría imposible una imitación. Pero el ciudadano podría comprobar: «¿Corresponde este vídeo a una declaración autenticada?». Es un ejemplo concreto de la nueva arquitectura de la confianza.

Hay que preservar, sin embargo, el espacio del periodismo independiente. Una declaración sin firmar puede ser auténtica. Un vídeo clandestino puede revelar una verdad. Jamás hay que confundir lo oficial con lo verdadero. Es crucial.

Procedencia significa origen, no legitimidad automática.

Un documento oficial puede mentir. Un documento anónimo puede revelar la verdad. De ahí la vigencia del pluralismo. La cadena de procedencia nos ayuda a saber qué estamos viendo, aunque no necesariamente si es verdadera la afirmación que contiene. Este matiz debería enseñarse en todas partes.

De lo contrario, corremos el riesgo de sustituir el caos sintético por una autoridad centralizada que decida lo que es auténtico. Sería el error opuesto.

La arquitectura acertada es la que aumenta la información disponible para juzgar sin suprimir la facultad de juicio.

Es exactamente mi filosofía de la IA. Ampliar, sin abdicar.

Podemos imaginar así una especie de capa de confianza digital en la que todo contenido de importancia tenga varios atributos: origen declarado, origen verificado, transformaciones conocidas, fuentes que lo corroboran, impugnaciones. Lo que vería el ciudadano sería un mapa en vez de un sello verde definitivo.

Es una manera más adulta de representar el conocimiento. Enlaza directamente con la representación de la incertidumbre de la que hablé a propósito de la guerra cognitiva. La interfaz no debe ocultar la complejidad allí donde sea pertinente.

Una arquitectura honesta de la confianza debe poder decir: «Esto lo sabemos con un alto grado de confianza, pero este elemento sigue siendo incierto».

Es exactamente lo que hace la ciencia. El problema es que el lenguaje mediático y político suele preferir la certeza. Por eso también debemos cambiar la cultura. La IA no resolverá los problemas de una sociedad que rechaza la incertidumbre. Solo puede proporcionar las herramientas.

Una vez más, la regla: la tecnología amplifica la institución.

Una sociedad que valora la verificación puede utilizar la IA para verificar mejor. Otra que valora la confirmación puede utilizarla para producir más contenidos afines a sus creencias. La crisis de la prueba es también, por lo tanto, una crisis del deseo de verdad.

Esta dimensión psicológica es esencial. Las personas no siempre comparten un contenido porque lo crean verdadero. Pueden compartirlo porque expresa algo que desearían que fuera verdad. La emoción a veces precede a la verificación. La IA generativa puede aprovecharlo con temible eficacia.

Por eso no bastará con una arquitectura puramente técnica de la procedencia. Hay que educar en el deseo de buscar pruebas.

La expresión puede sonar extraña, pero me parece justa. Una sociedad debe valorar el hecho de que alguien cambie de parecer cuando aparece una prueba en contra. Es una virtud intelectual poco común. Lo contrario es el dogmatismo.

La IA podría exacerbar el dogmatismo al proporcionar siempre un argumento a cada cual. Si se generan suficientes textos, se puede encontrar uno que confirme casi cualquier intuición. Por eso hay que diseñar la herramienta para que busque también objeciones.

De nuevo, el Blind Spot.

Una arquitectura de la confianza debería presentar tanto los elementos que confirman una hipótesis como los que la debilitan. Es el método mismo del debate contradictorio.

Vemos cómo convergen todos los hilos de esta parte: procedencia, contraste de argumentos, pluralismo, incertidumbre, responsabilidad. Son las estructuras de la verdad en una sociedad compleja.

La IA las hace visibles porque amenaza con cortocircuitarlas. Pero también puede reforzarlas. Puede recorrer más fuentes, detectar contradicciones, reconstruir una cronología.

Por eso rechazo el catastrofismo. El mundo sintético no tiene por qué ser el fin de la verdad. Puede ser el comienzo de una arquitectura más sofisticada de la prueba.

Durante mucho tiempo vivimos de presunciones sencillas: una foto se parece a la realidad, luego probablemente procede de ella. La presunción ya no basta. Debemos construir algo mejor.

Exigirá un esfuerzo. Pero las sociedades ya han atravesado crisis parecidas cada vez que surgía un medio nuevo. La imprenta multiplicó los textos, también los falsos. La fotografía creó nuevas posibilidades de manipulación. La radio, la televisión, Internet. Cada vez, las instituciones y el público aprendieron nuevos métodos.

La IA acelera y amplía el desafío, pero no nos sitúa fuera de la historia.

La continuidad resulta tranquilizadora porque nos recuerda que la civilización sabe mutar. Una vez más: solo los mutantes sobreviven.

El problema no es la aparición de lo sintético. El problema sería conservar instituciones concebidas para un mundo en el que el coste de la falsificación era mucho mayor.

La transformación debe ser rápida. Tribunales, medios, escuelas y administraciones deben adaptar sus procedimientos. Pero el núcleo sigue siendo estable: prueba, debate contradictorio, responsabilidad. En eso consiste precisamente la permanencia mutante.

El mundo sintético podría incluso dar lugar a un renacimiento de la materialidad y de la presencia. Cuando una imagen ya no nos inspira certeza, el hecho de asistir físicamente a un acontecimiento puede recobrar valor. El concierto, el museo, la conferencia, el encuentro.

La presencia se convierte en prueba existencial.

«Yo estaba allí». Naturalmente, un testimonio puede ser falso. Pero la experiencia encarnada adquiere otro significado en un universo mediado por contenidos sintéticos.

Quizá los lugares físicos se conviertan en santuarios de confianza.

Esto me devuelve de inmediato a la Demeure du Chaos. Se pueden ver millones de imágenes de la Demeure du Chaos. Pero entrar de verdad en sus 9 000 metros cuadrados, sentir la materia, percibir la escala, ver las cicatrices, es una experiencia incomparable.

La realidad se resiste a la reproducción.

Es justamente por eso por lo que el museo físico no desaparece con la digitalización. Al contrario, cuanto más poderosa es la tecnología digital, más valioso puede volverse el lugar. Es una paradoja que ya observamos. La reproducción a escala mundial aumenta la visibilidad del objeto único.

La IA podría llevar mucho más lejos esa lógica. Será posible generar infinidad de museos imaginarios y esculturas imposibles. Eso no tiene por qué suprimir nuestro deseo de estar ante una materia que existe de verdad. Quizá ocurra incluso lo contrario.

La presencia será un bien cognitivo escaso. Y la escasez genera valor.

Así puede el mundo sintético devolver valor a la autenticidad sin caer en una nostalgia ingenua del mundo de antes. Lo digital y lo físico no se anulan. Se redefinen mutuamente.

La IA puede enriquecer la visita, relacionar las obras, mostrar los archivos. La materia aporta la presencia.

Es la simetría exacta que busco entre Artprice y la Demeure du Chaos: por un lado, una base de datos mundial; por otro, una obra física total. Memoria digital y cuerpo plástico. La inteligencia artificial se convierte en un sistema nervioso entre ambos.

Este tríptico cobra ahora una dimensión aún más poderosa. La base de datos permite establecer la procedencia. La IA permite establecer relaciones. La Demeure du Chaos aporta la encarnación. Es casi una arquitectura completa de la confianza: memoria, inteligencia, materia.

Al comienzo de esta aventura no necesariamente lo había formulado así, pero cada vez lo veo con mayor claridad. Y esa arquitectura abre ahora una cuestión aún más profunda.

Aunque logremos autenticar imágenes, voces y documentos, todavía quedará una forma de lo sintético que es imposible abordar solo a través de la procedencia: la propia identidad.

Los agentes artificiales pueden tener una voz, un rostro, una memoria de las conversaciones. Pueden presentarse como asistentes, asesores, compañeros digitales.

¿En qué momento debemos saber que estamos hablando con una máquina?

¿Debe una IA identificarse siempre como tal?

¿Qué es una identidad en un mundo donde una misma persona puede delegar parte de su presencia en agentes que hablan en su nombre?

Entramos entonces en una cuestión aún más vertiginosa. La prueba ya no concierne solo al contenido. Concierne al interlocutor.

¿Quién me habla?

¿Es Thierry Ehrmann, un agente de IA autorizado por él, un modelo que imita a Thierry Ehrmann o un impostor?

Esta distinción será crucial para el comercio, la política y la vida íntima. La identidad misma deberá acreditar su procedencia. Volveremos a encontrarnos con la firma, el mandato y la autorización.

Un agente artificial quizá pueda negociar en nombre de una persona o de una empresa. Hará falta precisar para qué actos está autorizado. Recuerda al régimen jurídico del mandato, pero con una escala y una velocidad nuevas.

Un agente puede intervenir al mismo tiempo en un número enorme de intercambios. Lo que se distribuye no es la propia identidad humana, sino los actos realizados en su nombre. Esta diferencia hace aún más necesarios el mandato y la trazabilidad.

La idea es fascinante y peligrosa. Podría aumentar de manera extraordinaria nuestra capacidad de actuar. Pero también puede fragmentar la responsabilidad.

Si mi agente promete algo que yo no habría formulado personalmente en esos términos, ¿quedo obligado?

Volvemos a encontrarnos con la cadena de responsabilidad.

Tras la crisis de la prueba llega la crisis del interlocutor.

Ya no bastará con preguntar:

¿Es verdadera esta imagen?

Preguntaremos también:

¿Con quién estoy hablando realmente?

Y esta pregunta podría transformar el comercio, el derecho y la vida social tan profundamente como la aparición de la propia IA.