Entre el estallido y el murmullo

Esta es la forma en que acaba el Mundo
Esta es la forma en que acaba el Mundo
Esta es la forma en que acaba el Mundo
No con un estallido, sino con un murmullo.

(T.S. Eliot – Los hombres huecos)

La más popular y conocida película de Stanley Kubrick, 2001: Una odisea del espacio, nos introducía, en año tan significativo como el de 1968, en los avatares de nuestro futuro. Un futuro presidido por un extraordinario desarrollo científico/técnico, en el marco del cual la inteligencia artificial desempeña un papel predominante.

La aventura del hombre, que no termina en la Tierra sino que se expande más allá del universo conocido, plantea, desde el propio guion de este film, tantas preguntas como misterios rodean nuestro planeta en sus múltiples transformaciones a lo largo del tiempo.

Kubrick, que se inspiró en un cuento de Arthur C. Clarke (El centinela) para producir la película junto con Victor Lyndon para la Metro-Goldwyn-Mayer, era muy consciente del drama de la existencia humana, del azar increíble que la ha hecho posible, así como de la inquietud que suscita en nuestro ánimo el destino de la misma en los planes que el infinito nos haya acordado en su devenir.

Para un poeta como Octavio Paz el hombre no es otra cosa que un instante, un parpadeo en el diálogo de los universos, un acorde que —en el mejor de los casos— constituye un acuerdo. Semejante definición, muy cara a los ojos del artista que indaga en las honduras de su alma para hallar respuestas —siquiera sean parciales— a sentimientos cuya profundidad desborda el marco de su quehacer, es, para el discurso de la ciencia, motivo de constante investigación y controversia. La ciencia, como se sabe, necesita demostrar y reproducir tantos fenómenos como pueda englobar en las formulaciones de sus hipótesis, y sin preguntarse por el deseo que gobierne o dirija su función en el mundo en que vivimos. Primero se investiga y se demuestra, y luego ya se verán las aplicaciones que puedan desprenderse de sus descubrimientos. Napoleón Bonaparte, al que tantos han citado tantas veces, lo decía de otro modo a propósito de los retos que presentaban las conquistas imperiales de su época: On s’engage et puis… on voit.

Sin embargo, tal aserto encierra riesgos que no siempre se pueden soslayar. En modo alguno.
Volviendo a la película de Kubrick, a esa odisea del hombre en el espacio, recordaremos el turbador episodio dedicado a Hal 9000, el superordenador que, dotado de Inteligencia Artificial (IA), ve y oye todo cuanto ocurre en el interior de la nave espacial pudiendo, además, comunicarse con los humanos mediante el habla. No acaban ahí sus muchas y notorias facultades, pues además de gobernar el rumbo de la nave y sostener el perfecto mantenimiento de la misma, Hal es capaz de reconocer las emociones de quienes la tripulan.

Conocemos el final de este capítulo: Hal ha sufrido una «disfunción» y simula una avería que no existe, dando lugar a reticencias por parte de los dos pilotos que coordinan todo cuanto sucede a bordo. El corolario, entre angustioso y delirante, nos muestra un ordenador enloquecido que, de modo autónomo, ha decidido el exterminio de todos los humanos que habitan la nave, consiguiéndolo casi. Solo David Bowman, último superviviente, es capaz de desconectarlo y retomar el curso de la misión que le ha sido encomendada y que le lleva, finalmente, a traspasar la última frontera del cosmos cartografiado hasta entonces.

Adelantándose, el genio de Kubrick nos advertía de los peligros que entraña una Inteligencia Artificial (IA) no bien controlada por el hombre, que escape a su dominio, o, que en el colmo de la perversión, haya sido diseñada precisamente para eso: para deshacerse de todo vestigio humano y arrojarlo al vacío que nos rodea. Y en este punto es donde su advertencia, su mensaje, conecta con las declaraciones de técnicos y científicos que trabajan o han prestado ya sus servicios para las grandes corporaciones que investigan y despliegan los muchos logros que nos propone la IA. Porque, según y cómo se desarrolle, esa invención puede acarrear la desaparición de la humanidad. Así de claro nos lo dicen… y así de crudo nos lo sirven.

No obstante, nadie parece parar mientes en esa clase de avisos, y, espoleados por la dura competencia que supone el hecho de llegar a la meta de ostentar la hegemonía en este terreno, quienes deciden el curso de los acontecimientos que rigen nuestra vida solo ven un peligro: el de no llegar primero. Cuando de lo que se trata es —como así lo señalara el poeta— «de llegar con todos y a tiempo». A tiempo, claro está, de construir otra cosa que no sea el caos informe de un mundo en descomposición.

Es tarea del Estado, del Estado democrático y sometido al escrutinio de la ciudadanía, poner límites a las corporaciones que solo ven y ansían un fantástico cúmulo de beneficios alrededor de una fabulosa concentración de capital… y de poder político.

¿Quién decidirá en última instancia? La pregunta, sin embargo, no debe hacernos olvidar nuestra responsabilidad, personal e intransferible, tanto en este como en otros asuntos que nos conciernen directamente.

Sometida en todo momento al control democrático de los ciudadanos, la Inteligencia Artificial (IA) será un maravilloso instrumento que nos permitirá franquear fronteras que, ahora mismo, ni siquiera podemos imaginar. Áreas fundamentales para nuestra existencia, como son la Medicina, la Investigación, la Estadística, la Bioquímica… y un largo etcétera, cambiarán las condiciones materiales de nuestra vida. Pero junto a esas condiciones materiales, es preciso, también, que cambien las condiciones o principios morales que alumbran nuestro tránsito en esta infinitesimal partícula del universo llamada Tierra. Moral, en este caso, entendida como sinónimo de ética. Pues el deseo, para poder materializarse como tal, precisa la intervención de la ley. Ley, aquí comprendida, como límite al goce perpetuo de la pulsión de muerte.

Lo decía, caracterizando lo esencial del movimiento al que pertenecía:

El surrealismo es un movimiento revolucionario, poético y moral.

(Luis Buñuel)

Es en la estela que abre esta propuesta, aplicada a los múltiples descubrimientos e invenciones de la humanidad, donde hallaremos la clave que pueda desactivar las muchas amenazas que planean sobre nuestras cabezas. Porque no debemos olvidar la otra cara, la oscura, que existe de forma paralela al despliegue luminoso, solar y positivo de la Inteligencia Artificial (IA): una industria que ya está aplicando esta herramienta al impulso de armas autónomas, con capacidad propia para decidir quién vive y quién muere; que está ocupada en crear sistemas de observación susceptibles de almacenar e interpretar nuestros estados de ánimo, con el preciso objeto de vendernos bienes y servicios presentes ya en el mercado; o de vigilar y castigar comportamientos estimados como incívicos, inapropiados o peligrosos.

¿Peligrosos para quién? Evidentemente, para el Estado totalitario que ciertos poderes, integrados por «hombres huecos», ya están diseñando en laboratorios de ingeniería genética y social.

Una primera fase de este ambicioso proyecto ya está en marcha: al intensificar la red virtual en que nos movemos, el individuo, aislado aunque bien conectado, pierde la relación directa con los demás; lo cual no significa otra cosa que desvirtuar la comunicación con la realidad. Así, nuestras capacidades de experimentar y pensar por cuenta propia quedan comprometidas: las diferencias entre realidad y ficción quedan borradas. Ello, claro está, conlleva la pérdida de la experiencia, y, asimismo, supone la desaparición de la facultad que nos permite distinguir lo verdadero de lo falso. Al final, como resultado de esta permanente inmersión en vastas mallas de datos sostenidas por toda clase de dispositivos móviles, constatamos la impresión de que la ficción resulta más real que la propia realidad. Si a todo esto se añade la enorme potencia de los modelos generativos en que está basada la Inteligencia Artificial (IA), concluiremos que dicho artefacto, concebido para servir los intereses espurios de la industria privada, no es únicamente un aparato o institución de carácter imaginario sino, ante todo y sobre todo, una máquina (en el sentido que Gilles Deleuze le otorgaba al término) productora de ilusiones o delirios, cuando no de alucinaciones que desembocan en aquello sobre lo cual ya caminamos: la psicosis. Bien lo pone de manifiesto esa pintada que, de modo perseverante, todavía se mantiene en un muro de la calle Balmes de Barcelona:

Este tiempo digital
se está comiendo
el mundo
y nuestras almas.

La producción industrial de información e imágenes es ya tan aplastante que la mirada ha perdido el preciado don de contemplar cualquier escena representativa. Solo hay que señalar el hecho de que, en los museos, la mayoría de los visitantes ya no miran ni ven. ¿Para qué? Sus teléfonos fotografían todo aquello que la mirada no mira ni ve. Luego, confortablemente instalados en el sofá de su casa/cueva, mostrarán a los visitantes de la misma las imágenes que han «visto» sin ver en absoluto. Así, el sujeto que «mira», al quedar aislado, sin objeto alguno al que dirigir verdaderamente su mirada, es anulado en el magma de una banalidad uniforme y estéril.

Pero este aislamiento tiene, además, la particularidad de generar hacia el mundo y los demás congéneres humanos desconfianza, temor y fantasmas de carácter persecutorio. O sea, paranoia.

Recordemos que Hanna Arendt, al examinar las principales características del Estado totalitario, llegó a la conclusión de que el último objetivo de este no era otro que el de inducir o generar una situación general de «locura artificialmente fabricada»¹. Que es, según los indicios ya recogidos, lo que pretenden quienes, desoyendo las admoniciones de sus propios empleados, no parecen sino empeñados en proseguir la senda hacia la «fusión» del hombre con la máquina en ese despeñadero de la razón que no contempla, en su propio latido, límite alguno.

Cuidado, pues, con la vía que algunos quieren imponernos… Porque las ficciones producidas por una IA desregulada no tendrían otro fin que el de aniquilar cualquier rastro de bienestar, al convertir la realidad y adaptarla a una ficción que acoge en su vientre el ombligo de la pesadilla. Algo de todo esto pudimos advertir en la adaptación cinematográfica que otro gran cineasta, François Truffaut, realizara de la novela de Ray Bradbury: Fahrenheit 451.
Hoy, atrapada entre el miedo al estallido de una guerra nuclear y el murmullo de planes que avanzan calladamente hacia un horizonte desconocido, la humanidad se debate entre la cima de la civilización o la sima de su propia barbarie. Es preciso, pues, definir y recortar ciertos planes, someterlos a la ley que sirve a los intereses de la vida, y no ceder ante la voluntad de quien no abriga más ocurrencia que la de satisfacer su capricho.

Como si desde el tiempo en que vivió nos estuviera viendo, Rabelais dejó escrito que:
Science sans conscience n’est que ruine de l’âme.

Escuchemos, pues, la palabra edificante, aquella que construye el futuro sobre la base firme de nuestra propia experiencia de siglos. Escuchemos. Antes de que sea demasiado tarde.