Cuando no exploten las bombas

We shall meet in the place where is no darkness.

(Nos encontraremos en el lugar donde no hay oscuridad)

1984, George Orwell

Según Elon Musk, en Tesla la inteligencia artificial (IA) no es la guinda de la torta, es la torta. Tiene razón. Aunque repitamos la idea de que el fin justifica los medios, la historia muestra, trágicamente, que los medios son el fin. A fin de cuentas, son nuestros juguetes nuevos los que decretan el mundo por venir y los límites del pensamiento.

Alguna vez a un neurocientífico que, afanado, explicaba que pronto podremos saber qué zonas del cerebro se activan con cada emoción, se me ocurrió preguntarle para qué. Con su perplejidad entendí que mi pregunta era ingenua y estúpida. Para qué, no es una pregunta que se le pueda hacer a la ciencia moderna. No me refiero, por supuesto, al para qué utilitarista, para ese siempre existe una respuesta noble –vivir mejor, curar enfermedades, soluciones versátiles para la vida– aunque luego los inventos deriven en otra cosa. Es la pregunta por el sentido: ¿queremos el mundo que trae una tecnología determinada?

Para qué, no es una pregunta posible, no porque esté prohibida, sino por la estructura interna de la ciencia técnica. “La ciencia no piensa” fue una premisa polémica de Heidegger que, lejos de ser un insulto, él vio como condición: la pregunta sobre qué es la ciencia no la responde la ciencia, sino que corresponde a la filosofía – aunque por supuesto, la puede enunciar un científico. El asunto es si acaso ese pensar, esa pregunta por el sentido tiene prestigio en nuestros días. En general, la respuesta suele ser algo así: la técnica siempre ha existido en la vida del ser humano, esto avanza imparablemente, es una pulsión atávica. Por otro lado, hay disciplinas humanistas que, dadas las estructuras institucionales de trabajo o las exigencias académicas, pierden también la potencia de la pregunta, así es que tampoco en ellas hay garantía de la pregunta por el lugar del pensamiento.

El problema con la técnica no es solo que avance sin parar, sino que su racionalidad colonice los campos de la existencia que requieren de otro tipo de pensar. Y, a la vez, que su racionalidad no permita que podamos tener una responsabilidad a la altura de su producción.

En los años cincuenta, en la conferencia titulada “Serenidad”, Heidegger dijo algo perturbador: lo peor no es que exploten las bombas, sino que cuando no estallen y la vida humana esté salvaguardada junto con la era atómica, es que entonces el mundo se transformará de un modo inquietante. No le preocupaba que el mundo se tecnificara por completo, sino que no pudiéramos acceder a un pensar a la altura de poder enfrentar ese mundo y quedar así atrapados en un régimen de impotencia creado por nosotros mismos. El peligro es que ningún Estado, organismo o investigadores, puedan encauzar a la ciencia, porque la episteme de la técnica se convierta en un régimen de sentido.

La advertencia es que la dimensión técnica moderna no es una mera herramienta que se puede usar para el bien o el mal; además de que usarla a nuestro antojo es una ilusión. La técnica es algo mucho más grande: es una racionalidad, es decir, una forma de pensar, un modo de hacer y habitar el mundo, uno en que, si todo es tecnificable, por lo tanto, todo es explotable: los medios, como dijo Elon Musk, son la torta. Son las tecnologías las que revolucionan y modelan la estructura social: el medio es el mensaje.

Con el mundo moderno nace una nueva concepción de las relaciones entre los seres humanos y la naturaleza, el entendimiento mecanicista comienza a separarnos de las cosas para volver sobre ellas bajo el modelo de la razón. Esta operación –escribe Luis Villoro– por un lado, crea una nueva soledad en el ser humano, porque lo aleja del paganismo y la religiosidad que implicaban una imbricación con algo más allá de la propia carne. Y, por otra, alimenta la voluntad de dominio y posesión sobre las cosas del mundo, incluidos el cuerpo propio y el de los otros. El ser humano gana potencia en su individuación, sin embargo, puede tratarse también a sí mismo como una naturaleza a explotar. Luego se empiezan a escuchar, como escribe Arendt en La condición humana, ideas tan extrañas como aquel titular que llamó su atención a propósito del lanzamiento de un satélite: “Por fin saldremos de la prisión de la Tierra”.

De cierto modo, ese titular que escandalizó a Arendt no es una metáfora.

Santiago Alba Rico llama “fuga del cuerpo” al afán humano por dejar sus límites corporales. Danzar, el sexo, los ritos, el lenguaje, son formas diversas de salir de sus contornos. La técnica también es una vía, su particularidad es que sus medios son extra corporales. Si el ser humano ha buscado liberarse de la lentitud de un cuerpo que se enferma, se retrasa, se equivoca y no tiene alas, la técnica ha sido una vía muy poderosa para cumplir este anhelo. Según Levi-Strauss, para que las sociedades no se repitan a sí mismas, han dependido en algún grado de un “tirón individual”, desde Prometeo a Elon Musk. Ese “tirón” primero fue masculino; seguramente por razones de movilidad y por su individualidad, luego se habría institucionalizado en el patriarcado. Pero, como escribe Alba Rico, esa individualidad se universalizó y, si la historia ha sido una lucha entre quienes quieren volar y quienes quieren seguir en tierra, el equilibrio de fuerzas se ha inclinado en una dirección: hacia adelante y hacia arriba. Y ese movimiento supera la capacidad de comprensión y de control de las sociedades y la política. Esta fuga inyecta velocidad, es posible recorrer distancias en menos tiempo, pero a la vez, la aceleración es capaz de empujar a los cuerpos fuera del tiempo: los angustiados, los enfermos, los viejos, todos ellos, por el contrario, se vuelven muy corporales. El cuerpo comienza a ser un resto.

“No veo nada tan especial sobre esto que llamamos ‘alma’ en nuestra conciencia, que no pueda ser reproducida dentro de una construcción lo suficientemente compleja. No creo que tenga que estar hecha de carbono y tener un ADN. Creo que llegará un momento en que mi iPhone empiece a tener conciencia propia”, dijo en una entrevista el matemático y divulgador científico francés Marcus Du Sautoy.

Si bien hay diversas posiciones respecto de la discusión sobre qué es lo humano a partir de la ciencia y la filosofía, hay una posición que se va tornando hegemónica, al menos en la divulgación científica, a la que debemos prestar atención. Para este científico es absolutamente irrelevante de qué está hecha el “alma”, puesto que para él alma o conciencia son expresiones de un proceso material: que sea hecho de células o cables es indiferente. Y tiene toda la razón, por supuesto es coherente bajo su lógica, la que por cierto, como toda lógica, está atravesada de ideología. Lo ideológico en este relato de la IA es una toma de posición respecto de qué es el ser humano: aquello fuera del soporte material verificable, es mera religión y superstición.

En este punto hay algo que es fundamental discutir con este tipo de argumentación. “Ilustración” no es lo mismo que ciencia o técnica, o al menos no se agota en sus prácticas. Ilustración es la actitud crítica que se propone cuestionar las creencias, sean religiosas o científicas. En este sentido, la ciencia, como cualquier otro tipo de disciplina o conocimiento, es interrogable. La filósofa Marina Garcés piensa que para afrontar la situación de época en que nos encontramos, más que nunca es necesario afirmar la Ilustración, rechazar las resistencias antimodernas que han surgido, como, por ejemplo, los fundamentalismos religiosos y anticientíficos. Pero distingue una defensa a la Ilustración como actitud, y no como el proyecto que resultó de ella: una idea de humanismo como empresa de dominio sobre las cosas, de la que deriva que todo – el planeta, las neuronas, el cuerpo, el otro– se vuelva potencialmente materia explotable. El problema no es la ciencia, sino el tecnocientificismo como ideología.

Del mismo modo, el filósofo e ingeniero informático Yuk Hui sostiene que es la racionalidad científico-técnica occidental que colonizó gran parte del mundo, la que impide pensar de otros modos a la tecnología; de formas que no sean la del conocimiento orientado a la producción y dominación. Su crítica es al proyecto del humanismo europeo que subordina a otros seres para sus propios fines e ignora la necesidad de coexistencia. El proyecto ilustrado, dice, hoy solo identifica el progreso con la aceleración y concibe la tecnología con fines de utilidad y rentabilidad. Habría que dejar el supuesto de que este tipo de técnica es universal: existen diversas aproximaciones de acuerdo con las cosmologías de cada cultura. Por ejemplo, el pensamiento chino, antes de su declive por la colonización del pensamiento europeo, buscaba entender las conexiones de las cosas del mundo no para modificarlo, sino para adecuarse a él. La propuesta de Hui es rescatar –sin ningún romanticismo ni esencialismo naturalistas– otros sistemas de conocimiento para que el futuro cuente con una “tecnodiversidad” que se oponga a lo que considera que hoy es un modelo homogéneo.

Markus Gabriel invita a pensar lo siguiente: hay que poner atención a las metáforas. Cuando se dice “podemos ver cómo piensa el cerebro”, o “las máquinas toman decisiones”, debemos preguntarnos: el hecho de que se prendan unas luces cuando estamos pensando, ¿es que realmente “podemos ver” cómo pensamos? Que una máquina tome decisiones, (por cierto, igual a lo que demuestra la biología, que cada célula toma decisiones), ¿es posible decir que esa agencia es similar a la humana? Si bien la materialidad del cuerpo es el soporte para pensar, no garantiza que lo hagamos. La ideología cerebrista, o de la IA como su continuación, niega algo fundamental: por más luces que se prendan e indiquen que estamos amando, pensando o soñando, lo cierto es que aún hay más posibilidades de saber algo sobre la condición humana a través de las narraciones y testimonios. Como afirmaba Wittgenstein, aunque la ciencia avance, en lo que respecta a las preguntas esenciales de la existencia, quedamos en el mismo lugar.

Markus Gabriel, en Yo no soy mi cerebro, escribe que no es casual que fuera en 1990 cuando George H. W. Bush proclamara oficialmente que entrábamos a la “década del cerebro”. Acababa la guerra fría, y el supuesto fin de la ideología ya no requería pensar lo humano en términos de sujeto político. Es también el inicio de otras formas de control, aparece una forma de vigilancia consentida, que ya sabemos en qué va hoy; no solo hay control a través de cámaras y algoritmos, sino que las personas estamos dispuestas a entregar información bajo el convencimiento de que a cambio tendremos un saber sobre nosotros mismos: calcular las pulsaciones, saber qué químico o alimento requerimos con exactitud.

No hay que confundir la crítica con un rechazo a los avances científicos. Se trata de volver a pensar el estatuto político de los descubrimientos y nuestro lugar en ellos. ¿Qué hacer con nuestro cerebro? Es la provocación que hace Catherine Malabou para interrogar la relación política con los avances de las neurociencias. “Vivimos el momento de la liberación neuronal, y no lo sabemos”, la plasticidad cerebral parece ser aún un descubrimiento cuyas consecuencias no se traspasan a la vida de las personas y a la política. Con suerte, se ha traducido como flexibilidad, concepto que enfatiza cuánto podemos adaptarnos y soportar las condiciones dadas. Mientras que la plasticidad explora lo que podemos crear: el cerebro es en parte nuestra obra y no lo sabemos, dice. Su crítica es a una “ideología neuronal”, cuyo efecto especular es la forma de vida política. Lo que habría que hacer es “liberar esta libertad” descubierta de nuestra constitución material.

***

Volvamos a la “Serenidad” de Heidegger. La actitud que propone en su conferencia es la de decirle a la técnica sí y no a la vez. Sí como herramienta, no como régimen de realidad.

Lejos de tratarse de un anticientificismo delirante, negar significa resistirse a que la racionalidad técnica nos deje silenciados por la verdad puesta en los datos (o en los impulsos cerebrales); no porque no haya en ellos un registro de la verdad, sino porque se le dice no a la verdad vuelta un mecanismo que hace callar. Hablar es otro registro de la verdad, cuyo soporte es el sujeto político.

¿Podemos ejercer el no estos días?

Las advertencias traen un poco de histeria, pero no generan resonancias. El propio Elon Musk hace años viene diciendo cosas como que “la IA podría ser más peligrosa que las armas nucleares” o “hay entre un cinco y diez por ciento de posibilidades de éxito” (de que la IA sea segura). En 2020 hizo la presentación del chip cerebral NeuraLink, que pretende que las personas controlen sus dispositivos electrónicos con la mente. Dijo: “El futuro será extraño, podríamos dejar de necesitar hablar”. Lo de siempre, primero el invento se presenta como un asunto de utilidad para curar enfermedades –cuestión que en este caso los expertos pusieron en duda–, luego temas más ambiciosos, como lograr la “telepatía conceptual”. No tengo idea qué quiere decir Musk con telepatía, pero la pregunta es si acaso queremos o no ahorrarnos el lenguaje.

Freud decía que la ilusión de la telepatía es la del enamoramiento, la toxicomanía y las masas: el sueño de hacer Uno del Dos. Este anhelo no tiene nada nuevo, es el ansía de acortar la distancia entre las palabras y las cosas, y también evitar el malentendido estructural de la comunicación, que no es sino la imposibilidad de la complementariedad con el otro. La telepatía es la fantasía de borrar la diferencia que molesta.

Algo similar ocurre con la memoria. Musk dice que podremos almacenar y recuperar recuerdos, incluso ponerlos en un cuerpo replicante. La memoria entendida como un receptáculo es como revisar con prisa un álbum de fotos o un edificio patrimonial: sin esquirlas, sin consecuencias. Una memoria tecnificable, sin afectación en el presente. Pero la memoria humana puede entenderse de otro modo, como un recordar que nos enfrenta a posibilidades éticas: repetir el pasado o abrir un futuro inédito. Es una reserva de libertad. A fin de cuentas, es el acto de interrumpir la repetición de nuestros patrones lo que genera otro tipo de extrañamiento, distinto al “futuro extraño” de Musk.

Quizá esto es solo un paso más de un viejo problema: la incomodidad respecto de nuestra libertad. Estamos obligados a elegir, aún cuando creamos que no lo hacemos. Lo terrible y asombroso es que lo hacemos bajo condiciones complicadas; elegimos, a pesar de estar sujetos a un cuerpo y sus determinaciones, a un mundo, a los otros. Elegimos llenos de amarras, sin certezas, en conflicto, pero, así y todo, estamos condenados a nuestra libertad. En su libro acerca del mal, Rüdiger Safranski propone dos lecturas diferentes sobre la caída del paraíso. La primera, es que nuestro devenir en el mundo empieza cuando a Dios se le ocurre que podemos elegir comer o no la manzana. Es precisamente la invención de la prohibición la que crea al mal, y a la vez nos condena a la libertad. Se trata del momento de la ética: elegir. La otra lectura, la idea del mal como algo externo, dice, es posterior, cuando en las interpretaciones del mito se encarna en la serpiente, las brujas, los judíos, los inmigrantes, la derecha, la izquierda, siempre los otros; luego el clivaje se sitúa fuera de nosotros.

El vértigo de la libertad es la responsabilidad. La desresponsabilización es una tentación. Seguimos soñando con el paraíso como condición de inmediatez y de unidad telepática con el mundo, es decir, con una existencia sin conflicto. Pero ese sueño no es sin costos, es lo que nos enseña la clínica de las toxicomanías y las depresiones; nos muestran que antes que paraíso, la ausencia de deseo y de conflicto arroja al infierno, porque se pierde el cuerpo erógeno, el cuerpo envuelto en palabras.

Quién sabe, tal vez entre los inventos técnicos, los algoritmos y la vigilancia moral, alcancemos un mundo sin fallas (humanas). Quizá todo lleve a un mundo más igualitario, la cuestión es si los medios para llegar a esos nuevos valores serán una anécdota –la guinda de la torta– o serán la torta. Como escribió Jaime Semprun, a los ecologistas les preocupa qué mundo les dejaremos a nuestros hijos, pero nos debería preocupar qué hijos le dejaremos al mundo. De los decires importa, sobre todo, nuestra relación con lo dicho: puede que lleguemos a Marte y seamos buenos, pero podría ser que ya no traicionemos porque tampoco hagamos promesas, y que la violencia sea justamente la incapacidad de pensarla.

***

La física no es ajena a la búsqueda de la belleza, escriben en su libro Antimateria, magia y poesía, los físicos Andrés Gomberoff y José Edelstein. Se preguntan sobre una forma de conocimiento contraintuitiva: ¿cómo se puede comprender lo invisible? ¿Cómo es posible que exista algo llamado antimateria? Cuentan la historia de su creador, Paul Dirac, quien llega a su ecuación sin buscar resolver un problema, sino que lo hace buscando belleza. Dirac se preguntó cómo debía modificarse la teoría cuántica para ser compatible con el modelo de la relatividad. En 1928 publicó La teoría cuántica del electrón, la que de acuerdo con las teorías de la época contenía una tesis absurda. Incluso Heisenberg dijo que se trataba del “capítulo más triste de la física moderna”. Sin embargo, escriben los autores, la “perfecta belleza matemática” de su creación lo hicieron persistir. Y el momento llegó en 1932, cuando Carl Anderson le dio la razón a Dirac: los positrones son el primer ejemplo conocido de la antimateria.

Le pregunté a Gomberoff qué pensaba sobre los lenguajes científicos. Me respondió con una pregunta: ¿Einstein o Lacan? No entiendo a ninguno, pero al segundo llevo una vida intentándolo, le dije. Volvió a responder: ambos son difíciles de entender por razones diferentes: no sé para qué se esfuerzan en entender a Lacan cuando se acerca más a la poesía –dijo–, agregando que esperaba no ofenderme. Tiene razón, pensé. Creo que el truco de Lacan es justamente el del poeta: hacer algo inédito con las palabras. Por eso es algo absurdo cuando sus discípulos imitan su lenguaje, suena difícil y no logran el mismo efecto.

¿Y Einstein? pregunté. “Einstein es difícil por otra razón. Sé que se puede entender. ¡Y que cuando lo entiendes, lo que ves es asombroso!”. Si la poesía sombrea lo que ya vemos para ver otra cosa, la ciencia trata de dar luz a lo que no conocemos, me dice, citando a Dirac.

La ciencia y la filosofía no pueden más que ser una dialéctica. Casualmente el mismo día que leí sobre la antimateria, leía un libro acerca del suicidio que termina con esta cita de Valéry: Dios ha hecho todo de la nada. Pero la nada persiste.

*Fragmento de "Hacer la noche: dormir y despertar en un mundo que se pierde". (Paidós, 2022)