El futuro será extraño

Según Elon Musk, en Tesla la IA (inteligencia artificial) no es la guinda de la torta, es la torta. Tiene razón, aunque el sentido común nos diga que el fin justifica los medios, la historia muestra que el medio es el que determina los fines. Son nuestros juguetes nuevos los que decretan el mundo por venir y nuestros límites de pensamiento, mientras que las intenciones son la fruta sexy que adorna una torta ya horneada.

Alguna vez a un neurocientífico que, afanado, explicaba que pronto podremos saber qué zonas del cerebro se activan con cada emoción, se me ocurrió preguntarle para qué. Con su perplejidad entendí que mi pregunta era ingenua y estúpida. Para qué no es una pregunta que se le pueda hacer a la ciencia moderna. No me refiero, por supuesto, al para qué utilitarista, para ese siempre existe una respuesta noble -vivir mejor, curar enfermedades, soluciones versátiles para la vida-, sino a la pregunta por el sentido: ¿queremos el mundo que una tecnología trae?

Para qué no es una pregunta posible, no porque esté prohibida, sino por la estructura lógica de la ciencia. “La ciencia no piensa” fue una polémica premisa de Heidegger, que lejos de un insulto, lo vio como su ventaja: la pregunta sobre qué es la ciencia, no la responde la ciencia, sino la filosofía (por supuesto que la puede hacer un científico). El asunto es si acaso ese pensar, esa pregunta, tiene algún prestigio, porque es un pensar que, bajo la racionalidad técnica, no sirve para nada. En los años cincuenta, en su conferencia sobre la energía nuclear, el filósofo dijo algo perturbador: lo peor no es que explote la bomba, sino que cuando estas no estallen y la vida humana esté salvaguardada junto con la era atómica, es que entonces el mundo se transformará de un modo inquietante. No porque el mundo se tecnifique por completo, sino porque no podamos acceder a un pensar a la altura de poder enfrentar ese mundo. El peligro es que ningún Estado, comisiones, investigadores, puedan encauzar lo que trae la época.

La idea de Heidegger que genera vértigo es abandonar la ilusión de que la técnica es una herramienta que podemos usar a nuestro antojo, sino que se trata de algo más grande: la dimensión técnica de la ciencia moderna -que concibe al mundo de manera instrumental y explotable- es una forma de vivir. Es una racionalidad distinta al “pensar reflexivo”, el de las preguntas ingenuas y estúpidas, pero también el lugar de las preguntas políticas. Su respuesta no es satanizar a la ciencia (eso sería totalmente absurdo), sino que poder decirle sí y no a la vez, sí como herramienta, no como régimen de realidad.

¿Podemos ejercer el no estos días?

Las advertencias traen un poco de histeria, pero no generan resonancias. El propio Elon Musk hace años viene diciendo que “la IA podría ser más peligrosa que las armas nucleares”, “hay entre un cinco y diez por ciento de posibilidades de éxito” (de que la IA sea segura). Sin embargo, es él mismo uno de los más fieles representantes de esa empresa. Hace algunos días presentó los avances de su chip cerebral NeuraLink, que pretende que las personas controlen sus dispositivos con la mente. Y lo de siempre, primero el anuncio de una posible utilidad para curar enfermedades (cosa que los expertos pusieron en duda), luego asuntos más ambiciosos como lograr “la telepatía conceptual”. El futuro será extraño, aseguró, “podríamos dejar de necesitar hablar”.

No es nuevo el deseo de ahorrarse el lenguaje y sus molestias, el tiempo que toma, los malentendidos, su inadecuación con las cosas que intenta representar, sus traspiés. El anhelo de dominar al lenguaje concibe a éste como instrumento de comunicación, por lo tanto, sustituible por otra herramienta más exacta. Por ejemplo, una radiografía es una especie de “telepatía conceptual”, dice algo de nosotros, pero sin nosotros (no necesita de nuestras historias ni ideas). La trampa es que en la búsqueda de exactitud, bajo la racionalidad del dato y el cálculo, desertamos como humanos. De lo que se trata es de cómo habitamos (políticamente) el lenguaje: o consentimos a un lenguaje que aspira a cerrarnos la boca, o, por el contrario, a uno que nos obliga a nacer cada vez que tomamos la palabra.

Musk dice que podremos almacenar y recuperar recuerdos, incluso ponerlos en un cuerpo replicante. Uno de los mejores capítulos de Black Mirror especula con esa posibilidad: a una viuda le llega el replicante del amado muerto. Lo manda rápidamente de vuelta, no por diferente al original, sino que porque el replicante es horrorosamente idéntico a sí mismo, es la repetición infinita de un dato, de una memoria muerta. La memoria que piensa Musk es estática, como revisar con prisa un álbum de fotos o un edificio patrimonial, sin esquirlas, sin consecuencias.

La memoria humana, por el contrario, es un volver a atrás, que nos enfrenta a posibilidades: repetir el pasado o abrir un futuro inédito. La re-vuelta es precisamente un volver la mirada, para escribir otra cosa desde ahí. Siempre y cuando se habite el lenguaje como un lugar de invención y no como un calco de la realidad y sus miedos. Es una reserva de libertad de lo humano: torcer algo para permitir una desigualdad respecto de nosotros mismos, permitir lo inaudito.

Hay momentos en que eso es imposible. Fue la lógica de los campos de concentración, la destrucción del lenguaje, la pérdida del nombre por un número. Acabó la guerra, pero no esa lógica. Ya no es necesario encerrar en un campo, para encerrarnos en una cifra. A Musk le parece que el futuro será extraño, quizá por lo horroroso de lo idéntico como modelo de lo humano. Por el contrario, el error, el azar, el acto de interrumpir la repetición de nuestros patrones genera otro tipo de extrañamiento, uno que puede ser fuente de deseo y transformación.

Quién sabe, tal vez alcancemos un mundo sin fallas (humanas). Pero con el mismo dilema implícito en toda la trifulca de la cultura de la cancelación: se trata de una revolución moral, que como todas las anteriores, aplasta a algunos inocentes por alcanzar un bien. Quizás lleve a un mundo más igualitario, pero el asunto es si los medios para llegar a esos nuevos valores serán una anécdota, la guinda de la torta, o serán la torta. Quiero decir que lo que importa no son los decires, sino la relación a lo dicho: puede que lleguemos a Marte y seamos buenos, pero podría ser que ya no traicionemos porque tampoco hagamos promesas, y que la violencia sea justamente la incapacidad de pensarla.

Da igual. Ni siquiera podemos tomar en serio estos asuntos. Por cierto, es otro síntoma de la impotencia del pensar, en las condiciones antropológicas que nos tocan. Hablemos de otra cosa.