Una inteligencia siniestra

Istubaltz, "Perspectivas superpuestas" (1982)

Original en italiano: Il Disertore, 26 de julio de 2026 • Traducción: Dazi Bao

En los años del COVID, Benjamín Labatut, un chileno de unos cuarenta años con una espesa cabellera y la mirada seria, publica Un verdor terrible (2020) y, posteriormente, Maniac (2023). Con estos dos libros narra a su manera la génesis del panorama terminal actual: desde el desmoronamiento de la episteme mecánica, pasando por el vértigo de la indeterminación subatómica, hasta la construcción de conceptos e instrumentos técnicos capaces de fusionar voluntad de poder y voluntad de muerte en el crepúsculo de los dioses de Occidente.

Pero ¿quién es Labatut? Para averiguarlo, leamos un pequeño libro de 2021 llamado La piedra de la locura. En unas pocas páginas autobiográficas se encuentra el sentido histórico (o, mejor, poshistórico) del pensamiento de este escritor que ha elegido pararse al borde del precipicio.

Luego de los años de pesadilla de la dictadura de Pinochet, todos nos sumamos a la fila, bajamos la cabeza y seguimos las reglas [...] porque casi todos sentíamos miedo. Miedo al cambio, miedo a volver a la bestialidad, miedo a que regresaran los hombres armados en medio de la noche, miedo a que abrieran nuestras puertas a patadas y nos arrastraran a las cámaras de tortura que los servicios secretos habían dejado esparcidas a lo largo del país [...]

El país se quedó dormido, y nuestros sueños revolucionarios, la idea de que podíamos construir un mundo mejor y más justo, fueron sepultados bajo la ideología del crecimiento económico. Pero los bebes despiertan aullando, y, durante octubre de 2019, una gigantesca erupción de ira social dejó al país de rodillas. Fue un cataclismo que nos golpeó con una violencia tan súbita que cuando mis compatriotas y yo mirábamos a nuestro alrededor éramos incapaces de reconocernos.  [...]

Cientos de miles de personas salieron a las calles. Preso del pánico, el gobierno declaró un toque de queda nacional para tratar de contener la revuelta y desplegó a las fuerzas militares para reprimir a la población [...] Pero no hubo forma de evitar la escalada masiva de las protestas, y una multitud de más de un millón de personas marchó por el cambio. Y, sin embargo, en cosa de días la avalancha de solidaridad inicial dio paso a saqueos, actos de vandalismo y disturbios. No solo nuestras principales ciudades, sino también pequeños pueblos y localidades rurales dejadas de la mano de Dios, que nunca habían conocido ese tipo de violencia, se vieron envueltos en llamas. Los caminos y carreteras fueron bloqueados por cientos de personas que demandaban cientos de cosas distintas. La represión de nuestra policía militarizada se volvió intolerable. [...]

La tormenta desencadenada por la crisis social azotó al país durante meses. Cuando nos golpeó la pandemia, ya estábamos de rodillas. [...]

El idiota de nuestro presidente comparó Chile con un oasis, un remanso de tranquilidad en Latinoamérica, inmune al vendaval de violencia política y social que estaba rugiendo no solo en la región sino a lo largo del mundo entero, incendiando las calles de Hong Kong, París, Londres, La Paz, Praga, Berlín, Bogotá, Beirut, Puerto Príncipe, El Cairo, Budapest, Harare, Seúl, Yakarta. Teherán, Bagdad, Nueva Delhi, Manila y Moscú, entre tantas otras ciudades [...]

A pesar de su enorme potencia, nuestra deslumbrante revolución tuvo una cualidad muy especial: carecía de una narrativa central. [...] fue como si hubiésemos desenterrado la torre de Babel; de pronto todos hablábamos en lenguas distintas, incapaces de comunicarnos los unos con los otros excepto a través del leve temblor que sentíamos por debajo de nuestros pies, un estremecimiento que recorría el suelo y que hacía que todo se moviera... (Labatut, 2021, pp. 24-29¹).

Labatut resume las emociones que yo mismo sentí en aquellos días del otoño de 2019: Chile era la última llama del siglo de las revoluciones. Esa llama quemó el escenario mismo de la revolución, y desde ese momento la palabra “revolución” perdió su significado. Desde ese momento, conceptos e imágenes del siglo revolucionario se presentan como residuo de un proyecto que fue, si bien no realista, grande, y que supo animar la vida de millones de mujeres y de hombres, dándoles la ilusión de un futuro mejor. En el nuevo siglo, poco a poco, esa ilusión se ha desvanecido, y una ola de demencia reaccionaria está inundando el planeta, mientras que el colapso climático y la violencia hacen que la vida sea cada vez menos agradable.

Como escribe también Labatut:

El caos y la irracionalidad se han transformado, de súbito, en caminos para adentrarnos en el mundo. También [...] peligrosos lunáticos han vuelto a encumbrarse como nuestros líderes: traen consigo la fuerza de la sinrazón, y cabalgan libremente sobre las frenéticas olas del cambio como no lo puede hacer ninguna persona con decencia o sentido común (p. 39).

Venenos

La escritura de Labatut trasciende los límites de la literatura de ficción para situarse en la encrucijada entre la imaginación científica, la ética y el apocalipsis histórico.

Publicado al inicio del bienio pandémico y traducido al italiano con el título Cuando dejamos de entender el mundo, Un verdor terrible narra el desarrollo de un doble recorrido: por un lado, la disolución de la certeza científica; por otro, la apertura de par en par de la potencia venenosa de la técnica a la que la ciencia nos ha dado acceso: la ciencia tardomoderna actúa como un potente veneno.

En el indeterminismo epistémico del pensamiento físico, Labatut ve un reflejo de la indeterminación ética que ha desatado el caos en la vida de los pueblos. Solo la automatización de la inteligencia parece poder gobernar sobre el caos.

Un verdor terrible comienza en las trincheras de la Primera Guerra Mundial, en los campos en que los gases venenosos, creados gracias a la evolución de la ciencia química, matan a decenas de miles de soldados, de un bando y del otro.

Labatut nos presenta a Fritz Haber: químico de formación, fiel ejecutor de las decisiones políticas y militares del Estado alemán, Haber es indiferente a las consecuencias humanas de sus descubrimientos, los gases venenosos que matan a los militares ingleses y franceses en la batalla de Ypres.

De raíces judías, Haber era un verdadero genio, y tal vez la única persona en ese campo de batalla capaz de comprender las complejas reacciones moleculares que volvieron negra la piel de los mil quinientos soldados muertos en Ypres. El éxito de su misión le valió un ascenso al rango de capitán, una promoción a la jefatura de la sección de Química del Ministerio de Guerra y una cena con el mismísimo káiser Guillermo II. Pero al volver a Berlín Haber fue confrontado por su esposa (Labatut, 2020, p. 29).

Gran parte de los científicos alemanes de los que habla Labatut son judíos. En la Primera Guerra Mundial los encontramos sometidos al servicio de la máquina de exterminio del Estado alemán; luego, muchos de ellos debieron huir de las persecuciones nazis y ponerse al servicio de la máquina de exterminio del Estado estadounidense.

Hitler acusaba a los judíos de haber boicoteado el esfuerzo bélico de la patria. Diría que se trataba de una acusación falsa. Muchos judíos alemanes lucharon en las trincheras, murieron por la patria y, sobre todo, pusieron su ingenio al servicio del exterminio en el cual los alemanes era ya muy expertos desde la Primera Guerra Mundial.

Por supuesto, la expresión “los judíos” es errónea, estúpida, idiota. Los judíos no existen, al igual que no existen los italianos, ni los rusos, ni los palestinos.

Existen judíos que sirven disciplinadamente a la máquina de guerra alemana. Pero también existen judíos que desertan y se organizan en los movimientos espartaquistas antimilitaristas.

Del mismo modo, en la época del genocidio sionista, existen judíos que participan en la colonización, en el asesinato racista y en la tortura, y existen judíos que protestan contra el genocidio, que se comprometen con organizaciones humanitarias para salvar a algún niño palestino del exterminio perpetrado por otros judíos.

Pero volvamos a las primeras décadas del siglo XX: Haber no tiene ningún reparo moral, y Labatut nos recuerda que, entre otras obras de su ingenio, se encuentra también la creación del Zyklon B, el gas que unos años más tarde fue utilizado para asesinar a un número incalculable de judíos, entre los cuales se encontraban incluso algunos familiares de Haber. Clara Immerwahr, su esposa, está escandalizada por los efectos de los inventos de su esposo: al leer a Labatut descubrimos que muchas mujeres se alejan horrorizadas ante el ingenio criminal de sus maridos.

Cuando Haber regresó victorioso de la masacre de Ypres, Clara lo acusó de haber pervertido la ciencia al crear un método para exterminar humanos a escala industrial, pero Fritz la ignoró por completo: para él, la guerra era la guerra y la muerte era la muerte, fuera cual fuera el medio de infligirla. Aprovechó su permiso de dos días para invitar a todos sus amigos a una fiesta que duró hasta la madrugada, al final de la cual su mujer bajó al jardín, se quitó los zapatos y se disparó en el pecho con el revólver de servicio de su marido (p. 29).

La carrera de este genial químico tiene un significado que Labatut no deja de destacar: en paralelo a haber ejercitado su ingenio técnico y científico en la creación de sustancias asesinas, Haber trabajó en un proyecto que tuvo (al menos aparentemente) una función exactamente opuesta: no destruir la vida, sino aumentarla.

Luego del armisticio de 1918, Fritz Haber fue declarado criminal de guerra por los aliados, a pesar de que ellos habían utilizado el gas con el mismo fervor que las potencias del Eje. Tuvo que escapar de Alemania y refugiarse en Suiza, donde recibió la noticia de que había recibido el Premio Nobel de Química por un descubrimiento que había hecho poco antes de la guerra, y que en las décadas siguientes alteraría el destino de la especie humana. En 1907, Haber fue el primero en extraer nitrógeno –el principal nutriente que las plantas necesitan para crecer– directamente del aire. [...] de no haber sido por Haber, cientos de millones de personas que hasta entonces dependían de sustancias naturales como el guano y el salitre para abonar sus cultivos podrían haber muerto por falta de alimentos.  [...] El proceso Haber-Bosch fue el descubrimiento químico más importante del siglo XX: al duplicar la cantidad de nitrógeno disponible, permitió la explosión demográfica que hizo crecer la población humana de 1,6 a 7 mil millones de personas en menos de cien años (pp. 30-31).

Una duda: la explosión demográfica posibilitada por los fertilizantes de Haber ha provocado una devastación ambiental: la agricultura intensiva permitió el salto demográfico que lleva a la población mundial de dos a ocho mil millones. Pero, ¿no es acaso esta explosión la premisa del precipicio demográfico que se perfila en el siglo XXI?

Es una pregunta para la que no hace falta encontrar respuesta. Así fue: hemos sido testigos de un crecimiento demográfico sin precedentes, pero también de un envejecimiento sin precedentes, y ahora la implosión se presenta como inevitable.

Con la figura de Haber comienza la historia de una paradoja epistemológica: la evolución del conocimiento científico –en particular, de la física subatómica y cuántica– desmorona los cimientos de la certeza física e instaura el caos en el corazón del mundo físico, en paralelo con la disgregación de toda certeza ética y con la explosión del caos en el corazón de la vida social.

El Saber acompaña a la Guerra y se convierte en su instrumento.

Pero esas son también las décadas en las que el pensamiento psicoanalítico, que encuentra su humus en la cultura judía, sobre todo de lengua alemana, busca una cura para la neurosis, pero debe detenerse ante la dinámica de las psicosis.

“Cada elemento de la psique está cargado de futuro”, escribió Carl Jung en su Misterium Conjunctionis (Opere, volumen 14, Turín, Bollati Boringhieri, 1989, p. 59).

¿Fue acertado proyectar las ideas de la física en ámbitos tan distantes como la psicología? ¿Fue acertado mezclar las sustancias psíquicas con las físicas, como lo hizo, en cierto modo, la alquimia junguiana?

Labatut escribe: “Un sol negro que se asomaba al horizonte, capaz de engullir el mundo entero” (2020, p. 57).

Las pesadillas, los traumas y los laberintos existenciales de las grandes figuras de la física teórica de las décadas segunda y tercera del siglo XX –Erwin Schrödinger, Werner Heisenberg, Karl Schwarzschild, Kurt Gödel, entre otros– son narradas en paralelo con sus descubrimientos, discusiones, debates y polémicas. Como trasfondo de esta trama, el deterioro constante de la escena política, el surgimiento del nazismo en Alemania y la proximidad de la Segunda Guerra Mundial.

Labatut observa cómo avanzan juntas la crisis neurótica que sacude la existencia de muchos intelectuales hasta el límite de la psicosis, y la crisis de las certezas que la física mecánica había legado.

Heisenberg formula de manera completa el colapso del determinismo, y Schrödinger sintetiza las investigaciones de Heisenberg con estas palabras:

De la imagen del paquete de ondas se puede deducir la famosa relación de indeterminación de Heisenberg, según la cual una partícula no puede estar al mismo tiempo en una posición determinada y tener una velocidad bien especificada. Aunque esta indeterminación fuera mínima, implicaría que nunca se observaría, con seguridad apodíctica, dos veces la misma partícula (Schrödinger, “La imagen actual de la materia”, en Discusión sobre la física moderna, Universale scientifica Boringhieri, 1980, p. 51).

Dado que ya nada puede ser determinado con certeza, se abre una rasgadura en la relación entre la mente humana y la materia, y en el tejido del espacio-tiempo, o al menos en su cognoscibilidad.

El azar irrumpe en la escena del conocimiento científico, y esto repugna al pensamiento. El propio Einstein, quien sin embargo es el iniciador de la convulsión de la que la mecánica cuántica es consecuencia, abandonó una conferencia en la que Heisenberg había ilustrado su indeterminismo murmurando, según se dice, que “Dios no juega a los dados”.

Einstein había apelado a la lógica interna de su teoría para parchar la rasgadura en la tela del espaciotiempo, protegiendo al universo de un colapso gravitacional catastrófico (Labatut, 2020, p. 58).

Más allá del campo de la física teórica, es el propio orden del mundo el que parece trastornado en aquellos días. Einstein intenta contener esa incertidumbre que se extiende del campo de la teoría al de la propia vida de la humanidad.

Si Heisenberg triunfaba, una parte fundamental de los fenómenos del mundo obedecería a reglas que jamás podríamos conocer, como si un azar ingobernable hubiera anidado en el corazón de la materia. Alguien tenía que detenerlo (p. 106).

El fin del determinismo tiene implicaciones que van mucho más allá de la investigación sobre la materia subatómica.

La incertidumbre de Heisenberg trizaba la esperanza de todos quienes habían creído en el universo de relojería que prometía la física de Newton. (p. 154).

De las acaloradas discusiones que tuvieron lugar en ese círculo reducido de físicos y filósofos en el período entre las dos guerras, surge un panorama irreconocible. La investigación científica estaba proporcionando armas terriblemente poderosas a los señores de la guerra. Nadie es capaz de definir con certeza las leyes de la materia subatómica. Pero, del mismo modo, nadie es capaz de definir con certeza las leyes que rigen la acción de los seres humanos y de los Estados que se están preparando para producir y utilizar el arma atómica.

[La mecánica cuántica] Ha transformado nuestro mundo hasta volverlo irreconocible. Sabemos cómo usarla, funciona por una suerte de milagro, y sin embargo no hay un alma en este planeta, nadie vivo o muerto, que realmente la entienda (pp. 176-177).

Aquí termina este libro impresionante que, en su edición original, se titula Un verdor terrible.

Aquí comienza un libro aún más impactante llamado Maniac.

La inteligencia siniestra del Autómata

MANIAC (Mathematical Analyzer Numerical Integrator and Computer) es el nombre de la computadora concebida y construida por Von Neumann, personaje central del libro que lleva el mismo nombre que la máquina.

Publicado en Italia en 2023 por Adelphi, el libro está construido a través de una serie de relatos breves de personas que conocieron a Von Neumann en algún momento de su vida. En la última parte del libro, en cambio, se cuenta la historia de un campeón coreano de go que en 2016 fue derrotado por una inteligencia artificial. Se trata de una conclusión totalmente coherente con el proyecto central de Von Neumann: crear un autómata inteligente a partir de las investigaciones informáticas que la física posmecánica ha hecho posibles.

Nacido en 1903 en Budapest, el matemático vivió la segunda parte de su vida en Estados Unidos y fue la principal inspiración científica de la empresa militar del imperialismo norteamericano.

Junto con Leo Szilard, Edward Teller y Eugene Wigner, Von Neumann formaba parte del “clan de los húngaros” en la época de Los Álamos. Además de ser húngaros, los cuatro eran judíos, obligados a refugiarse en Estados Unidos para escapar de los nazis.

Cuando alguien le preguntó a Enrico Fermi si existían los extraterrestres, él respondió que, por supuesto, existen y están entre nosotros, pero se hacen llamar húngaros. Quizás quería decir que a estos húngaros les importa poco la vida de los humanos, porque lo que realmente les interesa es la plena realización de un proyecto transhumano e inhumano de automatización de la muerte y de simulación matemática de la vida.

En el primer capítulo leemos sobre Paul Ehrenfest, amigo de Einstein, y sobre el drama filosófico, pero también político y existencial, al que se enfrentó el príncipe de esa generación de científicos cuando, a raíz de su teoría de la relatividad, se multiplicaron los ataques contra la certeza del conocimiento científico:

La armonía de la naturaleza debía ser preservada sobre todas las cosas, porque era más antigua que los titanes, más sabia que el Oráculo, más venerable que el monte Olimpo y tan sacrosanta como la energía que recorre y anima al cielo, la Tierra y el inframundo. Reconocer incluso la mera posibilidad de lo irracional, aceptar su desproporción y su falta de armonía, pondría en riesgo el tejido de la existencia, ya que no solo nuestra realidad, sino cada uno de los aspectos del cosmos –sean físicos, mentales o etéreos– dependen de los hilos invisibles de la red que ata todas las cosas (Labatut, 2023, p. 28).

La armonía de la naturaleza se ha visto perturbada por los descubrimientos de los matemáticos y de los físicos que, siguiendo la estela de los hallazgos de Einstein, han sacudido las certezas del determinismo científico y han llegado a poner en duda la posibilidad misma de un conocimiento exhaustivo de la naturaleza y, en consecuencia, también la posibilidad de un gobierno racional de los acontecimientos humanos.

En los años cuarenta se libra en el ámbito de la física una batalla entre quienes piensan que el Saber debe mantenerse autónomo del poder político y militar, y quienes, por el contrario, piensan que solo la alianza con el poder permitirá a los científicos desarrollar plenamente las potencialidades del Saber. Esta última batalla alcanza su punto álgido cuando surge el dilema de si participar o no en la construcción de la bomba nuclear.

Hoy, en el siglo XXI, la cuestión se ha vuelto a plantear: ¿colaborar o no en la creación del autómata cognitivo, es decir, en la creación de una inteligencia destinada a someter a los humanos?

Maniac recorre todo el arco de esta historia, desde las aventuras del matemático Von Neumann hasta las de un joven jugador de go coreano que en 2016 pierde el desafío contra AlphaGo, un autómata inteligente.

La creación del autómata es la obsesión de la vida científica de John Von Neumann: someter la vida consciente al dominio de las matemáticas y, al mismo tiempo, someter el saber al poder militar. Gabor Szego es uno de los científicos que lo frecuentó durante sus años en Estados Unidos y lo describe así:

Una inteligencia siniestra, mecánica, una mente que carecía de los frenos que limitan al resto de los seres humanos. […] a pesar de su vulgaridad, él estaba intentando comprender el fundamento de nuestro universo. […] Espiritualmente, era un ignorante, sin duda, pero creía en la lógica de manera incuestionable (pp. 100-101).

Que Von Neumann poseyera una inteligencia siniestra queda demostrado por numerosos testimonios de personas que, por desgracia para ellas, estuvieron cerca de él, y queda aún más demostrado por la insistencia maníaca con la que el matemático húngaro persiguió la realización del arma más letal de todos los tiempos.

Klara Dan, la mujer que se casó con John Von Neumann durante sus años de exilio en Estados Unidos, lo cuenta así:

Johnny amaba América casi tanto como yo la despreciaba. Ese país le hizo algo. Todo ese optimismo exasperante y simplón, la alegre inocencia bajo la cual esconden su crueldad sin límites, sacó lo peor de él (p. 137).

Pero, ¿qué es lo peor de un hombre cuando ese hombre es además un matemático y un científico que trabaja para el sistema militar estadounidense? La respuesta la da Eugene Wigner, amigo personal de Von Neumann:

Él no veía el mundo como el resto de las personas, y eso teñía sus juicios morales. Consideremos su teoría de los juegos y del comportamiento económico, por ejemplo: Jancsi [Neumann] no buscaba ganar una guerra, vencer a la ruleta del casino o derrotar a alguien en una mano de póquer; no, lo que realmente quería era nada menos que matematizar la motivación humana (pp. 158-159).

En esta frase, Wigner probablemente capta el sentido general de la tecnología del último siglo: reducir el lenguaje humano (y, por lo tanto, los comportamientos en general) a las matemáticas; es decir, reducir la conjunión entre cuerpos que piensan y sienten a una conexión entre máquinas que simulan el pensamiento y no sienten nada.

La esposa de Martin Davis, un colega de Von Neumann que participa en las investigaciones de Los Álamos, y a quien Labatut describe como una “fabulosa artista textil”, después de haber frecuentado por algún tiempo a Von Neumann, en cierto momento no pudo contenerse.

Virginia se enfureció. Se puso de pie, tomó su abrigo y nos gritó que los hombres como Jancsi, que no podían pensar más allá de las matemáticas para ver el mundo real habitado por seres humanos reales, nos arrastrarían a todos a la ruina (p. 159).

En los últimos días de su vida, a pesar del mal que lo estaba devorando, Von Neumann se dedicó a lo que era su proyecto más avanzado y visionario: la creación de máquinas capaces de aprender, evolucionar y reproducirse.

En la reconstrucción de Labatut, Eugene Wigner dice de su amigo de toda la vida:

Estaba seguro de que existía un cierto umbral, un punto crítico en el que sus máquinas entrarían en un proceso evolutivo, lo que daría como resultado una serie de autómatas cuya complejidad crecería a una velocidad exponencial, de forma similar a como los organismos biológicos florecen, prosperan y mutan siguiendo las leyes de la selección natural, formando el esplendor caótico que nos rodea. Esta progresión permitiría a los miembros de sucesivas generaciones producir no solo copias exactas de sí mismas, sino descendientes de una complejidad cada vez mayor […] un cierto nivel más allá del cual el fenómeno se vuelve explosivo, con consecuencias inimaginables; en otras palabras, un estado en el cual cada máquina produce descendencia con cada vez mayores potencialidades […] luego su voraz enjambre alzará el vuelo e irrumpirán en nuestras vidas como una plaga de langostas (pp. 254-255).

Es nuevamente Wigner quien relata algo inquietante: en los últimos años de su vida, tras haber contribuido a abrir la caja de Pandora, Von Neumann tomó conciencia de las consecuencias que el Saber podía tener sobre la Vida.

En la última carta que me envió, hablaba de un cambio de estado esencial, una transformación que galopaba desbocada hacia nosotros: “Las horribles posibilidades actuales de guerra atómica pueden dar paso a otras aún más espantosas. [...] el progreso cada vez más rápido de los medios técnicos da muestras de estar acercándose hacia algún tipo de singularidad esencial, un punto de inflexión en la historia de nuestra raza más allá del cual los asuntos humanos tal como los conocemos no podrán continuar. [...] Para el progreso no hay cura” (p. 256).

¿Qué escenarios podrían ser más aterradores que la bomba atómica? Von Neumann se refería aquí a la creación de autómatas inteligentes, a la proliferación futura de máquinas capaces de aprender, evolucionar y reproducirse. La línea que guió sus investigaciones fue la reducción de la vida y del pensamiento a lenguajes computacionales para la simulación de lo vivo.

Pero la reducción del mundo a las matemáticas no logra reducir por completo la existencia, y el cuerpo se rebela: el cuerpo de Von Neumann fue atacado por un cáncer que se manifestó inicialmente en el páncreas para luego extenderse, probablemente como consecuencia de la exposición a las radiaciones nucleares, durante los años en que Eisenhower lo había nombrado miembro de la Comisión de Energía Atómica.

Marina, la hija de Neumann, narra la agonía y la muerte de su padre con un tono en algunos momentos doloroso y en otros, casi desdeñoso.

El horror de experimentar el deterioro de sus capacidades mentales fue demasiado para él. Solo tenía cincuenta y tres años cuando le diagnosticaron el cáncer, aún estaba en la plenitud de su vida [...] Pero sencillamente no pudo aceptar lo que le estaba pasando. Su temor a morir creció hasta opacar todos sus pensamientos. [...] Su conciencia se resistía ante un límite más allá del cual no podía pensar, y reaccionó con extrema violencia. Creo que mi padre sufrió la pérdida de su mente más de lo que yo vi sufrir a ningún otro ser humano, en cualquier otra circunstancia. [...] cuando ya sabíamos que su enfermedad era fatal y que progresaría rápidamente, le pregunté, sin rodeos, cómo es que había sido capaz de contemplar y proponer, con absoluta ecuanimidad, la matanza de millones de personas producto de un ataque nuclear preventivo contra la Unión Soviética, y sin embargo no podía enfrentar su propia muerte con un mínimo de calma y dignidad. “Eso es completamente distinto”, me dijo. (p. 244).

Quizás en estas frases de Marina se encierra el secreto más profundo de la alienación que el conocimiento científico y técnico moderno lleva en su interior. La ceguera absoluta ante la verdad existencial del tiempo y de la muerte, el rechazo a tomar en cuenta la vida y el sufrimiento de los demás: este es el pecado original de la episteme científica moderna y del progreso tecnológico tardomoderno.

¿Se podría haber evitado esta deriva que ya somos incapaces de detener?

Quizás no, al igual que quizás no podamos evitar la sinergia mortífera entre las tecnologías de exterminio y la inteligencia artificial. La conclusión lógica de este proceso es la aniquilación.

No se puede detener esta tendencia porque, en un régimen de competencia económica y militar, todo lo que es posible saber se debe saber y todo lo que se puede realizar se debe realizar. De hecho, en todo régimen de competencia hay algo que no podemos saber: las estrategias de nuestro competidor, o enemigo que sea.

Eso que no podemos saber nos induce a hacer todo lo que nuestro saber nos permite hacer: todo, sin limitaciones. De lo contrario, el enemigo podría imaginar lo que nosotros podríamos saber, y podría hacerlo. Por lo tanto, no podemos permitirnos no llevar a cabo todo lo que nuestro saber nos permite realizar, sin importar cuán destructivo sea.

Por eso no se nos ahorrará ninguna devastación de la que nuestro saber sea capaz.

Además, no podemos saber si el peligro (incluso el extremo) puede contener las condiciones de un orden superior, de un orden matemático finalmente libre de esa imperfección que es la vida consciente.

En la última parte del libro, para contarnos la evolución del autómata inteligente, Labatut cuenta la historia del torneo en el que (era 2016) AlphaGo derrotó a Lee Sedol, el más grande jugador coreano de go.

En esas partidas entre el hombre y el autómata, parecía que estaba en juego algo mucho más grande que una disciplina similar al ajedrez, pero mucho más compleja e impredecible. Parecía que estaba en juego la superioridad funcional de la máquina inteligente respecto de su creador humano.

Esta superioridad está implícita en el hecho de que la inteligencia computacional no posee un cuerpo y, por consiguiente, no tiene sensibilidad al dolor ni al cansancio.

Dado que la conciencia es conciencia “de” un cuerpo, dado que la conciencia es indisociable de la percepción del tiempo –que es el tiempo de un cuerpo–, la máquina inteligente, que no es un cuerpo, está libre de la conciencia.

En esto consiste la superioridad funcional del autómata: su Inteligencia no se ve ralentizada por la conciencia, ni por las emociones, ni por el placer ni por el sufrimiento. Por eso, el Autómata inteligente está destinado a ganar, porque quien no tiene conciencia va directo al objetivo: hacer todo lo que podemos saber, sin “sentir”, sin disfrutar ni sufrir.

Así explica Benjamín Labatut todo el asunto, en la última parte de Maniac:

[AlphaGo era] un oponente sin sentimientos, emociones o compasión. AlphaGo no vacilaba, no dudaba y no cuestionaba las jugadas que había hecho. Era inmune al cansancio, carecía de inseguridades y no conocía el temor. No le importaban ni el estilo ni la belleza, y no perdía tiempo ni energía en participar de los enrevesados juegos mentales con que los jugadores profesionales buscan desequilibrar a sus contrincantes. AlphaGo no pensaba en los demás, ni le importaba lo que sentían, porque no pensaba ni sentía. Lo único que le importaba era ganar. [...] AlphaGo te acecha y se acerca a ti como una enfermedad desconocida y fatal (p. 330).

El torneo en el que Lee Sedol perdió cuatro de cinco partidas fue seguido por un público enorme de televidentes y provocó una oleada de emoción, como si la derrota de Lee Sedol fuera la prueba de que los humanos habían perdido. “La gente sintió miedo y desamparo” (p. 341).

Finalmente, en noviembre de 2019, Lee Sedol sorprendió al mundo entero al anunciar repentinamente su retiro y emitió una declaración: “AlphaGo no me venció, me destruyó. [...] [es] una entidad a la que no es posible derrotar” (pp. 352-353).

¿Serán felices los autómatas?

Nos preguntamos: ¿es posible un uso humano de la tecnología denominada Inteligencia Artificial?

Esta pregunta es errónea por partida doble.

En primer lugar, las tecnologías no son herramientas, que podríamos “usar”. En segundo lugar, no está claro qué queremos decir con la palabra “humano”.

Lejos de ser meros instrumentos, las tecnologías son modificadoras del entorno (físico y mental) en el que nos movemos como organismos conscientes.

Si la rueda, el vapor y la electricidad han cambiado el entorno físico de los organismos conscientes, la escritura, la imprenta y las tecnologías comunicativas y cognitivas cambian el entorno con el que interactúa la mente y, por lo tanto, transforman a la propia mente.

En cuanto al concepto de lo humano, desde el Renacimiento en adelante lo hemos definido en términos de libertad ontológica (la acción humana no está gobernada por ningún ser superior, sino solo por el libre albedrío) y de creatividad lingüística (la capacidad de construir mundos simbólicos y de comunicarlos, haciéndolos así compartibles, habitables en sentido estricto).

En las últimas décadas, el lenguaje y la voluntad han sufrido una doble mutación: las tecnologías de la inteligencia modificaron primero la relación entre los individuos hablantes, construyendo la red en la que la acción comunicativa es multiplicada pero también encorsetada. La celularización ha producido un efecto de descorporeización de la comunicación social, cuyos efectos políticos, éticos, eróticos y psíquicos son ya bastante conocidos: soledad existencial, aislamiento político, depresión, narcisismo.

Ahora, la evolución técnica tiende a involucrar a la propia actividad cognitiva, a mutarla según líneas que apenas podemos vislumbrar.

La tecnología IA está basada en la capacidad del autómata para simular y sustituir los procesos de lenguaje por series preestablecidas dotadas de sentido, así como para sustituir los procesos de elaboración cognitiva que solemos llamar “pensamiento”. En términos de antropología evolutiva, el uso sistemático de dispositivos capaces de sustituir lenguaje y pensamiento tiende a atrofiar la creatividad lingüística y el pensamiento mismo.

La generación que se forma en el universo contemporáneo tiene la oportunidad de delegar en la máquina la producción de enunciados y su concatenación de manera lógica.  Cada vez con más frecuencia le pedimos al chatbot que escriba por nosotros, ya que el poder de penetración de las tecnologías (de toda tecnología, ya sea mecánica o mental) depende de su capacidad de hacer fáciles las cosas, según el lema “power is based on making things easy”, “el poder se basa en facilitar las cosas”.

La singularidad de la conciencia (ética, estética, emotiva) funciona, de hecho, como un ralentizador de la decisión inteligente. Una inteligencia depurada de las lentitudes de la singularidad ética, estética, emotiva es funcionalmente más rápida, más eficiente, más competitiva.

Más despiadada, diría yo.

La (auto) constitución del Autómata Cognitivo parece imparable, al igual que su penetración en las mentes individuales.

¿Podemos suponer que los humanos serán sustituidos progresivamente por terminales del Autómata cognitivo reticular?

Quizás incluso podemos desearlo.

¿Serán felices los autómatas?

El autómata perfecto se habrá liberado finalmente de la sensibilidad al placer y al dolor, a la tristeza y a la felicidad.

La sensibilidad es la imperfección humana. La automatización del lenguaje está liberando al mundo de esta impureza.

Nacido en 1948 en Bolonia, Italia, Franco Berardi “Bifo” es filósofo, ensayista, escritor y docente. Participó en el movimiento estudiantil italiano de 1968, en el grupo extraparlamentario Potere Operaio y posteriormente en la insurrección política y cultural de 1977. En esos años, fue fundador de Radio Alice, primera emisora pirata italiana, y colaborador de la revista A/Traverso. Como otros involucrados en el movimiento político de la Autonomía, fue perseguido y huyó a París, donde conoció y trabajó con Félix Guattari en el campo del esquizoanálisis. Durante los años ochenta asistió en Nueva York a los primeros pasos del ciberpunk y el ciberactivismo. De regreso a Italia, continuó con su actividad de animador y colaborador de revistas, editoriales y proyectos de mediactivismo. En 2002 fue fundador del canal comunitario Orfeo TV, como parte del movimiento telestreet. De 2000 a 2009 llevó adelante, con Mateo Pasquinelli, el e-zine rekombinant.org. En las últimas décadas

En castellano, y gracias a la colaboración de las editoriales Tinta Limón y Fabricantes de Sueños, se pueden leer La fábrica de la infelicidad (2003), Generación post-alfa. Patologías e imaginarios en el semiocapitalismo (2006), El umbral. Crónicas y meditaciones (2020), Medio siglo contra el trabajo (2023), Últimos fulgores de la modernidad. Trabajo, técnica y movimiento en el laboratorio de Potere Operaio (2024) y Pensar después de Gaza (2025).

Otros de sus libros traducidos al castellano son Telestreet. Máquina imaginativa no homologada (Viejo Topo, 2004), El sabio, el mercader y el guerrero (Acuarela, 2007), Félix (Cactus, 2013), La sublevación (Hekht, 2014), El trabajo del alma (Cruce, 2016), Fenomenología del fin (Caja Negra, 2017), Futurabilidad (Caja Negra, 2019) y Desertemos (Prometeo, 2024).

Notas

1. Nota del traductor: en las citas de Labatut, los números de página corresponden a las ediciones en italiano usadas por Bifo, pero los textos corresponden a las versiones originales en castellano, publicadas por Anagrama, recuperadas de sus versiones digitales. ↩︎︎