Blas M. Vinagre
Epílogo
(Cuatro años después – algo escabroso)
La culpa, querido Bruto, no es de nuestras estrellas,
sino de que consentimos en ser esclavos.
(W. Shakespeare, Julio César, I, 2.)
I. Las primeras décadas del siglo XX seguramente fueron para nuestros bisabuelos —o tatarabuelos, según la edad del lector— tan desconcertantes como lo están siendo para nosotros las del XXI, y no debería sorprendernos si los motivos para ello fueran similares. Los avances de las ciencias físicas y naturales, el entusiasmo por la creencia en haber alcanzado un conocimiento preciso de cómo funcionan el mundo y la vida, y la certeza de que dicho conocimiento permitiría, hasta un grado antes nunca conseguido, el dominio técnico sobre la vida y el mundo, tiñeron el ambiente de positivismo, empirismo y materialismo:
Había caído en desuso la memorable pregunta filosófica acerca del «qué es algo» […] Para aquellos científicos modernos, que empezaban a entenderse como funcionarios de un proceso de investigación, se presentaba mucho más prometedora la pregunta relativa a «cómo funciona algo». En ese plano podía conseguirse algo tangible, a saber, que las cosas, y quizá también los hombres, funcionaran a tenor de los propios conceptos [209].
Aquí están la ciencia moderna como técnica [210] y como máquina [211], los científicos modernos como funcionarios de un proceso [212], y el consecuente cambio del «qué es» al «cómo funciona», casi un salto metafísico por el que todo objeto de estudio pasa de ente a artefacto, y toda ciencia deviene ciencia de lo artificial.
II. Prescindiendo de ismos, el interés se centraba en el conocimiento que proviene de la experiencia y nos ofrece realidades concretas accesibles a los órganos de los sentidos o sus extensiones artificiales, realidades formadas por elementos con propiedades físicas susceptibles de ser analizadas y modeladas, que interactúan entre sí de acuerdo con leyes que se pueden expresar matemáticamente. Después de las obras de Darwin, Durkheim y Marx, también el hombre y la sociedad podían ser una de esas realidades, asimilables a otras. Buscando abandonar las exaltaciones del romanticismo, se cae en el entusiasmo opuesto, aquel que «promete una conquista de la soberanía y […] da satisfacción a la necesidad de rebajar las cosas y ceñirlas al formato propio, tan pobre como sea posible» [213]. Los éxitos obtenidos al analizar el mundo fenoménico hicieron pensar que el numénico no existía y que el hombre no tenía por qué ser más que una cosa entre cosas. Y en esas estamos de nuevo cien años después, más lejos o más cerca del centro según concibamos la espiral del conocimiento, pero en la misma coordenada angular:
Podemos analizarnos a nosotros mismos como una cosa entre cosas […] pero somos nosotros los que elegimos esta perspectiva, somos tan libres, que podemos convertirnos en máquinas [214].
En ese paso del «qué es» al «cómo funciona» se filtra sigiloso el de la metáfora, herramienta de los primeros poetas-filósofos para explicar el mundo, al concepto, residuo que sustentaba la filosofía natural y la ciencia, para desembocar en el simple algoritmo.
III. Daniel You, psicólogo y neurocientífico de la Universidad de Londres, arranca su libro A Trick of the Mind [215] introduciéndonos en una máquina para hacernos un escáner cerebral. Mientras está sentado en la habitación contigua frente a la consola, nos dice que puede ser una extraordinaria lección de humildad ver que «cada pensamiento que has tenido, cada elección que has hecho, todo lo que has sentido —es decir, tu mente— solo es posible gracias a estos riachuelos de sal y proteína y grasa que se pliegan dentro de tu cráneo», constata la extrañeza de una actividad en la que «un cerebro observa un cerebro, una mente una mente», y advierte que ese brillante dispositivo que habita nuestro cráneo, en el que a veces tendemos a pensar como en un «superordenador biológico», está «soldado a un amasijo de instintos irracionales corriendo en hardware heredado que la naturaleza seleccionó para alguna otra cosa». Después de una larga temporada en la catedral que Turing [216] levantó sobre los cimientos de Descartes, redescubrimos que esa unión es parte esencial y constitutiva de la mente como pensaban Hobbes, W. R. Ashby o W. G. Walter: paradójicamente, el hardware nos salva de que esa extraña «cacofonía de silbos y crujidos» que emite el escáner nos parezca una sinfonía.
IV. Descartes, ese príncipe del racionalismo, era un tipo peculiar. En una carta a Pierre Chanut, embajador francés en Estocolmo, amigo del filósofo y legatario de su cuerpo cuando falleció en aquella tierra de Raab de las nieves, expone lo siguiente:
Pasaré ahora a la cuestión que me plantea vuestra merced acerca de las causas que, con frecuencia, nos incitan a amar más bien a una persona que a otra antes de conocer sus méritos. Y me parece que hay dos, y que una es espiritual y otra reside en el cuerpo. Pero la que tiene que ver con lo espiritual presupone tantas cosas referidas a la naturaleza de nuestras almas que no me atrevería a tratarlas en una carta. Trataré nada más de la que tiene que ver con el cuerpo, que se debe a la disposición de las partes de nuestro cerebro, ora que dicha disposición proceda de los objetos sensuales, ora de otros motivos. Pues los objetos que se manifiestan mediante los sentidos inmutan algunas partes del cerebro y forman en ellas ciertos dobleces que se deshacen cuando cesa la acción del objeto. Pero el lugar en que se formaron se muestra, en adelante, propenso a que otro objeto, si se parece hasta cierto punto al anterior, aunque no sea igual en todo, forme en ese lugar dobleces semejantes. Pondré como ejemplo que, en mi infancia, amé a una niña de mi edad que bizqueaba un tanto, de forma tal que la impresión que llegaba a mi cerebro por el camino de la vista cuando veía sus ojos extraviados estaba tan unida a la que se formaba en ese mismo lugar para despertar en mí la pasión del amor que, transcurrido mucho tiempo, si veía a personas bizcas, me sentía más inclinado a amar a éstas antes que a otras, únicamente porque tenían ese defecto, aunque ignoraba que ése era el motivo [217].
Así que las dobleces, los meandros de «sal y proteína y grasa» que podemos observar al escanear nuestro cerebro, pueden hacer que nos desvivamos por cada persona bizca ignorando cuál es el motivo. Nuestras sensaciones, pues, incluso para este paladín de la razón, modulan nuestras emociones que, lejos de desaparecer al reflexionar, como le gustaba decir a Descartes, entran «en la espiral de la razón» [218]. Esas dobleces son un «marcador somático» que se manifiesta como un «sentimiento visceral» o como «señales que aparecen por debajo del radar de nuestra consciencia». Son el autómata del que nos hablaba Pascal:
Somos autómatas tanto como espíritus […] Las pruebas no convencen más que al espíritu; la costumbre […] Inclina al autómata, el cual arrastra al espíritu sin darse cuenta de ello. […]
La razón actúa con lentitud y con tantas miras sobre tantos principios, que ha de tener siempre presentes, que a cada momento se adormece o se extravía […] El sentimiento no obra así: actúa en un instante y siempre está dispuesto a actuar [219].
El lector tiene un amplio horizonte para explorar las resonancias de estas palabras de Pascal, que nos remiten a lo que pueden conseguir «unas pocas líneas de código» [220] o un discurso zafio que apele a las vísceras.
V. El ‘error de Descartes’ fue considerar el cuerpo como mero soporte vital del cerebro, una especie de batería, que ambos formaban la res extensa, la máquina que hay en nosotros, y que pensar, lo propio de la mente (res cogitans) era una actividad que no tenía con esa máquina ninguna relación causal, sino una conexión graciable garantizada por la res infinita (Dios). Podríamos decir que éste, a nivel sub-metafísico, también fue el ‘error de Turing’, que le dijo a Ross Ashby que hiciera «sus experimentos en el ACE [221] en lugar de construir una máquina especial» [222]. Parece que hay que corregir ese error, que hay que volver a Montaigne, a Ross Ashby, a Grey Walter, porque todos somos ‘máquinas especiales’ y lo mejor que hay en nosotros se levanta sobre bases humildes. A ello están apuntando las últimas tendencias en robótica e inteligencia artificial.
VI. Hace unos años Kingson Man y Antonio Damasio proponían «el diseño y la construcción de una nueva clase de máquinas organizadas según los principios de la regulación de la vida, u homeostasis», máquinas cuyos cuerpos
deben mantenerse dentro de un estrecho rango de estados de viabilidad y, por lo tanto, comparten algunos rasgos esenciales con todos los sistemas vivos. La innovación fundamental de estas máquinas es la introducción del riesgo para sí mismas. En lugar de reforzarlas o aumentar su potencia de procesamiento para lograr resistencia, comenzamos el diseño de estos robots, paradójicamente, introduciendo la vulnerabilidad.[223]
Siguiendo la ruta iniciada a mediados del siglo XX por la cibernética de Norbert Wiener y su énfasis en el control realimentado para mantener los estados de un sistema dentro de rangos deseados, el homeostato de Ashby que restauraba su propio equilibrio cuando se le perturbaba, y las tortugas exploradoras de Grey Walter cuyo comportamiento al interaccionar entre sí o con el entorno parecía inteligente, retomada por Rodney Brooks en las últimas décadas de ese mismo siglo [224], y sistematizada por Rolf Pfeifer and Josh Bongard en 2007 [225], estos autores proponen el uso de la robótica blanda [226], el aprendizaje automático y la reconsideración del significado en la información, elemento que Shannon había excluido deliberadamente de su ‘problema ingenieril’ a la hora de formular su teoría [227]. Estas máquinas, cuya conducta vendría marcada por el interés en su propia supervivencia, parecerían tener sentimientos y aunque «nunca alcanzaran una experiencia interior plena en el sentido humano, su comportamiento debidamente motivado daría como resultado una inteligencia expandida y una autonomía mejor gestionada». Al mismo objetivo apuntan la computación morfológica, que aprovecha la estructura, las propiedades del material y la dinámica de un sistema físico para mejorar la eficiencia de un cálculo [228]; o la inteligencia artificial física, que entiende la inteligencia como un «fenómeno emergente de la interacción real entre el cuerpo, el entorno y la experiencia» [229]. ¿Odres viejos para vinos nuevos, u odres nuevos para vinos viejos?
VII. Una carga de reels
“La IA presenta las predicciones como hechos, y eso tiene implicaciones éticas profundas”. (Carissa Véliz, El País, 15 de mayo de 2026)
¿Tendrá la robótica un momento ChatGPT? Un único momento revolucionario de IA en robótica puede no ser la respuesta. (IEEE Spectrum, 20 de mayo de 2026)
Lo que nuestros teléfonos, listas de reproducción y asistentes de IA revelan sobre la condición humana. Una nueva perspectiva sobre cómo todo, desde la escritura a mano hasta la IA, transforma silenciosamente nuestros cuerpos, hábitos y sentido de conexión. (Scientific American, 29 de mayo de 2026)
El robot humanoide del futuro es un musculoso de 1,83 metros con cuerpo chino y cerebro estadounidense. (Wired, 3 de junio de 2026)
Un tribunal ha dictaminado que Google es responsable de las declaraciones falsas generadas por sus análisis de IA. El fallo establece que una empresa que diseña, entrena, opera y gestiona un sistema de IA debe asumir la responsabilidad legal por cualquier daño causado por las respuestas que genere. (Wired, 13 de junio de 2026)
Los modelos de lenguaje visual entrenan a los robots para leer las emociones humanas. Si los robots van a trabajar junto a los humanos de forma más generalizada, necesitarán leer nuestros estados de ánimo. (IEEE Spectrum, 13 de junio de 2026)
Lo que Astro de Amazon me enseñó sobre cómo dotar de alma a los robots: El carácter es la diferencia entre una máquina que la gente tolera y un producto en el que la gente confía. (IEEE Spectrum, 19 de junio de 2026)
La IA está aprendiendo a interpretar el ambiente. La tecnología que detecta las emociones humanas está adquiriendo conciencia del contexto. (IEEE Spectrum, 23 de junio de 2026)
“La vida suprema es ser poeta, cantar, ser artista. Pero el sistema hace que nos tratemos como máquinas”. (Xiang Biao, El País, 27 de junio de 2026)
¿Están listos los robots humanoides para su despliegue? Neo y una docena de otros robots con forma humana tienen previsto su lanzamiento al mercado. Los expertos están preocupados. (The New Yorker, 29 de junio de 2026)
Este robot humanoide es un becario de oficina sorprendentemente competente. Flexion Robotics, una empresa emergente fundada por ex ingenieros de Nvidia, tiene una ingeniosa manera de entrenar robots para realizar trabajos útiles. (Wired, 29 de junio de 2026)
Dentro del Festival Ludita: Canalizando la rabia de la Generación Z contra las grandes tecnológicas. El festival Summer of Ludd de la ciudad de Nueva York enseña a la gente a vivir desconectada de la tecnología en medio de la asfixiante presencia de las grandes tecnológicas. (Wired, 2 de julio de 2026)
VIII. Recién salida del horno, como las noticias que se encadenan en la sección anterior, está la Declaración de Leiden sobre Inteligencia Artificial y Matemáticas que «insta a tomar medidas para abordar los desafíos que plantea el uso de la inteligencia artificial en la investigación matemática.» En ella se identifican una serie de amenazas, que paso a resumir: 1) las técnicas automatizadas actuales pueden producir argumentos plausibles pero poco fiables (o incluso incorrectos), difíciles de distinguir de las demostraciones matemáticas correctas; 2) se basan ampliamente en el acervo matemático publicado y socavan el sistema tradicional de atribución; 3) pueden alterar el sistema actual de incentivos; 4) la evaluación adecuada se ve comprometida si los resultados se comunican a través de canales informales, como comunicados de prensa o publicaciones en blogs, a menudo sin ningún artículo de investigación ni otra divulgación de información necesaria para la evaluación científica; 5) ponen en peligro la autonomía de las matemáticas y aumenta el riesgo de que las cuestiones de investigación se prioricen por su facilidad de automatización, en lugar de basarse en el juicio experto sobre su significado más profundo [230].
Invito al lector a comparar estas amenazas con las que denuncian intelectuales, literatos, artistas, músicos, todos aquellos que de alguna forma creen o sienten que su tarea exige creatividad y por ende humanidad. A todos ellos me permito sugerirles, antes de organizar otro festival ludita, tener en cuenta las palabras de algunos ilustres colegas:
No hay mayor engaño que creer que una auténtica originalidad es mera cuestión de impulso o de inspiración. Originar consiste en combinar cuidadosa, paciente y comprensivamente. (Edgar Allan Poe)
Nuestras Bellas Artes han sido establecidas, y sus tipos y su uso fijados, en una época muy diferente a la nuestra, por hombres cuyo poder de acción sobre las cosas era insignificante comparado con el que nosotros poseemos. Pero el asombroso aumento de nuestros medios, la flexibilidad y precisión que ellos alcanzan, las ideas y hábitos que introducen nos aseguran cambios inminentes y muy profundos en la antigua industria de lo Bello. […] Es de esperar que estas grandes novedades transformen toda la técnica de las artes, actúen con ello sobre la invención misma y quizá incluso lleguen a modificar de manera maravillosa la noción misma de arte. (Paul Valèry)
¿Quién puede estar seguro de que el ‘trabajo original’ que ha hecho no es simplemente el crecimiento de la semilla plantada en él por la enseñanza, o el efecto de seguir principios generales bien conocidos? (Alan Turing)
IX. Cuando estos asuntos nos preocupan, nos atormentan, deberíamos preguntarnos lo que el guardián pregunta a Creonte: «Pero ¿qué te atormentan, las orejas o el alma?» [231]. Según sea la respuesta, así deben ser las medidas que se tomen. Al Santo Padre León XIV le atormentan el alma, tanto que ha publicado una carta encíclica «sobre la custodia de la persona humana en el tiempo de la inteligencia artificial», su Magnifica Humanitas, que siendo de gran interés aporta poco a nuestro asunto, pues da por probado aquello que precisamente hay que probar, la singularidad esencial del ser humano, con la petición de principio: «el ser humano, imagen del Dios trinatario». Por este camino, «con la iglesia hemos dado, Sancho.»
X. En la misma obra de Sófocles, unos versos más adelante, el coro canta: «Muchas son las maravillas/pero el hombre es la mejor.» Sinceramente, eso espero. Mas por el momento, cuando hace setenta años que se acuñó el término Inteligencia Artificial, aquí estamos todavía debatiéndonos entre brutos y marionetas. Hay investigadores que afirman haber encontrado el método formal que muestra que es imposible eliminar la alucinación en los grandes modelos de lenguaje (LLMs), que es inherente a ellos, y ello en un mundo formal definido ad hoc donde la alucinación es inconsistencia entre un modelo LLM computable y una función de verdad; y dado que el mundo formal inventado es parte del mundo real, que es mucho más complejo, las alucinaciones también son inevitables para los LLMs del mundo real [232]. Pero no está claro si esto los hace menos o más humanos. Necesitamos otra clase de pruebas para saber qué lugar ocupa el hombre entre las máquinas. Para encontrarlas, propongo empezar considerando estos versos:
Decir cosas que trascienden lo humano con voz humana,
eso es imposible; decir cosas humanas con voz
más que humana, eso también es imposible;
Hablar humanamente desde lo alto o desde lo profundo
de las cosas humanas, ese es el discurso más agudo. [233]
HAS LLEGADO AL FINAL DE:
[209] Rüdiger Safranski, Un maestro de Alemania. Martin Heidegger y su tiempo, Tusquets 1997.
[210] «la ciencia moderna es desde su principio tecnh [tecné, técnica], ya que el conocer le interesa no en cuanto sea comprensión de la verdad, sino en cuanto es instrumento que permite la transformación del ‘mundo’ según los objetivos que el hombre se propone». Emanuele Severino, Esencia del nihilismo, Taurus, 1991, p. 195.
[211] Michael Strevens, The Knowledge Machine, Alan Lane, 2020.
[212] Ver el prólogo de Laura J. Snyder, El club de los desayunos filosóficos, Acantilado, 2021.
[213] Safranski, op. cit., pp. 54-55.
[214] Safranski, op. cit., p. 57.
[215] Daniel You, A Trick of the Mind, Cornerstone Press, 2025.
[216] George Dyson, La catedral de Turing, Debate, 2015.
[217] René Descartes, Correspondencia con Isabel de Bohemia y otras cartas, Alba Editorial, 1999.
[218] Antonio Damasio, El error de Descartes, Destino, 1996.
[219] Blaise Pascal, Pensamientos, (No. 821 en la edición de) Alianza, 1986.
[220] Ver cita de S. Russell, Human Compatible, en el capítulo “Cómo es ser una máquina”.
[221] Automatic Computing Engine, su máquina universal.
[222] El homeostato. Ver carta de A. M. Turing a W. R. Ashby fechada en noviembre de 1946. https://www.ashby.info/letters/turing.html.
[223] Kinston Man and Antonio Damasio, “Homeostasis and soft robotics in the design of feeling machines”, Nature Machine Intelligence, Vol. 1, October 2019, 446-452.
[224] Rodney A. Brooks, “New Approaches to Robotics”, Science Vol. 253, No. 5025, 1227-1232, 1991.
[225] Rolf Pfeifer and Josh Bongard, How the Body Shapes the Way We Think. A New View of Intelligence, The MIT Press, 2007.
[226] Extensión de la robótica convencional que utiliza materiales blandos e inteligentes para construir máquinas (robots) más eficientes y robustas que permiten una interacción más segura con el ser humano y manipular objetos con mayor delicadeza.
[227] Artemy Kolchinsky and David H. Wolpert, “Semantic information, autonomous agency and non-equilibrium statistical physics”, Interface Focus, 8, 20180041, 2018.
[228] Rudolf M. Füchslin et al., “Morphological Computation and Morphological Control: Steps Toward a Formal Theory and Applications”, Artificial Life, 19: 9–34, 2013.
[229] Vahid Salehi, “Fundamentals of Physical AI”, Journal of Intelligent System of Systems Lifecycle Management. 2, 2025.
[230] Leiden Declaration on Artificial Intelligence and Mathematics, https://leidendeclaration.ai/.
[231] Antígona v317, en: Sófocles, Tragedias, Planeta, 1985.
[232] Ziwei Xu, Sanjay Jain, Mohan Kankanhalli, “Hallucination is Inevitable: An Innate Limitation of Large Language Models”, arXiv:2401.11817, Feb. 2025.
[233] Wallace Stevens, “Chocorua To Its Neighbor”: To say more than human things with human voice,/That cannot be; to say human things with more/Than human voice, that, also, cannot be;/To speak humanly from the height or from the depth/Of human things, that is acutest speech.
Vinagre, Blas M. «El hombre entre las máquinas». Adyacente posible, 9 de julio de 2026 https://adyacenteposible.com/2026/07/09/el-hombre-entre-las-maquinas-epilogo-2026/
