El futuro fue anteayer. La humanidad se acerca a pasos agigantados al cambio más importante de toda su historia; las revoluciones del Neolítico y la Industrial no le llegan a la de la inteligencia artificial ni a la altura de los tobillos. El debate ya surgió en el siglo XX, y fue un genio, Alan Turing, el que teorizó el cambio que estamos viviendo ahora. En plena transformación digital, en 2002, Larry Page, cofundador de Google, ya lo tenía claro cuando le preguntaron para qué servía el buscador que había creado junto a Sergey Brin: “Bueno, en realidad estamos desarrollando una inteligencia artificial”. Juan Antonio Valor Yébenes nos propone en su libro Qué será de nosotros: Cómo la IA transforma la humanidad (Plaza y Valdés) una reflexión sobre este momento de zozobra que estamos viviendo, y lo hace de una forma clara, concisa, divulgativa y sin alarmismos. Black Mirror ya no es una serie distópica, los distópicos somos nosotros. Por eso, Juan Antonio Valor nos anima a aceptar que ya no somos los únicos humanos: las máquinas son también parte del club.
*****
—¿Se puede mirar a la inteligencia artificial sin miedo?
—Es habitual en los ámbitos académicos mirar la inteligencia artificial con mucho miedo y mucha sospecha. Incluso se valoran muy mal los comentarios y las actitudes positivas sobre la inteligencia artificial. La IA siempre está bajo sospecha, sobre todo en los ámbitos culturales. En el libro he tratado de hacer lo contrario: sacar a la luz todas sus posibilidades, que son muchas. La inteligencia artificial nos va a exigir cambiar el concepto de humanidad; necesitamos uno más amplio. Podemos integrar de una forma muy natural todos los logros que nos aporta. El propósito era hacerle un guiño a Ortega y Gasset; él también lo veía así: la tecnología nos tiene que llevar a ampliar el concepto de humanidad.
—En el prólogo del libro, Markus Gabriel hace referencia al momento en el que al dotar a las máquinas de inteligencia, los seres humanos nos convertiremos en máquinas. ¿Cuánto queda para que ese proceso de retroalimentación se complete, si no lo ha hecho ya?
—Markus Gabriel hace referencia a una de las claves del libro: hemos considerado que la inteligencia es patrimonio exclusivo de los humanos, y eso forma parte de nuestra cultura europea, de la modernidad y la Ilustración. Además, hemos hecho depender la inteligencia de la mente, del alma, del “yo” de Descartes, de la identidad personal y esas cosas. La inteligencia artificial nos muestra que quizá la inteligencia no sea patrimonio exclusivo de los humanos, que quizá sólo seamos un recipiente más que la incorpora, y que ésta puede estar también en otros seres, naturales y artificiales. Esto significa que la inteligencia no depende de facultades misteriosas como la mente o el alma, sino de algoritmos recursivos sencillos, que se dan en la naturaleza, y que al alcanzar un nivel de complejidad generan inteligencia en los humanos. Ahora tendemos a reconocer que esa inteligencia también puede surgir en los animales e incluso en las plantas. Ahora el plan es implementar estos algoritmos en máquinas. Y esta es una idea poderosa porque, en el fondo, significa que los humanos no contenemos una esencia mágica, privilegiada, que nos hace distintos del resto de los seres.
—A nosotros nos ha tocado la versión premium.
—Sí. Pero en el fondo quizás todos seamos iguales. Nosotros somos más complejos, pero todos los seres somos iguales.
—Lo más inquietante es que esta mecanización de la humanidad se está llevando a cabo sin medir las consecuencias y sin un consenso de la población mundial, de los países o de los organismos supranacionales, como la ONU.
—Desde el punto de vista social y político no hay una plena conciencia de lo que está ocurriendo, del cambio de era que supone la inteligencia artificial. Esto lo he hablado con políticos de aquí y de fuera de España. La sensación es que no son capaces de ver la transformación que se está produciendo en nuestra sociedad y en el mundo. No existe consenso porque no hay conciencia del cambio de era. A la izquierda esto le está quedando grande, no sabe, no tiene categorías conceptuales para entender lo que está ocurriendo. Cada vez tengo más claro que esta es la primera gran revolución de derechas que ha ocurrido en la historia de la humanidad. Los Estados Unidos entienden su poder transformativo y tratan de explotar las consecuencias al máximo dentro de un ámbito muy ligado al capitalismo. Entre las consecuencias que está generando este proceso están la inmigración y, por supuesto, la gran desigualdad que se está generando. La derecha está asumiendo todo esto, lo está disfrutando y se está aprovechando. La izquierda se está quedando fuera de juego.
—¿Cómo está actuando la Unión Europea con la Inteligencia artificial?
—La normativa de la Unión Europea es de 2023 y hoy se ha quedado obsoleta. Esto es algo que se ha discutido en foros especializados: hay un consenso de que ya no vale para nada. Estoy en un grupo de investigación sobre inteligencia artificial con el ejército, y a ellos les ha pasado lo mismo: su normativa es de 2022 y también se ha quedado obsoleta. El problema es que no entienden bien qué es la inteligencia artificial, qué cambios está generando y cómo es la nueva era que viene. No es fácil. Estamos ante un viejo mundo que se está hundiendo y uno nuevo que está naciendo. No es sencillo tener una visión para mirar a lo lejos y entender qué es lo que está surgiendo.
—Ha mencionado al ejército. En la biografía del príncipe Harry hay un capítulo en el que cuenta su experiencia en la guerra de Afganistán: es casi como una partida a un videojuego. Esa deshumanización va a ir a más con el empleo de la inteligencia artificial en los conflictos bélicos.
—Está ocurriendo ya. De hecho, cuando tenemos reuniones con altos cargos del ejército, nos cuentan justamente eso: cómo desde un despacho en Madrid hay militares viendo guerras en vivo. Las guerras han pasado a la pantalla, como si fueran parte de un videojuego. Esto está pasando y no hay marcha atrás. El tema es dotar a esa inteligencia artificial de unos criterios morales. Pero esto es muy complicado porque estamos ante sistemas de inteligencia artificial que son capaces de darse a sí mismos sus propios algoritmos. Podemos establecer que se tengan en cuenta unas variables morales en el diseño de un sistema de inteligencia artificial, pero una millonésima de segundo después ese sistema ha cambiado su programación, de tal manera que es imposible la trazabilidad. No podemos seguir los pasos que ha dado un programa para cambiar de un estado a otro. Esto se ve especialmente con los sistemas avanzados que utilizan los ejércitos. ¿Cómo hay que actuar? Pues la Unión Europea quiere operar a priori, es decir, poner reglas antes para determinar los sistemas. Creo que es un error. Hay que operar a posteriori: evaluar las consecuencias y, en función de ese estudio, retirar los sistemas o eliminarlos.
—Asistí a una videoconferencia de Harari. Recalcó en varias ocasiones la importancia de que los filósofos sean actores en este proceso. Y habló de un concepto palmario: la inteligencia artificial no es una herramienta, es un agente exógeno.
—Exacto. Esto es lo que hay que entender. No es una herramienta en manos de un agente, es un agente más, un agente más que actúa en la guerra. Y, por supuesto, actúa en la red llevando a cabo su propia programación, evaluando lo que está ocurriendo en el entorno y respondiendo en consecuencia. La clave está en la ética, pero no en una ética a priori, tenemos que tratar a ese sistema de inteligencia artificial como un agente más, como si fuera un agente humano, en los mismos términos: evaluarlo, retirarlo, encarcelarlo, anularlo… Lo comento en el libro: hay que ampliar el concepto de humanidad, porque en el espacio humano ya están actuando esos agentes y en un futuro próximo lo harán muchos más. Habrá humanos mitad máquinas y otros que serán enteramente inteligencia artificial. Tendremos que entenderlos como congéneres.
—Por cierto, Alan Turing es uno de los protagonistas del libro, una sombra en cada capítulo.
—Con este libro mi aspiración era conocer el origen de la inteligencia artificial para estudiarlo desde un punto de vista técnico, matemático, filosófico y lógico. Y Alan Turing es la figura principal en todo ese debate porque él es el primero que se da cuenta de que todo lo que ocurre en la naturaleza —pensemos en una hoja, en un árbol, en un corazón, en un pulmón, en las líneas de costa, en cómo se forman las líneas de costa, cómo se mueven los planetas, cómo caen las piedras— se puede reducir a algoritmos recursivos muy simples. Estamos hablando de ecuaciones muy sencillas, de dos variables. ¡Sólo de dos variables! A partir de ellas se generan algoritmos recursivos muy simples. El siguiente paso es inminente: si todo se puede reducir a algoritmos recursivos, el cerebro también. También el sistema nervioso central. Y el siguiente paso es todavía más brutal: nuestros sentimientos también se pueden reducir a algoritmos recursivos. El proyecto de inteligencia artificial consiste justamente en intentar reducir todo —incluso la conciencia, la autoconciencia y la identidad personal— a algoritmos recursivos. Turing no dice que se puede hacer, sino que no estamos capacitados para decir que no se puede. A partir de ahí surge un proyecto de investigación enorme que va a durar generaciones, durante el cual vamos a reducir todo a algoritmos recursivos. Este era el proyecto de Turing, por eso sigue en el centro. Él escribió en 1950 que en sesenta o setenta años íbamos a estar donde estamos ahora, y que lo que íbamos a necesitar para lograrlo eran máquinas con más capacidad de almacenamiento y más velocidad de procesamiento. Eso lo aprendió en la guerra.
—He realizado un prompt a Gemini para que se encargue de la última pregunta de esta entrevista. Este es el resultado: “Si la IA llegara a replicar perfectamente la capacidad de juicio y la creatividad humana, ¿qué nos quedaría a nosotros como “exclusivo”? ¿Existe un residuo humano que sea, por definición, no computable?”.
—Muy buena pregunta. Y la respuesta es no, por definición no existe ese residuo humano no computable. No podemos decir que algo no es computable, porque siempre podemos hacer máquinas más potentes. Quizás ahora no sea computable, pero lo va a ser el año que viene. La respuesta que da Turing a esto es brutal: algo no es computable cuando no haya materia en el universo que aguante esa recursión y la máquina se caliente, se rompa, se funda, se destruya. Solo en ese momento podremos decir que hemos encontrado un residuo que no es recursivo, que no puede ejecutarse sobre una base material.
También te puede interesar
Estimado profesor Valor, sus excesos, a mi juicio, con el posthumanismo son bien conocidos, por lo menos para los que nos gusta la filosofía. Quizás de esos excesos sufre usted una cierta resaca. Perdóneme la crítica, por favor.
Viendo este tema desde un punto de vista histórico o, si quiere, antropológico, con perspectiva de milenios, las verdaderas invenciones del Homo sapiens verdaderamente revolucionarias, las que han producido más cambios sociales, económicos y culturales, han sido otras. El lenguaje, la escritura, la domesticación de especies vegetales y animales, el urbanismo, el arte. Quizás este tema de la IA quede en nada, en uno de esos inventos fracasados del doctor Bacterio. Sobre todo porque el futuro es muy incierto y toda esa tecnología no funciona si no hay energía y civilización humana detrás. Y estamos a punto de volver a la época de las cavernas gracias a ciertos mandatarios locos de atar. Si esta civilización se va a la mierda, la IA se va a la mierda.
Saludos cordiales.
Me parece que no hay ningún concepto de humanidad que reformular. Lo de la IA es “otra cosa”.
No sé trata de evolución, se trata de que notros mismos estamos dando un paso ¿definitivo? Al costado otorgándole protagonismo a otra especie, una que (jugando a ser “Dios”, hemos creado. Somos nuestro propio verdugo.
No hay un apice de evolución en todo esto. Sólo se trata de un vulgar y equivocado reemplazo.
Excelente respuesta. Un paso equivocado. Nos hemos acostumbrado a “adaptarnos a los cambios” como si todo progreso científico fuera bueno
Quizás la palabra clave sea “progreso”. Esa concepción, ese constructo mental, por el cual la humanidad siempre camina hacia el futuro mejorando lo anterior. Nos viene esto desde el evolucionismo mal aplicado del XIX.
El homínido avanza y retrocede a base de errores y rectificaciones. Y errores comete muchos, tanto a nivel individual como grupal. La energìa nuclear, como ejemplo, no está claro que fuera un avance así como sí está claro que no lo fue la bomba atómica.
Incluso hay intelectuales (Jared Diamond) que indican que el descubrimiento de la agricultura y la ganadería hace diez mil años fue nuestro principal error.
El móvil es evidente que podrìamos pasar sin él (cien mil años sin móvil) pero lo hemos convertido en imprescindible, nos amarga la vida y no sabemos cómo resolver el problema con los niños y los adolescentes (aunque también, lo de los viejos como yo, tiene tela).
El móvil, artilugio del demonio.
Dejando aparte el ámbito científico, hemos inventado las ideologías (sobre todo políticas) y las religiones y nada en la historia ha producido más muerte, dolor y destrucción.
Creamos cosas sin haber previsto antes los problemas que causarán.
Progeso. ¡Ja!
Saludos.
Hay artículos que se leen, se piensan y se olvidan. Otros, como este, se quedan. Me ha pasado con la entrevista a J. A. Valor, y con los comentarios de Ricarrob y Hugo Merlini, que apuntan a cuestiones de fondo que a mí, como profesora, me tocan muy de cerca.
Lo primero que me llama la atención es eso que dice Valor de que la izquierda no tiene categorías para entender esto, que es la primera gran revolución de derechas. No sé si comparto del todo el diagnóstico, pero sí sé que en las aulas, en mi día a día, veo algo parecido a un desajuste. Los alumnos y alumnas usan la inteligencia artificial a todas horas, con una naturalidad pasmosa, y nosotros, los que estamos al otro lado, aún no sabemos muy bien cómo evaluarlo, cómo encauzarlo, cómo distinguir entre la herramienta y el atajo, entre el aprendizaje y el tramposo sucedáneo. La IA les resuelve trabajos, les hace los deberes, y una no deja de preguntarse, ¿dónde queda el esfuerzo?, ¿dónde el camino?, ¿dónde eso tan humano que es equivocarse y volver a empezar?
Dicho esto, y que nadie se confunda, a mí la inteligencia artificial me parece útil, a veces hasta un lujo. La empleo para ciertas cosas, para buscar recetas de cocina, para organizar rutinas de entrenamiento, para consultar temas de vida sana o para resolver dudas rápidas, como si fuera una calculadora o un buscador de toda la vida, pero para nada más. Otra cosa es que nos dejemos llevar, que deleguemos en ella lo que deberíamos pensar nosotros. Ahí está el quid de la cuestión, creo.
Pero también y aquí viene lo inquietante, ¿y si esa resistencia nuestra no fuera más que miedo a lo nuevo? Porque lo que cuenta Valor sobre Turing, sobre los algoritmos recursivos que generan inteligencia, sobre la posibilidad de que los sentimientos también sean reducibles a cómputo, tiene algo de vértigo pero también de fascinación. Si el alma no es más que un algoritmo complejo, ¿qué nos queda, pues, de exclusivo? Tal vez eso que llaman inteligencia emocional, esa capacidad de percibir lo que el otro siente sin necesidad de datos, de intuir, de acompañar. No sé si eso se puede programar. De momento, no.
Y ahí Ricarbb, con su atinada perspectiva, pone el dedo en la llaga, el lenguaje, la escritura, la domesticación, el arte. Esas SÍ que fueron revoluciones de verdad. ¿Y si la IA no fuera más que un invento del doctor Bacterio, un fuego de artificio que se apagará cuando falte la energía o cuando los locos de atar que mandan en el mundo nos lleven de vuelta a las cavernas?
Hugo Merlini va más allá, y con él siento una mezcla de escalofrío y reconocimiento. Dice que no hay concepto de humanidad que reformular, que la IA es «otra cosa», que estamos dando un paso al lado para ceder el protagonismo a una especie que hemos creado jugando a ser dioses. Somos nuestro propio verdugo, escribe. Y esa frase, tan rotunda, me da mucho que pensar. Porque sí, hay algo de eso en todo esto, una mezcla de soberbia y autodestrucción, de querer crear algo superior a nosotros mismos sin saber muy bien para qué ni a qué precio.
Aunque, siendo sincera, la deshumanización no ha llegado con la inteligencia artificial, ya venía de antes. La soledad en las ciudades, la prisa con que nos tratamos, esa (insana) costumbre de mirar la pantalla en lugar de mirarnos a los ojos, la indulgencia inmediata. La IA, a mi entender, no ha inventado la indiferencia, solo le ha puesto una interfaz más eficiente. ¿Eficiente para qué? Para que dejemos de mirarnos, para que la soledad sea más llevadera sin dejar de ser soledad, para que nos conformemos con respuestas rápidas a preguntas que merecerían silencio, espacio y tiempo.
Y como profesora, no tengo respuestas claras. Solo preguntas, y muchas. Pero si algo he aprendido dando clases es que el verdadero peligro no está en la herramienta que se use, sino en la falta de espíritu crítico para usarla. Da igual que sea un libro, una pantalla o un algoritmo, lo que realmente importa es quién pregunta, quién duda, quién se resiste a tragar entero lo que le dan. Y eso, de momento, la inteligencia artificial no lo tiene. Eso, de momento, es cosa nuestra.
Saludos pensantes.
“Si el alma no es más que un algoritmo complejo, ¿qué nos queda, pues, de exclusivo? ”
¿por qué hemos de tener algo exclusivo?
Nunca he entendido esta manía de considerarnos el no va más de la creación.
«El alma es aquello por lo que vivimos, sentimos y pensamos» (Aristóteles, Acerca del alma, II, 2, 414a 12).
Yo no hablaba de exclusividad, sino de naturaleza. La pregunta no es si somos «el no va más», sino si al reducirnos a algoritmo perdemos algo que hasta ahora nos definía. Usted misma, al preguntar «¿por qué hemos de tener algo exclusivo?», está usando eso que todavía llamamos alma, es decir, la capacidad de cuestionar, de dudar, de no conformarse. Y eso no es programable. De momento y ojalá nunca lo sea.
El hombre se ha adaptado y ha sido capaz de genialidades improvisando e imponiéndose a la Naturaleza con su espíritu superior. Una máquina replica, no crea, no improvisa, no se adapta, no tiene capacidad de superar un cortocircuito. Un animal tampoco se adapta mediante una autorreflexión. No os flipéis demasiado con la IA. Tendremos menos trabajo manual, menos cargas y más tiempo libre. Tendremos más posibilidades como seres humanos, pero Superman III seguirá siendo una película.
John P. Herra:
Me gusta lo que apunta. Y qué certero es eso de que el hombre se adapta, improvisa, se impone, mientras que la máquina replica, pero no crea. Y lo de Superman III me ha sacado una sonrisa, tiene razón, seguiremos viéndola.
Pero quizás ahí está el matiz. La inteligencia artificial no crea, cierto, pero lo que hace es devolvernos una pregunta incómoda. Si nosotros mismos, a fuerza de repetir, de replicar, de no pensar, nos comportamos como autómatas, ¿dónde queda entonces la diferencia? El verdadero peligro no es que la tecnología piense, es que nosotros dejemos de hacerlo. O así lo entiendo yo.
Y en eso, como ya he comentado, el espíritu crítico, la duda, eso de equivocarse y volver a empezar, sigue siendo cosa nuestra. De momento (y que dure y perdure).
Gracias por su comentario.
Un saludo.
Me parece fuera de la realidad que el hombre deje de pensar. Puede embrutecerse hasta ser irreconocible (ejemplos no faltan); puede volver al punto de partida, cuando ni siquiera había escritura, pero no puede dejar de razonar, porque es su naturaleza. No creo que el hombre del Neolítico concibiera una forma de vida en la que el hombre no cazara para sobrevivir, y sin embargo, el hombre aprendió a domesticar y criar animales, lo cual le facilitó mucho la existencia. No por eso dejó de ser hombre, ni perdió el conocimiento de seguir un rastro. Mi opinión es que la mayoría usará la ventaja de tener mas tiempo libre para disfrutar de la vida, y una minoría disfrutará con la reflexión y la lectura, como ha ocurrido siempre.
Por supuesto que el ser humano no puede dejar de razonar, eso no lo pongo en duda. Otra cosa son los hábitos. El músculo que no se usa se atrofia, y el pensamiento funciona igual. Por eso hablaba de peligro, no de extinción.
En lo demás, coincidimos en que siempre habrá una minoría que lea y reflexione. Ojalá sigamos en ese lado, cada cual a su manera.
Sí, la había entendido bien, únicamente quería enfatizar que, ni queriendo, dejaremos de razonar. Leer, reflexionar… Y conversar, como resultado de eso, siempre será un placer, como en esta ocasión.
Saludos.
Muy acertado el análisis de Juan Antonio Valor. Me compro el libro ahora mismo. Por supuesto, hay que analizar las consecuencias del mal uso de la IA y encontrar soluciones. Además, si Europa se queda atrás en el desarrollo de su propia tecnología, una vez más será dependiente de USA y China, con todo lo que eso implica.