Ángel L. Fernández: “Europa tiene que legislar para que los algoritmos de recomendación sean transparentes”

Hablamos con Ángel L. Fernández de imitar la escritura de Umbral con la IA, sobre cómo los oligarcas tecnológicos destruyen medios de comunicación centenarios y acerca del maligno algoritmo que se esconde detrás de Google Discover.

***

—En la cita con la que abre el libro menciona a Huxley. Tanto él como Orwell nos explican nuestro presente desde el pasado.

—Mencionamos casi siempre a Orwell porque pensábamos que la distopía que se nos venía iba a ser orwelliana: la vigilancia masiva con las cámaras y la huella que dejamos en internet. Nos tienen controlados. Lo que ha cambiado con la irrupción de la inteligencia artificial y de los algoritmos, que te encapsulan, es que, además de espiarnos, se nos quiere mantener en una posición mental específica, relacionada con el proceso de estar enganchado a una droga. Es lo que pasaba en Un mundo feliz, de Aldous Huxley: la gente no tenía acceso al conocimiento, los libros estaban prohibidos, sólo los podía leer cierta élite. El objetivo era evitar la reflexión. Es muy curioso volver a leer Un mundo feliz, porque en el libro todo tiene que ser rápido, no hay tiempo para pensar, necesitas esas inyecciones de dopamina que al final te condicionan pavlovianamente. Por eso prefiero a Huxley para explicar lo que está pasando.

—Orwell, Turing y Huxley son “viajeros del tiempo”. 

—Totalmente. (Risas)

—Hay un concepto bastante diabólico con los algoritmos: la sensación de que éstos no son impuestos, de que todo es aceptado por nosotros de forma libre. Estamos encantados de ser esclavos.

—Sí, porque la tecnología ha conseguido entender cómo funciona nuestro cerebro y dirigirse a él de una forma maquinal, que nos arrastra a unos comportamientos que son de dominación: los bots en los juegos, los reels en Instagram con el scroll infinito…

—Dice en el libro: “Ahora no se debaten ideas, porque discutir es ineficiente. Se gestionan impulsos, se activan reflejos y se administra la emoción como un recurso escaso”. Ya no asusta el futuro, lo que da miedo es el presente.

—Sí. Ahora mismo no se discuten ideas. Todo lo que tenga que ver con la reflexión, con pensar, con dedicar una hora a algo que no sea una pantalla, no entra dentro de nuestro proceso mental. Los propios políticos van buscando esa imagen que te va a mover a la acción. Ya no te hace actuar la reflexión sobre tus condiciones laborales o tu condición de clase, sino una serie de fotogramas o unos reels. El algoritmo detecta a qué le tienes miedo, y en función a eso te muestra una serie de imágenes con un discurso muy sencillo, que va directo al cerebelo para que te movilices sin tener que reflexionar.

—Para combatir este apocalipsis oscuro nace la contralgoritmia. Explíquenos cómo sumarse al movimiento. 

—La contralgoritmia lo que propone es que sepamos, cuando entramos en una red social, en una página web de venta o en una aplicación móvil, cuáles son los algoritmos que nos llevan a tomar una decisión de compra, de voto o de cualquier tipo. Lo que busca la contralgoritmia es transparencia. No se trata de ir contra la tecnología, porque sería absurdo; se trata de saber cómo la tecnología interactúa con nosotros. Si Filmin me recomienda una película basada en las películas que yo he visto, bueno, pues eso es un algoritmo, o sea, me está recomendando películas basadas en lo que yo he visto. Estupendo. Voy a seguir esas recomendaciones. Si Netflix me recomienda una película en función de una información que ha obtenido, no sabemos cómo, sobre los problemas matrimoniales que tengo, quiero saberlo. Ahora mismo acabo de divorciarme y me interesan las películas de tristeza. Pero no quiero que Netflix utilice cosas que sabe sobre mí para sugerirme contenidos. Son datos que yo no he consentido que sepa, al menos de forma consciente. No quiero que me manipule. No digo que el algoritmo no exista, lo que quiero es conocerlo si lo están utilizando conmigo.

—Al principio del libro introduce una batalla que parecía perdida: el papel contra lo digital. 

—Ahora mismo los periodistas no podemos hablar de Bernini, porque no podemos ilustrar un artículo con una fotografía de una estatua con un desnudo. No hay ninguna prohibición moral, simplemente sabemos que si ponemos una foto de una obra de Miguel Ángel que represente un desnudo, ese artículo ya no va a aparecer ni en Facebook, ni en Google, ni en Twitter. Ese texto queda fuera del mundo digital. A medida que vas conociendo cómo funcionan los algoritmos de recomendación, tanto de Google Search como de Google Discover, descubres cómo nos obligan a los medios de comunicación a ir centrando la forma en que contamos las cosas y de lo que hablamos. Nos empujan a una homogeneización. Ante esa situación, el papel es el único sitio donde yo puedo escribir como me dé la gana, donde yo puedo titular de forma poética o de forma literaria, sin tener que utilizar palabras clave para que el algoritmo las detecte y a su vez eso salga en una red social. La expresión completa de nuestra forma de escribir solamente se puede dar ya en el papel.

—Me ha pasado: Facebook me ha censurado artículos de historia —sin opinión, que sólo refleja el hecho histórico— por hablar del nazismo o de la Guerra Civil. 

—Así es. A partir de ese momento, somos nosotros los que nos autocensuramos. No lo hacemos porque haya un aparato de vigilancia orwelliano que nos censure si escribimos en contra del sistema. Yo hago muchos artículos en contra de Google, pero curiosamente, si lo titulo de una manera o de otra, incluso me lo pilla el algoritmo de Google. Ahí está la contradicción: somos nosotros los que nos autocensuramos y nos homogeneizamos.

—Leer —de verdad, con atención— se ha convertido en un acto punk.

—Sí, además esto conecta con otro tema del que hablo, que es la sociedad narcisista. Ahora todos quieren escribir y nadie quiere leer. Lantia —empresa de edición bajo demanda— acaba de comprar Círculo Rojo —autoedición—, y ahora mismo publica más títulos (4.000) que Planeta (2.500) y Penguin Random House (2.000). Hay mucha más gente escribiendo que leyendo. En Estados Unidos, el negocio de la autoedición es diez veces superior a la edición clásica. Allí ya no se trata del deseo de visibilidad, de sacar unos ejemplares para mí y mi familia; en Estados Unidos se venden más libros autoeditados que de una editorial clásica.

—Vamos con los medios de comunicación. ¿Cuánto falta para que los prompt engineers suplanten a los redactores y columnistas?

—Hoy he leído un tuit interesantísimo de un periodista, tecnólogo, que contaba que él ha escrito mucho y siempre ha querido imitar a los grandes del columnismo. Hablaba de Manuel Jabois, de David Gistau, de Francisco Umbral… Él intentaba imitarlos, pero no podía. Ahora él puede publicar, con su voz propia, pero imitando ese estilo de los autores que admira gracias a la inteligencia artificial. El periodista que no utilice la inteligencia artificial, por algún tema de integridad, tiene un hándicap. Si esta entrevista no la pasas por un transcriptor estás perdiendo el tiempo, porque no hay ganancia espiritual en no hacerlo. La cuestión es ver hasta dónde llegamos con este tema.

—Se habla mucho del impacto de los motores de IA, como ChatGPT, en los cambios en el tráfico web. Quizás ha sido menos comentada y más impactante la influencia de Google Discover.

—Google tiene toda nuestra información si tenemos Gmail en nuestro móvil, si vemos YouTube… Incluso sabe cuál es nuestro estado de ánimo cuando hablamos por teléfono, lo que nos gusta, lo que no nos gusta. Y con esos datos nos va a recomendar cosas que posiblemente nos interesen mucho. ¿Cómo funciona Google Discover? Google Discover recibe las noticias de los medios, se las envía a un grupo de usuarios, y si ese grupo de usuarios entran en la noticia y la leen en un tiempo pequeño de respuesta, la amplían y se la envían a más usuarios. De esa manera, puedes conseguir que un artículo lo lean millones de personas. Entonces, tú empiezas a escribir pensando en el algoritmo de Google Discover: lo importante va a ser la foto, el título y lo cuentas en la entradilla. Da igual que el artículo sea una patata. Eso ha hecho que muchísimos artículos de medios de comunicación, que inundan ahora mismo Internet, sean auténtica basura; no aportan nada, sólo buscan enganchar con el titular. Google Discover ahora mismo les da el 70% o el 80% de tráfico a los medios de comunicación; es decir, es el que genera los ingresos. Si un medio de comunicación no trabaja para Google Discover, no tiene ingresos o son solamente de los políticos. Sin hacer nada, sin dar una orden, Google consigue que todo el mundo trabaje para sus intereses, que no son otros que estar siempre en los móviles de los usuarios.

—¿Cómo va a ser la era sin clics para los medios de comunicación? 

—Bueno, de hecho, ¿qué está suponiendo ya? Los medios de comunicación ahora mismo se tienen que volver a reinventar; y si no tienen suscriptores, van a acabar muriendo. Sólo tienes dos caminos: el de los suscriptores y el de la publicidad institucional. Y para lograr esto último también dependen de Google Discover, porque la publicidad institucional, sea regional o nacional, depende del tráfico que tengas. Entonces, ¿qué pasa? Que hay muchos de datos de tráfico que son falsos. Hay medios de comunicación muy importantes que compran tráfico. Para que te hagas una idea, comprar un millón de usuarios está en torno a 300 euros al mes. Si quisiéramos estar a la altura de otros medios, sólo tendríamos que gastarnos mil euros al mes. Con esos tres millones de usuarios encabezaríamos los rankings de audiencias y conseguiríamos esa publicidad institucional. El gobierno quiere acabar con eso para que esa publicidad institucional llegue al público que tiene que llegar.

—Al final del capítulo dedicado a los medios de comunicación dice: “Estamos con quienes no quieren que todo sea predicción, con quienes están cansados de las respuestas correctas”. 

—Claro. Porque yo soy el primero que caigo. Entras en Instagram, y de repente, te muestran un vídeo de alguien haciendo parkour, lo ves y le das un “me gusta”. Y a partir de ahí empiezas a ver todo el rato vídeos de gente saltando, que te enganchan. Eso es lo mismo. Tú necesitas salir de ahí para descubrir otras cosas, porque si no, te pasarías la vida viendo vídeos de parkour. Como eso funciona con una inercia brutal, no eres consciente de que eso funciona así en todos los ámbitos. Si has curioseado sobre placas solares, te van a aparecer quinientos artículos en Google Discover sobre placas solares. Esto hace que pierdas la capacidad de sorprenderte y de conocer cosas nuevas. Por eso me gusta Menéame, un agregador de noticias donde el timeline no está confeccionando en base a tus gustos, tu ideología o tu estado de ánimo. De esa forma, descubres cosas nuevas y con otros puntos de vista. Se trata de quitarnos las orejas de burro que hacen que todos leamos y pensemos lo mismo.

—Es como viajar a los principios de Internet, a principios de siglo, volver a los agregadores de noticias independientes, a los foros, a los blogs no profesionales…

—Totalmente. De hecho, Substack, por ejemplo, está teniendo mucho éxito porque es el concepto del blog clásico, más bonito, con formato de newsletter, pero la esencia es que tú sigues a una persona que te interesa lo que dice. Ya veremos cómo se mantiene eso. Lo que podemos afirmar es que Substack es un medio contraalgorítmico, igual que ocurre en BlueSky. Sigues a quien quieres seguir y no a quien quiere una tecnológica o un tecnooligarca.

—¿De qué manera puede la contralgoritmia convertirse en una forma de resistencia ante el tecnofeudalismo?

—Vamos muy rápido en este periodo histórico, pero sí que empezamos a tomar conciencia. Australia decidió y consiguió aprobar el bloqueo de las redes sociales a los menores de dieciséis años. La gente está empezando a entender que estos algoritmos no son inocuos, que te manipulan a nivel ideológico y a nivel de consumo y que hay que empezar a poner freno a esta situación. En mi libro dejo claro que ser un neoludita no es la solución. No se trata de dejar de lado las redes sociales, la tecnología, los chatbots, porque eso es un perjuicio para nosotros, sino de ser conscientes de dónde estamos y cómo intentan manipularnos. ¿Cómo se soluciona esto? Con transparencia y con legislación. Europa tiene que legislar para que los algoritmos de recomendación sean transparentes. A los tecnoligarcas se los combate con legislación. Hay que exigirles transparencia.

—En las Conversaciones de Formentor, del año 2024, participó en un coloquio sobre los medios de comunicación culturales. En un momento dado de la charla, surgió la polémica por el excesivo protagonismo que se le da a Taylor Swift en los suplementos. Alguien recordó una polémica similar en años anteriores sobre Dan Brown. Usted le dijo a uno de sus redactores que escribiera un artículo con IA titulado «Taylor Swift es el Dan Brown de la música». En escasos minutos, el texto estaba publicado y lo compartió con el resto de ponentes.

—Tengo una anécdota muy curiosa sobre ese tema. No diré el nombre, pero uno de los directores de medios de comunicación más importantes de España estaba delante de mí, y le dijo al que estaba a su lado: “Lo peor de todo esto es que el 80% de las personas que escriben en mi medio de comunicación lo hacen peor”.

—Terminamos. Ante este panorama, ¿cuál es la solución? ¿Bajar los brazos y esperar a que nos llegue la renta básica a todos? ¿Salir a las calles como en la película La purga, pero hacerlo todas las noches?

—(Risas) Pienso que seguimos evolucionando y la tecnología va a seguir haciendo estragos en el puesto de trabajo. Pero a nivel de conciencia y de tomar de nuevo las riendas de nuestra vida estamos en el buen camino. Ha surgido el inicio de un despertar en Europa, en Occidente, y vamos a empezar a legislar y a controlar a los tecnofeudalistas. Aunque sólo sea por egoísmo, los políticos tienen que defender su autonomía. Antes les interesaba colaborar, pero los políticos se han dado cuenta de que esos oligarcas digitales buscan quitarles todo el poder. Y por otra parte, ejemplos como el de Jeff Bezos, que se ha cargado el Washington Post, van a hacer que los medios de comunicación se piensen dos veces este tipo de inversiones. Los ciudadanos tienen que apoyar a los medios para que no sean adquiridos por las grandes tecnológicas.