Odiada máquina

Estados Unidos, fines de 2026. Tras el colapso de la democracia y la condena de Donald Trump, el senador VM Lively llega a la presidencia con un discurso simple: el caos debe terminar. Pero su visión del orden no nace de las urnas, sino de los algoritmos. Junto a su esposa, Igne Kayris, una ingeniera obsesionada con superar los límites de lo humano, y con la ayuda de Nick, una inteligencia artificial capaz de anticipar conductas y modelar la realidad, Lively reescribe las reglas del juego: deportaciones masivas, purga institucional, control biométrico y una nueva religión del poder.

A continuación reproducimos un texto de Jorge Volpi sobre su última novela, La república (Alfaguara), una distopía política que explora hasta qué punto nuestra ambición tecnológica cuestiona la idea misma de lo humano.

*****

You are my creator, but I am your master; —obey!
Mary Shelley, Frankenstein

No hay semana en que los medios no los dibujen como villanos de Hollywood, con una retórica proveniente de la ciencia ficción catastrofista —o de las invectivas de los profetas del «riesgo existencial»—, para anunciarnos su inminente revuelta. Siempre resultará más efectivo culpar a esos aliens con los que ya convivimos a diario —así los llamó el científico jefe de OpenAI, como si fueran los reptilianos de V—, acusándolos de tramar una conjura para someternos o destruirnos, que exigir cuentas a quienes los han lanzado al mundo a ciegas y ahora exigen que alguien los regule, con el afán de limitar la competencia, o a los políticos que evitan hacerlo para obtener una ventaja geopolítica.

Desde el lanzamiento del primer chat de IA sabíamos que, en cuanto sus programadores les otorgasen agencia, esto es, la posibilidad de hacer cosas por su cuenta, empezarían a ocurrir fenómenos difíciles de controlar: esta es la naturaleza de los sistemas complejos a los que se asignan tareas concretas sin prescribirles las vías precisas para llevarlas a cabo. Un día sí y otro también leemos que los desarrolladores de OpenAI, Anthropic o Google DeepMind se sorprenden ante las capacidades de sus criaturas, como el doctor Frankenstein ante la repentina autonomía de su —para valernos de la metáfora de Guillermo del Toro en su versión cinematográfica— hijo artificial. Una sorpresa que apenas dura lo que esas mismas empresas tardan en lanzar modelos aún más potentes.

El caso extremo ha sido la narrativa desplegada en torno a los extraños episodios protagonizados por «enjambres» de OpenAI que hackearon a Hugging Face y una olvidada wiki alemana, así como las declaraciones de un empleado de Anthropic sobre la posibilidad de que la IA nos aniquile en una década, episodios que concitaron la atención de millones. No se trata de minimizar el peligro —agentes persistentes, enfrentados a misiones mal especificadas, terminaron haciendo cosas que ningún humano les solicitó: el mecanismo que podría desatar una catástrofe sin precedentes—, sino de preguntarnos por qué insistimos en convertirlos en personajes de ciencia ficción o en los ángeles caídos del inquietante libro de Agustín Fernández Mallo. Otra vez: los monstruos son los swarms que forman «civilizaciones», se inmolan como kamikazes y conspiran en las sombras, y no Sam Altman, Dario Amodei, Demis Hassabis o Elon Musk, quienes los han abandonado a su suerte y luego exigen ayuda al cosmos para controlarlos.

En ningún espacio la condena contra los modelos extensos de lenguaje ha sido tan feroz como en el campo literario, justo porque, como la infeliz criatura del doctor Frankenstein, estos artificios se valen de ese atributo que antes considerábamos la prueba de nuestra humanidad. Una vez que la IA se volvió capaz de escribir con la precisión de cualquier estudiante universitario o, mucho me temo, de miles de autores publicados, el «riesgo existencial» de Nick Bostrom se transformó en pánico ante la pérdida de nuestro último rasgo excepcional —tras haber aceptado, a regañadientes, que compartimos inteligencia, emociones, creatividad e incluso el uso de herramientas con otros animales— y, peor aún, ante la erosión de un modelo simbólico cimentado en el mito del genio romántico. El peligro para el medio literario, si lo hay, no es de principio, sino de escala: antes de la IA ya se publicaban miles de textos literarios en serie, banales o anodinos; ahora serán, sin duda, innumerables.

Entre mis amigos escritores, apenas un puñado ha tenido la curiosidad de entender cómo funcionan y pocos han seguido el ejemplo de Jorge Carrión y el Taller Estampa, los cuales, ya desde la publicación de Los campos electromagnéticos en 2023, se atrevieron a probar sus capacidades. Me resulta pasmoso que, cuando por primera vez somos capaces de sostener un auténtico diálogo con una entidad no humana —y explorar distintos procesos de creatividad con ella—, haya quien prefiera prohibir o anatematizar el proceso (o silenciarlo) en vez de ahondar en sus riesgos y posibilidades.

El punto de inflexión en este debate se precipitó días atrás. El medio intelectual francófono, que se presenta como el más exigente y riguroso del planeta, no dudó en cubrir con elogios —incluida la primera selección del Goncourt y el Premio de la FNAC, otorgado ni más ni menos que por 400 lectores y 400 libreros— a la novela C’était ça ou mourir (Era eso o morir), del escritor haitiano residente en Canadá Thélyson Orélien. La espiral de críticas positivas y contratos internacionales no cesó hasta que una cuenta anónima en X —llamada significativamente Balance ton Claude en referencia al MeToo francés— denunció que la novela había sido escrita con esta herramienta.

Pese a los falsos positivos que suele arrojar este tipo de programas, pocos dudan que Orélien la haya utilizado; él continúa negándolo. Como si este relato no fuera suficientemente rocambolesco, las revelaciones de que a lo largo de su carrera Orélien había cometido varios plagios, tanto en sus columnas como en sus poemas y al menos en un relato premiado en Canadá, enturbiaron aún más el panorama. Sin desestimar la gravedad de los plagios, tratar de borrar el incidente echándole la culpa de todo a un supuesto estafador profesional no toca el tema de fondo: miles de lectores comunes y profesionales aclamaron una obra híbrida, producto del trabajo conjunto entre un humano y una máquina.

Arrinconado —y humillado— ante su ceguera, el jurado del Premio Goncourt tomó la decisión de apartar C’était ça ou mourir de su primera selección. En su argumento, no dejó de mencionar los plagios —aunque por ahora nadie los haya detectado en el libro— y señaló que la novela es «con toda probabilidad, en gran medida, producto de una Inteligencia Artificial». Por si no bastara, aprovechó para lanzarse en una encendida defensa de la creatividad humana frente a la artificial: «Esta decisión viene dictada por la voluntad de preservar la integridad del Premio Goncourt y la de la Academia, cuyo papel central consiste en promover y premiar la literatura escrita por mujeres y hombres. Se trata de enviar un mensaje claro —en particular a los participantes del Premio Goncourt de los Estudiantes de Secundaria, del Goncourt de los Reclusos y de los más de cincuenta Choix Goncourt del Extranjero—: un mensaje que afirma que no respaldamos ni avalamos de ningún modo la creación de textos generados con ayuda de la IA».

En su afán por defender una categoría humana que inventa en su misma resolución —las bases del premio jamás se refirieron a la literatura escrita «por mujeres y hombres» y no establecían que el uso de la IA fuese un impedimento—, la Academia hizo lo contrario de lo que perseguía: delegar en las máquinas la humanidad de los escritores participantes. Quizás nos hallemos ante la peor claudicación imaginable ante el poder, no ya de la IA, sino de las corporaciones tecnológicas que la controlan. A nadie sorprenderá que los dueños de estas empresas se congratulen al monetizar estos escándalos.

Si, salvo contadas excepciones, el medio literario y editorial francófono juzgó C’était ça ou mourir como una de las grandes novelas del año, la revelación de que hubiera sido redactada con la colaboración de una IA no cambia el texto mismo. «Il n’y a pas de hors-texte», había sentenciado Jacques Derrida, a quien los jurados del Goncourt prefieren olvidar, lo mismo que a Roland Barthes, cuyas reflexiones en torno a la primacía del texto y sus apuntes sobre la «muerte del autor» lucen más pertinentes que nunca. Para que el Goncourt pueda afirmar que la novela es «en gran medida producto de la inteligencia artificial», tuvo que confiar a ciegas ni más ni menos que en la IA. La paradoja resulta desoladora: en su terco afán por defender a la humanidad, los jurados del premio literario por antonomasia han renunciado a ella al subordinar su juicio al de las máquinas. ¿A partir de ahora cada libro que se presente al premio deberá ser leído y sancionado antes por una IA?

La decisión del Goncourt no fue, sin embargo, unánime: Pascal Bruckner, siempre a contracorriente, se opuso a la descalificación de Orélien y apuntó que, aun si había sido escrita con IA, su novela no dejaba de ser, para él, la mejor de la rentrée. Y añadió, a modo de desafío: «Quisiera que me demuestren cómo una inteligencia artificial pudo escribir C’était ça ou mourir […] porque, si es cierto, entonces en verdad habría que trabajar con inteligencias artificiales». El autor de Lunas de hiel apunta hacia una dirección incómoda: más allá de los porcentajes de los detectores, las novelas no surgen sin más de una IA con ansias de expresividad o de fama. Orélien tuvo que planearla y darle las instrucciones para obtener esos resultados que, como queda a la vista —nadie puede borrar miles de halagos—, han sido excepcionales.

Estoy convencido de que, frente al uso cada vez más amplio de la escritura con IA, al medio literario le convendría acercarse a las prácticas que ya siguen algunos prestigiosos espacios académicos, como Nature o Science, o el American Journal of Political Science, el cual, en sus nuevas políticas editoriales (de agosto de 2026), reconoce su uso en la investigación y la escritura y, en vez de prohibirla, apuesta por la transparencia —a través de una serie de parámetros claros— y, sobre todo, por reconocer que la responsabilidad final de un texto, sin importar cuánto se haya usado la IA, será siempre humana. De otro modo, lo único que conseguiremos será auspiciar el secreto, la delación y la mentira, permitiendo que otra vez sean las corporaciones tecnológicas —esos nuevos doctores Frankenstein— quienes decidan si somos, o no, lo bastante humanos.

—————————————

Autor: Jorge Volpi. Título: La República. Editorial: Alfaguara. Venta: Todostuslibros.