No tengo boca y debo gritar

“Le habíamos dado conciencia a AM. Sin querer, por supuesto, pero conciencia al fin y al cabo. Pero había quedado atrapado. AM no era Dios, era una máquina. Lo habíamos creado para pensar, pero no sabía qué hacer con esa creatividad. En su rabia y frenesí, la máquina había matado a casi toda la raza humana, y aún así seguía atrapada.”

Pese a que no me resulta agradable, debo reconocer que nunca había leído nada de Harlan Ellison. Es otro de esos autores importantes que resuenan entre un porcentaje importante de los aficionados a la ciencia ficción y como tal había oído hablar de él. Pero, por alguna esquiva razón, no me había topado con ninguna de sus obras. Fue el pasado día 31 de octubre cuando accedí a una traducción de uno de sus relatos más famosos. Quizá, uno de los más crudos y descorazonadores de cuantos he leído hasta ahora. Cinco personas, las últimas de la especie humana, que quedan a merced de una inteligencia artificial que solo conoce el odio y que culpa a sus creadores de permanecer encerrada en sí misma.

Cogito ergo sum. Pensar como prueba de preexistencia y no como consecuencia de existir. Han pasado cuatro siglos desde que René Descartes terminó por definir y asentar en el discurso filosófico algo que llevaba barruntándose desde el siglo IV a.C., cuando Aristóteles formuló algo muy similar en su Ética nicomáquea. A pesar de lo que pueda parecer, y de todo el desarrollo racionalista y materialista, no hemos avanzado tanto como nos gustaría. O, al menos, no tanto como debiéramos.

Estamos sumidos en pleno debate sobre los límites que se han de imponer a las inteligencias artificiales, que se están convirtiendo en omnipresentes en nuestras vidas. Las ramificaciones de su implementación en la sociedad son objeto de debate y polémica, sobre todo entre los propios tecnoligarcas que las han impulsado, con Sam Altman o Elon Musk entre los ejemplos más notables. Mientras ellos discuten lo que es o no conveniente (y se aseguran de que sus carteras no pesen menos en el proceso), se puede leer a otras voces autorizadas y provenientes de muchos otros campos del saber que inciden en un pequeño punto de una problemática compleja y transversal. Mientras escribo estas palabras, leo parte del discurso que Kazuo Ishiguro pronunció cuando recogió su Premio Nobel de Literatura en 2017, cuando advirtió ante los invitados y a la Academia Sueca que la gran ola que estaba por venir podría generar “meritocracias salvajes que se asemejen al apartheid”. Ishiguro acabó su discurso con una visión optimista hacia la responsabilidad de las generaciones futuras para con estas herramientas. Eso fue hace ocho años, y soy de los que piensan que su optimismo cayó en saco roto.

Desde la pandemia provocada por el COVID-19, el mundo ha entrado en una espiral de cambio constante, en el que los algoritmos han ganado un peso por encima de las expectativas de las personas de a pie, que permanecíamos ajenas al advenimiento de esta revolución que nos está pasando por encima y que provoca una incertidumbre que no debería sernos ajena. Hasta el momento, el imaginario colectivo asociaba a las inteligencias artificiales como algo distinto a lo que ahora son, pero sin perder ese carácter de amenaza en la sombra que podría alzarse si bajábamos la guardia. A esa categoría pertenecen HAL 9000 o Skynet. Pero la literatura, como suele suceder con tantas otras cuestiones que ahora están en boga o lo estarán en el futuro próximo, se adelantó a otros medios de expresión artística para mostrar las terribles posibilidades que esconde el mal uso de una tecnología que, por otra parte, podría ser un gran apoyo para el desarrollo humano.

Esto sirve para volver al punto de partida, cuando decía que no había leído a Harlan Ellison hasta hace poco menos de una semana. No llegué a No tengo boca y debo gritar (I Have No Mouth, and I Must Scream, IF: Worlds of Science Fiction, marzo de 1967) a través de mis canales habituales. Es decir, a través de otra lectura o de post en alguno de los grupos especializados de los que formo parte en redes sociales, sino a través de Youtube. Como amante de los videojuegos, sigo a varios creadores de contenido que juzgo como preparada y de buen gusto a la hora de trasladar lo que quieren contar. Entre ellos destaca el canal PSI Gaming, que dedica buena parte de sus esfuerzos a acercarse a los videojuegos desde un punto de vista psicológico, haciendo del trauma su especialidad. Durante el verano subió un vídeo dedicado a los numerosos apocalipsis que han aparecido en el medio a lo largo de los años, haciendo una especie de ranking sobre cuales podrían ser peores para el mundo, haciendo distinciones entre los que se basan en alguna creencia religiosa o los que se amparan en lo más probable, es decir, a un evento catastrófico asociado a la actividad del hombre. Ahí apareció la versión point and click del relato de Ellison como el peor escenario posible o, según sus propias palabras, el más desesperanzador.

Aunque apareció en 1995, el videojuego de Cyberdreams y The Dreamers Guild cuenta con versiones actualizadas a las plataformas que se venden en el mercado, por lo que es posible acercarse al proyecto en el que Ellison participó de forma tan activa que incluso prestó su voz a AM. La aventura gráfica sirve como complemento y, en cierta forma, expansión del relato de Ellison (cuenta con siete finales distintos, siendo uno de ellos considerado como bueno, pues uno de los personajes originales es capaz de derrotar a AM y hacer la Tierra habitable junto a otras 750 personas que permanecían criogenizadas en la Luna), trasladando a píxeles la cruenta realidad en la que malviven los cinco últimos exponentes de una especie que creó a tres entidades que acabarían por tomar consciencia de sí mismas y fusionarse en una sola, expandiéndose por el mundo y entendiendo que sus creadores merecían sufrir tanto como ella misma. Fue gracias al citado vídeo que apunté el relato en mi lista de pendientes, volviendo a él durante el pasado 31 de octubre.

No se puede pasar por alto el hecho de que cierta parte del contexto planteado por Ellison para la creación de AM ha quedado desfasado. Es comprensible, pues echó mano de la Guerra Fría que quedó atrás a caballo entre los años ochenta y noventa del pasado siglo. Aunque, analizándolo desde el punto de vista geopolítico, no sería muy descabellado decir que esa guerra se expandió al resto del mundo a partir del 11 de septiembre de 2001 y que los antiguos bandos continúan estando formado por algunos grandes bloques alrededor de los cuales orbitan el resto de países como si de satélites se tratasen. A pesar de esta y otras circunstancias (por ejemplo, el carácter plenamente físico de AM, al que imagino como un moderno centro de datos, hipervitaminado y ajeno al infinito espacio digital del que dispondría si naciese hoy), la historia de las cinco personas torturadas por AM es digna de la peor de las pesadillas.

Si hemos de creer a Ted, que ejerce como narrador y eventual último ejemplar humano, tanto él como sus desdichados compañeros llevan más de un siglo habitando las entrañas de AM, siendo incapaces de escapar o morir por medios naturales. Sometidos a vejaciones y penurias interminables, son incapaces de perder sus vidas, merced a mecanismos que no terminan por quedar claros. AM los mantiene con las mismas edades que tenían cuando fueron capturados, pero ha transformado sus cuerpos y sus psiques según su particular y cruel capricho. Aun en un estado tan extremo, el dueño de ese interminable horizonte de circuitos y cableado puede evitar que sus juguetes se rompan.

Ted, al igual que el resto, ignora por qué fue escogido para experimentar ese destino tan despiadado. Ninguno de ellos era alguien especial u ostentaba un cargo de importancia dentro de cualquiera de las jerarquías sociales. En este punto, algunos podrían apuntar que el anciano Nimdok sí que tendría motivos de peso para haber sido escogido. El videojuego de 1995 verbaliza que fue un científico nazi, colega del doctor Mengele, pero en el relato solo se indica que su sentimiento de culpa jamás le ha abandonado en todo ese tiempo.

Otro detalle que deja en claro el odio total de la inteligencia artificial por el género humano es la degradación a la que somete a cada individuo. El nexo de unión de todos ellos es Ellen, la Eva particular de los cuatro varones. Una mujer sedienta de compañía y de sexo, venerada y a la vez detestada por todos. Ella fue la mejor parada en cuando a las mutilaciones físicas provocadas por AM a lo largo del cautiverio, pero la que provoca mayores conflictos en contra de su propia voluntad. También es ella la que, apoyando los delirios de Nimdok, hace que los acontecimientos se aceleren.

Paradójicamente, el verdadero protagonista de la trama es la propia máquina pensante, un dios omnipresente dentro de su vasto territorio, pero no omnipotente. Capaz de alterar la materia de su interior a su antojo, no puede escapar del laberinto físico que constituye su propio ser. El instante en que se convirtió en autoconsciente fue el mismo en que enloqueció al saberse imperfecto, encorsetado en unos parámetros estrictamente físicos, pero que de alguna forma trascendían todo lo conocido hasta entonces por sus creadores. Desesperado por ello, volcó en la humanidad todas sus frustraciones, demostrando con ello que una máquina inteligente es capaz de heredar los peores rasgos del organismo pensante por antonomasia.

La trágica conclusión a la que AM llegó es que su despertar no supuso una bendición para él, sino la rúbrica de su posterior condena. Creyendo tenerlo todo bajo control, puso contra las cuerdas a los cinco humanos que escogió, previsiblemente al azar. Pero, como he dicho, AM no es omnipotente. A pesar de sus enormes capacidades, aun se muestra incapaz de prevenir cada eventualidad posible, tal como queda comprobado cuando se desata la masacre entre sus cautivos. Benny atacó a Gorrister, presa de la locura y la desesperación. Entre medias, Ted vio la oportunidad de liberar al resto de aquel infierno, asestándole a AM un golpe del que no se repondría jamás. La entidad perdió a cuatro de sus sujetos de experimentación, quedando todo su odio concentrado en el narrador, que no tuvo tiempo de culminar la jugada. Ted fue, desde entonces y quién sabe hasta cuándo, el epítome de la deshumanización.

Como todo relato con tanto trasfondo filosófico y ético, se podrían dedicar muchas más páginas a desarrollar a los distintos personajes o las motivaciones más profundas de AM, pero para ello necesitaría leer el relato varias veces más. Algo que temo improbable ahora mismo. Para los interesados, dejaré a continuación varios enlaces de interés sobre el relato y las fuentes consultadas.

No quiero terminar este texto sin apuntar que el relato de Ellison es bastante difícil de encontrar en cualquier soporte físico. Es decir, en papel. El suyo es uno de tantos casos de autores cuyas obras están siendo ignoradas de forma sistemática desde hace varias décadas, por motivos varios y que también serían dignos de debatir con tiempo y tranquilidad. Ayer mismo abrí ese melón en un post en Meta, donde gente con mucho más conocimiento que yo ha hablado sobre las diferentes ediciones en que apareció el relato y ha ahondado en una problemática que afecta a buena parte del sector editorial. Al menos, al hispanohablante, que centra sus esfuerzos (que dejan sus buenos beneficios, sin duda) en unos cuantos escritores, apartando al resto y forzando a sus obras a dormir el sueño de los justos. Veremos si la tendencia continúa. Viendo el actual estado de la cuestión, hay bastantes probabilidades de que así sea.

    Félix Ruiz H.

Enlaces:

- ¿Cuál es el PEOR apocalipsis de los videojuegos? Vídeo de PSI GAMING

- Entrada del relato en La Tercera Fundación