Por: Paola Muñoz
Siempre que aparece algo que no entendemos sentimos miedo o, cuando menos, incertidumbre. Por eso las historias de máquinas que ayudan a la humanidad y luego se revelan en su contra han sido recurrentes en la cultura popular y la ciencia ficción. Parecería que la tecnología ha ocupado el lugar de la magia en el siglo XXI. Este rechazo por el desarrollo tecnológico no es nuevo. Basta con remitirnos a la Grecia clásica cuando una de sus figuras más relevantes, Sócrates, criticó a la escritura. En aquel entonces la forma de conocimiento era la oralidad. Sócrates decía que el verdadero conocimiento no está en la escritura. Su argumento se basaba en el hecho de que al escribir se puede modificar, incluso, manipular lo dicho. Pasar al soporte lo que está en la memoria, decía, nos empobrece porque nos ahorra el tener que articular el discurso en la mente. Sócrates nunca escribió nada. Lo hizo su discípulo Platón.
El miedo ha estado presente incluso con tecnologías tan antiguas como la escritura, que tiene más de 6000 años. Con el lanzamiento en noviembre de 2022 de ChatGPT, un chatbot de Inteligencia Artificial (IA) que puede redactar textos, responder inquietudes e incluso escribir guiones en segundos, se ha abierto el debate sobre si existe el riesgo de que en algún punto las IA empiecen a pensar por nosotros y, no que nos destruyan, pero sí que nos manipulen o condicionen. Hay quienes se preguntan cómo el delegar la escritura a una máquina puede afectar al ser humano, si el lenguaje es básicamente pensamiento. Esta idea ha cobrado impulso porque la IA puede entablar una conversación por chat como si fuese un humano. Para muchos la naturalidad de las respuestas denota una conciencia que las IA aún no poseen.
Jorge Carrión, escritor y académico, acaba de publicar el libro Los campos electromagnéticos en coautoría con Chat GPT-2 y 3. Supe del libro desde enero porque lo contacté para pedirle una entrevista sobre el lenguaje y la inteligencia artificial y me adelantó que la publicación estaba en vísperas. Aceptó y me ofreció su manuscrito.
He hecho muchas entrevistas en diferentes formatos, pero hasta ese momento nadie me había pedido hacerla por WhatsApp. Supongo que en los tiempos en los que mantenemos diálogos con un algoritmo a través de una computadora, esto ya no podría considerarse extraño.
Hay un punto de convergencia en tus obras: la circulación de la cultura. En ese camino has criticado a los algoritmos, las plataformas, las macroestructuras… Y ahora llega Los campos electromagnéticos en coautoría con Chat GPT-2 y 3. ¿Consideras que te ubicas en el centro entre la tecnofilia y la tecnofobia?
Vengo de asistir a cursos de doctorado en humanidades y de escribir una tesis doctoral sobre literatura comparada. Esa disciplina y esas lecturas eclipsaron mi pasión por los superhéroes y la ciencia ficción de la adolescencia. De algún modo, mis libros, tanto de ficción como de ensayo, buscan un equilibrio o al menos un diálogo fértil entre esas dos tradiciones que me constituyen. En efecto, desde la perspectiva de las plataformas del conocimiento, con textos sobre librerías, bibliotecas, museos y plataformas digitales, buscando la forma de que lo clásico y lo viral convivan en un mismo proyecto, al igual que lo hacen en nuestras vidas cotidianas.
¿Cuáles son los principales cambios que anticipas por la mutación del lenguaje natural, debido a la IA, en nuestra percepción sobre la escritura?
No me gusta predecir, porque siempre te equivocas. Pero el hecho de haber trabajado durante dos años con GPT2 y GPT3, y haber visto en directo la explosión del ChatGPT3, es decir, de la IA conversacional, me lleva a intuir que esta aceleración va a ser exponencial. En estos momentos los textos generados por redes neuronales de aprendizaje profundo ya están invadiendo internet. Estamos leyendo escrituras no humanas sin saberlo. Esto no va a parar de crecer. Supongo que pronto la relación con el lenguaje va a cambiar radicalmente, a nivel ontológico, porque va a cambiar su ser.
¿Consideras que el código es el gran lenguaje de nuestra época?
Es el lenguaje que genera la estructura profunda. Pero los algoritmos de escritura están generando también el otro lenguaje, las lenguas, lo que recubre la superficie de las pantallas. Se han vuelto bilingües o multilingües. En mis últimas novelas de ciencia ficción Membrana, Todos los museos y en mi pódcast Solaris, intenté pensar y escribir como ellos. Imaginé a la narradora plural de un museo del año 2100, a un personaje llamado Mare o Vosotres de un futuro más cercano. Era coherente, creo, pasar a escribir con ellos. Y es lo que he hecho en Los campos electromagnéticos. No sé programar, pero mientras escribo voces algorítmicas o junto a ellas me imagino ceros y unos, instrucciones debajo de cada palabra. En su reverso. Al otro lado de la página o de la pantalla.
¿En el caso de Los campos electromagnéticos hay una mutación literaria que se soporta en la edición tradicional, pero este proceso no ocurre siempre. Pensemos, por ejemplo, en los casos que mencionas en Membrana: el genocidio que se impulsó desde Facebook en Birmania, el algoritmo psicópata del MIT, los algoritmos de Facebook que fueron cancelados por utilizar un código propio. ¿Dónde debería ubicarse un filtro humano, un límite, una curaduría?
Cada caso, cada proyecto es distinto. En Membrana, que es ficción, la curaduría del museo del siglo XXI la hace una inteligencia artificial (aunque en verdad la hago yo). En Los campos electromagnéticos los límites los ponemos Taller Estampa y yo. En el mundo de la empresa y las instituciones deben establecerse comités éticos que evalúen cada nuevo cambio, cada nueva innovación, para tratar de controlar los daños o las mutaciones que provocará la inteligencia artificial en la estructura. A nivel macro, urge regular sistemáticamente a nuestros nuevos robots cotidianos.
¿Y qué pasa en el ámbito educativo? Tú diriges un máster de escritura creativa. Sabemos que componer textos escritos sirve para afirmar ideas, para aclararlas u ordenarlas. ¿Crees que la IA aplicada al procesamiento de textos podría perjudicar, desde un punto de vista pedagógico, a ese proceso?
Perjudica a los sistemas establecidos, pero la educación no debe regirse por inercias y estructuras rígidas, sino por novedades y mutaciones constantes. La IA pone en jaque la pedagogía tal y como la conocemos. Hay que reformularlo todo. Hay que releer a Jacques Rancière. Hay que reivindicar la escritura manual y las exposiciones orales. Hay que introducir la programación y el estudio de la IA en el aula. Y sobre todo los profesores deben reciclarse, urgentemente.
Si se hace popular la escritura automatizada, ¿crees que se revalorizará la artesanal, la crónica, el reportaje?
En Membrana digo que a finales de este siglo hay autores que solamente escriben a mano y publican en facsímil caligráfico. Está claro que habrá sistemas informáticos forenses que sabrán diferenciar la escritura humana de la artificial, pero de momento la forma más evidente de diferenciarlas es la caligrafía. Pero, ¿cuánto tardarán en aparecer los programas de escritura caligráfica artificial? Nada de lo que podamos imaginar hoy en día puede escapar de la ciencia ficción y entrar en la realidad.
De momento las IA no piensan ni imaginan. Solo poseen algunos de los elementos que componen la inteligencia. ¿Cuándo ves la singularidad, es decir, el desarrollo de esa conciencia?
Es la pregunta del millón, de la que nadie tiene respuesta. Los grandes expertos mundiales en IA dicen que estamos lejos, pero nunca sabes cuándo llegará una disrupción fuerte. ¿Con la computación cuántica, quizá?
Estamos en un momento histórico, en el que se renuevan las narrativas en el Antropoceno, como dices en tu libro. Sin embargo, hay muchos detractores de la IA, entre otras cosas, por los casos en los que ha mentido o se ha equivocado. ¿Es responsable o incluso ético dejar que las IA nos cuenten el mundo a través de la literatura, el periodismo, la ciencia, los guiones de TV o cine, etc.?
Hay muchos tipos de IA y muchos humanos e instituciones implicados en su acceso a la infoesfera. Los campos electromagnéticos quiere ser un ejemplo de una colaboración ética y creativa. Membrana es una distopía y Todos los museos y Solaris son más bien utópicos. Que cada lector o usuario decida su lugar y su ética o poética. Pero en la escala estatal y global no hay duda que sí hay que regular y legislar. No sé cómo, soy solamente un escritor y un lector interesado en el tema, no un experto.
Para ti, ¿cuál es la mejor tecnología para escribir?
Casi todo lo escribo en mi ordenador portátil. Pero antes de empezar a escribir un libro por lo general hago esquemas y tomo apuntes en un cuaderno. Las notas y los dibujos y los recortes me ayudan a pensar en el fondo, en el núcleo del proyecto. La escritura en el teclado recubre ese centro de lenguaje.
La relación entre la humanidad y la tecnología no es nueva, pero los escenarios distópicos aun cuando ya no están tan de moda se siguen produciendo. ¿Crees que superaremos las narrativas apocalípticas respecto de la tecnología o qué debe pasar para ello?
Las narrativas catastrofistas y negativas son más dramáticas, dan más juego literario y cinematográfico. Terminator, Matrix, El cuento de la criada, Black Mirror. Tanto en mis novelas Los muertos, Los huérfanos y Los turistas como en las más recientes he intentado intervenir críticamente esos imaginarios. Pero es difícil. Como tú misma decías antes, la participación de Facebook en un genocidio o la creación de una IA psicópata por parte del MIT son hechos, son realidades.
Las narradoras de tu libro Membrana quieren convencernos de que el futuro pasa por la IA, pero el hecho de que el museo que muestran esté en la Amazonía de alguna manera da cuenta de que tú confías más en el biocentrismo. ¿Es así?, ¿por qué?
Los tecnoutópicos venden un discurso de smart cities, metaversos y coches autónomos que solamente tiene sentido si todavía hay árboles y podemos respirar. La Argentina caribeña que imagina Michel Nieva en La infancia del mundo es muy divertida, pero yo prefiero que no exista. Y para ello la tecnología de última generación se debe aliar con la vida. Podemos descifrar los lenguajes animales gracias al deep learning. Y podemos idear geoingenierías sostenibles si ponemos el dinero al servicio del planeta Tierra y no para encontrar un quimérico Planeta B.
¿Por qué preferiste hacer la entrevista por chat?, ¿cambia algo para ti?
Me permite hacer las entrevistas sin interrumpir mi vida. Mientras te contestaba he recogido a mis hijos en el colegio, les he preparado la comida o he puesto el lavaplatos. Por otro lado, permite borrar y editar sin perder la frescura de la conversación. Me parece una tecnología muy amable.
¡Madre mía!
