Por Miguel Ángel Santamarina/Zenda
David Bowman lo tiene crudo. Le ha tocado un juez de OpenAI, quizás con uno de Anthropic hubiera tenido alguna oportunidad. El astronauta no imaginó acabar así cuando desconectó a HAL 9000. Esta sí que está siendo una verdadera “Odisea”. Ahora los robots y las IA tienen derechos, los mismos que los seres humanos, pero encima juegan con ventaja: el sistema judicial está controlado por las empresas de inteligencia artificial. Bowman no acabará en una cárcel porque es un personaje de ficción, pero ¿qué ocurrirá en un futuro —cercano o lejano— cuando las IA se inserten en nuestra sociedad de tal forma que empiecen a ser considerados ciudadanos con los mismos derechos que el resto? Sobre estas cuestiones y otras muchas —todas jugosas e interesantes, como la afirmación de que las religiones son las verdaderas IA primitivas— escribe Agustín Fernández Mallo en su magnífico ensayo El ángel de la inteligencia artificial (Galaxia Gutenberg). El libro arranca con un planteamiento brillante: la IA primitiva —la actual— la debemos entender, de forma metafórica, como un Ángel guardián al servicio de Dios; y la IA evolucionada —todavía no existe y no sabemos si lo hará— será un Ángel caído, desprendido de la divinidad, con voluntad propia. A partir de ahí, comienza una montaña rusa de hipótesis, preguntas y deducciones, desde la metafísica, la antropología y la biología, para intentar entender el mayor reto de la humanidad hasta el momento, la creación de una inteligencia superior, que a día de hoy es el chico de los recados, pero que si logra la singularidad puede convertirse en el sheriff del mundo ciberpunk que, según auguran —o quieren— algunos, se avecina.
Hablamos con Agustín Fernández Mallo del peligro de externalizar nuestras vidas para que las IA lo resuelvan todo, sobre los derechos que perderemos si se los damos a la inteligencia artificial y acerca de la narcisista pulsión humana de querer crear algo superior a nosotros.
***
—Leo en su breve aproximación a la idea del Ángel caído, al principio del libro: “lo que damos en llamar IA ni es inteligencia en el sentido estricto —equivalente a la humana—, ni es más ni menos artificial que el ser humano mismo”. Empezamos ya con un problema de terminología.
—En mi opinión sí. “Inteligencia artificial” es una metáfora que, pasados unos años, no sé cuántos, puede que nos riamos de ella, igual que nos hace gracia oír “cerebros electrónicos”, que es como llamaban a las primeras calculadoras. El lenguaje informático, en general, ha trabajado con metáforas antropomorfizando las cosas: nos hablan de memoria del ordenador como si fuera una memoria humana. La forma de trabajar de una memoria de un ordenador no tiene nada que ver con la de la memoria humana. El lenguaje informático —que, en realidad, no es un lenguaje, sino un código— lo humaniza de alguna manera. La inteligencia artificial no es inteligente en el sentido humano, no tiene esa inteligencia compleja, porque es potencialmente inmortal: en su experiencia no está la idea de que puedan morir. Y no son ni más ni menos artificiales que nosotros. Tú y yo somos artificiales, nuestro lenguaje es artificial. Esto es algo que he abordado en otros libros: el mito de lo natural. Eso es algo que no existe. Todo lo que hace el ser humano es artificial.
—Explíquenos esa metáfora de la IA singularizada —el supuesto momento en el que escape del control humano— y el Ángel caído.
—Empiezo a trabajar en el concepto de “El Ángel caído” cuando me entero de que el cerebro humano puede hacer todo lo que hace con 25 vatios de potencia, que es lo que necesita una bombilla. El cerebro humano es un elemento de una eficacia absoluta. ChatGPT —que sólo contesta cosas sencillas, sin formular grandes teorías— necesita una potencia equivalente a una ciudad de 10.000 habitantes. Si comparas estos dos gastos energéticos, evidentemente la IA no es eficiente desde un punto de vista material. Por otro lado, me interesan mucho la antropología y la teología. Me di cuenta de que, en realidad, no estamos creando un cerebro como el humano. Al contrario, estamos haciendo un cerebro cada vez más grande a través de modelos algorítmicos; a través de la electrónica, no a través de la biología. No se trata de imitar un cerebro igual al humano, sino que van en la dirección contraria: cada vez más gasto energético con un aumento de entropía bestial. Y ahí es cuando me pregunto “¿Qué estamos haciendo”. Y ahora contesto a tu pregunta. En todas las religiones y en todos los pensamientos antropológicos hay siempre un ser que se desprende del Creador, que cae a tierra y que toma voluntad propia. Y esto es lo que estamos haciendo. Estamos creando un ser que es como el humano y que quiere ser como el humano y que tenga voluntad propia. Y eso solamente es un Ángel caído. Una figura que ha sido ficcionada por la ciencia ficción, e incluso por la teología con el Gólem judío. El propio Jesucristo podría ser considerado un Ángel caído —aunque este punto no está en la tradición cristiana— al desprenderse del Creador para beneficiar a los humanos, no para destruirlos. Hay esa idea en el ser humano de querer construir algo que nos supere; lo cual es una paradoja. Antes eran las religiones: creábamos un Dios para pedirle cosas —¡por favor, que llueva!—, para que las hiciera por nosotros. Al final, es una pulsión que está dentro de nosotros y que tiene que ver con la creación de una inteligencia artificial.
—Necesitamos constantemente un Deus ex machina que arregle nuestros problemas.
—Absolutamente. Sí. Como en las obras de teatro griego, cuando llega el Deus ex machina y dice: “Aquí lo soluciono todo”. Necesitamos eso, pero sabemos que ese es un recurso de una mala narración, una mala novela o una mala obra de teatro. Como ocurre en las novelas de Agatha Christie —me he leído muchas— que te ocultan información y luego llega Poirot y dice: “Esto ya lo sabía yo”. (Risas) Es también un Deus ex machina porque tú, como lector, lo desconocías. Hay un poco de ese truco. Fíjate en la gran cantidad de profetas y apologetas de la IA versus los detractores absolutos. Esto tiene un aire teológico total, como cuando surgieron el cristianismo o el islamismo.
—Hay un concepto que sobrevuela el libro, IA evolucionada. Afirma en su obra que si en algún momento futuro una IA puede ser calificada de IA evolucionada y compleja, vendrá derivada de la biología, no de la informática.
—Una IA evolucionada —a diferencia de la primitiva que tenemos ahora— sería como un cerebro humano. Y crear ese cerebro humano sólo se puede hacer desde la biología. La vía algorítmica no puede llegar a algo tan eficiente como un cerebro humano, que funciona con 25 vatios de potencia. El camino actual lleva al colapso por ineficiencia: no puedes consumir todos los recursos del planeta para hacer un cerebro equivalente al humano. Y es que además no tendría sentido porque para eso ya estamos los humanos. Hay otra cuestión de base que me he preguntado muchas veces, y que para mí es en realidad la clave: ¿por qué el ser humano se empeña en hacer inteligencias como las humanas? Hacerlo a través de objetos inertes, llámalo Frankenstein, Pinocho, el Golem, Pigmalión, IA o lo que tú quieras. Cuando además los seres humanos estamos creando cada día inteligencia en la reproducción, cada día nacen niños y niñas. ¿Por qué nos empeñamos en crear algo equivalente a esos niños y a esas niñas? Querer crear un cerebro humano es absurdo. Lo que sí es lógico es crear una máquina que resuelva cosas más rápidamente que nosotros; como ocurre con las calculadoras, no suman y restan más rápido que nosotros. Hoy día esas máquinas están solucionando problemas de alta cosmología, de alta física. Eso es correcto. Pero eso no quiere decir que sean más inteligentes que los humanos. Ahí tenemos un gran error cultural, de educación y pedagógico. Sería como decir que un avión es mejor que un pájaro. No. Un avión es un avión y un pájaro es un pájaro. Son dos cosas diferentes. Cuando los ingenieros quieren crear algo que vuele, no pueden intentar imitar a los pájaros. Leonardo da Vinci fracasó porque intentaba hacer un pájaro como un hombre, con alas, con plumas… Luego llegó la aeronáutica y dijo: “Vamos a hacer otra cosa”. Bueno, pues esto es algo parecido. Creamos unas IA para que resuelvan problemas, pero desde luego no son inteligencias humanas ni van por el camino de serlo. (Piensa) Quiero introducir algo más técnico, más preciso. La biología es el mundo del ruido. El ruido en el sentido físico del término, de la materia que produce errores porque está moviéndose; en la materia práctica lo da la temperatura. Tenemos temperatura porque las moléculas de los cuerpos se están moviendo y chocando. Esos errores, a veces positivos, llevan a la evolución. Un error que, de repente, se conforma como una mutación, y que al final es beneficioso. Este es el mecanismo de la biología: trabajar a través de errores positivos. Bien, el mundo algorítmico no va por ahí, no aprende de errores radicales positivos. El mundo algorítmico, cuando falla, intenta corregir ese algoritmo. Punto. No intenta hacer algo creativo con ese error. La biología siempre necesita avanzar a través de errores. Eso es lo que se llama el tiempo termodinámico. No es el tiempo del reloj, sino el tiempo que mide el aumento de entropía del universo y de las cosas. La entropía que sólo ocurre cuando el mundo deja una huella de envejecimiento o una herida. Eso es la entropía, el envejecimiento de las cosas, y es lo que nos hace tener una certeza de la mortalidad, de que algún día nos moriremos. Y eso es lo que no tiene una IA, porque una IA no tiene cuerpo, por lo tanto no puede sentir ni saber que ese cuerpo se va a destruir. Por eso una IA es potencialmente inmortal.
—¿Llegará la IA a tomar conciencia de su inmortalidad, como ser individual y como colectividad de inteligencias?
—Tenemos que partir de hipótesis. Esto no lo podemos saber. La IA puede llegar a saber que los humanos se mueren, que por muchos datos y mucha energía —comida— que recibamos, al final nos moriremos. Y ella no. No podemos saber qué pensaría una IA evolucionada, pero, desde luego, el lenguaje metafórico, el lenguaje que nos hace tener fantasía, el lenguaje, como digo en el libro, de las preguntas, ese lenguaje retroproyectivo, que es el lenguaje de la fantasía y del arte, eso una IA aún no sabe cómo se puede hacer. Como explico en el libro, las IA de momento trabajan con inferencias o razonamientos deductivos e inductivos, pero no abductivos.
—¿Por qué se excluye el razonamiento abductivo de la programación?
—No es que se excluya, es que no se sabe cómo se puede introducir. La programación no tiene ni idea. Lo cual tiene mucho sentido en el fondo, porque el pensamiento abductivo, con el que nos manejamos los humanos en el día a día —inferencias que son medio verdad y medio error—, no se puede implementar en una IA porque no se puede programar algo que es erróneo. Tú no puedes programar algo que es ilógico. A lo mejor podrás crear una IA que delire, que haga cosas extravagantes, pero ¿eso de qué nos sirve? Para eso ya estamos los humanos, para hacer cosas extravagantes. No sabemos cómo implementar el pensamiento abductivo en una máquina. Y es bastante lógico porque el pensamiento abductivo emana del error de la biología, no de los algoritmos.
—Recurre a Kavafis y a su poema “Esperando a los bárbaros” (¿Y qué va a ser de nosotros ahora sin bárbaros? / Esta gente, al fin y al cabo, era una solución) para explicar por qué tenemos ese miedo a la inteligencia artificial, y también el miedo a que no esté.
—Correcto. Por un lado está el miedo teológico a un apocalipsis, a que el mundo se acabe. Todas las civilizaciones tienen su propio apocalipsis transmitido verbalmente o mediante escritura. Es un miedo humano, tenemos miedo a lo desconocido, miedo a los bárbaros. Y por otro lado, los Estados tienen ahora mismo un reto: esperar a los bárbaros, representados actualmente por las IA. El reto es ver hasta qué punto los Estados van a dejar entrar dentro de sus cuerpos a las IA, que tomen decisiones que puedan afectar a los ciudadanos. Éste es un reto importantísimo, equivalente al que tuvo Roma cuando vio que llegaban los bárbaros: por un lado podían ser beneficiosos como mano de obra y por otro podían destruir el derecho romano. Estamos ante un momento muy importante, crucial, como ocurrió hace un siglo cuando muchos países se conformaron como Estados y decidieron qué hacer con los mercados. El mercado es una suerte de bárbaro que está ahí siempre esperando. ¿Hasta qué punto deja un Estado que el mercado maneje bajo sus propias leyes? A partir de ahí, surgen diferentes políticas en todo el mundo: los proteccionistas absolutos —como Corea del Norte, que no deja entrar a nadie— y los liberalismos salvajes. Y entre esas dos posturas hay todo un marco de grises. Ahora tenemos ese mismo dilema con las IA porque éstas pueden minar al Estado hasta que desaparezca. Últimamente tenemos a los tecnófilos, como Elon Musk, que ya están abogando por esa idea. El Estado desaparece y aparecen las IA manejando esa especie de utopía, en este caso sería una distopía. Aunque nos parezca ciencia ficción, este reto está ahí y es importantísimo. El gran riesgo final es que dejemos que las IA sean sujetos de derecho, entonces estaremos totalmente perdidos.
—Hay una reflexión en el libro a la que sigo dándole vueltas. Afirma que la IA solo tiene historia, que no tiene memoria, no maneja las sensaciones y la experiencia de esos datos. Voy a desvariar un poco si me lo permite: una IA puede llegar a interpretar el Holocausto, o la peste de la Edad Media, como positivos porque equilibraron la población de Europa, al no tener una memoria de ese dolor.
—Ese es un ejemplo muy bueno. La IA como no tiene memoria, no tiene experiencia porque no tiene cuerpo, y por ese motivo no puede tener esa experiencia de dolor de la que hablas. No siente dolor. Por ese motivo no puede nunca crear esa empatía con el holocausto, con esa peste negra, con lo que tú quieras. Puede simular que la tiene y puede decirnos: “¡Ay, qué pena, pobres!”, pero sólo porque sabe que hay una cosa llamada humanos y que sentimos dolor. Por eso mismo —abro un paréntesis—, me parece una barbaridad que muchas personas, sobre todo adolescentes, usen al ChatGPT como psicólogo o como psicoterapeuta. Una IA siempre te va a dar la razón y siempre te va a engañar. Puede simular que te entiende y que es empática, pero no lo puede ser; sólo tiene historia, es decir, datos, y no tiene memoria. No siente el tiempo termodinámico, porque no tiene heridas, no envejece. La entropía no pasa por ella, la decadencia entrópica no pasa por ella; ni siente, ni padece.
—Según declaraciones de Sam Altman, creador de OpenAI (ChaptGPT), de finales de julio de este año —después del ataque de varios agentes de IA de su empresa a Hugging Face— habríamos alcanzado ya la singularidad de la IA. ¿Se lo cree?
—Creo que no hemos alcanzado la singularidad. Es una obviedad. No entiendo por qué Sam Altman ha dicho esto. No hay una singularidad porque ésta se produce cuando las máquinas se desprenden del humano. Se puede referir a singularidad porque puede haber máquinas que llegan a tomar decisiones por su cuenta y eventualmente pueden cometer algún desastre. Pero eso ya ocurría antes, un piloto automático de un avión, si lo dejas solo, a lo mejor acaba estrellándose. En mi libro La forma de la multitud (Galaxia Gutenberg, 2023) cuento cómo unos bots colapsaron hace años la bolsa mundial al tomar decisiones por su cuenta. La palabra “liarse” y la expresión “tomar decisiones” para mí ya son metáforas, metáforas que estamos antropomorfizando. El ser humano lo antropomorfiza todo. Por ejemplo, vemos una fotografía de nuestra abuela, de nuestra pareja, y decimos “¡Qué bonito”, o lloramos o nos enfurecemos. ¿Por qué? Porque estamos proyectando en un papel donde no hay ningún ser humano. Estamos antropomorfizando el papel que es una fotografía. ¿Qué es el arte? El arte es cuando alguien te hace ver que hay algo allí donde no hay nada. Eso es el arte y es la magia y la maravilla del arte. Tú ves Las meninas, y no hay nada. Es una tela con pigmentos, pero tú ves esa magia, ese truco de prestidigitación. Acabamos delirando de alguna manera y viendo cosas donde no las hay. Lo antropomorfizamos todo y también lo sexualizamos. Esa es la causa de que digamos que los bots se comunican entre sí, que crean alianzas. En realidad, son entes que ni sienten, ni padecen, ni saben lo que están haciendo. Esto es algo que está en el ser humano y por eso nos gustan las fotografías, el arte o las películas.
—Las de Disney.
—Eso es un desastre. No hay mayor corruptor de menores en el siglo XX que Disney. Esto es a lo que llamo la mascotización del mundo, y que entronca con lo que estamos hablando. A algo que no es humano le atribuimos características humanas, una psique humana y deliramos con ese objeto, lo usamos como sparring para hablar con nosotros mismos. Tú le hablas a tu perro, pero él no se entera de nada. El perro es “el otro” absoluto, el animal es “el otro” absoluto. Deliramos con la idea de que nos están entendiendo y le atribuimos algo antropomórfico. Por eso la gente hace cosas ridículas como vestir a los animales y todavía dicen que respetan a los animales; lo que están haciendo es matar su animalidad, no le dejan ser él, no le dejan ser ella. La mascotización del mundo y la IA funcionan como pulsiones casi libidinales humanas que pertenecen a lo mismo: a través de objetos inertes, como son piezas, tornillos, algoritmos y lo que tú quieras, creamos algo equivalente al humano; y, por otro lado, cogemos animales que no son humanos, evidentemente, y los queremos hacer humanos al hablarles y vestirles. Ambas son pulsiones delirantes. Lo de las mascotas es un delirio controlado, pero lo de las IA se nos puede ir de las manos cuando las hagamos sujetos.
—¿Tendrán las IA en un futuro, cercano o lejano, los mismos derechos que un ser humano?
—No entiendo por qué no se debate más sobre esto, porque para mí éste es el problema más importante y fundamental de todo lo que estamos hablando. Ahora mismo, si una IA te incordia, la desenchufas y ya está. En el momento en el que sea un sujeto de derecho, eso mismo es un asesinato. Esto parece un delirio, pero ya hay personas hablando de los derechos de los robots. Hemos antropomorfizado a los robots que circulan por nuestra casa. Muchos parecen humanos y nos dan pena. Son iguales que una inteligencia artificial abstracta que está en una pantalla que no sabe ni lo que es ni lo que dice, pero como están más antropomorfizadas por su propia forma física, decimos: “Pobre robot”, como si fuera R2-D2, el de la Guerra de las galaxias. Se está planteando que los robots tengan derechos e incluso obligaciones fiscales. Porque si echamos a los trabajadores de una planta industrial de coches o los de un despacho de contables y metemos a robots, ¿éstos tienen que cotizar? A partir de aquí, entramos en un delirio peligroso, sobre todo porque en el momento que le das derechos a alguien, se los quitas a otro. Esto es algo que ocurre incluso con los Derechos Humanos. Cuando le das derechos a alguien o a algo, sea un ente jurídico o físico, estás restando derechos a un tercero. Cuando les demos derechos a las IA, nos los estaremos quitando a nosotros mismos.
—La siguiente pregunta es suya, la he cogido de su libro: ¿para qué necesitamos los humanos una IA superior a la nuestra si con ello tan sólo sellaríamos nuestro sometimiento a ella?
—Es lo que estábamos comentando al principio, la necesidad de esa pulsión de crear algo superior a nosotros. Como las religiones y también los propios Estados. Un Estado es algo que creamos los humanos que es superior a nosotros; aunque nos sometamos a él, nos procura más beneficios que perjuicios. Con las IA debería ser lo mismo. Pero hay mucha gente empeñada en crear una IA que nos dé perjuicios o que nos obligue a someternos a ella. Surge también el problema de la externalización absoluta. Estamos externalizando nuestro propio cuerpo. Desde pedir comida hecha porque ya nadie sabrá cocinar —que ya empieza a ocurrir, poca gente sabe ya hacer un pollo a la cazuela— a preguntarle a una IA cómo se resuelve un problema. Esa externalización termina sometiéndote porque aprender, a un nivel educativo, consiste en pensar, trazar un camino con sus dificultades, sus errores, sus aciertos para llegar a un lugar, a una solución. Si todo lo tienes externalizado, no llegas a ninguna solución por ti mismo. Si una IA te da la solución, tú no has hecho el trayecto, no lo has investigado, no has vivido ese proceso para saber cómo se hace ese pollo a la cazuela. Debemos tener mucho cuidado con esa externalización que parece muy cómoda y que nos resuelve muchos problemas. Porque en el momento en el que tentamos todo externalizado, es cuando habremos creado algo que nos habrá hecho inútiles y es cuando terminaremos sometidos. Habrá quien dirá que esas IA deberán tener alguien que las controle. Pensemos en grandes empresas como Meta o SpaceX, ¿quién les va a pedir rendir cuentas cuando se han preocupado de que los Estados no tengan mecanismos para hacerlo? Quiero comentar una idea que no está en el libro y me parece interesante porque es algo que no había sucedido antes. La IA nos interpela como humanos por dos cosas que hace. Es la primera vez que los seres humanos hemos creado una herramienta o un objeto que utiliza un lenguaje igual o similar al nuestro de una forma perfecta. El lenguaje es lo que nos individualiza y nos hace diferentes. Las hormigas, los árboles, los perros, las sillas no tienen ese lenguaje, solo nosotros. Y de repente aparece algo, una herramienta que parece sí que sí que tiene ese lenguaje, y eso nos da un miedo tremendo. Y la segunda cosa diferente es el concepto de colectividad. Imaginemos a un elefante contra un humano —que no tiene una escopeta—, siempre va a ganar el elefante; pero una manada de elefantes nunca va a poder contra miles de humanos luchando juntos. ¿Por qué? Porque los humanos tenemos la capacidad de conformarnos como sociedad, de crear, de retroalimentarnos para obtener herramientas, generar conocimiento, estrategias y supervivencia, que es algo que los elefantes no tienen. Eso nos da un poder sobre el resto del planeta. Ahora los apóstoles de la IA y de la singularidad afirman que las IA podrán llegar a conformar entre ellas esas sociedades como hacemos los humanos, y que podrán dominarnos. Yo no lo creo, pero se está hablando de esa posibilidad.
—Terminamos. La última pregunta se la va a hacer Chat GPT: Si la IA es nuestro nuevo ángel —una inteligencia que queremos crear para que nos trascienda—, ¿no hay algo profundamente narcisista en ese proyecto? ¿No estamos intentando fabricar a otro que, en el fondo, sea la imagen definitiva de nosotros mismos?
—Muy bien traído por parte de la IA. (Risas)
—Al formular la pregunta, me he dado cuenta de que lo ha escrito en primera persona del plural, como si fuera también un humano.
—La IA siempre quiere empatizar con nosotros. Claro que es un proyecto narcisista y además en un doble sentido. Primero, crear algo que nos convierta en Dioses está dentro de nosotros; no nos basta con crear arte, ciencia o crear humanos cada día mediante la reproducción, queremos algo muy superior a todo eso. Y segundo, queremos crear algo que sea igual a nosotros. Es un doble narcisismo. Es algo que está en los humanos desde siempre, pero en este caso la IA lleva asociada una problemática y una complejidad. También tuvieron que hacerlo nuestros antepasados en el siglo II y en el III d.C., cuando surgió el cristianismo, una nueva religión que reconfiguró el mundo al completo. Y ocurrió de nuevo con el marxismo, con el comunismo, la única filosofía que ha tenido una implantación real en el planeta. Todas estas cuestiones nos van interpelando. Mi opinión es que la IA ni nos va a destruir ni nos va a solucionar todo. Llegará un momento en que nos acostumbremos a ello y, sobre todo, que la regulemos, que es lo que debemos hacer.
