Señor Safranski, la inteligencia artificial ha golpeado nuestro mundo como un meteorito en los últimos años. ¿Por qué compara este proceso con la Revolución Copernica?
Con esto, me refiero a los tres insultos descritos por Sigmund Freud. Él entendió que esto significaba ofensas al narcisismo humano. La primera fue el insulto copernicano con el descubrimiento de que nuestra Tierra no está en el centro del universo. Así, la obsesión humana con el centro se perdió, junto con el antiguo orden de la creación. El segundo insulto fue el biológico causado por Darwin en el siglo XIX. Los humanos, como se decía popularmente en aquella época, descienden de los simios. La tercera ofensa vinculó a Freud con su propio descubrimiento del inconsciente. Los llevó a la famosa fórmula de que el yo no es el amo en su propia casa. Y dado que la inteligencia artificial ahora aspira a la mente humana, imitando e incluso superando sus logros, llamo a esto la cuarta infracción.
Hace mucho tiempo sabemos que las máquinas informáticas pueden tener un rendimiento superior al del cerebro humano. Pero, ¿es siquiera comparable la forma en que funciona la inteligencia artificial al pensamiento humano?
No del todo. No soy experto en inteligencia artificial, pero por todo lo que sabemos sobre cómo funciona, es un proceso completamente diferente al que llamamos pensamiento humano. Lo enorme es precisamente que los resultados parecen haber sido pensados por humanos, aunque se produzcan de una manera completamente diferente. Así que estamos ante efectos donde falta la causa habitual, es decir, un estado mental. Para nosotros, pensar forma parte de nuestra vida mental. La IA, en cambio, no posee tal estado mental pero aún así produce productos que se asemejan a los resultados del pensamiento humano.
Hablan de conciencia, pero también de autoconfianza humana. ¿Es la autoconciencia un requisito esencial para lo que llamamos pensamiento humano?
Absolutamente. La autoconciencia y la relación con nosotros mismos son rasgos esenciales de lo que llamo el espíritu vivo. A lo largo de mi trabajo con la IA, me ha quedado cada vez más claro lo importante que es hacer primero una distinción fundamental: la IA puede lograr rendimientos asombrosos, pero es una mente de la máquina, una mente de máquina. Y una máquina, por mucho que la giremos y giremos, no está viva. Es algo muerto. Por eso distingo entre el muerto y el espíritu viviente.
¿Eso significa?
El desafío que plantea la IA me ha hecho reconsiderar qué es lo que realmente hace viva nuestra existencia espiritual. Esto incluye ser capaces de relacionarnos con nosotros mismos. Podemos decirnos yo a nosotros mismos. En cierto modo, tenemos una doble conciencia. No solo poseemos conciencia, sino que también sabemos que tenemos conciencia. Poseemos una conciencia de conciencia. Y esta conciencia siempre está relacionada con dos polos: de nosotros mismos y del mundo que nos rodea. Nos experimentamos como seres que existen en el mundo y que, al mismo tiempo, tenemos una relación con nosotros mismos. Esta es una estructura básica de la mente viva. En el caso de la IA, esto no existe, al menos hasta donde sabemos hoy. Por supuesto, aún pueden pasar muchas cosas. Pero para nuestra situación actual, considero crucial mantener la distinción entre el espíritu vivo y el muerto. Al mismo tiempo, debemos ser conscientes de que los logros de este espíritu muerto son ahora escandalosos.
¿Dónde exactamente?
Especialmente en la cultura, esto nos sitúa en una especie de crepúsculo. Porque, debido al poder de la IA, ya no podemos distinguir en todos los casos si estamos tratando con un producto de la mente viva o de la mente muerta. Freud describió esta incertidumbre, cuando uno ya no sabe exactamente si algo está muerto o vivo, como algo inquietante. Nos encontramos hoy en una situación así. Las fronteras entre los vivos y los muertos se difuminan. Esto crea una nueva inquietud cultural.
Sin embargo, los humanos podemos alcanzar percepciones incluso sin esfuerzo mental consciente. De repente vuelve a venir a la mente un nombre que buscamos en vano. Leibniz ya habló de percepciones imperceptibles. ¿No hay aquí cierta analogía entre la mente humana y la mente-máquina?
Por supuesto, no somos conscientes de todo lo que ocurre en nuestra mente. Esto es, ante todo, una experiencia muy cotidiana. Por ejemplo, intentamos recordar un número de teléfono. Estamos haciendo un esfuerzo consciente pero no estamos avanzando. Luego nos centramos en otra cosa, y de repente el número de teléfono aparece en nuestra conciencia. Al parecer, nuestra mente siguió funcionando mientras tanto sin que nos diéramos cuenta. Esto, por supuesto, toca el inconsciente, que hizo a Freud tan fuerte. Grandes partes de lo que ocurre en nuestro cuerpo y también en nuestra mente ocurren de forma inconsciente. Pero la esencia de la IA no es que sea inconsciente. No es inconsciente de la misma manera que nosotros. Funciona con procesos computacionales. En los modelos de lenguaje, miles de millones de datos de entrenamiento se procesan algorítmicamente y, con una enorme potencia de cálculo, se determinan probabilidades de secuencias de palabras. Esto no tiene nada que ver con la conciencia o la inconsciencia en el sentido humano. Y, sin embargo, estos procedimientos son increíblemente efectivos.
¿Qué tiene en mente?
Recuerda lo insultante que fue cuando el campeón mundial de ajedrez, Garry Kasparov, perdió contra un ordenador. Por primera vez, quedó claro para el público general que las máquinas pueden ser mejores que nosotros en un área de nuestra inteligencia, es decir, el pensamiento computacional. Primero debemos aceptar eso. Tenemos que vivir con eso. Lo que más me interesa, sin embargo, es la cuestión de qué supone esto en nuestra autocomprensión cultural. La IA está ahora activa en muchos campos, y en numerosos campos resulta extremadamente útil. Solo hay que pensar en la medicina, la producción industrial, la investigación climática y otros campos científicos donde la estadística juega un papel crucial. Allí, la cuestión de nuestra autoimagen humana no surge de la misma manera. Se vuelve más problemático cuando tenemos expectativas personales. Cuando leemos literatura o observamos arte, esperamos que en ella se exprese un sujeto humano. Esperamos una cualidad personal y llena de alma en la expresión. Si esta expectativa parece cumplirse con un producto mecánico, surge un problema fundamental.
Las matemáticas son uno de los campos en los que la IA tiene un éxito particular. Pero incluso en tiempos modernos, hubo filósofos materialistas como Julien Offray de La Mettrie, que describió a los humanos como máquinas, o Thomas Hobbes, que vinculó el pensamiento y la acción humanos con el cálculo. ¿No estaba entonces la analogía entre espíritu y máquina ya establecida en la Ilustración?
Sin duda. El libro de La Mettrie se titula "El hombre como máquina". Así que esta idea ya estaba formulada en aquel entonces. Pero, ¿qué significa realmente para nosotros hoy? Quiero decir algo provocador sobre esto: si descubrimos que la IA es mejor que los humanos en el campo del pensamiento puramente computacional, entonces tenemos que preguntarnos qué dice eso sobre esta parte de nuestra mente. El pensamiento calculador está incrustado en el resto de nuestra vida espiritual, pero aparentemente es un área que también puede ser tomada por un mecanismo muerto. Este pensamiento estrictamente lógico y calculador se extrae, por así decirlo, del caso vivo y se reifica en una máquina que opera puramente objetivamente sin personalidad. Durante siglos, la filosofía ha considerado, básicamente desde Platón, las matemáticas como la forma suprema de la mente humana. Pero si la máquina es mejor que nosotros en esto, se podría decir en retrospectiva: la filosofía ha estado persiguiendo a los falsos amantes durante siglos. Consideraba la racionalidad matemática como el mayor logro intelectual. Esto se extiende hasta el siglo XX.
¿Y ahora?
Si la IA puede hacer esto mejor, debe tener consecuencias para la autocomprensión de la mente humana. Tenemos que aceptar que esta parte de nuestra inteligencia es, en cierto modo, la parte mecánica dentro de nosotros mismos. La Mettrie no está del todo equivocado en ese sentido. Pero el espíritu vivo tiene un número enorme de otras dimensiones. Y aparentemente las matemáticas no son la dimensión que conforma la vida de los humanos. Esto también debería tener consecuencias para la filosofía. La parte que consiste en mero cálculo y argumentación formal puede sin duda ser externalizada a máquinas. Pero una filosofía existencial que problematiza nuestra existencia y cuestiona cómo se siente estar en el mundo sigue siendo una tarea del espíritu vivo. La técnica argumentativa puede ser mejor dominada por la IA. Pero eso no es todo lo que hace la filosofía.
Desde Descartes, la esperanza de un excelente acceso a la verdad se ha vinculado a la mente humana. En sus meditaciones, Descartes duda de todo, incluso de las certezas de las matemáticas. Un demonio malvado podría engañarnos. Lo único que sigue siendo innegable es que pensamos con duda. ¿No es esto dudar algo que fundamentalmente distingue la IA de la mente humana?
Ese es precisamente un punto crucial. La IA no duda. No puede dudar en absoluto. Y en esto, notamos cómo, en cada paso, nos encontramos repetidamente con el espíritu vivo. Solo un ser, una persona, puede dudar. Se dice con razón que la filosofía comienza con el asombro. Pero la IA no puede quedar asombrada. Solo el espíritu vivo puede hacer esto porque es una persona inmersa en una existencia emocional. Pensamos por razones muy diferentes. Pensamos porque tenemos miedo, porque queremos despertar esperanza, o porque algo nos asombra. Estamos asombrados, tenemos miedo, tenemos dudas. Todo esto forma parte de nuestra vida espiritual. Pensar no es solo una operación, sino un modo de vida.
Sin embargo, David Hume tenía una visión diferente del yo. En su autoobservación, no pudo descubrir un yo constante, sino solo un conjunto de ideas cambiantes conectadas por asociaciones. ¿No te recuerda eso bastante a cómo funciona la IA?
Lichtenberg dijo una vez: Piensa. Quería cuestionar la autoevidencia de "creo". Nietzsche también retomó esta idea más tarde. Así que no hay que sentirse demasiado orgulloso de uno mismo, sino reconocer que en nuestro interior están teniendo lugar procesos de pensamiento que no pueden atribuirse plenamente a un sujeto soberano. Lo interesante, sin embargo, es que tanto Lichtenberg como Nietzsche vuelven a poner en juego su propio yo en el momento en que formulan esta idea. Necesitas una autoridad que exprese y comunique esta consideración. Si uno niega fundamentalmente el yo pero simultáneamente formula la negación de uno mismo, cae en una cierta contradicción contigo mismo.
¿Qué significa?
Por supuesto, hay algo cierto en la idea de que una multitud de fuerzas y procesos diferentes están en juego dentro de nosotros, que de algún modo se conectan entre sí. Pero no podríamos dar esa descripción en absoluto si no fuéramos capaces de observarnos a nosotros mismos. La persona que describe este evento somos nosotros mismos cuando miramos hacia dentro. Y es precisamente en ello donde se hace evidente el gran poder de la relación humana hacia uno mismo. Podemos observar que consistimos en una mezcolanza de fuerzas que podemos organizar en parte y en parte no. Podemos hacer descubrimientos dentro de nosotros mismos. Eso es lo notable de la mente viva: puede convertirse en objeto de su conocimiento.
En su ensayo, Martin Heidegger es mencionado en este punto. Para él, los humanos están esencialmente determinados por su ser en el mundo. ¿No es esta experiencia de entenderse a uno mismo como ser en el mundo un requisito previo para pensar que la IA no puede cumplir en absoluto?
Siempre me ha parecido genial esta idea en Heidegger: que debemos partir de la experiencia elemental básica de estar en un mundo. La importancia de esta intuición se hizo especialmente clara para mí a través del compromiso con el espíritu muerto. El espíritu vivo se experimenta a sí mismo como un ser que vive en el mundo. Esta es una forma fundamental de vida. Y para evitar malentendidos: esta capacidad no desaparecerá solo porque exista inteligencia artificial. Mientras existan personas, experimentarán este ser en el mundo. Algo más está amenazado. En zonas donde realmente esperamos el espíritu viviente, cada vez más espíritus muertos se intruden. Esto concierne especialmente a la literatura, el arte y la filosofía. La literatura es fruto del espíritu vivo porque trata sobre experiencias, estilo personal y formas humanas de expresión. Ahora se insertarán cada vez más productos de IA, y a menudo ya no podremos distinguir si estamos tratando de generación humana o de máquinas. Ese es el crepúsculo del que hablé. Por tanto, tendremos que pensar en algo.
"Considero peligrosa para el público la estructura monopolista (— capitalista en la que se desarrolla gran parte del desarrollo de la IA en Estados Unidos—Rüdiger Safranski
¿Qué tiene en mente?
Quizá necesitemos algún tipo de certificación, tal como la conocemos para los alimentos, un etiquetado de los productos fabricados por máquinas. La forma exacta es discutible. Pero, de algún modo, debería quedar absolutamente claro cuando tratamos con un producto mecánico. En otros ámbitos, esto no supone ningún problema. Si un manual de instrucciones está escrito por una IA, no me molesta. Siempre ha habido escritores fantasma en la política también. Si un discurso estandarizado al inicio de una línea de autopista es escrito por una IA, no hay necesidad de dramatizarlo. La situación es distinta con un discurso conmemorativo del Holocausto. El público quedó conmocionado cuando se supo que un primer ministro había mandado escribir un discurso así usando IA. ¿Por qué, en realidad? Porque en un discurso así esperamos que se exprese preocupación personal. Si en cambio una máquina entrega el texto, algo queda expuesto. Quizá entonces incluso quede claro hasta qué punto algunos de estos discursos se han vuelto durante mucho tiempo ritualizados y con forma de frase. Por eso también pueden ser adoptados sin problemas por la IA: como una máquina de trillar frases. Así que siempre depende de si esperamos una relación personal entre sujetos o si es una función en la que tal expectativa no juega ningún papel. En esta intersección surgen los problemas culturales cruciales.
Otra categoría esencial de su ensayo es la libertad. Necesitamos libertad no solo para nuestras acciones morales, sino también para el conocimiento, porque debemos distinguir entre lo correcto y lo incorrecto y tomar decisiones racionales. ¿Es la libertad algo que nos diferencia fundamentalmente de la IA?
Sí, diría que sí. La libertad es realmente un milagro. Lo experimentamos, lo reclamamos y forma parte de nuestras vidas. Nuestras vidas parecen tener libertad. Y esa es, ante todo, una experiencia innegable. Sin embargo, si dejamos esta libertad a la explicación científica, de algún modo se disolve en causalidad. En una descripción completamente causal, parece que no queda espacio para la libertad. Es un poco como el alma. Si un médico disecciona un cuerpo, no encontrará alma en él. Pero eso no significa que la experiencia del alma careza de sentido. En este sentido, no podemos simplemente apoderarnos de la libertad como objeto. Y sin embargo los aprendemos. Lo experimentamos en nuestra espontaneidad, en nuestra impulsividad y en la capacidad de determinarnos a nosotros mismos. Según tengo entendido, esto es central para el espíritu vivo.
¿Qué concluye de esto?
La antropología también señala que los humanos no están completamente gobernados por instintos. Debe encontrar su lugar en el mundo y desarrollar sus comportamientos en gran medida él mismo. Por supuesto, tenemos instintos, pero tenemos mucho que producir y moldearnos. Ahora bien, puedo imaginar perfectamente que hay procesos en la IA que exteriormente se parecen a la libertad. Una máquina recibe una orden, busca diferentes métodos, prueba posibilidades y finalmente decide una solución. Pero cuando hablamos de libertad humana, también queremos decir que se siente como libertad. Esta experiencia presupone un sujeto. Y tal tema no existe en la IA según nuestra comprensión actual. Donde no hay sujeto, no se puede sentir nada. Donde nada existe, nada puede experimentarse.
Sin embargo, la gente llama cariñosamente a la IA "Chatti"...
Cuando hablamos de IA, nos encontramos repetidamente con el problema de usar términos antropomorfizantes. Decimos que la IA piensa. Pero no piensa como piensa una persona. Decimos que gana experiencia. De hecho, almacena y procesa datos. Con tales términos, le damos rasgos humanos. Quizá hacemos esto precisamente porque resulta tan inquietante que la IA produzca resultados sorprendentemente similares a los logros humanos, sin un humano detrás. Por eso humanizamos la máquina. De hecho, los proveedores de sistemas de IA deberían estar obligados a recordar repetidamente a los usuarios que están tratando con una máquina. Similar a las advertencias de la industria tabacalera, debería decir: ¡Cuidado, estás hablando con una máquina aquí! En cambio, suele ocurrir lo contrario. La similitud con la humanidad sigue siendo activamente enfatizada y reforzada.
Esto nos lleva a otra consideración de Heidegger. Habla de la rendición al mundo, es decir, de que el hombre tiende a entenderse a sí mismo más allá de las cosas y circunstancias en las que vive. ¿No es precisamente el peligro que los humanos intenten cada vez más entenderse a sí mismos a través de la IA mientras les falta su propia naturaleza?
Eso es absolutamente correcto. Lo que Heidegger describe como decadencia está estrechamente ligado a la proyección que acabamos de comentar. Humanizamos estas cosas muertas y, al mismo tiempo, nos dejamos determinar por ellas. Caemos bajo el hechizo de nuestros propios productos. El desarrollo de la IA ha agravado significativamente este problema. La tecnología es siempre una especie de prótesis, una extensión de nuestras capacidades. ¿Pero podemos mantener la libertad frente a nuestras propias creaciones técnicas? ¿O caeremos como rehenes de ellos y perderemos nuestra independencia interior? Esto nos lleva a otro término de Heidegger, el marco.
¿Qué significa?
Cuando Heidegger introdujo este término en su filosofía de la tecnología, fue ampliamente ridiculizado. Pero quería señalar algo crucial: estamos, por así decirlo, en una jaula de tecnología. La idea de que podamos deshacernos de ellos soberanamente en cualquier momento y controlarlos plenamente es bastante ingenua. Dependemos de nuestros productos técnicos de una manera peculiar. Y, sobre todo, estos productos nos cambian a nosotros mismos. Cambian nuestras condiciones de vida, nuestras necesidades, nuestras percepciones y nuestro estado mental. Así que la tecnología no es en absoluto una herramienta neutral que podamos usar arbitrariamente. En eso debemos centrar nuestra atención. Porque ahora la IA se acerca mucho más a la mente humana que los desarrollos tecnológicos anteriores. En cierto modo, interviene en nuestros ámbitos espirituales más íntimos. Esto aumenta el riesgo de que ya no tengamos el control. Por ejemplo, cuando en situaciones de conflicto dejamos a la IA, ese espíritu muerto, la decisión sobre la vida y la muerte.
En respuesta a este desafío, recuerdan el humanismo del Renacimiento. ¿Qué podemos aprender de esta época al lidiar con una tecnología que cambia fundamentalmente nuestro mundo?
Primero abordaré una idea fundamental arraigada en la tradición humanista y posteriormente desarrollada sistemáticamente: la separación de poderes. Este es un logro enormemente importante. En nuestras democracias, vivimos institucionalmente según este principio. Pero la separación de poderes no solo concierne al ejecutivo, legislativo y judicial. También se refiere a las diversas fuerzas vitales de nuestra sociedad. Ninguno de estos poderes puede desarrollar una reivindicación total de dominación. Ni la política, ni la economía, ni la tecnología deberían dominarnos por completo. Deben limitarse y controlarse mutuamente. Esto se aplica naturalmente también a la inteligencia artificial. Debe estar políticamente controlada. No podemos permitirnos una tecnodictadura en la era de la IA. Aquí también se evidencia el espíritu de libertad, que se rebela contra tal gobierno. Esa es la tarea del espíritu vivo. Sin embargo, cómo podemos integrar concretamente la IA en contextos humanos es una cuestión difícil. Yo mismo estoy perdido en algunos aspectos. En mi libro, no lo expliqué en detalle porque mi objetivo inicial era comprender el problema desde el punto de vista filosófico. Pero debemos seguir pensando en esta dirección: ¿Cómo puede preservarse la identidad humana bajo condiciones técnicas que nunca antes hemos experimentado? Estamos abriendo caminos completamente nuevos aquí.
Entonces, ¿qué deberíamos hacer?
La cuestión crucial es cómo podemos garantizar que esta tecnología sirva al bien común. Y aquí, obviamente, nos encontramos con los límites de las condiciones económicas actuales. Considero peligrosa la estructura capitalista monopolística en la que se desarrolla gran parte del desarrollo de la IA en Estados Unidos. Pero una estructura estatal capitalista, tal y como la vemos en China, es igual de peligrosa para la opinión pública. En última instancia, lo único que nos queda es la democracia. Debemos preservarla asegurando que la IA esté integrada en nuestra sociedad de una manera que sirva al bien común. Esta es una tarea política enorme. Creo que la inteligencia artificial se convertirá en una prueba crucial de la democracia. (Frankfurter Rundshau)
