José Ignacio Latorre: “Las máquinas harán mejores políticas que los políticos actuales”

Nació en Barcelona en 1959. En su nuevo libro, Ética para máquinas (Ariel), el eminente físico cuántico defiende un futuro inevitable en el que las máquinas serán mejores que nosotros y más preparadas para evolucionar.

José Ignacio Latorre / ANTONIO MORENO

Afirma que las inteligencias artificiales (IA) determinarán nuestra evolución, que pasará por que seamos físicamente más débiles. Sin embargo, somos más altos y vivimos más tiempo que hace siglos.: Somos más altos porque estamos mejor alimentados, pero sin duda somos más débiles. Hay un aspecto de nuestra genética que está cambiando, y es que baja nuestro nivel de violencia. En este momento, ser violento es menos beneficioso evolutivamente hablando. Es un cambio de varias generaciones. Ahora podemos cultivar, tenemos granjas, y poco a poco desaparece la lucha por la comida. No digo nada que no haya dicho antes Steven Pinker. Cuando estudias los datos de verdad, el cambio es espectacular. Antes de Cristo, la probabilidad de que te matara otro humano era muy alta, y ahora es muy baja.
También depende de en qué parte del mundo esté.: Sí, pero es cuando vas a un país violento cuando este dato te llama verdaderamente la atención. El aumento de la inteligencia ha condicionado la pérdida de violencia. Lo que yo digo es que las IA, como en el futuro tomarán decisiones por nosotros, harán que sea menos relevante saber decidir, y eso provocará cambios en nuestra parte genética asociada a decisiones.
Usted es un optimista: cree que las máquinas harán el bien porque es inevitable que las programemos así.: Los humanos nos hemos organizado a un nivel que, en el día a día, nos puede parecer a veces terrible, pero que a largo plazo está siendo beneficioso. En el planeta hay 7.000 millones de personas y la cosa no va mal. Vamos mejorando en todo. Como físico me interesa el descubrimiento de la energía nuclear: llegará un día que la vamos a aprender por completo, y todo lo que esté ahí fuera, la humanidad lo terminará descubriendo. Cuando descubrimos la fisión nuclear, lo primero que hicimos fue tirar dos bombas. Pero con el tiempo esto no se ha vuelto a hacer, y hemos aprendido a gestionar una cosa terrible de una forma correcta. Podría poner ejemplos de casi todo.
Adelante.: Cuando llegó la revolución industrial, en las ciudades no se podía vivir. En Londres, el Támesis daba asco de lo sucio que estaba, el cielo cubierto de smog… Pero ha pasado el tiempo y los humanos han legislado para que el aire sea respirable y las aguas tengan una limpieza razonable. Hay un programa ahora mismo en la UE llamado Misión de Océanos Limpios que tiene como objetivo limpiar las aguas de nuestros mares. De aquí a 20 años, por tanto, habrá un cambio porque legislamos. Se confunde el optimismo con el optimismo para todo, y parece que esté prohibido pensar que a largo plazo los humanos hemos hecho cosas importantes. La defensa de los derechos humanos, la desigualdad de género, la protección a nuestros mayores… ¿son temas resueltos? No. Pero si los comparamos con el siglo XVIII, el salto es abismal.
Viene a decir que la buena política siempre va de la mano de la ciencia, y del buen uso de la misma.: Hay una idea que repito mucho, y que mucha gente no la acepta, y es que el siglo XXI no va de izquierdas o de derechas. Cuando cambia un gobierno, ¿qué cambia en mi vida? Nada, o poco. Pero cada vez que hay un avance científico importante, sí cambian cosas. El siglo XXI va a consistir en administrar el progreso tecnológico. Estamos aceptando cualquier nueva tecnología, y eso va a tener consecuencias serias.
Para administrar eso, hay que pensar de manera distinta. ¿Se está haciendo?: Creo que el siglo XIX fue el siglo de la química, la primera mitad del XX fue el gran momento de la física, la segunda del XX la de la biología, y la primera mitad del XXI está siendo la de la información. La segunda mitad del siglo XXI será importante para la ética. Google, por ejemplo, ya ha elaborado su código ético interno, que es el más avanzado que conozco. Tenemos la suerte de que Google no sea como Amazon. Es el gigante tecnológico más sensato, es consciente de la responsabilidad que tiene.
¿Se hará política en el futuro con la ayuda de la IA?: Yo lo espero. Seguramente sea una política mejor que la que hacen los políticos. Las IA se pueden entrenar con miles de casos, con datos incompatibles y sobreabundantes, incluso con datos erróneos. Sabemos gestionar la complejidad de los datos y hay técnicas para obtener buenos resultados. A partir de ahí, ¿podríamos entrenar a las IA en temas como la legislación? Pongo un ejemplo: en lo referente al tratamiento de las aguas, la ley en los países del norte de Europa es más severa y en los países del sur es más laxa. Por tanto, podemos tomar datos objetivos, someterlos a una IA y ver qué decisiones han sido más acertadas en cada contexto. ¿Podría ser el resultado de la gestión de los datos un consejo para los políticos? Por supuesto. En la medicina esto ya ocurre. Ahora vamos al médico habiendo buscado antes información en internet sobre lo que nos pasa. Pronto iremos al médico habiendo consultado una IA, y a diferencia de buscar información en internet, eso será bueno para el médico, porque una IA que haya analizado diagnósticos y tratamientos nos dará un resultado mejor.
¿Cómo afectarán las IA a la justicia? En su libro también habla de juicios con asistencia de máquinas.: En Estados Unidos ya hay jueces que disponen de programas que les aconsejan cuál es la fianza correcta que se tiene que fijar. ¿Por qué una cuestión tan técnica como una fianza debería depender del temperamento de un juez? Lo mismo podría decirse de las prisiones preventivas: hay una jurisprudencia, hay información de sobra. Si se supone que la justicia es ciega, hagámosla así. A mí no me da miedo que me juzgara una IA, porque no habría sesgo. Los humanos somos más sesgados, y no tan superiores como nos creemos.
Alguna supervisión humana sí sería necesaria, al menos. Con el código penal en la mano, por robar una gallina te podrían caer años de cárcel.: Por supuesto. Pero tener el consejo neutro de una IA es bueno. Luego será el juez quien decida. Esto sería como tener el consejo de un aparato de 100 jueces internacionales. Sería algo de mucho peso, nunca definitivo, pero sí una directriz fiable. Hay una idea básica en todo esto: co-decidir es bueno, eliminar la posibilidad de que la decisión final sea sólo de un individuo, y las IA serían una buena ayuda.
¿Qué pasaría cuando se produzca un error?: El error es inevitable, pero se puede reducir el margen hasta que prácticamente sea cero. Es tal el éxito de la tecnología que nos hemos vuelto intolerantes a un único error. Va muy bien que haya esa tolerancia cero, porque eso significa que previamente, cuando estamos pensando los programas, las máquinas, las IA y su aplicación, se trabaja bien. Si analizamos los datos en frío, nos damos cuenta de cosas como que, en el primer mundo, han desaparecido los accidentes de avión.
Afirma que el siguiente paso evolutivo será que las máquinas superen a los humanos. Cuando una máquina sea lo suficientemente inteligente, ¿podrá considerarse como un organismo vivo?: La biología tiene un sesgo que no me parece relevante. ¿Qué más da si es o no es vida? Alan Turing, en 1950, no quería saber si una máquina era o no era inteligente. Para él la cuestión era si podía distinguirse de un humano, y por tanto le interesaba su relación con otro entes. Yo no tengo ninguna evidencia de que un amigo mío sea inteligente. ¿Tú crees que muchos políticos que tenemos ahora son inteligentes? Si la inteligencia es la capacidad de comprender, de asumir un error y tener visión a largo plazo, eso no se da mucho en nuestro día a día… Hay un vídeo en YouTube que recomiendo ver, de Google Duplex, en la que una IA llama a un restaurante para reservar mesa, y que vale su peso en oro. La persona que responde a la llamada es incapaz de saber que está hablando con una máquina. Incluso la máquina expresa momentos de duda, como un “mmmmhhhh”, que son indistinguibles de la reacción que tendría un humano. Eso es una IA avanzada: habla bien, entona la voz, sabe gestionar el silencio…
¿Llegará el momento en que sabremos entrenar a las IA en inteligencia emocional? ¿Podrán mostrar alegría, compasión, tristeza?: La IA emocional es ahora mismo el campo de investigación más sutil. Está en auge, así como el de la generación de contenidos: ahora estamos creando caras humanas y voces que no existen, información, y también emociones. Transmitir emoción es el horizonte al que se dirige la IA. Y en este segundo campo entra de pleno la ética. Ya hay un test de Turing moral, en el que se busca saber si la decisión que toma una IA es distinguible de la que toma un humano desde el punto de vista moral. Y esos exámenes son más fáciles de pasar, porque si se trata de programar el bien, en su sentido naíf, eso es muy fácil. Si quieres programar a Santa Teresa de Jesús, es sencillísimo. ¿Hay que defender a los pobres? Sí. ¿Hay que matar a las hormigas? No. La gracia está en programar la imperfección humana, y es lo que se está haciendo ahora. Se incorporan los giros emocionales, porque el cerebro no funciona de manera lineal, tiene estados de ánimo, cambios de opinión… Dicho esto, es fácil predecir a un humano. El señor que habla rápido, siempre habla rápido. De ahí que las IA estén avanzando vertiginosamente hacia la construcción de un amigo virtual con el que te puedas relacionar. Es más fácil de lo que parece. El escollo más difícil fue el reconocimiento de la voz, y eso ya está resuelto. Y luego vino la generación de voces creíbles, que también se ha hecho.
Un debate importante es el siguiente: si las máquinas están cada vez más haciendo trabajos que hacíamos los humanos, también deberían pagar impuestos. ¿Cómo se debe abordar este asunto?: Es un debate que ya existe en Europa, y cada vez más está claro que las máquinas deberían tener un estatus fiscal. Hay otro factor: hay más gente en el planeta, y habrá menos trabajo. Esta transición hacia tener menos trabajo es algo que se viene dando desde la revolución industrial, cuando se trabajaba 80 horas… De ahí pasamos a 40 horas, y estamos en la senda de trabajar menos y deberíamos lograr adaptarnos a eso.
¿Pero cómo se hace sostenible? El malestar de nuestro tiempo viene en gran medida de la falta de trabajo y la mala redistribución de la riqueza.: Una idea de partida sería dotar de entidad legal a una máquina, y sobre todo las más avanzadas. Que la máquina tenga una cuenta corriente propia y se autorrepare, que financie a la siguiente generación, como hacemos nosotros, y que si hay un error, pagase por él. Me parece una vía a explorar. Hay ideas en contra: si a la máquina la dotas de responsabilidad, se la quitas a la corporación que la ha creado, y eso no es bueno. Será necesario que se incorporen al debate abogados, economistas, la administración… Pero si propondría que se pudiera hacer en algunos casos concretos, para experimentar.
Deme un ejemplo.: ¿Cuántos AVEs hay en España? ¿50, 100? Muchos, en cualquier caso. Hagamos un experimento sólo con tres trenes, de los que van de Madrid a Barcelona. A esos trenes los dotamos con entidad legal, y cada vez que hacen un trayecto cobra una parte de lo que pagamos del billete, pongamos un 10%, y ese dinero va a una cuenta corriente. Con ese dinero, el tren paga su mantenimiento: si se funde una luz, el dinero sale de ahí. Y con ese dinero, que es un impuesto, cotiza en la seguridad social y estaríamos amortizando el próximo tren que se ponga en funcionamiento. No veo por qué no podemos hacer un programa experimental con esto, para ver si es sostenible. Si no lo hacemos así, ocurrirá lo que ya ocurre: que el dinero va directamente a la corporación, que paga un impuesto, y luego ese dinero se redistribuye fatal.
O alguien lo roba. Este conflicto de fondo es el que también subyace bajo el conflicto del taxi. Ningún político, salvo Albert Rivera, se ha atrevido a sacar el verdadero problema, que es que en unos años ni siquiera habrá taxistas, porque los coches los conducirá una IA que regulará el tráfico.: Es que la función de la política no es tanto mediar en el conflicto entre el taxi y las VTC, que también, sino pensar en cómo administrar el paso de nuestro mundo, con coches manejados por personas, al mundo que viene, en el que no habrá conductores. Singapur es el laboratorio correcto para este tipo de temas. Singapur es un país muy incomprendido, pero ahí ya están experimentando, en el parque Sentosa, con los coches sin conductor. Viene un cambio, es inevitable, va a suceder tanto si queremos como si no, y es lo que mucha gente aún no quiere entender.
¿Es posible que haya un escenario de ludismo del siglo XXI, la reacción del humano contra la máquina?: Cuando se plantean escenarios de futuro relacionados con la IA, siempre se habla en términos de distopía, y no de utopía. ¿Por qué? Narrativamente es muy estimulante, nos encantan los escenarios catastróficos, pero yo defiendo que no va a ser así. Y me baso en que los humanos somos máquinas biológicas evolucionadas hacia la inteligencia y, por tanto, hacemos cosas buenas como defender a los koalas y no pisar hormigas por la calle. Somos respetuosos, es un hecho que en gran medida hacemos el bien. ¿Por qué nadie lo dice? Entonces, si nosotros tendemos a hacer el bien, ¿por qué vamos a pensar que las máquinas nos tratarán como si fuéramos una porquería? Seguramente, lo que pasará es que nos ignoren, como yo ignoro al koala. No voy matando koalas, simplemente el koala está ahí, y ahí lo dejo.
¿A qué se dedicará una IA lo suficientemente autónoma?: Es lo que me pregunto. Seguramente, buscará el saber. Le preocuparían problemas como la conjetura de Riemann… En las capas altas de la sociedad siempre se ha destinado mucho tiempo al saber, al arte, a la creatividad.
¿Descartaría el escenario Matrix o Terminator, en el que las máquinas se rebelarían contra el hombre?: Esa es la idea del Valle Inquietante: cuando los robots se parecen demasiado a los humanos, nos da miedo. Nos inquieta la IA de la película ‘Her’, pero no nos inquieta ‘Wall-E’. Y en películas como ‘Ex Machina’ ya ni te cuento, porque el robot tiene una completa semejanza física. En cuanto a la inteligencia, seguramente haya una reacción cuando las máquinas empiecen a comunicarse con lenguajes propios. Eso no nos gusta. Cuando guardamos datos, procuramos que los ficheros sean “human readable”, que los podamos entender los humanos. No nos gustan las cosas que no podemos comprender. Pero todo son tránsitos, habrá un momento en el que no percibiremos lo que estén haciendo las máquinas y conviviremos bien con ellas.
Si hemos podido crear máquinas inteligentes que no podremos distinguir de una inteligencia humana, y es posible que nos superen… ¿cabe la pregunta de que seamos nosotros la creación de una mente superior, como en la película ‘Prometheus’?: No lo creo. En cuanto a los misterios desconocidos, yo me siento competente para hablar de física cuántica, pero entrar en estas disquisiciones prefiero no hacerlo, con toda humildad. Como Einstein, no creo en un dios antropomórficos, sino en que la pregunta clave es cuál es el origen de todo. ¿Por qué estas leyes que tenemos en el universo? ¿Por qué se desarrolla la complejidad? La religión cumple otra función, que no es explicar, sino dar sentido. Yo creo que la explicación la tenemos en la teoría de la evolución: es una idea sencilla que explica muchas cosas.