La Inteligencia Artificial y el Mago de Oz

Para Ramón G. C.

En una democracia, el pueblo puede hace cualquier cosa y debe saber que no debe hacer cualquier cosa. La democracia es el régimen de la autolimitación y es, pues, también el régimen del riesgo histórico -otra manera de decir que es el régimen de la libertad- y un régimen trágico.

Cornelius CastoriadisLos dominios del hombre.

El relato de legitimación típico de una tiranía no puede ser más simple: “o yo (/nosotros) o el caos”. Es casi lo que decía Hobbes, fundador del pensamiento político moderno, para justificar su Leviatán, y lo mismo que le dice un padre a su hijo o un cónyuge a otro para retener desde el victimismo su derecho a dictar las normas domésticas. Chumy Chúmez hizo hace décadas -pero podría ser hoy, podría ser lo que está dibujando esta misma tarde El Roto- una viñeta genial sobre eso: cuando el draculineo dictador enuncia esa dicotomía desde una tribuna, la masa le responde “¡El caos! ¡el caos!”. Con el caos termina V de vendetta, el cómic, en la idea, de tradición milenarista, de un caos purificador, de un desorden que desde el fondo del crimen y del grado cero de la ley restaurase una sociabilidad inocente, prístina como la del jardín del Edén. Pero no existe, en realidad, la posibilidad de un caos absoluto, que siempre estará atravesado de nuevos enlaces, de amagos de pactos, de simbiosis concretas e inestables, como no existe la posibilidad del orden absoluto, que siempre estará horadado de organizaciones mafiosas, de prácticas para-legales, de corrupciones toleradas y asimiladas.

V de Vendetta

Entre esos dos extremos tenemos que movernos, los seres humanos, a la hora de organizar una siempre difícil convivencia. Es decir, que no es que la Utopía no sea tristemente posible porque el hombre particular siempre termina dejándose arrastrar por sus peores pasiones (todas las utopías y cacotopías escritas que conocemos lo primero que han hecho es justamente diseñar cuál sería la nueva fontanería armoniosa de las pasiones humanas…), sino que, al contrario, la Utopía es felizmente imposible porque la sociedad humana no es como la sociedad perfecta de las hormigas, las termitas o las abejas -la trilogía excelsa de Maurice Maeterlinck-, dado que está abierta a la interpretación, al disenso y a la diferencia. Quién se lamente de que los seres humanos no seamos pozos cristalinos de virtud, y no funcionemos en comunidad como maquinitas solidarias, que sepa que debería disminuir considerablemente de tamaño, expulsar su esqueleto hacia fuera como una coraza, perder la facultad de hablar y desarrollar un par de antenas. Pero no creo que los avances de la ingeniería genética, aunque asombrosos, jamás vayan a dar para tanto… (ni la fórmula magistral de Michel Douglas en las dos películas Marvel de Ant-Man).

Ex Machina

Sin embargo, parece que el sueño occidental de la trama racional total sin merma -o, lo que es más descabellado, como expresión de– de la libertad más acendrada vuelve en nuestros días de tecnolatría histérica (hay que ver lo que nos han impactado cosas tan tontas como subir nuestras fotos instantáneamente al ciberespacio, acabo de leer que existe gente que hasta se alquila falsos amigos de verano para lucirlos en Instagram…) bajo la figura de la Inteligencia Artificial. Yo la IA la imagino haciéndonos el servicio que nos han hecho los animales durante milenios: o bien poniendo la fuerza y la paciencia necesarias para los trabajos pesados, como los bueyes, los caballos o los elefantes, o bien poniendo su habilidad en tareas finas y delicadas, como polinizar las flores en el caso de las mencionadas abejas, las cuales, por cierto, ya andamos exterminando a base de pesticidas desde hace unos años. Sería, esa, una gran contribución al progreso, el que máquinas hiciesen lo que nadie querría hacer en su lugar, exonerando con ello a los animales, a los contables, a los controladores aéreos, a los estibadores, a las prostitutas (en Japón ya tienen interfaces para todo…) etc., que son seres sensitivos cuya primera misión biológica y existencial en este universo que muchos dicen absurdo es amar y sentirse amados el mucho o poco tiempo que les toque vivir, y la segunda, ya si acaso, el decidir, si pueden y les dejan, en qué condiciones ambientales y sociales van a llevarlo a cabo con la suficiente o al menos alguna satisfacción.

Ex Machina

Sin embargo, tenemos noticia casi diaria de visionarios actuales con trajes caros y empresas tecnológicas a su espalda que creen que no, que la IA debe ir mucho más allá, que debe adquirir conciencia -en este punto siempre sacan a colación a Skynet, para subrayar inmediatamente que no se trata de eso- y ocupar puestos directivos, tomando decisiones por nosotros y empleando su gran capacidad de cálculo en acertar milimétricamente con nuestras necesidades y deseos de cada momento. La IA, pues, como mente/colmena, como el mayordomo infalible de la humanidad, como la Ley del Padre de Freud abrazando el Ello, como estaliniana ingeniera colectiva de almas, como la Gran Hermana positiva del homólogo de Orwell y como Morgan Freeman vestido de blanco en Como Dios O sea, que de verdad entienden que “Inteligencia Artificial” significa que vamos a crear una supercomputadora en la que se centralicen todas las funciones mentales, materiales y libidinales de una población humana o, lanzados a delirar, de toda la humanidad en su conjunto, y desde ella conseguir la felicidad integral heterodirigida, dado que tal supercomputadora bienhechora no tendrá sentimientos y por tanto se regiría por el más puro e implacable ejercicio de administrarlo todo sin atención a favoritismos o mamandurrias. Recuerdo, al menos, un relato corto de Isaac Asimov sobre esto, en el que, además, algo salía mal, o no habría habido historia (y es que algo tendrá que salir mal también con una IA así, o pereceríamos de tedio). Pues bien, a mi eso me recuerda más bien a El mago de Oz, ese cuento de hadas con que los norteamericanos que iban apoderándose del mundo trataron de rivalizar con la rica tradición cuentística europea y árabe que parasitaba Disney, y que convirtieron en película hace exactamente ochenta años.   

El mago de Oz, como la IA que sueñan los visionarios techies, en principio parece una entidad superpoderosa que va a solucionar todos los problemas, pero al final de la película descubrimos que es un señor normal y patético valiéndose de un teatrillo de guiñol. El tipo huye y deja al cargo de todo al hombre de hojalata, el espantapájaros y el león cobarde, a los que ha seducido con un vulgar placebo. Luego en su fuga pierde a Dorothy, la cual se da cuenta finalmente de que la fantasía debe acabar y de que “no hay nada como el hogar”. Me parece que si una inmensa IA tratase, como María Cristina, de gobernarnos, sucedería algo muy parecido. Al principio infundiría respeto, como un oráculo repleto de sabios algoritmos, y dejaríamos la mayor parte de nuestros asuntos en sus manos, por miedo a nosotros mismos y a nuestra humana falibilidad. Pero enseguida algo fallaría, y vendríamos a intuir que tras la voz tonante del Destino no hay más que un débil hombrecillo aún más falible que nosotros, que es el que ha programado la cosa e incardinado en ella su ideología y sus intereses particulares haciéndolos pasar por generales, universales y de validez científica intemporal. El camino de baldosas amarillas que conducía a Oz habría sido bonito y esperanzador, de eso no cabe duda, pero ahora sabríamos, espero que no demasiado tarde, que no se derrota con HAL 9000 a la Malvada Bruja del Oeste, que la bruja sobrevive siempre bajo diferentes disfraces, que son ficciones distintas y que después de todo no hay nada como el hogar. Y el verdadero hogar a la medida del hombre es, como he insinuado antes, la apertura a la interpretación, el disenso y la diferencia, es decir, el uso regulado pero no restringido de la palabra en un contexto democrático. O, como escribía Karl Popper en su obra más política (¿publicarán dentro de unos años un libro de teoría política cibernética? ¿lo concebirá y escribirá la propia IA prototípica?):

Ex Machina

Nunca podemos volver a la presunta inocencia y belleza de la sociedad cerrada. Nuestro sueño de Cielo no puede ser alcanzado en la tierra. Una vez comenzamos a confiar en nuestra razón y a usar nuestras capacidades críticas, una vez sentimos la llamada de las responsabilidades personales y, con ello, la responsabilidad de avanzar en el conocimiento, no podemos volver a un estado de sumisión implícita a la magia tribal. Para esos que han comido del árbol del conocimiento, el paraíso está perdido. Empezando con la supresión de la razón y la verdad, deberíamos terminar con la destrucción más brutal y violenta de todo lo que es humano. No hay vuelta a un estado armonioso de naturaleza. Si volvemos a él, debemos volver a las bestias. Pero, si deseamos seguir siendo humanos, entonces sólo hay un camino, el camino de la sociedad abierta. 

Ex Machina

En una sociedad abierta y autocrítica no hay lugar para leyes científicas de la conducta humana individual y colectiva. Lo que es útil para medir y predecir el movimiento de un fotón no sirve para la maraña de deseos, angustias y prejuicios que es una psique humana. Vamos a tomarnos en serio eso de que el cerebro humano es el aparato más complejo del universo. Existen ya máquinas capaces de aprender a innovar jugadas de ajedrez o de Go, pero su capacidad sigue siendo incomparable con lo que un cerebro es capaz de recoger de su simple experiencia. La riqueza de la experiencia, y no la esquematicidad del cálculo, debe ser el dispositivo rector de la acción humana; una máquina, por sofisticada que sea, no alcanzará jamás, en mi opinión, la comprensión multitarea de un niño de diez años. Sólo para pillar un chiste ya haría falta que Skynet hubiera vivido tanto como un niño de diez años, en su colegio, con sus padres, con sus sensaciones corporales, con sus frustraciones y con el movimiento parabólico de un balón en el aire, entre un billón de cosas trabadas entre sí y difíciles de desbrozar. Y un chiste no es una certeza de ningún tipo, como la carga de un fotón, es un mero juego del lenguaje –sólo eso, pero es un hecho que no hay chistes en el resto del universo, y fotones a montones. Al hombre lo que es del hombre y a la Inteligencia Artificial lo que es de la Inteligencia Artificial. Implementemos en el futuro la tecnología todo lo que podamos, pero quedando siempre claro que el ámbito de la decisión es nuestro, o lo será del farsante que se esconde entre bambalinas tirando de los cables de la máquina. José Ortega y Gasset escribía, en su famosa Rebelión de las masas, un libro bastante elitista por otra parte…

Ex Machina

La civilización no es otra cosa que el ensayo de reducir la fuerza a última ratio (…) La forma que en política ha representado la más alta voluntad de convivencia es la democracia liberal. Ella lleva al extremo la resolución de contar con el prójimo y es prototipo de la acción indirecta. El liberalismo es el principio de derecho político según el cual el poder público, no obstante ser omnipotente, se limita a sí mismo y procura, aun a su costa, dejar hueco en el Estado que él impera para que puedan vivir los que ni piensan ni sienten como él, es decir, como los más fuertes, como la mayoría. El liberalismo –conviene hoy recordar esto- es la suprema generosidad: es el derecho que la mayoría otorga a la minoría y es, por lo tanto, el más noble grito que ha sonado en el planeta. Proclama la decisión de convivir con el enemigo: más aún, con el enemigo débil.

Quizá soy muy ignorante, pero no veo en qué podría ayudarnos en esto una IA, excepto en realizar pronósticos y contar los votos. O en engañarnos por las redes, como sucedió con el Brexit, para que se vea bien que lo del pseudo-deus ex maquina es ya posible. Es cierto que toda democracia se combina con elementos oligárquicos, como ya decía Aristóteles hace mucho tiempo. En caso contrario, pensaba el filósofo, la democracia sería la tiranía de los pobres sobre los ricos, lo cual no le gustaba. La verdad es que casi toda la filosofía occidental ha sido elitista, desde los presocráticos y Platón hasta Nietzsche y el propio Ortega. Eran, también, ellos o el caos. Sería ya el colmo que permitiésemos que una elite oscura y secreta dirigiese nuestras vidas bajo el decorado de una máquina perfecta consciente de sí misma que vendría a salvarnos de nosotros mismos. Eso ya tenía truco incluso somewhere over the rainbow

Artículos relacionados


Etiquetas de este artículo
More from Óscar Sánchez Vadillo

Maquiavelo amortizado

Una curiosa noticia que nos pilló de sorpresa a todos hace ya más de...
Leer más

2 Comentarios

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.