Hace unos días leí este artículo del fundador de la revista Wired, el polifacético Kevin Kelly, y me pareció que daba una visión diferente a la que estoy acostumbrado leyendo a los analistas de IA de siempre. Es un artículo corto pero que no tiene desperdicio. Vamos a dialogar con él un rato.
Kelly sostiene que los que dicen que la IA nos va a dominar (cuando no a exterminar) en las próximas décadas, se basan en esta lista de supuestos que aceptan de forma muy acrítica:
1. La inteligencia artificial ya se está volviendo más inteligente que nosotros, a un ritmo exponencial.
2. Convertiremos las inteligencias artificiales en una inteligencia de propósito general, similar a la nuestra.
3. Podemos crear inteligencia humana en silicio.
4. La inteligencia puede expandirse sin límite.
5. Una vez que contemos con una superinteligencia en rápida expansión, esta podrá resolver la mayor parte de nuestros problemas.
En contraposición, nos ofrece sus respectivas réplicas que, según él, cuentan con mucha más evidencia científica:
1. La inteligencia no es una dimensión única, por lo que «más inteligente que los humanos» es un concepto carente de sentido. Suele entenderse la inteligencia como una cualidad general (cuantificable mediante el cociente intelectual) que suele representarse en una gráfica unilineal ascendente. En la parte baja estarían los organismos considerados como «muy tontos»: microorganismos, bacterias… Luego se va ascendiendo a través de peces, reptiles, mamíferos… hasta llegar a los humanos, seres esculpidos a semejanza de los dioses. Resulta curioso lo mucho que nos gusta hacer jerarquías de este tipo, más cuando las encabeza nuestra especie. Sin embargo, vaya por Dios, aparece la IA y los multimillonarios que la fabrican nos dicen que ya nos ha expulsado de la cúspide. Entonces entramos en ese triste momento Lee Sedol, mientras leemos nerviosos la lista del top 10 de profesiones que van a ser inminentemente sustituidas por la IA en menos de un año ¡Ufff, no está la nuestra! ¡Menos mal! Pues para Kelly todo esto es una soberana estupidez. Este modelo le recuerda a Kelly la idea de ortogénesis evolutiva de Eimer, que popularizaría Lamark y que, lamentablemente, defendieron Bergson y Theilhard de Chardin: las especies evolucionan progresivamente hacia una meta final (de nuevo en una gráfica unilineal ascendente), guiados por algún tipo de «fuerza» o «principio» (el famoso elan vital de Bergson o la fuerza psicoquímica de von Nägeli). Para Kelly, igual que sabemos que esta teoría es falsa, la evolución no sigue ningún camino lineal ni es impulsada por ningún principio rector, la de la inteligencia unilineal ascendente también lo es: no hay ninguna inteligencia general que crezca linealmente hasta el infinito y más allá. Y en su lugar propone un modelo multidimensional. Pensemos en comparar nuestra inteligencia con la de una ardilla. Aparentemente parece obvio que somos más inteligentes que ella pero, ¿cómo lo medimos? La ardilla no puede coger un lápiz, para su sistema cognitivo las preguntas típicas de los test de CI no tienen ningún sentido. Sin embargo, es capaz de recordar durante años la posición exacta de varios miles de bellotas. Si nos perdemos en un bosque, seguramente que la ardilla tiene muchas más posibilidades de sobrevivir que nosotros ¿Quién es más inteligente entonces? La pregunta no tiene sentido, pues solo lo tiene preguntar por dimensiones particulares de la inteligencia. Kelly retoma la idea de Marvin Minsky: somos sociedades de mentes, somos ecosistemas de pensamiento que albergan multitud de especies cognitivas diferentes con una diversidad de capacidades: percibir ciertas propiedades del medio, inferir inductivamente, memorizar cierto tipo de información, calcular, utilizar ciertos lenguajes, etc.
2. Los humanos no poseen mentes de propósito general, y tampoco las tendrán las IA. Siguiendo el razonamiento anterior, si un ser humano es una especie de navaja suiza con diversas funciones, no existe nada como un «estado de propósito general», sino solo una gama de tareas posibles, de especies cognitivas. Kelly apuesta porque el ser humano tiene un montón de habilidades cognitivas muy específicas, optimizadas durante eones de selección natural, y no por una supuesta inteligencia general (Interesante es pensar aquí que el CI, es solo un promedio de habilidades, no una magnitud que represente una habilidad real. Alguien con un CI alto no tiene ninguna habilidad especial, solo muestra buen rendimiento en muchas habilidades particulares). Y aquí menciona algo que me pareció sumamente interesante: apela a un principio de ingeniería que reza que es imposible optimizar todas las facetas de un sistema a la vez, que siempre hay contrapartidas. Lo que ganas en un sitio, necesariamente lo pierdes en otro. Y es interesante porque, por un lado parece muy lógico, pero por el otro, no parece, al menos a primera vista, que algo así esté ocurriendo con los LLMs actuales: parece que mejoran progresivamente en todas sus facetas simultáneamente. Quizá pierden en la necesidad voraz de mayor capacidad de computación, pero no parecen verse más contrapartidas a cada mejora. Sería muy interesante estudiar esta vía. Recordemos el maravilloso cuento de Borges, Funes el memorioso, que hablaba de un hombre con tan buena memoria que se pasaba todo el día recordando y no podía pensar.
3. La emulación del pensamiento humano en otros soportes estará limitada por los costes. Kelly sostiene que la idea de que es posible construir mentes totalmente equivalentes a la humana en silicio proviene de la idea de que es posible construir una máquina universal de Turing en cualquier sustrato que cumpla una serie de condiciones. Como el silicio las cumple, podemos construir en él dichas máquinas y, dado que pueden realizar toda computación posible, podremos construir mentes en máquinas (Aquí aceptamos felizmente que todo lo que hay en la mente es reductible a cómputo). Sin embargo, esta idea tiene un evidente punto débil: el factor tiempo. Turing habló de que las computaciones son equivalentes partiendo de un tiempo infinito, pero la cuestión del tiempo es crucial: de nada nos valdría diseñar una máquina que tardara años en realizar lo que la mente humana hace en segundos ¿Y de qué depende el tiempo de cómputo? Del sustrato en el que esté implementada la máquina. Aquí Kelly es categórico: si queremos pensamientos equivalentes hay que implementarlos en sustratos equivalentes. Como la IA actual utiliza un sustrato muy diferente, piensa de forma muy diferente. Esto, para Kelly no tiene por qué ser malo, solo que resulta engañoso cuando hacemos comparaciones entre la IA y la inteligencia humana. Si son diferentes, no son comparables.
4. Las dimensiones de la inteligencia no son infinitas. ¿Hay pruebas que respalden que la inteligencia posee una escalabilidad infinita? Kelly subraya la idea de que no hay ninguna magnitud física que sea infinita, todas tienen máximos y mínimos: la temperatura, el tiempo, la velocidad… Es más, subraya, ¿qué pruebas tenemos de que el límite de nuestras capacidades no esté ya muy cerca de tocar techo? Pensamos que, al igual que la distancia entre nosotros y una hormiga parece enorme, igual podría darse entre nosotros y una IA superior, pero ¿y si no? ¿Y si la IA puede ser más inteligente, pero no muchísimo más que nosotros? Aquí también critica la posibilidad de un «crecimiento exponencial» de la inteligencia. Él no ve pruebas de que algo así esté sucediendo (Si bien es un tema abierto a discusión. Por ejemplo, hay métricas que nos dicen que el tiempo puede trabajar un agente de IA de forma autónoma en una tarea compleja de ingeniería o ciberseguridad sin cometer errores, se duplica aproximadamente cada 7 meses. Otras nos dicen también que en adopcion de usuarios, impacto en el mercado, inversión en computación, están creciendo exponencialmente. No obstante, esto no parece darse así en todos los ámbitos de la IA, ni nada nos dice que vaya a seguir así indefinidamente, sino que lo más previsible es que podríamos ver una corrección saludable en las expectativas de mercado mientras la tecnología madura como una infraestructura estable). Al contrario, Kelly apuesta más por una proliferación horizontal de tipos de inteligencia diferentes, más que la llegada de una superinteligencia, visualiza una especie de nueva explosión cámbrica, en la que los resultados sean «extrahumanos» más que «sobrehumanos», «fuera» de nuestra experiencia más que «por encima» de ella.
5. Las inteligencias son solo un factor del progreso. Kelly expone lo que él llama «Pensamentismo» (thinkism): la falacia de que el progreso futuro solo se ve frenado por una falta de capacidad de pensamiento o inteligencia. O dicho de otra manera: la creencia ingenua de que pensando se puede solucionar todo. Kelly hace hincapié en que hay muchísimos problemas que no pueden solucionarse por mucho que les dediquemos años y años de pensamiento. Por ejemplo, para curar enfermedades como el cáncer no basta solo con pensar. Hay que hacer experimentos que, en muchas ocasiones son lentos: el metabolismo de una célula no puede acelerarse, por lo que obtener resultados puede llevar días, meses o años. De la misma forma, si queremos obtener resultados en física de partículas, hay que construir infraestructuras tan complejas y sofisticadas como son los aceleradores de partículas. Sin ellos, no podemos avanzar en el campo por muy inteligentes que seamos. Si bien es muy obvio que la IA va a acelerar el avance del descubrimiento científico, la inteligencia, por sí sola, es tan solo un factor más entre muchos otros. Kelly incide en que los que creen que la singularidad se dará cuando una IA sea capaz de mejorarse a sí misma, generando ese círculo virtuoso en el que, al hacerse cada vez más inteligente será capaz de automejorarse una y otra vez ad infinitum, están cayendo, precisamente, en el pensamentismo. ¿Quién garantiza que porque seas capaz de automejorar tu inteligencia hasta un punto, a partir de allí seas capaz de mejorarte aún más? Al contrario, si nos fijamos en la gran mayoría de los grandes descubrimientos científicos dados a lo largo de la historia de la humanidad vemos que han hecho falta que se dieran conjuntamente un montón de circunstancias ajenas a la pura inteligencia, entre las que se incluye la suerte, la casualidad, el error, intereses económicos y sociopolíticos, herramientas y tecnologías existentes, e incluso cualidades muy particulares de la personalidad del investigador. En esto estoy muy de acuerdo con Kelly, y me sorprende que muchos defensores de la singularidad sean, precisamente, científicos, es decir, gente que debería tener un buen conocimiento de cómo avanza la ciencia.
Kelly termina su artículo con una simpática metáfora. Todos hemos oído hablar alguna vez de los pueblos de la Micronesia en los que aviones norteamericanos de la Segunda Guerra Mundial, lanzaron su carga de mercancías y no regresaron jamás. Los nativos observaron esos «pájaros de metal» que «traían regalos» y, rápidamente, los trataron como divinidades y les rindieron culto. Así nació el cargo cult (culto de la carga), una variada red de creencias y rituales en torno a la idea de que esos dioses regresarán con nuevos bienes (Nótese el paralelismo con la parusía del cristianismo). Pues Kelly ve en la creencia en la llegada de la singularidad, en la aparición de una super inteligencia que va a solucionar todos los problemas de la humanidad (o, al contrario, a exterminarnos), una nueva forma de cargo cult. Es una creencia no basada en evidencia científica y mucho más parecida a una creencia religiosa: la creencia en la super inteligencia es un mito ¡No caigamos en él!
