La osadía de definir la inteligencia
Los argumentos atrapados en el 'problema de la habitación china' con las nuevas IA generativas corren el riesgo de quedarse encallados en una soberbia fútil.
Imagina que hay una habitación cerrada en la que se encuentra una persona que solo habla inglés. Esta persona no tiene conocimientos de chino. Dentro de la habitación, hay un conjunto de instrucciones escritas en inglés que permiten a la persona correlacionar caracteres chinos con otros caracteres chinos, pero sin explicar el significado de estos caracteres.
Desde fuera de la habitación, alguien desliza una serie de caracteres chinos por una ranura. La persona dentro de la habitación sigue las instrucciones en inglés y, utilizando las correlaciones, genera una respuesta en caracteres chinos, que luego desliza de vuelta por la ranura hacia el exterior. Desde la perspectiva de la persona que hizo la pregunta, parece que quien está dentro de la habitación comprende y habla chino.
Esta es parte de la explicación que ChatGPT me da cuando le pido que me cuente el problema de la habitación china del filósofo John Searle. Sigue:
Sin embargo, la persona dentro de la habitación no entiende el chino en absoluto. Simplemente está siguiendo un conjunto de instrucciones sin comprender el significado de los caracteres que manipula.
Creo que ya sabes por dónde va la cosa, pero por si acaso, sigo (y añado por si alguien quiere más info este video que explica perfectamente qué es un GPT y por qué encaja en esta idea).
Searle argumenta que esto es similar a cómo funcionan las inteligencias artificiales basadas en la manipulación de símbolos: pueden procesar y generar respuestas en lenguaje natural, pero no tienen una comprensión real de lo que están haciendo ni del significado de los símbolos que manipulan.
El argumento de la habitación china sugiere que el procesamiento sintáctico (la manipulación de símbolos y la generación de respuestas) no es suficiente para lograr una comprensión semántica (el entendimiento del significado y el contexto). Según esto, la inteligencia artificial, incluso si puede simular el comportamiento humano, no puede alcanzar una comprensión auténtica ni la conciencia debido a la falta de comprensión semántica.
El escepticismo actual con los avances que estamos viendo en la inteligencia artificial generativa durante los últimos meses son variaciones del problema de la habitación china. Ojo, no hablo de la crítica, o de los avisos sobre posibles riesgos, peligros, costes. Esas son conversaciones para mí enormemente valiosas y necesarias. Hablo de la duda sobre la importancia del momento en que estamos.
OK.
Voy a dejar a ChatGPT que responda con contra-argumentos. Empecemos con estos dos:
1 El sistema completo sí comprende: aunque la persona en la habitación no entienda el chino, el sistema completo, que incluye a la persona, las instrucciones y las correlaciones, sí comprende el idioma. La comprensión se encuentra a nivel del sistema y no del individuo que sigue las instrucciones.
2 La habitación china es una mente: si la habitación china tuviera la capacidad de interactuar con el mundo, percibir y realizar acciones, podría desarrollar una comprensión semántica. En otras palabras, si la habitación china funcionara como una mente completa, con entradas sensoriales y salidas motoras, entonces podría lograr una comprensión auténtica.
Estos son argumentos de incompletitud: a un modelo como GPT-4 solo le falta equiparse con capacidad para auto-definir sus componentes y su motivación (1), o bien sentidos, voz y manos (2), para ser realmente inteligente.
Esta crítica mezcla inteligencia con criterio y autonomía, algo que quizás no es necesario hacer porque ya tenemos conceptos separados (¡ésos mismos!) para definir cada dimensión. Creo que es más útil mantener una idea algo más estrecha de inteligencia, que sería parte de una serie de atributos (inteligencia, criterio, autonomía o voluntad de disponer de ella, consciencia) que definen la vida humana.
Si estamos hablando de inteligencia en esos términos, entonces ChatGPT me dio dos argumentos más.
3 La comprensión semántica puede emerger de procesos sintácticos: una comprensión semántica adecuada podría emerger de procesos sintácticos lo suficientemente complejos y sofisticados. Esto implica que la IA podría desarrollar una comprensión real del significado y el contexto si sus algoritmos de procesamiento de lenguaje fueran lo suficientemente avanzados.
Este argumento acepta la premisa de Searle de que capacidad sintática ≠ comprensión semántica, pero niega que sean dos dimensiones totalmente desacopladas y de hecho sugiere que la primera puede llevar a la segunda. Para mí, sobre todo prepara el terreno para el contragolpe más potente contra el problema de la habitación china.
4 Simulación suficiente es igual a comprensión: yendo aún más lejos, si una inteligencia artificial puede simular de manera suficientemente precisa el comportamiento humano en la comprensión del lenguaje, esto equivale a la verdadera comprensión. Es decir, si un interrogador humano no puede distinguir entre las respuestas de la IA y las de otro humano, entonces debe considerarse que la IA comprende y es consciente.
Se descubre así una osadía considerable en el ‘escepticismo de habitación china’: a de pretender que los humanos disponemos de una cualidad distintiva asociada a la inteligencia, inherentemente compleja y profunda, que va más allá de lo observable con nuestros propios instrumentos de medición. Lo humilde y parsimonioso, también lo cauto, es lo contrario: si con una serie de pruebas definidas ex ante resulta que algo parece inteligente, a mí al menos solo me quedará decir que hasta donde puedo decir (“to the best of my knowledge”) lo es. Independientemente de lo simple que nos parezca el mecanismo que lo provoque.
No estamos en ese punto, no. Pero en el último año los avances han caminado en esa dirección. Lo sorprendente es que . Y esto sólo es posible si se mantiene esa cualidad borrosa que opera dentro de la lógica de la habitación china.
Kiko dijo todo esto mucho mejor que yo en su newsletter del domingo pasado:
¿Sabéis qué es también el resultado de un proceso emergente parecido? Nosotros los seres humanos. La teoría de la evolución dice que el motor de la vida es maximizar un resultado: sobrevivir y propagar genes. Es un objetivo limitado, en realidad, ni elevado ni romántico, pero ha sido suficiente para traernos hasta aquí y empujarnos a pintar en paredes, contemplar las estrellas y pensar en bebés que duermen.
Pues bien. Este texto, que para mí logra responder con bastante competencia al osado escepticismo sobre la IA, es en un ~80% el resultado de una habitación china. Nada mal para un pequeño y simple modelo.
* * *
El sábado por la noche me encontré algo que no esperaba: una firma de Cornbread en la pared de un bar que no estaba en Filadelfia.
Cornbread se disputa con otro puñado de leyendas el título de ser el padre del graffiti contemporáneo. Empezó a firmar con su apodo en un correccional de su Filadelfia natal allá por mediados de los años sesenta, en lugar de usar el nombre de una pandilla, como era habitual entonces - una de las funciones originales del graffiti era la delimitación territorial de bandas. Unos pocos años después, ya fuera del correccional, quiso conquistar a una compañera de clase llamada Cynthia y no se le ocurrió mejor idea que llenar su zona de la ciudad con la frase Cornbread Loves Cynthia. Logró llamar su atención, y también la de otra mucha gente. Así que siguió firmando la ciudad.
Mezclé este encuentro con su firma en un lugar inesperado, una firma que jamás pensé que mis ojos iban a ver en vivo y en directo, en toda su sencillez que apenas se ha modificado en casi seis décadas. Lo mezclé en mi mente con la idea de Kiko: resultados complejos, bellos, inesperados a partir de modelos con un propósito inicial aparentemente simple. Llamar la atención de tus amigos, de tus adversarios, o de una chica que te gusta como punto de inicio para una de las expresiones artísticas más importantes, ricas, significativas y que más vidas han cambiado durante en el último medio siglo. Si eso no nos enseña a ser un poquito más humildes cuando tratamos de adivinar la complejidad del mundo, yo ya no sé. En fin, dentro música.
Querido Jorge,
Así, en una primera lectura de tu muy interesante reflexión, no puedo por menos que discrepar en varios puntos y señalar el tono dolorido de believer inasequible al desaliento con que la desarrollas. No parece éste (sic), sin embargo, el lugar para un largo y fecundo intercambio de pareceres, en el que no han de faltar, entre otros, Kant, Hegel, Chomsky, Russell, Morris, Gadamer, Wittgenstein o Saussure...
Un fuerte abrazo