Do artificial intelligence systems understand?

Abstract

Las máquinas inteligentes, ¿son realmente inteligentes? El concepto filosófico subyacente de inteligencia, ¿es satisfactorio para describir cómo funcionan los sistemas actuales? El entendimiento, ¿es condición necesaria o suficiente para la inteligencia? Este artículo aborda el problema de decidir si las llamadas máquinas inteligentes son capaces de entender, en lugar de sólo procesar signos. Versa, así pues, sobre la relación entre sintaxis y semántica. La tesis principal alude a la inevitabilidad de la semántica para cualquier discusión sobre la posibilidad de construir máquinas conscientes, condensada en los siguientes enunciados: «Si una máquina es capaz de entender (en sentido fuerte), entonces debe ser capaz de combinar reglas e intuiciones»; «Si la semántica no puede reducirse a sintaxis, entonces una máquina no puede entender». Nuestra conclusión sostiene que no es necesario atribuir entendimiento a una máquina para explicar el comportamiento «inteligente» que exhibe; una aproximación meramente sintáctica y mecanicista a la inteligencia como herramienta de resolución de problemas basta para justificar el rango de operaciones que despliega en el estado actual del desarrollo tecnológico.

Abstract Are intelligent machines really intelligent? Is the underlying philosophical concept of intelligence satisfactory for describing how the present systems work? Is understanding a necessary and sufficient condition for intelligence? If a machine could understand, should we attribute subjectivity to it? This paper addresses the problem of deciding whether the so-called “intelligent machines” are capable of understanding, instead of merely processing signs. It deals with the relationship between syntax and semantics. The main thesis concerns the inevitability of semantics for any discussion about the possibility of building conscious machines, condensed into the following two tenets: “If a machine is capable of understanding (in the strong sense), then it must be capable of combining rules and intuitions”; “If semantics cannot be reduced to syntax, then a machine cannot understand”. Our conclusion states that it is not necessary to attribute understanding to a machine in order to explain its exhibited “intelligent” behavior; a merely syntactic and mechanistic approach to intelligence as a tasksolving tool suffices to justify the range of operations that it can display in the current state of technological development.