[TTULO DEL DOCUMENTO] [Subttulo del documento]

En The Emperor's New Mind (en adelante Emperor) intento presentar un punto de vista (que creo

es nuevo) concerniente a la naturaleza de la fsica que puede subyacer a los procesos de

pensamiento. Como parte de mi argumento, sealo que puede haber campo, dentro de las leyes

fsicas, para una accin que no sea algortmica -es decir, que no pueda ser simulada por una

computadora- aunque arguyo que es probable que tal accin no algortmica pueda surgir solo en un

rea de la fsica donde existe una laguna importante en nuestra comprensin fsica presente: la

tierra de nadie entre la fsica cuntica y la fsica clsica.... Tambin arguyo que hay buena evidencia

en el sentido de que el pensamiento consciente mismo no es una actividad algortmica y que

consecuentemente el cerebro debe estar haciendo uso de procesos fsicos no algortmicos de una

manera esencial, siempre que la conciencia entra en juego. Debe haber, entonces, aspectos de la

accin del cerebro que no puedan ser adecuadamente simulados por una computadora, al menos

en el sentido que entendemos hoy el trmino.

As, el punto de vista que defiendo discrepa tanto del de la "inteligencia artificial fuerte" (o del

"funcionalismo" NOTA 2)... como de un punto de vista contrario promovido particularmente por

Searle NOTA 3. La inteligencia artificial fuerte afirma que la accin del cerebro no es sino la de una

computadora y que las percepciones conscientes surgen como manifestaciones de la puesta en

ejecucin de computaciones; en cuanto al punto de vista contrario, [el de Searle] afirma que aunque

la computacin no evoca por s misma la conciencia, una simulacin de la accin del cerebro sera

sin embargo posible en principio, puesto que el cerebro es un sistema fsico que se comporta

precisamente de acuerdo con algunas bien definidas acciones matemticas. Mi desacuerdo con este

ltimo punto de vista viene del hecho de que "matemticamente bien definidas" no implica por s

"computable".

..................

He aqu las cuestiones centrales por las que debemos preguntarnos: Son las mentes objeto de las

leyes fsicas? Cules son, en realidad, las leyes fsicas? Son las leyes fsicas computables (es decir,

algortmicas)? Son los procesos de pensamiento (consciente) computables?

En mi opinin, los estados mentales son cualidades que de hecho dependen de las mismas leyes

fsicas que gobiernan los objetos inanimados. Las mentes que conocemos son aspectos de la

actividad de los cerebros (cerebros humanos, por lo menos, pero probablemente tambin los de

ciertos animales) y los cerebros humanos son parte del mundo fsico. As, el estudio de la mente no

puede divorciarse del estudio de la fsica. Significa esto que se necesita una nueva comprensin

fsica o tenemos ya suficiente conocimiento de las leyes fsicas pertinentes para la comprensin de

los fenmenos mentales? En la opinin de la mayora de los filsofos, fsicos, psiclogos y

neurlogos, sabemos ya toda la fsica que podra tener alguna pertinencia sobre estos temas. Me

permito disentir de esa opinin.

..................

Arguyo que algunas de las manifestaciones de la conciencia son demostrablemente no algortmicas

y propongo, entonces, que los fenmenos mentales conscientes deben de hecho depender de una

fsica no computacional.... De acuerdo con mi posicin, los fenmenos de la conciencia ni siquiera

podran ser simulados por meras computaciones. Ninguna mquina adecuadamente inteligente...

podra ser una "computadora" en el sentido que este trmino tiene hoy da,... sino que tendra que

valerse de esa fsica no algortmica que arguyo es un ingrediente necesario de la base fsica del

pensamiento consciente. En este momento carecemos totalmente de la comprensin fsica

necesaria para construir tal presunta "mquina", incluso en principio.

..................

Puede una computadora tener mente? Recordemos la prueba de Turing NOTA 4.... Dejando aparte

la cuestin de si alguna computadora pudiera de hecho pasar la prueba, supongamos -para ayudar

al argumento- que hubieran sido ya construidas mquinas que la pasaran. Debemos enfrentar la

tesis operacionalista de que tales computadoras deban considerarse que piensan, sienten,

comprenden, etc., meramente en virtud de haber pasado la prueba.

Es mi opinin que tales cualidades mentales -y ciertamente la central de ser consciente- son

atributos fsicos objetivos que un ente puede o no poseer. Con la prueba de Turing solamente

estaramos haciendo lo posible por determinar si el ente en cuestin posee los atributos respectivos

(en nuestro caso, la conciencia). Para m, la situacin no es diferente en principio de, por ejemplo,

el intento de un astrnomo de determinar la masa de una estrella. Ser capaz de dar contestaciones

similares a las humanas en una prueba de Turing no es ciertamente lo mismo que tener cualidades

mentales similares a las humanas, pero puede servir como una buena indicacin de que tales

cualidades estn de veras en la mquina....

Cunto tiempo deber pasar para que una computadora pase de hecho la prueba de Turing?

Depende realmente de lo estrictos que seamos en los criterios de aprobacin. Mi propio pronstico

es que una buena aprobacin no se dar con ninguna computadora algortmica (es decir, una

computadora basada en los principios de clculo que usamos hoy) -por lo menos en el futuro

previsible-.... En algunos casos claramente delineados, sin embargo, se han alcanzado ya resultados

de conducta "casi humana" muy impresionantes. Las computadoras jugadoras de ajedrez proveen

un ejemplo de mquinas que exhiben lo que puede calificarse como "conducta inteligente". "Deep

Thought" (programada por Hsiung Hsu) ha alcanzado algunas notables victorias en juegos contra

grandes maestros. Creo que es claro, sin embargo, que tales computadoras juegan ajedrez muy

distinto de los seres humanos; dependen mucho ms de la profundidad de extensos anlisis y mucho

menos de "juicios intuitivos" -sean estos lo que fueren!-.

..................

El argumento de Searle se dirige contra el punto de vista de la "inteligencia artificial fuerte" (o

funcionalismo) que pretende que basta solamente la construccin de un algoritmo (suficientemente

elaborado) para evocar cualidades mentales tales como conciencia, comprensin o intencionalidad.

Considero el argumento de Searle muy persuasivo con respecto a programas de una complicacin

relativamente limitada... pero de ningn modo es conclusivo -especialmente cuando se aplica a los

programas de computacin inmensamente ms complicados que, de acuerdo con el punto de vista

de inteligencia artificial fuerte, seran necesarios para conjurar la verdadera conciencia-....

.................

El punto de vista de la inteligencia artificial fuerte parece derivarse en parte del hecho de que la

individualidad de una persona no depende de los tomos particulares que componen su cuerpo.

Hay una continua sustitucin de prcticamente todo el material del cuerpo viviente de cualquier

persona....Por ejemplo, si el contenido material completo de una persona fuera canjeado con

partculas correspondientes de los ladrillos de su casa, nada absolutamente habra sucedido. Lo que

parece distinguir a una persona de la casa en que habita es la configuracin en que sus partes

constitutivas estn organizadas, no la individualidad de estos constituyentes mismos. As, una

persona no es ms que una "configuracin de informacin" y esta informacin podra, en principio,

ser trasladada de un material a otro. El punto de vista de la inteligencia artificial fuerte es

simplemente que es el "contenido informtico" de esta configuracin lo que caracteriza a cualquier

individuo particular. Esta idea ha ganado fuerza de la experiencia con las modernas computadoras

de alta velocidad; gracias a ellas estamos ahora familiarizados con el fenmeno de la informacin

que se transforma de una realizacin a otra (por ejemplo de una configuracin de campos

magnticos en un disco flexible a una coleccin de desplazamientos de cargas en la memoria de la

computadora y de ah a una familia de grietas en la iluminacin de una pantalla de rayos catdicos).

Adems, existe la justificacin terica del hecho de que las computadoras modernas de propsito

general son, en efecto, ejemplos de mquinas universales de Turing. Cualesquiera dos tales

mquinas son completamente equivalentes la una a la otra en el sentido de que, sin relacin al

hardware particular en que consista cada mquina, habr siempre algn software adecuado que

pueda efectivamente convertir cualquiera de ellas en la otra. En cierto sentido, el hardware se ve

como inatinente, y se considera que la informacin esencial de la operacin de la mquina reside

en el programa, esto es, en el software.

.................

Uno de los ms importantes desarrollos en la historia de las matemticas ocurri en este siglo a

fines de los aos veinte y principios de los treinta, cuando el concepto de algoritmo general fue

hecho matemticamente preciso y se demostr que hay algunos procedimientos matemticos que

no pueden ser descritos por ningn algoritmo. Existen varias diferentes maneras -completamente

equivalentes entre s- de formalizar el concepto de algoritmo. La que es intuitivamente ms clara

fue propuesta por Alan Turing...: un mecanismo idealizado que opera con una "cinta"

potencialmente infinita sobre la cual se representan las entradas e instrucciones [de un programa].

Solo una porcin finita de la cinta est marcada con los datos e instrucciones. As, aunque el

mecanismo puede lidiar con datos de tamao ilimitado, su entrada es siempre finita....Es un hecho

notable que cualquier proceso computacional (que opere con cantidades discretas finitas) pueda

ser descrito como la accin de alguna mquina Turing. Por lo menos, esto es lo que pretende la

llamada tesis de Church-Turing, en su forma matemtica original. El apoyo para esta tesis viene en

parte del cuidadoso anlisis de Turing de las distintas clases de operacin que uno podra considerar

de hecho como un proceso computacional o algortmico y en parte del impresionante hecho de que

todas las variadas propuestas alternativas para el significado de "algoritmo" (presentadas

aproximadamente al mismo tiempo por Church, Kleene, Gdel, Post y otros) resultaron ser

completamente equivalentes. Algunas de estas propuestas tenan la apariencia inicial de ser

completamente diferentes, de modo que su equivalencia es una indicacin muy fuerte de que son

meras descripciones alternativas de un concepto matemtico abstracto absoluto, a saber, la

computabilidad....Como tantas otras ideas matemticas, especialmente las ms profundamente

bellas y fundamentales, la idea de computabilidad parece tener una cierta clase de realidad

platnica NOTA 5. Esta cuestin misteriosa sobre la realidad platnica de los conceptos matemticos

es un tema central de Emperor....Turing dise originalmente sus "mquinas" para contestar una

pregunta hecha por David Hilbert: Es posible en principio encontrar un procedimiento matemtico

(un algoritmo) para resolver todos los problemas matemticos de una clase especificada? Turing (e

independientemente Church) mostr que la contestacin es "no". Turing parafrase el problema de

Hilbert como la cuestin de decidir si una mquina Turing dada, cuando acta sobre una cinta

especfica, se llega o no a detener; y mostr... que no hay algoritmo para contestar esta pregunta

de manera general.

.................

La cuestin de la verdad matemtica y de cmo la afirmamos es fundamental. Cmo deciden de

hecho los matemticos cules enunciados matemticos son verdaderos y cules falsos? Siguen

algn algoritmo... o tienen otra ruta hacia la verdad por medio de una "intuicin" misteriosa que no

puede ser tratada algortmicamente?... Afortunadamente (para mi manera de pensar), en 1931 Kurt

Gdel present su famoso teorema.... Mostr que en cualquier sistema formal coherente que sea

suficientemente amplio para contener la aritmtica y las reglas normales de procedimiento lgico,

se pueden construir enunciados matemticos bien definidos que no se pueden probar ni su

negacin tampoco- usando las reglas de ese mismo sistema formal. As, el sistema no puede ser

completo en el sentido en que Hilbert y otros habran querido. Todava peor (para el punto de vista

formalista NOTA 6), dada la forma en que las proposiciones gdelianas NOTA 7 son construidas,

podemos ver, usando nuestra intuicin y comprensin de los smbolos formales, que tales

proposiciones son verdaderas. Todo esto nos dice que los mismos conceptos de verdad, significado

e intuicin matemtica no pueden encapsularse dentro de un esquema formalista.

Esto no solo es una mala noticia para los formalistas matemticos. Tambin lo es para los defensores

de la inteligencia artificial fuerte. Porque hay una relacin muy estrecha entre el concepto de un

algoritmo y el concepto de un sistema formal.... Por cada sistema formal hay siempre un algoritmo

que genera precisamente todas las proposiciones que pueden ser probadas dentro de ese sistema.

Conversamente, dado un algoritmo para generar enunciados matemticos, se puede siempre

construir un sistema formal que incorpore todos esos enunciados como axiomas del sistema. Esto

nos dice que la verdad matemtica no es cuestin algortmica. Nos dice tambin que el significado

y la intuicin tampoco son materia algortmica....

.................

El mensaje me queda claro: la verdad matemtica no es algo que afirmamos meramente por el uso

de algoritmos. Creo tambin que nuestra conciencia es ingrediente esencial de nuestra comprensin

de la verdad matemtica. Debemos "ver" la verdad de un argumento matemtico para

convencernos de su validez. Este "ver" es la misma esencia de la conciencia NOTA 8. Cuando nos

convencemos de la validez del teorema de Gdel no solo lo "vemos" sino que, por eso mismo,

revelamos la misma naturaleza no algortmica del propio proceso de "ver".

.................

* * *

LAS FALACIAS MANIDAS DE UN EMPERADOR

por Donald Perlis

La falacia de extrapolacin. Niels Bohr y Max Delbruck dijeron que la explicacin de los seres vivos

requerira el descubrimiento de nuevos rincipios fsicos sobre la organizacin de la materia. Pero la

vida result estar ms bien constituida por fantsticos e insospechados mecanismos de juguetera

qumica, adecuadamente complejos, explicables simplemente en trminos de la ciencia fsica

existente. La extrapolacin de molculas simples a complejas result falsa: las simples no se

reproducen ni metabolizan, pero las complejas s pueden hacerlo. Lo mismo puede resultar cierto

de la mente, de maneras que todava no podemos siquiera imaginar.

La inteligencia artificial fuerte y la experiencia interna. Penrose deja al lector con la impresin... de

que la inteligencia artificial fuerte es hostil a temas "peludos" como el de la experiencia interna real.

Pero eso est lejos de ser verdad: la inteligencia artificial fuerte sugiere que la experiencia interna

de veras est ah y que cuando la encontremos nos daremos cuenta de que corresponde a procesos

informticos muy, muy complejos.

Dualismo. En conjunto con Searle, Penrose... parece encontrar en la inteligencia artificial fuerte una

forma de dualismo, a saber, la supuesta pretensin de que es la configuracin ( software, algoritmo)

y no la substancia ( hardware, cerebro) lo que constituye la mentalidad. Pero la mera configuracin

por s misma no es ni siquiera una accin, y por s sola no hace nada. Son los procesos algortmicos,

no las copias impresas estticas de los algoritmos, lo que los practicantes de la inteligencia artificial

fuerte consideran importante. Intencionalidad. Penrose... observa correctamente que no se puede

sentir, o tener asombro o pensar sin que haya algo que se sienta o de lo que uno se asombre o que

se piense, esto es, la mente tiene sentido de direccin o intencionalidad. Esto tambin es un caso

de falacia de extrapolacin: [en el caso del experimento mental de Searle, por ejemplo] un sistema

persona-ms-programa suficientemente complejo podra en verdad comprender el chino.

.................

* * *

LAS CONFUSIONES DE UN FSICO

segn McCarthy Penrose no cree que las computadoras construidas de acuerdo con los principios

fsicos hasta ahora conocidos puedan ser inteligentes, y conjetura que una mecnica cuntica

modificada pudiera ser necesaria para explicar la inteligencia. Tambin argumenta en contra de lo

que l llama "inteligencia artificial fuerte". Ninguno de los dos argumentos hace la menor referencia

a los 40 aos de investigacin en inteligencia artificial....

.................

Las mayores dificultades [para dotar de inteligencia a una computadora] no son problemas tcnicos

matemticos. Ms bien, consisten en escoger un conjunto de predicados, funciones y frmulas

adecuadamente generales para representar el conocimiento de sentido comn....Estos y otros

problemas hacen pensar que tomar mucho tiempo alcanzar inteligencia artificial de nivel humano,

pero el progreso hasta el presente provee razones para sentirse animado sobre la posibilidad de

alcanzar esa meta mediante programas de computacin.

.................

Penrose se pone a refutar la "inteligencia artificial fuerte", que es una tesis inventada por el filsofo

John Searle precisamente para ser refutada.

Tiene alguna relacin con opiniones extendidas entre los investigadores de inteligencia artificial,

pero las sobresimplifica, especialmente pasando por alto el nfasis de la inteligencia artificial en

conocimientos y no solo en algoritmos. Como usa el trmino Penrose, es la tesis de que la

inteligencia es [solamente] cuestin de tener el algoritmo correcto.

Mientras que Penrose piensa que una mquina basada en la fsica clsica no tendr nunca un

rendimiento al nivel humano, usa algunos argumentos de Searle en el sentido de que incluso si tal

mquina llegara a existir, el rendimiento no sera propiamente pensamiento.

.................

La mejor contestacin [a los argumentos de Searle NOTA 9] es la "respuesta sistemtica". En verdad,

el hombre no necesita saber chino; pero el "programa" presente en el libro de reglas al cual el

hombre sirve de hardware interpretativo, esencialmente sabra chino si es que logra producir

conversaciones no triviales. Si se contesta que el hombre podra haber memorizado las reglas,

deberamos entonces distinguir entre la personalidad original del hombre y la personalidad china

que estara interpretando.

Estas situaciones son comunes en informtica. Una computadora puede compartir varios programas

[como si tuviera varias personalidades].... El hardware humano no soporta normalmente varias

personalidades, de modo que usar el mismo nombre para la persona fsica y su personalidad

raramente lleva a error NOTA 10.

.................

De acuerdo con las presentes ideas en inteligencia artificial, adems de tener una gran cantidad de

conocimiento explcitamente representado, un programa de cuarto chino probablemente tendra

que ser introspectivo, es decir, ser capaz de observar su memoria y generar de esa observacin

proposiciones sobre lo que est haciendo. Esto aparecera como conciencia a un observador

externo, justamente como el comportamiento humano inteligente nos lleva a adscribir conciencia

a nuestros semejantes. Penrose pasa esto por alto al decir: "la formacin de juicios que es la marca

de la conciencia es algo que la gente de inteligencia artificial no tendra la menor idea de cmo

programar en una computadora". En realidad, la mayor parte de la literatura de inteligencia artificial

discute la representacin de hechos y juicios sobre ellos en la memoria de la mquina.

Para usar la jerga de inteligencia artificial, la parte epistemolgica de inteligencia artificial es tan

prominente como su parte heurstica. El argumento de Penrose contra la inteligencia artificial que

ms interesa a los matemticos es que sea cual fuere el sistema de axiomas que se haya incluido en

un programa de computadora -por ejemplo, la teora de conjuntos de Zermelo-Fraenkel- un hombre

puede formar una proposicin de Gdel para el sistema, verdadera pero imposible de probar dentro

del sistema.

La respuesta ms simple para Penrose es que formar una proposicin Gdel a partir de una

expresin de lgica de predicados, toma solo una lnea de programacin en LISP NOTA 11.

Imaginemos este dilogo entre Penrose y un Penrose: Dgame el sistema lgico que usted usa y yo

le dir una proposicin verdadera que no puede probar. Programa: Dgame usted cul sistema usa

y yo le dir una proposicin verdadera que usted no puede probar. Penrose: Yo no uso un sistema

lgico fijo.

Programa: Yo puedo usar cualquier sistema que usted elija, aunque ms frecuentemente uso una

variante de ZF descendiente de la obra realizada en los aos ochenta por David McAllester. Le

imprimo el manual? Y con perdn suyo, la propuesta que usted me ha hecho es como un reto para

nombrar el nmero ms largo que existe, teniendo yo que jugar de primero....

.................

Existe una intuicin equivocada detrs de la creencia generalizada de que un programa no puede

hacer matemticas al nivel humano; consiste en el supuesto de que una mquina debe

necesariamente trabajar dentro de un solo sistema axiomtico, con una interpretacin predefinida.

.................

NOTA 1 El sugestivo ttulo del libro de Penrose, "The Emperor's New Mind",

alude al conocido cuento "La camisa nueva del emperador" como una manera

de

recordar que opiniones impopulares pueden sin embargo ser verdaderas. Para

la adecuada comprensin de esta seleccin, sugerimos tener muy en cuenta

las

selecciones sobre computabilidad y mquinas de Turing incluidas en esta

coleccin. Nota del editor.

NOTA 2 El punto de vista funcionalista est muy bien representado en esta

antologa, especialmente por las selecciones de Dennett, Newell y Simon, y

Fodor y Pylyshyn. Nota del editor.

NOTA 3 Ver la seleccin de Searle en esta misma coleccin. Nota del

editor.

NOTA 4 Confrntese la seleccin de Turing en el captulo primero de esta

coleccin. Nota del editor.

NOTA 5 El filsofo griego Platn (siglo IV antes de Cristo) ense que la

nica verdadera realidad existe en un mundo distinto del mundo natural que

conocemos por los sentidos. Las cosas que vemos y tocamos son solamente

sombras de las verdaderas realidades: las ideas. Estas no existen en el

mundo material y solo tenemos acceso a ellas por el ejercicio de la razn.

Por ejemplo, en la realidad emprica encontramos muchas aproximaciones a

un

tringulo equiltero; pero el tringulo equiltero perfecto slo puede ser

percibido por la razn, pues no pertenece a este mundo (el mundo de los

sentidos) sino al mundo de las ideas. Penrose se declara platnico en lo

que

se refiere a los objetos matemticos: cree que existen de un modo absoluto

en un reino puramente racional, el mundo de los entes matemticos. Nota

del

editor.

NOTA 6 El formalismo es una corriente de filosofa de las matemticas que

considera que la verdad matemtica est ligada a la posibilidad de probar

los enunciados por medio de reglas a partir de los enunciados bsicos del

sistema, llamados normalmente axiomas. As, el formalismo subraya la

importancia de los sistemas axiomticos en el conocimiento matemtico. El

formalismo es una importante alternativa al platonismo en filosofa de las

matemticas. Otras alternativas son el intuicionismo y el

instrumentalismo,

pero aqu no es el lugar para exponer estos complicados puntos de vista.

Baste notar que un posible rechazo de la filosofa formalista no nos

fuerza

necesariamente a aceptar la filosofa platnica: existen otras

alternativas

ms para explicar el concepto de verdad matemtica. Nota del editor.

NOTA 7 Para demostrar su teorema Gdel construye una proposicin que dice

que ella misma no puede probarse dentro del sistema axiomtico respectivo;

entonces, si la proposicin de veras no puede probarse, el sistema se

habra

declarado incompleto (puesto que una proposicin verdadera no sera

demostrable dentro del sistema); pero si la proposicin puede probarse,

entonces el sistema sera inconsistente porque lo que la proposicin dice

es

que no puede probarse. Los detalles de cmo puede construirse esta

proposicin son demasiado tcnicos para ser presentados aqu. Nota del

editor.

NOTA 8 Sobre el tema de la conciencia, consltese la seleccin

correspondiente de Dennett en este mismo captulo. Nota del editor.

NOTA 9 Ver la seleccin EL CUARTO CHINO en este mismo captulo. Nota del

editor.

NOTA 10 Sin embargo, confrntese lo expresado sobre el desorden de

personalidad mltiple en la seleccin de Dennett sobre la conciencia, en

esta misma coleccin. Nota del editor.

NOTA 11 LISP (List Processing Language) es el lenguaje de programacin

favorito de los investigadores de inteligencia artificial. Nota del