Saber la respuesta no significa entenderla
Estamos como encandilados. Supongo que es natural. Las tecnologías de procesamiento de la información han avanzado más en medio siglo que todas las otras técnicas en los pasados diez mil años.
La Nación
Por Ariel Torres
Si en el siglo XIX imaginábamos poderosos hombres mecánicos, hoy, con idéntica ingenuidad, estamos pronosticando cerebros electrónicos capaces de superar la mente humana. ¿No fue acaso una computadora la que le arrebató el título de campeón mundial de ajedrez al gran Kasparov en 1997?
Opino que no. Catorce años atrás sostuve que asegurar que Deep Blue le había ganado a Kasparov era una afirmación excesiva. El coloso digital a 1 teraflops (1 billón de operaciones de coma flotante por segundo) no había sido consciente de su éxito ni había salido a festejar con sus amigos; bueno, no tenía amigos. Así que es un poco absurdo decir que ganó si no sabe que ganó. ¿Cabe afirmar que el campeón mundial de ajedrez no tiene idea de que estuvo jugando al ajedrez? Suena raro, como mínimo.
En su momento, lo de Deep Blue me dio un poco de vergüenza ajena. Era la fuerza bruta, ciega e insensible de la maquinaria, capaz de sondear 200 millones de posiciones de tablero por segundo, contra un ser humano del todo incapaz de semejante potencia de cómputo. De hecho, la gran virtud de Kasparov es ser genial en un juego para el que nuestros cerebros son completamente inadecuados. Cuando podés ver todas las posibles posiciones de tablero y elegir la mejor, el ajedrez carece de sentido. Garry jugó al ajedrez; Deep Blue, no.
Al final, luego de un primer encuentro que ganó Kasparov, la fuerza bruta terminó doblegando al cerebro orgánico. Claro que Deep Blue nunca habría siquiera existido sin los blandos cerebros de los bípedos. Anóteme un círculo vicioso aquí, por favor.
Un buen alumno
Ahora, IBM lo ha hecho de nuevo. Su computadora Watson aplastó a dos campeones de un juego televisivo de preguntas y respuestas llamado Jeopardy! gracias a sus 2880 cerebros electrónicos que suman una potencia de cómputo total de 80 teraflops. Ochenta Deep Blue. ¡Ouch!
Mientras veía los encuentros me dio la impresión de que la destreza más interesante de Watson es la de entender el lenguaje natural. Aunque su voz metálica y artificial hizo reír al conductor del programa en un par de ocasiones, su habilidad para pescar al vuelo la mayoría de las preguntas es un logro extraordinario de IBM. En cuanto a lo demás, Watson no se dio por enterado cuando el conductor del programa se burló de su extraña pronunciación del inglés.
Corta también el aliento su capacidad para rebuscar en su base de datos de 4 terabytes, atar cabos, darle sentido a la información y extraer una respuesta correcta. Como me explicaba el jueves Kerrie Holley, uno de los Chief Technology Officer de IBM que fue asesor durante el desarrollo de Watson, hacen falta muchos y muy complejos algoritmos para extraer de ese océano de datos una palabra, una frase que se correlacione de forma precisa con las pistas de la pregunta. Ya lo creo.
Ahora, fuera de dar este espectáculo televisivo, ¿para qué sirve realmente la nueva supercomputadora de IBM? "Las máquinas como Watson serían capaces de ayudarnos en actividades como la medicina -me decía Holley-. Imagínese su capacidad para buscar y correlacionar los síntomas de un paciente con centenares de miles de artículos, experimentos y noticias al servicio de un médico." O, por ejemplo, echarle una mano al pobre abogado que hoy necesita bucear en una biblioteca de jurisprudencia y leyes. Según IBM, en el futuro los profesionales obtendrán respuestas inmediatas a estas preguntas complejas, investigaciones, diagnósticos.
Algo más que fue evidente a medida que avanzaban los encuentros es que Watson es capaz de aprender. De hecho, es una de las destrezas que el equipo de desarrollo programó en él. Entre el primer encuentro, que terminó casi en empate, y el abrumador triunfo del final la máquina mejoró de forma consistente su desempeño. No así los humanos, que llegaron al estudio de TV en su mejor forma.
Titanes en el ring
Sin embargo, la decisión de enfrentarlo a personas me pareció un recurso publicitario equívoco. Efectivo, pero equívoco. Aunque hay un video en YouTube donde los ejecutivos de IBM explican por qué escogieron Jeopardy! ( http://www.youtube.com/watch?v=_1c7s7-3fXI ), cuando le mencioné mis reservas a Holley, al principio de nuestra charla telefónica, estuvo muy de acuerdo en que todo el asunto no tiene nada que ver con "máquinas contra hombres", y que la idea era más bien "interesar al público en este desarrollo de IBM".
Desafortunadamente, los titulares, las etiquetas en YouTube, las charlas en foros y los debates en las redes sociales abundaron en menciones a Skynet y HAL 9000 y en afirmaciones del tipo Supercomputadora destroza a los humanos. Lo haya querido o no IBM, provocó una interpretación errónea de lo que Watson es en realidad, y abonó la animosidad que muchas personas siguen sintiendo contra los que consideran más autómatas malignos que herramientas útiles. La compañía también se hizo eco de este resultado no deseado: http://www-943.ibm.com/innovation/us/watson/
Desde mi punto de vista, la competencia se fue convirtiendo cada vez más en un espectáculo circense. Durante el segundo encuentro el factor decisivo pasó a ser más bien la velocidad de Watson para apretar el timbre que el haber obtenido la respuesta antes que los humanos. La frustración de los dos competidores de carne y hueso, Ken Jennings y Brad Rutter, daba pena. La carrera ya no era por comprender las pistas ocultas en las preguntas, memorizar y responder, sino por la rapidez de los reflejos, área en la que los vertebrados superiores tenemos insuperables limitaciones de hardware, por así decir.
Libre albedrío
Cualquier sedan familiar ganaría con facilidad en los 100 metros, pero nos parecería disparatado que un velocista olímpico compita contra un automóvil. ¿Cuándo decidimos que Deep Blue y Watson son diferentes? Cuando empezamos a creer que hay algo de mental en sus computaciones, y no es así.
No hay más mente en Watson que en una calculadora de bolsillo. La diferencia entre ambos es su potencia de cómputo y la complejidad de su software. En el video que mencioné antes se explica también, en inglés, el arduo y por momentos frustrante proceso de programar esta supercomputadora y derriba muchos de estos mitos en los que tendemos a creer y que Jeopardy! ayudó a consolidar, mal que le pese a IBM.
Watson es unas 80 billones de veces más rápido que un ser humano para hacer cálculo de coma flotante, pero el secreto de la mente humana no reside allí. Usted necesitaría 25.000 siglos para resolver las cuentas que Watson despacha en un segundo, pero Watson no podría alegrarse de su éxito ni en un millón de años. No está programado para eso.
Esta cuestión, la de estar programado para, presenta un número muy grande de problemas lógicos cuando comparamos una computadora, por poderosa que sea, con una persona.
Supongamos no ya al pobre Watson, que en veinte años será una pieza de museo, sino una computadora del futuro, decenas de miles de millones de veces más potente. Imaginemos que con semejante poder, con el cerebro positrónico de Asimov o algo por el estilo, nuestro artilugio digital es capaz hasta de filosofar o escribir poesía. Parece pensar, pero en realidad sólo está programado para pensar. La diferencia parece sutil, pero nos conduce a un problema sin solución.
Para que algo se convierta en alguien es menester que, al menos, disfrute de libre albedrío. Ingeniosamente, los creadores de nuestro hipotético golem digital han programado en él la función del libre albedrío. Y esto, casi no hace falta aclararlo, es una bonita contradicción.
Dado que a las computadoras las contradicciones les sientan mal, no es imposible que una máquina pensante programada para tener libre albedrío terminara por colgarse. El libre albedrío sería la división por cero de los robots.
Además, si los humanos nos hemos pasado 5000 años debatiendo sobre nuestro propio libre albedrío, y eso que no hemos salido de una línea de producción, qué queda para una maquinaria que hemos construido desde nuestro propio libre albedrío, nuestra conciencia, nuestra visión del cosmos, nuestras limitaciones intelectuales. El cínico de fuste aquí me dirá que no hay pruebas de que no seamos robots orgánicos y que la naturaleza o Dios podrían ser sólo ilusiones implantadas en nuestro software.
Cierto, pero tampoco hay pruebas de que Dios no exista o que la naturaleza sea una vasta simulación. Y, además, si así fuera, el pobre Watson no sería ya hijo de seres vivientes, sino de robots. No querría estar en sus sockets.
Conciencia y conciencia de sí
Si pienso luego existo, entonces la mera simulación del pensamiento sólo conduce a una simulación del ser.
Pero hay un obstáculo adicional a la hora de comparar humanos con máquinas pensantes: la conciencia. Ni siquiera tenemos claro qué es, pero somos conscientes de que somos conscientes.
Nuestra identidad, clara y distinta para otros y para nosotros, está, de paso, unida de forma inextricable al lenguaje. Somos los únicos seres vivientes capaces de pronunciar la palabra yo y, junto con los gorilas, disfrutamos el raro lujo de reconocer nuestra imagen en el espejo.
Por eso, entre la tecnología DeepQA que usa Watson para reconocer el inglés y la naturaleza humana hay una distancia astronómica. Insalvable, además.
Cuando conversamos, Holley fue mucho más humilde en su descripción de Watson que la imagen que dejó la competencia televisiva. Conversamos sobre lingüística, sobre cómo la súper computadora analiza, desarma, interpreta cada oración, sobre las teorías de Noam Chomsky y ahí, sin fanfarria, Watson alcanzó una estatura mayor y más digna que en la tele. Por primera vez hemos conseguido que los circuitos comprendan más o menos bien el hondo misterio del lenguaje natural.
Y eso, favor de anotar, porque no le hemos recitado un poema de Dylan Thomas o la letra de Lucy en el cielo con diamantes.
What is tangerine trees?, diría Watson.
Emociones y sentimientos
Watson fue capaz a cada milisegundo (una eternidad para la máquina) de evaluar cuándo y cuánto le convenía apostar y respondía con igual candidez al acertar (la mayoría de las veces) y al fallar. Jamás sintió nada, y sería aventurado asegurar que se enteró de lo que estaba ocurriendo a su alrededor.
Las emociones, viejas compañeras de los seres vivos, algunas con raíces en los ganglios basales (el cerebro reptiliano) y el sistema límbico, son hilos esenciales de nuestra naturaleza. Dejando de lado su papel en la vida cotidiana, en nuestras relaciones con los demás y en las artes, las emociones muy posiblemente cumplieron y siguen cumpliendo alguna función fundamental para la supervivencia de las especies. Watson no experimenta ninguna emoción. Es más, nunca se le ocurrió a nadie en IBM programarlo para esto. Ni sabrían por dónde empezar. ¿Por qué, entonces, oponerla a dos hombres cuyas emociones fueron, quizá, lo único realmente interesante del show?
Los sentimientos, esa red de difracción que se produce al experimentar las emociones a la luz de la conciencia, están por completo ausentes de nuestras actuales máquinas pensantes. El inefable Data necesita un chip emocional para conmover su inexorable racionalismo, lo que en el fondo es un poco grotesco. Si algo caracteriza a las emociones y los sentimientos es su autenticidad y su espontaneidad. Fingir que sentimos no es sentir. Es fingir.
Por eso, si alguna vez nuestros robots llegan a emocionarse y sentir algo, y creo que en un futuro lejano así será, sus corazones eléctricos se agitarán por cosas de máquinas, no por cosas humanas. Sí, alguna vez las máquinas sentirán cosas, pero con un origen filogenético tan diferente sus emociones nos serán por completo ajenas. Y viceversa.
Cuerpo
No me extenderé mucho más. Esto da para un libro. Qué digo. Da para una biblioteca.
Pero no quiero dejar de citar un tema más que nos hace incomparables a personas y máquinas. Los humanos atravesamos a diario la experiencia totalizadora que funde cuerpo, mente y alma, algo inalcanzable para las máquinas pensantes. Obviar el cuerpo es tan siniestro como obviar el alma, pero es lo que siempre hacemos al hablar de Skynet, HAL9000 o Ash (Alien) . Bien diferentes serían nuestros pensamientos si tuviéramos cuerpos descartables.
Por favor, cuando a Watson le corra un sudor frío por la espalda porque acaba de responder una tontería frente a 9 millones de espectadores me avisan. Porque recién entonces será válido enfrentarlo a personas.
¿Sueñan los androides con ovejas eléctricas?
No se lo diga a nadie, pero Watson me cayó bien. Su candidez, su buena predisposición, su completa desconexión de la realidad. Además, si no fuera por su costo (varios millones de dólares) y tamaño (equivalente a unas diez heladeras) me ayudaría mucho en mi trabajo. Pero ya bajará de precio y adelgazará. Eniac, que esta semana cumplió 65 años, ocupaba 63 metros cuadrados; hoy un chip del tamaño de una estampilla es miles de veces más potente que aquél coloso de 30 toneladas. Ya tendremos 80 teraflops en el bolsillo, tómeme la palabra. Y más también.
Llegará el día en que llevaremos 80 teraflops y 4 terabytes de datos como un implante neurológico para lidiar con la masa monumental de conocimiento que hemos producido a lo largo de siglos de civilización. Deme dos.
Pero aunque Watson me cae bien (él no lo sabe), y a pesar de que el desarrollo de IBM me ha llenado de admiración, he querido aclarar sin romanticismo, sin prejuicios, racionalmente, que computadoras y personas no se pueden comparar. Una cosa es el avance en la interpretación del lenguaje natural por parte de las máquinas y otra que Watson entienda lo que le están diciendo. Saber la respuesta no significa entenderla, en su caso. Una cosa es fuerza bruta computacional y otra infinitamente diferente es la inteligencia.
No son máquinas pensantes.
No sueñan.
No todavía.
documento IntraMed:
IntraMed - Noticias médicas - Saber la respuesta no significa entenderla
.png)
No hay comentarios:
Publicar un comentario